L'AI Act (Artificial Intelligence Act, Regolamento (UE) 2024/1689) è stato approvato dal Parlamento europeo in data 13 giugno 2024, ed è entrato in vigore l'1 agosto 2024.
Si tratta della normativa sull'intelligenza artificiale più completa mai emanata, eppure rimane altamente controversa e in continua evoluzione. L'obiettivo delle norme è promuovere un'IA affidabile in Europa, e a tal fine stabilisce un insieme chiaro di regole basate sul rischio per gli sviluppatori e gli utilizzatori di IA. Il Regolamento fa parte di un più ampio pacchetto di misure a sostegno dello sviluppo di un'IA affidabile.
Per favorire la transizione al nuovo quadro normativo, la Commissione europea ha lanciato l'IA Pact, un'iniziativa volontaria mirata a sostenere l'attuazione futura delle norme e a coinvolgere le parti interessate.
Attuazione
L'AI Act è entrato in vigore il 1° agosto 2024 ed è pienamente applicabile dal 2 agosto 2026, con alcune eccezioni:
- gli obblighi di alfabetizzazione sull'IA (i fornitori e gli implementatori di sistemi di IA di qualunque natura, devono adottare misure per garantire un “livello sufficiente” di alfabetizzazione del loro personale) sono entrati in vigore dal 2 febbraio 2025;
- le regole di governance e gli obblighi per i modelli GPAI sono entrate in vigore il 2 agosto 2025;
- le norme sui sistemi IA ad alto rischio, integrati nei prodotti regolamentati, prevedono un periodo di transizione esteso fino al 2 agosto 2027.
I punti fondamentali
Classificazione del rischio
L'AI Act classifica l'IA in base al suo rischio. Gran parte del testo è focalizzata sui sistemi di IA ad alto rischio e sulle regolamentazioni alle quali si devono attenere.
- sono vietate le IA che presentano rischi inaccettabili (ad esempio, sistemi di social score e IA manipolativa);
- le IA a rischio limitato sono soggette a obblighi di trasparenza: gli sviluppatori e gli implementatori devono garantire che gli utenti finali siano consapevoli di interagire con l'intelligenza artificiale (chatbot e deepfake);
- le IA a rischio minimo non sono regolamentate (ad esempio, la maggior parte delle applicazioni di intelligenza artificiale attualmente disponibili sul mercato dell'UE, come i videogiochi e i filtri antispam basati sull'intelligenza artificiale).
Obblighi per fornitori (sviluppatori)
La maggior parte degli obblighi ricade sui fornitori (sviluppatori) di sistemi di intelligenza artificiale ad alto rischio. Coloro che intendono immettere nel mercato europeo sistemi di IA ad alto rischio, indipendentemente dal fatto che abbiano sede nell'UE o in un paese terzo, sono soggetti alle norme. Allo stesso modo anche i fornitori di paesi terzi in cui l'output del sistema IA ad alto rischio è utilizzato nell'UE.
Anche gli utenti sono soggetti ad alcune delle norme dell'AI Act, laddove per utenti però si intendono le persone fisiche o giuridiche che utilizzano un sistema di intelligenza artificiale a titolo professionale (implementatori), non gli utenti finali interessati.
Sistemi di IA vietati
In base all'AI Act sono vietati i seguenti sistemi di IA:
- sistemi che utilizzano tecniche manipolative o ingannevoli per distorcere il comportamento e compromettere il processo decisionale informato, causando danni significativi;
- sistemi che sfruttano le vulnerabilità legate all'età, alla disabilità o alle circostanze socioeconomiche per distorcere il comportamento, causando danni significativi;
- sistemi di categorizzazione biometrica che deducono informazioni sensibili (razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale), ad eccezione dell'etichettatura o del filtraggio di set di dati biometrici acquisiti legalmente o quando le forze dell'ordine categorizzano i dati biometrici;
- sistemi di social scoring, ovvero valutazione o classificazione di individui o gruppi in base al comportamento sociale o ai tratti personali, che determina un trattamento dannoso o sfavorevole di tali persone;
- sistemi di valutazione del rischio che un individuo commetta reati penali basandosi esclusivamente sulla profilazione o sui tratti della personalità, salvo quando utilizzati per integrare le valutazioni umane basate su fatti oggettivi e verificabili direttamente collegati all'attività criminale;
- compilazione di database di riconoscimento facciale mediante l'estrazione non mirata di immagini facciali da Internet o da filmati di telecamere a circuito chiuso;
- deducono emozioni nei luoghi di lavoro o nelle istituzioni educative, salvo per motivi medici o di sicurezza;
- sistemi di identificazione biometrica remota (RBI) in tempo reale in spazi accessibili al pubblico per le forze dell'ordine, tranne nei seguenti casi:
-- ricerca di persone scomparse, vittime di rapimenti e persone vittime di tratta di esseri umani o di sfruttamento sessuale;
-- prevenzione di una minaccia sostanziale e imminente alla vita o un attacco terroristico prevedibile;
-- o identificazione di sospettati di reati gravi (ad esempio, omicidio, stupro, rapina a mano armata, traffico di stupefacenti e armi illegali, criminalità organizzata e reati ambientali, ecc.).
Sistemi di IA ad alto rischio
I sistemi di IA ad alto rischio (art. 6) sono:
- utilizzati come componenti di sicurezza di prodotti disciplinati dalle normative UE di cui all'allegato I;
- quelli elencati nei casi d'uso dell'allegato III (utilizzati in settori critici come sanità - sistemi di diagnosi - , trasporti - guida automatizzata - , istruzione, lavoro - selezione del personale - , giustizia - decisioni legali - , pubblica amministrazione e infrastrutture - servizi essenziali - , se presentano un rischio significativo di danno), tranne se:
-- il sistema di IA esegue un compito procedurale ristretto;
-- migliora il risultato di un'attività umana precedentemente completata;
-- rileva modelli decisionali o deviazioni da modelli decisionali precedenti e non è destinato a sostituire o influenzare la valutazione umana precedentemente completata senza un'adeguata revisione umana;
-- o svolge un compito preparatorio per una valutazione pertinente ai fini dei casi d'uso elencati nell'allegato III.
I sistemi di intelligenza artificiale elencati nell'allegato III sono sempre considerati ad alto rischio se profilano gli individui, cioè se elaborano automaticamente dati personali per valutare vari aspetti della vita di una persona (ad esempio, il rendimento lavorativo, la situazione economica, la salute, le preferenze, gli interessi, l'affidabilità, il comportamento, l'ubicazione o gli spostamenti). I fornitori il cui sistema di IA rientra nei casi d'uso di cui all'allegato III ma ritengono che non sia ad alto rischio devono documentare tale valutazione prima di immetterlo sul mercato.
Requisiti per i fornitori di sistemi di IA ad alto rischio (artt. 8 – 17 )
I fornitori di intelligenza artificiale ad alto rischio devono:
- stabilire un sistema di gestione del rischio durante l'intero ciclo di vita del sistema;
- gestire la governance dei dati, assicurando che i dataset di addestramento, convalida e test siano pertinenti, sufficientemente rappresentativi e, nella misura più ampia possibile, privi di errori e completi in base allo scopo previsto;
- redigere la documentazione tecnica per dimostrare la conformità e fornire alle autorità le informazioni per valutarla;
- progettare il loro sistema per la tenuta dei registri, in modo da consentirgli di registrare automaticamente gli eventi rilevanti per l'identificazione dei rischi a livello nazionale e delle modifiche sostanziali durante l'intero ciclo di vita del sistema;
- fornire istruzioni per l'uso agli operatori a valle per consentirne la conformità;
- progettare il loro sistema per consentire agli operatori di implementare la supervisione umana;
- progettare il proprio sistema per raggiungere livelli adeguati di accuratezza, robustezza e sicurezza informatica;
- istituire un sistema di gestione della qualità per garantire la conformità.
IA per scopi generali (GPAI)
I GPAI sono sistemi di intelligenza artificiale che possono essere utilizzati per molteplici finalità, indipendentemente dal fatto che siano stati specificamente progettati per uno o più scopi particolari. Il riferimento è alle AI generative tipo ChatGPT.
I fornitori di modelli di IA per scopi generali (GPAI) devono:
- redigere la documentazione tecnica , compresi i processi di formazione e collaudo e i risultati della valutazione;
- elaborare informazioni e documentazione da fornire ai fornitori a valle che intendono integrare il modello GPAI nel proprio sistema di intelligenza artificiale, in modo che questi ultimi ne comprendano capacità e limitazioni e siano in grado di conformarsi;
- stabilire una politica per rispettare la direttiva sul diritto d'autore;
- pubblicare un riepilogo sufficientemente dettagliato del contenuto utilizzato per l'addestramento del modello GPAI.
I fornitori di modelli GPAI con licenza aperta e gratuita devono solo rispettare il copyright e pubblicare il riepilogo dei dati di addestramento, a meno che non rappresentino un rischio sistemico.
I modelli GPAI presentano rischi sistemici quando la quantità cumulativa di elaborazione utilizzata per il loro addestramento è superiore a 1025 operazioni in virgola mobile (FLOP). I fornitori devono notificare alla Commissione se il loro modello soddisfa questo criterio entro 2 settimane. Il fornitore può presentare argomentazioni secondo cui, nonostante il rispetto dei criteri, il suo modello non presenta rischi sistemici. La Commissione può decidere autonomamente, o tramite una segnalazione qualificata da parte del gruppo scientifico di esperti indipendenti, che un modello ha capacità di impatto elevato, rendendolo sistemico.
Tutti i fornitori di modelli GPAI che presentano un rischio sistemico devono, in aggiunta agli obblighi generali:
- eseguire valutazioni del modello, inclusa la conduzione e la documentazione di test avversari per identificare e mitigare il rischio sistemico;
- valutare e mitigare i possibili rischi sistemici;
- monitorare, documentare e segnalare senza indebito ritardo gli incidenti gravi e le possibili misure correttive all'Ufficio IA e alle autorità nazionali competenti;
- garantire un livello adeguato di protezione della sicurezza informatica.
Obblighi di trasparenza
Gli obblighi di trasparenza sono vincolanti e si applicano dal 2 agosto 2026. In particolare, l'articolo 50 stabilisce gli obblighi di trasparenza per i fornitori e gli utilizzatori di determinati sistemi di intelligenza artificiale, tra cui i sistemi di intelligenza artificiale generativa e interattiva e i deepfake. Le norme distinguono i provider (le persone fisiche o giuridiche che sviluppano un sistema di IA capace di generare contenuti e lo immettono sul mercato UE con il proprio marchio) dai deployer (chi, in ambito professionale, utilizza un'IA per generare deepfake, o per pubblicare testi generati dall’IA allo scopo di informare il pubblico su temi di interesse pubblico).
Chi costruisce la tecnologia deve marcarla in modo che sia riconoscibile. I provider devono:
- progettare i sistemi di intelligenza artificiale in modo da garantire che gli individui siano esplicitamente informati ogni volta che interagiscono direttamente con un sistema di intelligenza artificiale;
- aggiungere marcatori leggibili automaticamente per consentire il rilevamento di contenuti generati o manipolati dall'IA.
I provider, inoltre, devono mettere a disposizione strumenti di rilevamento gratuiti per verificare se un contenuto è stato generato dai propri sistemi. La scadenza per tale obbligo è del 2 febbraio 2027. Tale obbligo non si applica nella misura in cui i sistemi di intelligenza artificiale svolgano una funzione di supporto per la modifica standard o non alterino sostanzialmente i dati di input forniti dall'utente o la loro semantica.
Chi la usa per produrre contenuti destinati al pubblico deve etichettare i contenuti in modo visibile. I deployer di sistemi di intelligenza artificiale devono, quindi, informare gli individui quando sono esposti a:
- strumenti di riconoscimento delle emozioni e di categorizzazione biometrica;
- Deepfake;
- pubblicazioni testuali su argomenti di interesse pubblico senza revisione umana o controllo editoriale.
Anche i media e i creator hanno obblighi di questo tipo, salvo che il testo sia sottoposto a un processo di revisione umana o di controllo editoriale, e se una persona fisica o giuridica se ne assuma la responsabilità. In questo caso l'obbligo di etichettatura decade.
Per gli influencer e content creator l'obbligo di etichettare dipende dal contesto professionale e dalla natura del contenuto. Chi genera o manipola deepfake, o pubblica testi generati dall'IA su temi di interesse pubblico nell'ambito di un'attività professionale, deve rispettare gli stessi obblighi previsti per le piattaforme e i media. Anche qui l'obbligo decade se c'è un processo di revisione umana.
È stata introdotta anche una deroga: se un deepfake è parte di un’opera artistica o satirica, l’etichetta non deve necessariamente comparire nel contenuto stesso, qualora ciò ne comprometta la fruizione, ma può essere collocata in elementi adiacenti (materiali informativi o crediti introduttivi).
Agli obblighi vincolanti previsti dalla legge si aggiungono quelli stabiliti dal Codice di buone pratiche sulla trasparenza dei contenuti generati dall'IA, ai quali si può aderire volontariamente. Il Codice introduce un sistema standardizzato basato su un simbolo ufficiale. Si tratta dell'icona "AI", disponibile in tre varianti: contenuto interamente generato, contenuto modificato, icona base personalizzabile.
Obblighi di alfabetizzazione per i dipendenti
Le pratiche più comuni relative alla formazione dei dipendenti includono:
- la formazione modulare su diversi livelli di competenza;
- l'integrazione con strumenti digitali e-learning;
- il focus sulla compliance e sull'IA etica;
- progetti di collaborazioni con istituti accademici;
- il monitoraggio continuo dell’efficacia della formazione.
Risorse
La Commissione europea ha messo a disposizione un Repository delle pratiche per promuovere l'apprendimento e lo scambio sull'alfabetizzazione all'intelligenza artificiale.
