Che cosa disciplina l’AI Act
L’AI Act, ovvero il Regolamento sull’intelligenza artificiale (Regolamento (UE) 2024/1689), disciplina lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di intelligenza artificiale nell’Unione europea. Trattandosi di un regolamento, si applica direttamente in tutti gli Stati membri e non richiede recepimento nella normativa nazionale. Gli Stati membri devono però designare le autorità nazionali di vigilanza e stabilire le norme sulle sanzioni. In Italia il quadro europeo è affiancato da una legge nazionale sull’intelligenza artificiale del 2025; per le informazioni aggiornate consultate Normattiva e i siti delle autorità competenti.
Il regolamento si basa sul rischio: quanto più un sistema può incidere su salute, sicurezza e diritti fondamentali delle persone, tanto più numerosi sono gli obblighi. Si applica a fornitori e deployer nell’UE e anche ai fornitori extra-UE, se i risultati dei loro sistemi sono utilizzati nell’UE. Sono esclusi, tra l’altro, l’uso militare e di difesa, la ricerca scientifica e l’uso del tutto personale e non professionale. La classe del vostro sistema si verifica con lo strumento in questa pagina.
Le quattro classi di rischio
| Classe | Esempi | Conseguenza |
|---|---|---|
| Pratiche vietate (art. 5) | Punteggio sociale, tecniche manipolative, riconoscimento delle emozioni dei dipendenti, raccolta non mirata di immagini facciali | L’uso non è consentito |
| Sistemi ad alto rischio (art. 6, allegati I e III) | Selezione dei candidati, valutazione del merito creditizio, componenti di sicurezza di dispositivi medici o macchinari | Requisiti estesi per fornitori e deployer |
| Rischio limitato: trasparenza (art. 50) | Chatbot, generazione di immagini e testi, deepfake | Informazione agli utenti ed etichettatura dei contenuti |
| Rischio minimo | Filtri antispam, previsione delle scorte, raccomandazioni di prodotti | Nessun obbligo specifico, salvo l’alfabetizzazione in materia di IA |
Sono ad alto rischio, ai sensi dell’allegato III, i sistemi utilizzati negli ambiti di biometria, infrastrutture critiche, istruzione, occupazione e gestione del personale, accesso a servizi pubblici e privati essenziali (per esempio la valutazione del merito creditizio e la valutazione del rischio e la determinazione dei prezzi nelle assicurazioni vita e sanitarie), attività di contrasto, migrazione e controllo delle frontiere, giustizia e processi democratici.
Un sistema dell’allegato III non è ad alto rischio se non presenta un rischio significativo, per esempio perché svolge soltanto un compito procedurale ristretto o preparatorio. L’eccezione non vale se il sistema effettua la profilazione di persone fisiche. Il fornitore deve documentare tale valutazione.
Fornitore o deployer: chi risponde di che cosa
Gli obblighi dipendono dal ruolo. Il fornitore sviluppa il sistema di IA o lo immette sul mercato o in servizio con il proprio nome o marchio. Il deployer utilizza il sistema nell’ambito della propria attività professionale. La maggior parte delle aziende sarà nel ruolo di deployer, per esempio quando usa uno strumento di selezione del personale sviluppato da un altro fornitore.
| Sistema ad alto rischio | Fornitore | Deployer |
|---|---|---|
| Gestione dei rischi e qualità dei dati | sì | pertinenza dei dati di input che controlla |
| Documentazione tecnica e log | predispone la documentazione, abilita la registrazione | conserva i log, di norma per almeno sei mesi |
| Sorveglianza umana | progettazione che la rende possibile | affidata a persone competenti |
| Valutazione di conformità, marcatura CE, registrazione | sì | le autorità pubbliche registrano l’uso |
| Informazione | istruzioni per l’uso | informa i lavoratori e le persone sulle quali il sistema contribuisce a decidere |
| Valutazione d’impatto sui diritti fondamentali | no | enti pubblici, erogatori di servizi pubblici, merito creditizio e assicurazioni |
Il deployer diventa fornitore se appone il proprio nome o marchio a un sistema ad alto rischio, lo modifica in modo sostanziale o ne cambia la finalità in modo tale da renderlo ad alto rischio. È un aspetto importante quando si adattano soluzioni esistenti alle proprie esigenze.
Esempi dalla pratica
- Chatbot per l’assistenza clienti basato su un grande modello linguistico: di norma rischio limitato. Gli utenti vanno informati che stanno interagendo con un’IA, salvo che sia evidente.
- Strumento di screening dei CV o di valutazione dei candidati: sistema ad alto rischio nell’ambito dell’occupazione. L’azienda, come deployer, deve garantire la sorveglianza umana, la conservazione dei log e l’informazione di candidati e rappresentanti dei lavoratori.
- Previsione dei guasti dei macchinari a partire dai dati dei sensori: di norma rischio minimo, a meno che il sistema sia un componente di sicurezza di una macchina soggetta alla normativa dell’allegato I.
- Valutazione del merito creditizio di persone fisiche: sistema ad alto rischio. L’individuazione delle frodi finanziarie è espressamente esclusa.
- Analisi delle emozioni dei dipendenti da chiamate video o vocali: sul luogo di lavoro è una pratica vietata, salvo motivi medici o di sicurezza.
Modelli di IA per finalità generali
I grandi modelli linguistici e gli altri modelli per finalità generali (GPAI) sono soggetti a regole specifiche, applicabili dal 2 agosto 2025. I fornitori dei modelli devono predisporre la documentazione tecnica, fornire informazioni ai fornitori che integrano il modello nei propri sistemi, adottare una politica di rispetto del diritto d’autore e pubblicare una sintesi dei contenuti usati per l’addestramento. Per i modelli più potenti con rischio sistemico valgono requisiti aggiuntivi.
L’azienda che utilizza un modello esistente tramite API o lo integra nella propria applicazione, di norma, non è fornitore del modello per finalità generali. Può invece essere fornitore o deployer del sistema di IA costruito su quel modello, e la classe di tale sistema dipende dalla finalità d’uso.
Termini e sanzioni
| Data | Che cosa diventa applicabile |
|---|---|
| 1° agosto 2024 | Entrata in vigore del regolamento |
| 2 febbraio 2025 | Pratiche vietate e obbligo di alfabetizzazione in materia di IA |
| 2 agosto 2025 | Regole sui modelli di IA per finalità generali, governance e sanzioni |
| 2 agosto 2026 | La maggior parte delle disposizioni, compresi i sistemi ad alto rischio dell’allegato III e gli obblighi di trasparenza |
| 2 agosto 2027 | Sistemi ad alto rischio come componenti di sicurezza di prodotti dell’allegato I |
La Commissione europea, con il pacchetto denominato Digital Omnibus, ha proposto il rinvio di alcuni termini per i sistemi ad alto rischio. Poiché l’iter legislativo è ancora in corso o potrebbe essersi già concluso, prima di pianificare verificate lo stato aggiornato sui siti della Commissione europea.
Le sanzioni arrivano fino a 35 milioni di euro o al 7% del fatturato mondiale annuo per le pratiche vietate, fino a 15 milioni di euro o al 3% per la violazione di altri obblighi e fino a 7,5 milioni di euro o all’1% per le informazioni inesatte fornite alle autorità. Per le PMI e le start-up si applica il più basso dei due importi.
Come prepararsi
- Inventario dei sistemi di IA. Raccogliete tutti i sistemi e gli strumenti con IA che sviluppate o utilizzate, anche quelli introdotti autonomamente dai singoli reparti.
- Classificazione. Classificate ogni sistema con lo strumento qui sopra e documentate il risultato.
- Alfabetizzazione. Predisponete la formazione per i dipendenti che usano l’IA e una policy interna di utilizzo.
- Sistemi ad alto rischio. Chiedete ai fornitori la documentazione di conformità, individuate i responsabili della sorveglianza umana e organizzate la conservazione dei log.
- Governance. Collegate i requisiti del regolamento ai processi esistenti di protezione dei dati e sicurezza delle informazioni.
Humanfrog affianca le aziende nella progettazione e nell’introduzione di soluzioni di IA concepite fin dall’inizio in conformità al regolamento, con sicurezza, controllo degli accessi e tracciamento adeguati. Per verificare un caso d’uso concreto, contattateci.
