I controlli sull’intelligenza artificiale entrano in una nuova fase con la piena applicazione di una parte rilevante del regolamento (UE) 2024/1689, conosciuto come AI Act. Dal 2 agosto 2026 sono infatti operativi gli obblighi di trasparenza previsti dall’articolo 50 per determinati sistemi di intelligenza artificiale. La disciplina europea introduce un modello basato sul livello di rischio e attribuisce precisi obblighi a fornitori e soggetti che utilizzano sistemi di IA nell’ambito della propria attività.
Le nuove regole riguardano, in particolare, i sistemi che interagiscono direttamente con le persone, i contenuti generati o manipolati artificialmente, i deepfake e alcuni strumenti di riconoscimento delle emozioni o di categorizzazione biometrica. Il regolamento rafforza inoltre il sistema di vigilanza. L’articolo 85 riconosce a persone fisiche e giuridiche la possibilità di presentare un reclamo quando ritengono che sia stata violata la disciplina europea. A livello UE opera l’Ufficio per l’intelligenza artificiale, mentre una parte rilevante dei controlli resta affidata alle autorità nazionali competenti per la vigilanza del mercato.
Controlli AI Act: trasparenza per chatbot e contenuti generati
I controlli previsti dall’AI Act si concentrano anche sulla capacità degli utenti di riconoscere quando stanno interagendo con un sistema di intelligenza artificiale. I fornitori devono progettare chatbot, assistenti virtuali e altri sistemi interattivi in modo che la persona sia informata del fatto che sta dialogando con una macchina e non con un essere umano, salvo che ciò risulti già evidente dalle circostanze. Per i sistemi di IA generativa è inoltre prevista la marcatura degli output in un formato leggibile meccanicamente, così da rendere individuabili i contenuti generati o manipolati artificialmente.
Specifici obblighi riguardano anche chi utilizza questi strumenti. In presenza di deepfake, ad esempio, deve essere indicato che immagini, audio o video sono stati creati o modificati mediante IA. Regole di trasparenza sono previste anche per determinati testi generati artificialmente su questioni di interesse pubblico quando manca una revisione umana o un controllo editoriale. Il sistema di vigilanza è accompagnato da nuovi strumenti di segnalazione. Oltre al diritto di presentare reclami previsto dall’articolo 85, sono stati predisposti canali per comunicare possibili violazioni e strumenti riservati a soggetti professionalmente collegati agli operatori dell’IA, con l’obiettivo di favorire l’individuazione tempestiva di comportamenti non conformi.
Le imprese devono verificare l’uso dei sistemi di intelligenza artificiale
Le imprese che sviluppano, distribuiscono o utilizzano sistemi di intelligenza artificiale devono quindi verificare con attenzione quale ruolo ricoprono ai sensi dell’AI Act e quali obblighi siano già applicabili. Non tutte le aziende sono soggette alle stesse regole, perché gli adempimenti dipendono dalla tipologia di sistema utilizzato, dalle sue caratteristiche e dalle modalità concrete di impiego.
Anche un’impresa che utilizza strumenti sviluppati da terzi può assumere specifiche responsabilità quando opera come deployer, cioè quando utilizza un sistema di IA sotto la propria autorità nell’ambito dell’attività professionale. Diventa quindi necessario censire gli strumenti utilizzati, verificare le informazioni fornite agli utenti, controllare la presenza delle marcature richieste e definire procedure interne per l’impiego di contenuti generati artificialmente.
Particolare attenzione deve essere riservata agli strumenti rivolti a clienti, lavoratori o utenti esterni. La mancata osservanza di alcuni obblighi dell’AI Act può comportare sanzioni rilevanti. L’articolo 99 prevede, per determinate violazioni degli obblighi posti a carico degli operatori e di quelli di trasparenza, sanzioni fino a 15 milioni di euro o, per le imprese, fino al 3% del fatturato mondiale annuo dell’esercizio precedente, secondo i criteri stabiliti dal regolamento e con specifica attenzione alla proporzionalità per le PMI. La nuova fase dei controlli rende quindi sempre più importante integrare la gestione dell’intelligenza artificiale nelle procedure aziendali di conformità.