AI Act: i livelli di rischio e come classificare i sistemi AI in azienda

L'AI Act non tratta tutta l'intelligenza artificiale allo stesso modo. Gli obblighi dipendono da cosa fa il sistema e su chi ha effetto: lo stesso modello linguistico può essere a rischio minimo quando riassume un manuale tecnico e ad alto rischio quando ordina i curriculum dei candidati. Classificare correttamente ogni strumento è quindi il primo passo di qualsiasi percorso di conformità. In questa guida vediamo i quattro livelli, le date aggiornate dopo il Digital Omnibus e un metodo pratico per fare la classificazione in azienda.

I quattro livelli in sintesi

Accanto ai livelli di rischio c'è un binario separato per i modelli di AI per finalità generali (GPAI), cioè i grandi modelli come quelli alla base di ChatGPT, Gemini o dei modelli open-weight. I loro obblighi riguardano chi sviluppa il modello e sono in vigore dal 2 agosto 2025. Ne parliamo più sotto.

Rischio inaccettabile: le pratiche vietate

L'art. 5 elenca gli usi dell'AI considerati incompatibili con i diritti fondamentali. Sono vietati dal 2 febbraio 2025:

• tecniche subliminali o manipolative che alterano il comportamento delle persone causando danni significativi;
• sfruttamento delle vulnerabilità legate a età, disabilità o situazione sociale ed economica;
• punteggio sociale (social scoring) che porta a trattamenti sfavorevoli ingiustificati;
• previsione del rischio che una persona commetta reati basata solo sulla profilazione o sui tratti della personalità;
• creazione di banche dati di riconoscimento facciale tramite raccolta indiscriminata di immagini da internet o telecamere;
• riconoscimento delle emozioni sul luogo di lavoro e negli istituti di istruzione, salvo motivi medici o di sicurezza;
• categorizzazione biometrica per dedurre dati sensibili come orientamento politico, religioso o sessuale;
• identificazione biometrica remota in tempo reale in spazi pubblici a fini di polizia, salvo eccezioni strettamente limitate.

Il Digital Omnibus ha aggiunto due divieti, in vigore dal 2 dicembre 2026: i sistemi che generano immagini intime o sessualmente esplicite realistiche di una persona identificabile senza il suo consenso, e quelli che generano materiale pedopornografico.

Per una PMI il punto da presidiare è soprattutto il riconoscimento delle emozioni: software che analizzano il tono di voce degli operatori di un call center o le espressioni dei dipendenti in videochiamata per valutarne lo stato d'animo rientrano nel divieto.

Alto rischio: le due strade

Un sistema è ad alto rischio in due casi.

1. AI integrata in prodotti già regolamentati (Allegato I)

Quando il sistema AI è un componente di sicurezza di un prodotto soggetto a normative UE di sicurezza che richiedono una valutazione di conformità da parte di terzi: macchinari, dispositivi medici, giocattoli, ascensori, apparecchi radio e altri prodotti elencati nell'Allegato I. Per questi gli obblighi si applicano dal 2 agosto 2028. Riguarda soprattutto i produttori, ad esempio chi costruisce macchine con funzioni di visione artificiale per la sicurezza degli operatori.

2. AI usata in ambiti sensibili (Allegato III)

Quando il sistema è usato in uno degli ambiti elencati nell'Allegato III. Per questi gli obblighi si applicano dal 2 dicembre 2027:

• biometria (identificazione remota, categorizzazione, riconoscimento delle emozioni dove non vietato);
• infrastrutture critiche (componenti di sicurezza di reti idriche, elettriche, del gas, del traffico, delle infrastrutture digitali critiche);
• istruzione e formazione professionale (ammissioni, valutazione dell'apprendimento, sorveglianza durante gli esami);
• occupazione e gestione del personale (pubblicazione mirata di annunci, selezione dei CV, valutazione dei candidati, decisioni su promozioni, licenziamenti, assegnazione dei compiti, monitoraggio delle prestazioni);
• accesso a servizi essenziali (valutazione del merito di credito, prezzi e rischio nelle assicurazioni vita e malattia, priorità nei servizi di emergenza, prestazioni pubbliche);
• attività di polizia, migrazione e controllo delle frontiere;
• amministrazione della giustizia e processi democratici.

Per un'azienda privata gli ambiti più frequenti sono il personale e, nel settore finanziario e assicurativo, il credito e le polizze vita e malattia.

L'eccezione dell'art. 6, paragrafo 3

Un sistema usato in un ambito dell'Allegato III non è ad alto rischio se non presenta un rischio significativo per salute, sicurezza o diritti fondamentali, perché non incide in modo rilevante sull'esito delle decisioni. Succede quando il sistema:

• svolge un compito procedurale limitato (ad esempio trasformare dati non strutturati in strutturati);
• migliora il risultato di un'attività umana già completata (ad esempio rivedere la forma di un testo);
• rileva schemi o scostamenti rispetto a decisioni precedenti senza sostituire la valutazione umana;
• svolge un compito preparatorio rispetto a una valutazione che resta umana.

L'eccezione non vale mai se il sistema effettua profilazione di persone fisiche. Chi la invoca deve documentare la propria valutazione prima di immettere il sistema sul mercato e registrarlo nella banca dati UE; dopo il Digital Omnibus le informazioni richieste per la registrazione sono ridotte, ma l'obbligo resta.

Cosa deve fare chi usa un sistema ad alto rischio

La maggior parte degli obblighi pesa sul fornitore: gestione dei rischi, qualità dei dati, documentazione tecnica, registrazione automatica degli eventi, accuratezza e sicurezza, valutazione di conformità e marcatura CE. Per PMI e small mid-cap il Digital Omnibus prevede una documentazione tecnica semplificata e un sistema di gestione della qualità proporzionato.

Anche l'azienda che usa il sistema (il deployer) ha però obblighi propri (art. 26):

• usarlo secondo le istruzioni del fornitore;
• affidare la supervisione umana a persone competenti, formate e con l'autorità per intervenire;
• verificare che i dati di input sotto il suo controllo siano pertinenti e rappresentativi;
• monitorarne il funzionamento e segnalare rischi e incidenti gravi;
• conservare i log generati automaticamente per almeno sei mesi;
• informare i rappresentanti dei lavoratori e i lavoratori interessati prima di usarlo sul luogo di lavoro;
• informare le persone soggette a decisioni prese o supportate dal sistema.

Gli enti pubblici, i privati che forniscono servizi pubblici e chi usa l'AI per il merito di credito o per le assicurazioni vita e malattia devono inoltre svolgere una valutazione d'impatto sui diritti fondamentali (FRIA, art. 27), che si affianca alla DPIA prevista dal GDPR.

Quando il deployer diventa fornitore

Secondo l'art. 25 un'azienda che usa un sistema ad alto rischio ne diventa fornitore, con tutti i relativi obblighi, se ci appone il proprio nome o marchio, se lo modifica in modo sostanziale, oppure se cambia la finalità di un sistema non ad alto rischio facendolo diventare tale. Esempio tipico: adattare un assistente generico per fargli valutare e ordinare i candidati.

I modelli per finalità generali (GPAI)

Gli obblighi sui modelli GPAI (documentazione tecnica, informazioni per chi li integra, politica sul diritto d'autore, sintesi dei dati di addestramento e, per i modelli a rischio sistemico, valutazioni e gestione dei rischi) riguardano chi sviluppa e immette sul mercato il modello. Un'azienda che scarica un modello open-weight e lo installa sul proprio server per uso interno non diventa per questo fornitore del modello.

Lo diventa solo se lo modifica in modo significativo: le linee guida della Commissione indicano come soglia orientativa un addestramento aggiuntivo che usi più di un terzo della potenza di calcolo dell'addestramento originale. Un fine-tuning LoRA sui documenti aziendali resta di norma molto al di sotto.

Rischio limitato e rischio minimo

I sistemi che interagiscono con le persone o generano contenuti hanno obblighi di trasparenza, in vigore dal 2 agosto 2026: chi parla con un chatbot deve saperlo, i contenuti sintetici devono essere marcati, i deepfake dichiarati. I dettagli sono nella guida sull'articolo 50.

Tutto il resto è a rischio minimo: non ci sono obblighi specifici oltre all'alfabetizzazione AI, e l'AI Act incoraggia l'adesione volontaria a codici di condotta. Qui ricade la gran parte degli usi aziendali tipici.

Come classificare i sistemi AI in azienda

Un metodo semplice, da ripetere per ogni strumento:

• Descrivi l'uso reale, non il prodotto: lo stesso software può servire a scopi diversi in reparti diversi.
• Stabilisci il ruolo: l'azienda ha sviluppato o modificato il sistema (fornitore) o lo usa così com'è (deployer)?
• Escludi i divieti: l'uso rientra in una pratica dell'art. 5?
• Verifica l'alto rischio: il sistema è un componente di sicurezza di un prodotto dell'Allegato I, o è usato in un ambito dell'Allegato III? Se sì, valuta se si applica l'eccezione dell'art. 6, paragrafo 3, ricordando che con la profilazione non vale.
• Controlla la trasparenza: il sistema dialoga con persone o genera contenuti diffusi all'esterno?
• Documenta la conclusione e le ragioni, con data e responsabile, e rivedila quando cambia l'uso.

Esempi di classificazione

Le conclusioni della tabella sono indicative: la classificazione dipende dai dettagli dell'uso e va verificata caso per caso. Per passare all'azione, la checklist AI Act e GDPR mette in sequenza tutti i passaggi; il quadro generale delle norme è nella pagina Normative AI.