Intelligenza artificiale: gli step di adeguamento

Al via la prima fase di applicazione di alcune delle disposizioni chiave dell’AI ACT che dallo scorso 2 febbraio rende operativi i divieti su determinate tipologie di AI, valutate eccessivamente rischiose per i diritti fondamentali. Ricordiamo che le disposizioni relative ai sistemi di intelligenza artificiale di uso generale entreranno in vigore ad agosto 2025, mentre la parte principale della regolamentazione, tra cui le norme sui sistemi ad alto rischio, troverà applicazione a partire dal 2 agosto 2026.

Vuoi approfondire le tue esigenze in tema di Intelligenza Artificiale?

Ti aspettiamo al prossimo Colin Focus Day mercoledì 05 marzo alle 11.00

A partire dal 2 febbraio 2025, sono invece efficaci due gruppi di disposizioni essenziali:

• L’articolo 5 relativo ai divieti per sistemi di AI a rischio inaccettabile
• L’articolo 4 sui requisiti di Alfabetizzazione in materia di AI

Nelle linee guida pubblicate dalla Commissione riferite ai sistemi vietati vengono delineati quelli – considerati inaccettabili per il loro impatto sui diritti fondamentali.

Le tipologie di AI con rischio inaccettabile

Vediamo quali sono nello specifico le otto tipologie di sistemi di AI ritenute “a rischio inaccettabile” dall’articolo 5:

• tecniche di manipolazione e inganno dannosi basati sull’intelligenza artificiale
• sfruttamento delle vulnerabilità basato sull’intelligenza artificiale
• social scoring
• valutazione o previsione del rischio di reato individuale
• scraping non mirato di materiale da internet o da filmati di telecamere a circuito chiuso per creare o ampliare banche dati di riconoscimento facciale
• riconoscimento delle emozioni nei luoghi di lavoro e negli istituti scolastici
• categorizzazione biometrica per deduzioni o inferenze rispetto a dati particolari (razza, opinioni politiche, orientamento sessuale, etc.)
• identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto a meno che, e nella misura in cui, tale uso sia strettamente necessario per uno degli obiettivi previsti e dettagliati dall’articolo stesso.

L’articolo 96 dell’AI Act dispone che la Commissione elabori specifiche linee guida volte a fornire indicazioni operative in merito all’applicazione del regolamento, ivi inclusi maggiori indicazioni in merito ai sistemi vietati ai sensi dell’art. 5.

La formazione non è opzionale

Per quanto riguarda l’obbligo di alfabetizzazione all’AI, è necessario evidenziare che, sebbene tale disposizione sia applicabile dal 2 febbraio scorso, solo dal prossimo 2 agosto saranno attuabili le norme relative alla gestione ed all’esecuzione.

In particolare, l’articolo 4 impone alle organizzazioni l’obbligo di garantire un adeguato livello di alfabetizzazione all’AI per il personale coinvolto nell’utilizzo dei sistemi di AI a prescindere dalla loro classificazione, includendo quindi anche quelli non vietati o a basso rischio.

Nella pratica, fornitori e utilizzatori di AI dovranno garantire alle risorse che utilizzano sistemi di AI un “livello sufficiente di alfabetizzazione all’IA”, intesa come “le competenze, le conoscenze e la comprensione che consentono ai fornitori, ai deployer e alle persone interessate, tenendo conto dei loro rispettivi diritti e obblighi nel contesto del presente regolamento, di procedere a una diffusione informata dei sistemi di IA, nonché di acquisire consapevolezza in merito alle opportunità e ai rischi dell’IA e ai possibili danni che essa può causare”. Tale disposizione non coinvolge solo coloro che si occupano in prima linea del sistema di AI, ma anche “esterni” che operano per conto dell’organizzazioni (come nel caso di appaltatori).

I prossimi mesi si riveleranno pertanto cruciali per le organizzazioni per implementare percorsi di formazione che siano al contempo solidi ed efficaci.

Gli step del percorso di conformità

Quali sono dunque le attività a cui enti ed imprese devono dare massima priorità nei prossimi mesi?

Senza dubbio il primo step del percorso di compliance richiede un’adeguata mappatura ed analisi dei sistemi di AI in uso o in fase di sviluppo o erogati al fine di identificare e classificare il livello di rischio e verificare, in primis che non rientrino tra le pratiche vietate.

Altra attività non prorogabile è la progettazione di piani formativi che rispondano ai requisiti di alfabetizzazioni descritti nell’articolo 4. Tali pratiche devono procedere e svilupparsi di pari passo all’implementazione di attività di audit e monitoraggio rispetto alle attività svolte e all’evoluzione normativa in materia.