Approccio basato sul rischio · Concetto chiave
Le categorie di rischio dell'AI Act
Un'idea organizza l'intero regolamento: proporzionare le regole al rischio dell'uso. Questa pagina percorre i livelli e mostra come ciascuno compare nei casi del gioco.
01Perché il rischio, e non la tecnologia
Una libreria di riconoscimento facciale può sbloccarti il telefono o scandagliare una piazza; un modello di punteggio può ordinare offerte di prestito o ordinare cittadini. Regolare "l'algoritmo" vieterebbe troppo o troppo poco. Il regolamento disciplina quindi usi in contesto: finalità, dati, persone coinvolte, conseguenze.
Per chi impara è l'idea più trasferibile — ed è il motivo per cui il gioco ti fa leggere un fascicolo prima di classificare qualunque cosa.
02I quattro livelli in sintesi
Rischio inaccettabile
Pratiche giudicate incompatibili con i diritti fondamentali — es. il punteggio sociale generalizzato. Vietate e basta.
Alto rischio
Consentiti, ma con gestione del rischio, dati di qualità, documentazione e supervisione umana effettiva.
Trasparenza
Situazioni in cui le persone devono sapere che c'è un'IA: chatbot, contenuti sintetici, deepfake.
Rischio minimo
La maggior parte delle applicazioni — filtri antispam, IA nei giochi, raccomandazioni — senza nuovi obblighi specifici.
03Rischio inaccettabile: le linee rosse
Le pratiche vietate sono poche e specifiche. Ciò che le rende insegnabili è la loro logica: danni così strutturali che nessuna supervisione li sana. La pagina dedicata — con i casi di confine classici — è pratiche vietate.
04Alto rischio: consentito, ma guadagnato
Scuola, lavoro, servizi essenziali, sanità: qui l'IA può aiutare o decidere in silenzio la vita delle persone. La risposta del regolamento sono gli obblighi, non i divieti — approfonditi in sistemi ad alto rischio.
Molti sistemi ad alto rischio trattano anche dati personali: in quel caso gli obblighi si sommano. Vedi AI Act e GDPR.
05Le situazioni di trasparenza
A volte il rischio è semplicemente non sapere: scambiare un bot per una persona, un'immagine sintetica per una foto. Il rimedio è la dichiarazione — vedi obblighi di trasparenza.
06Rischio minimo — e perché conta in aula
La maggior parte dell'IA va bene così. Insegnarlo previene i due errori classici: l'allarmismo del "è tutto vietato" e l'indifferenza del "non cambia nulla". Un buon esercizio è classificare esempi banali (correttore, playlist) per fissare la base prima dei casi difficili.
07Le categorie nel gioco
I 13 casi del gioco attraversano deliberatamente la scala: divieti netti (la città dei punteggi), sistemi ad alto rischio (triage, selezione del personale, EdTech adattiva), casi di trasparenza (la città sintetica, lo sportello che risponde sempre) e i casi-specchio in cui lo stesso meccanismo cade diversamente a seconda del contesto.
08Come si classifica, passo per passo
Le quattro categorie diventano utilizzabili solo quando si trasformano in una sequenza di domande. Questa è la scaletta che usiamo in aula, ed è anche l'ordine in cui il gioco chiede di ragionare.
| # | Domanda | Che cosa determina |
|---|---|---|
| 1 | Che cosa fa il sistema, detto in una frase senza tecnicismi? | Isola la funzione reale dalla descrizione commerciale. |
| 2 | Su chi produce effetti, e quelle persone possono sottrarsi? | Distingue un servizio scelto da una decisione subita. |
| 3 | Che cosa decide o influenza: un consiglio o un accesso? | Separa il rischio minimo dall'alto rischio. |
| 4 | Tocca una delle linee rosse: punteggio sociale, emozioni a scuola o al lavoro, previsione individuale di reati, biometria in diretta per fini di polizia? | Fa scattare l'ipotesi di pratica vietata. |
| 5 | La persona sa che c'è un'IA di mezzo? | Attiva gli obblighi di trasparenza (e, per i contenuti sintetici, le regole sui deepfake), che si sommano alle altre categorie invece di sostituirle. |
L'errore più comune è partire dalla domanda 4. Chi comincia dalle linee rosse tende a vedere divieti ovunque; chi comincia dalla funzione e dal contesto arriva alla stessa conclusione con un ragionamento che regge alla discussione.
09Tre esempi svolti
Gli stessi cinque passi, applicati a tre sistemi plausibili. Le conclusioni sono letture didattiche, non classificazioni legali.
| Sistema | Passaggio decisivo | Lettura |
|---|---|---|
| Filtro antispam della posta comunale | Domanda 3: influenza un consiglio, non un accesso a diritti. | Rischio minimo. Utile in aula proprio perché mostra che la maggior parte dell'IA non è regolata da obblighi pesanti. |
| Sistema che ordina le domande di sussidio per priorità di controllo | Domanda 2: le persone non possono sottrarsi, ed è in gioco una prestazione essenziale. | Alto rischio. Servono supervisione umana effettiva, tracciabilità e possibilità di contestare. |
| Assistente virtuale del Comune con voce sintetica realistica | Domanda 5: l'utente potrebbe credere di parlare con una persona. | Situazione di trasparenza, che però non esclude obblighi ulteriori se l'assistente inizia a incidere su decisioni rilevanti. |
Per allenarsi su casi più ambigui di questi, i tredici fascicoli del gioco sono costruiti apposta: ognuno contiene un segnale evidente, un resoconto che minimizza e un elemento di contesto che può ribaltare la lettura. La scheda di classificazione da compilare è nelle attività didattiche.