Linee rosse · Diritti fondamentali
Le pratiche di IA vietate
Un elenco ristretto di usi dell'IA è vietato in Europa senza condizioni — non perché la tecnologia sia esotica, ma perché la pratica stessa è giudicata incompatibile con i diritti fondamentali. Questa pagina ne spiega la logica con esempi didattici.
01Che cosa significa "vietato" qui
Per la maggior parte dell'IA rischiosa la risposta del regolamento sono gli obblighi. Per le pratiche vietate la risposta è no: nessuna documentazione, supervisione o modulo di consenso le rende accettabili. Questa assolutezza è rara nel regolamento e merita una sosta in aula: che tipo di danno giustifica una linea rossa?
02Esempi didattici
- Punteggio sociale generalizzato — aggregare comportamenti scollegati (pagamenti, frequentazioni, proteste) in un punteggio che decide l'accesso ai servizi in contesti non pertinenti. L'esempio canonico, e il caso d'apertura del gioco.
- Manipolazione dannosa — sistemi che sfruttano vulnerabilità (età, disabilità, condizione) per distorcere in modo rilevante il comportamento causando danni.
- Riconoscimento delle emozioni a scuola e al lavoro — inferire i sentimenti di studenti o lavoratori, con eccezioni ristrette.
- Raccolta indiscriminata di volti — il prelievo massivo di immagini per costruire banche dati di riconoscimento facciale.
Sintesi volutamente compresse: nel testo reale ogni divieto ha condizioni ed eccezioni precise.
03Perché proprio queste
Il filo comune è il danno strutturale a dignità e autonomia: essere valutati come persona anziché per un servizio; essere manipolati sotto la soglia della consapevolezza; essere radiografati emotivamente dalla propria scuola o dal proprio datore di lavoro. Sono danni allo status, non solo agli esiti — ed è per questo che le garanzie non li curano.
Le pratiche di questo elenco stanno anche al livello sanzionatorio più alto: quanto e da quando, su sanzioni dell'AI Act.
04I confini sono la lezione
Non ogni punteggio è punteggio sociale: lo scoring creditizio per il credito, con dati pertinenti e contestabilità, è un altro animale. Il caso-specchio del gioco ("Il credito civico") esiste apposta per far discutere il confine. Tracciare confini — non memorizzare l'elenco — è la competenza che resta.
05Cautela didattica
Prosegui con i sistemi ad alto rischio — il livello dove finiscono quasi tutti i dibattiti in aula — o metti alla prova le linee rosse nel gioco.
06Casi di confine, messi a confronto
Il divieto quasi mai riguarda una tecnologia intera: riguarda un uso, in un contesto, con certi effetti. Ecco perché sistemi che sembrano identici cadono da parti opposte della linea.
| Uso che sembra vietato | Uso che di norma non lo è | Che cosa fa la differenza |
|---|---|---|
| Punteggio che segue il cittadino tra scuola, sanità e casa | Valutazione del merito creditizio per un singolo prestito | La generalizzazione: quando una penalità migra in contesti scollegati da dove è nata, si entra nel terreno del punteggio sociale. |
| Rilevazione delle emozioni degli studenti in classe | Rilevazione della sonnolenza del conducente per sicurezza | Il contesto e la finalità: scuola e lavoro sono ambiti in cui il regolamento traccia una linea netta, per lo squilibrio di potere tra le parti. |
| Previsione di chi commetterà un reato dal solo profilo | Analisi di dove si concentrano furti già avvenuti | L'oggetto della previsione: prevedere una persona non è come descrivere un fenomeno già accaduto. |
| Identificazione biometrica in diretta in piazza per fini di polizia | Sblocco del telefono con il volto | Il perimetro: spazio pubblico, tempo reale e finalità di contrasto sono i tre elementi che attivano il divieto (con eccezioni strette e autorizzate). |
Notare la struttura ricorrente delle tre colonne: quasi sempre la differenza non è quanto è avanzato il sistema, ma chi subisce l'effetto e quanto è libero di sottrarsi. È la stessa domanda che regge la distinzione con l'alto rischio.
07Esercizio: sposta il confine
Un'attività breve che funziona bene dopo aver giocato un caso. Si prende un uso consentito e si modifica un solo elemento alla volta, finchè la classe non concorda che ha superato la linea.
- Passo 1 — partite da un uso pacifico: un'app che suggerisce esercizi di ripasso in base agli errori fatti.
- Passo 2 — cambiate chi decide: ora il risultato determina l'assegnazione alla classe. Che cosa cambia?
- Passo 3 — cambiate il dato: ora il sistema legge anche l'espressione del volto durante lo studio.
- Passo 4 — cambiate la persistenza: il profilo segue lo studente per tutto il ciclo scolastico e viene condiviso con altri enti.
- Chiusura — a quale passo la classe si è sentita a disagio, e perché? Il disagio, di solito, arriva prima del divieto formale: è un buon indicatore didattico.
Materiale pronto per la classe, con tempi e rubrica di discussione, nelle attività didattiche e nel laboratorio in classe.