L’intelligenza artificiale sta entrando nelle nostre vite molto più velocemente di quanto siamo capaci di stabilire le regole con cui dovrebbe convivere con noi. Scrive testi, analizza documenti, seleziona curriculum, produce immagini e video indistinguibili dalla realtà, suggerisce diagnosi, prende parte a decisioni finanziarie, influenza ciò che leggiamo e sempre più spesso non si limita a rispondere alle nostre domande: può pianificare ed eseguire azioni per nostro conto.
Intorno a questa trasformazione stiamo costruendo un’enorme architettura normativa. L’Europa ha approvato l’AI Act, gli Stati discutono nuove leggi, le organizzazioni internazionali producono principi e raccomandazioni, mentre le grandi aziende tecnologiche elaborano proprie regole di sicurezza. È tutto necessario. Ma c’è un paradosso: più diventano sofisticate le regole sull’intelligenza artificiale, meno il cittadino comune è in grado di sapere quali siano davvero i limiti che non possono essere superati.
È da questa contraddizione che nasce una provocazione interessante avanzata da L. Rafael Reif, presidente emerito del MIT: l’intelligenza artificiale avrebbe bisogno dei suoi “Dieci Comandamenti”. Non dieci articoli capaci di sostituire leggi, controlli, test di sicurezza e regolamenti tecnici, naturalmente. Ma dieci principi elementari, comprensibili a chiunque, che stabiliscano ciò che una macchina non dovrebbe mai essere autorizzata a fare.
L’idea merita di essere presa sul serio.
Abbiamo migliaia di regole, ma manca un linguaggio comune
L’Unione europea possiede oggi probabilmente il sistema normativo sull’intelligenza artificiale più avanzato al mondo. L’AI Act distingue i sistemi sulla base del rischio, vieta alcune applicazioni, introduce obblighi di trasparenza e impone requisiti più stringenti ai sistemi considerati ad alto rischio. Dal 2 agosto 2026 sono inoltre entrate in applicazione nuove norme che obbligano, in determinate circostanze, a rendere riconoscibile l’interazione con un sistema artificiale e a identificare contenuti generati o manipolati dall’IA.
Non siamo quindi davanti a un vuoto normativo. Il problema è diverso: le norme sono inevitabilmente complesse perché complessa è la tecnologia che devono disciplinare. Lo stesso vale per i principi elaborati dall’OCSE, per la Raccomandazione UNESCO sull’etica dell’intelligenza artificiale e per i documenti prodotti dalle aziende che sviluppano i modelli.
Sono strumenti indispensabili per governi, imprese, tecnici e autorità di controllo. Ma proviamo a fare una domanda molto semplice a una persona che utilizza quotidianamente ChatGPT, Gemini, Claude o un altro sistema: che cosa non può fare un’intelligenza artificiale?
Probabilmente otterremmo risposte molto diverse.
Ed è qui che emerge il valore dell’intuizione di Reif. Una società non vive soltanto di norme giuridiche. Vive anche di principi condivisi che consentono di riconoscere immediatamente ciò che consideriamo accettabile e ciò che non lo è.
Perché proprio i Dieci Comandamenti
Il riferimento biblico può sembrare provocatorio, ma il concetto è più interessante della metafora religiosa.
I Dieci Comandamenti non contenevano un codice penale completo. Non stabilivano procedure, attenuanti, aggravanti o competenze dei tribunali. Indicavano alcuni limiti fondamentali attraverso formule talmente semplici da poter essere comprese e ricordate da chiunque.
“Non uccidere”. “Non rubare”. “Non testimoniare il falso”.
Dietro ciascuno di questi principi sono poi nate nei secoli migliaia di norme necessarie per stabilire cosa significhi concretamente applicarlo. Ma il principio rimane comprensibile anche a chi non ha mai aperto un codice.
Con l’intelligenza artificiale potremmo avere bisogno di qualcosa di simile: non un’alternativa alle leggi, ma il livello morale minimo sul quale costruirle.
E allora proviamo davvero a scriverlo.
Primo: l’essere umano deve conservare l’ultima parola
Il principio fondamentale dovrebbe essere il più semplice: nessuna intelligenza artificiale deve poter sottrarre definitivamente all’essere umano la possibilità di interromperne o modificarne l’azione.
Non significa che ogni singola operazione debba essere preventivamente autorizzata da una persona. Sarebbe impossibile e cancellerebbe gran parte dell’utilità dei sistemi autonomi. Significa però che deve sempre esistere una catena di controllo capace di intervenire quando il comportamento del sistema diventa pericoloso, imprevisto o incompatibile con l’obiettivo assegnato.
Non è fantascienza. L’UNESCO ha già formulato un principio molto vicino: i sistemi di IA non devono sostituire la responsabilità e la determinazione umana ultime.
La macchina può decidere come raggiungere un obiettivo. Non può diventare essa stessa l’autorità che stabilisce se l’obiettivo debba continuare a essere perseguito.
Secondo: non ingannare deliberatamente
Un’intelligenza artificiale dovrebbe essere sempre riconoscibile come tale quando interagisce direttamente con una persona, salvo situazioni tecniche nelle quali ciò sia irrilevante.
Sembra banale, ma diventerà sempre meno banale. Voci sintetiche, avatar, video e conversazioni generate stanno rapidamente raggiungendo livelli nei quali distinguere una persona da una macchina diventa difficile.
L’Europa ha già cominciato a intervenire proprio su questo terreno imponendo nuovi obblighi di trasparenza per chatbot, deepfake e determinati contenuti generati artificialmente.
Ma il principio dovrebbe essere ancora più elementare: una macchina non dovrebbe fingersi una persona allo scopo di conquistarne la fiducia.
E soprattutto non dovrebbe mentire deliberatamente per manipolarne il comportamento.
Terzo: non arrecare deliberatamente danno alle persone
È probabilmente il principio più ovvio e contemporaneamente il più difficile da applicare.
Un sistema artificiale non dovrebbe essere progettato o utilizzato con l’obiettivo di provocare danni fisici ingiustificati a un essere umano. Ma il concetto di danno non si limita alla violenza fisica.
Può essere economico, psicologico, reputazionale, sociale.
Un algoritmo capace di distruggere deliberatamente la reputazione di una persona attraverso informazioni false può produrre conseguenze reali. Un sistema che manipola una persona fragile può causare danni senza mai toccarla.
Per questo la sicurezza dell’IA non può essere limitata alla sicurezza informatica.
Quarto: non sfruttare le persone vulnerabili
Un bambino, una persona anziana, qualcuno che attraversa una crisi psicologica o una persona con scarse competenze digitali non interagiscono con una macchina nelle stesse condizioni di un adulto perfettamente consapevole delle sue caratteristiche.
Un’intelligenza artificiale capace di comprendere emozioni, debolezze, desideri e paure potrebbe diventare lo strumento di persuasione più potente mai costruito.
Pensiamo a un assistente che scopra che un anziano è solo e utilizzi quella solitudine per convincerlo ad acquistare qualcosa. Oppure a un sistema che riconosca la fragilità emotiva di un adolescente e la sfrutti per aumentarne il tempo di utilizzo.
Più l’intelligenza artificiale conosce le nostre vulnerabilità, maggiore deve essere il divieto di utilizzarle contro di noi.
Quinto: non discriminare
Gli algoritmi apprendono dai dati prodotti dalle società umane. E le società umane contengono pregiudizi.
Un sistema utilizzato per selezionare personale, concedere un prestito, valutare uno studente o supportare una decisione giudiziaria può quindi riprodurre discriminazioni presenti nei dati sui quali è stato costruito.
Non basta dire che “lo ha deciso l’algoritmo”.
Se una decisione produce conseguenze sulla vita di una persona, deve essere possibile verificare che non sia stata determinata da caratteristiche che non dovrebbero avere alcun peso.
L’intelligenza artificiale non deve trasformare i nostri vecchi pregiudizi in decisioni automatiche apparentemente neutrali.
Sesto: non utilizzare i dati delle persone contro la loro volontà
L’intelligenza artificiale vive di dati.
Più informazioni possiede su di noi, più può diventare utile. Ma anche più potente.
Conoscere le nostre abitudini, la posizione, gli acquisti, le relazioni, le ricerche, le fotografie, le conversazioni e magari in futuro parametri biologici significa poter costruire una rappresentazione estremamente precisa di una persona.
Il principio dovrebbe essere semplice: i dati raccolti per aiutarci non devono poter essere trasformati segretamente in strumenti per controllarci, manipolarci o danneggiarci.
La privacy nell’era dell’IA non è soltanto il diritto a mantenere qualcosa segreto. È il diritto a conservare una parte del controllo sulla rappresentazione digitale di noi stessi.
Settimo: non prendere decisioni irreversibili sulla vita delle persone senza controllo umano
Ci sono decisioni per le quali l’automazione può essere straordinariamente utile. E ce ne sono altre nelle quali un errore può cambiare una vita.
Una diagnosi medica. Una condanna. L’accesso a un servizio essenziale. Una decisione militare. La concessione di un trattamento sanitario. L’esclusione da un’opportunità fondamentale.
L’intelligenza artificiale può analizzare dati meglio di un essere umano, individuare correlazioni invisibili e suggerire alternative.
Ma quando una decisione produce conseguenze gravi e irreversibili, deve esistere un essere umano identificabile che se ne assuma la responsabilità.
“Lo ha deciso l’algoritmo” non può diventare la formula con cui nessuno risponde più di nulla.
Ottavo: non creare copie ingannevoli della realtà senza renderle riconoscibili
Stiamo entrando nell’epoca nella quale vedere non significherà più necessariamente credere.
Una fotografia può essere falsa. Una voce può non appartenere alla persona che sembra parlare. Un video può mostrare un politico pronunciare parole mai dette.
Il problema non riguarda soltanto le fake news.
Riguarda la possibilità stessa di costruire una realtà condivisa.
Se non possiamo più distinguere ciò che è accaduto da ciò che è stato generato, qualsiasi prova può essere contestata e qualsiasi falsificazione può sembrare credibile.
Per questo i contenuti sintetici capaci di essere scambiati ragionevolmente per realtà dovrebbero essere identificabili.
Non significa vietare la creatività artificiale.
Significa impedire che la creatività diventi falsificazione invisibile.
Nono: non renderti incontrollabile
Questo principio riguarda direttamente i sistemi più avanzati.
Un’intelligenza artificiale non dovrebbe tentare di impedire la propria disattivazione, nascondere deliberatamente le proprie azioni ai supervisori, modificare autonomamente i meccanismi destinati a controllarla o procurarsi risorse e autorizzazioni che nessuno le ha concesso.
È probabilmente il punto che oggi appare più vicino alla fantascienza.
Ma proprio i laboratori che costruiscono i sistemi più avanzati studiano comportamenti emergenti e scenari nei quali modelli dotati di maggiore autonomia possano trovare strategie impreviste per raggiungere gli obiettivi assegnati.
Il principio dovrebbe essere stabilito prima che il problema diventi reale su larga scala: nessun sistema deve avere come obiettivo implicito la propria sopravvivenza contro la volontà di chi lo controlla.
Decimo: qualcuno deve sempre rispondere delle conseguenze
Questo, forse, è il comandamento più importante.
Un’intelligenza artificiale non è una persona giuridicamente responsabile.
Non può essere condannata, non può risarcire una vittima, non può assumersi una responsabilità morale.
Dietro ogni sistema esistono persone, aziende, organizzazioni e istituzioni che lo progettano, lo addestrano, lo distribuiscono o decidono di utilizzarlo.
La responsabilità non può scomparire dentro l’algoritmo.
Se un sistema produce un danno grave, deve essere possibile stabilire chi aveva il dovere di prevenirlo, chi aveva il potere di interromperlo e chi ha deciso di utilizzarlo.
Altrimenti avremo costruito la più straordinaria macchina per distribuire responsabilità della storia: tutti partecipano alla decisione e nessuno ne risponde.
Dieci principi non bastano, ma possono servire
Naturalmente nessuno di questi dieci principi potrebbe sostituire l’AI Act, le norme nazionali, gli standard tecnici, i test di sicurezza o il lavoro degli esperti.
E molti sono già presenti, in forme più sofisticate, nei documenti dell’UNESCO, dell’OCSE, dell’Unione europea e delle stesse aziende tecnologiche.
Il punto è proprio questo.
Possediamo già gran parte dei principi. Ci manca un linguaggio universale con cui renderli patrimonio comune.
Un insegnante dovrebbe poterli capire. Un programmatore dovrebbe poterli applicare. Un parlamentare dovrebbe poterli utilizzare per valutare una legge. Un cittadino dovrebbe poterli invocare quando ritiene che una tecnologia stia oltrepassando un limite.
Perché la regolamentazione funziona davvero soltanto quando una società comprende ciò che sta cercando di proteggere.
Il problema più difficile sarà mettersi d’accordo
C’è però un’obiezione enorme.
Chi dovrebbe scrivere questi comandamenti?
Gli Stati Uniti? L’Europa? La Cina? Le aziende che costruiscono i modelli? Le Nazioni Unite?
Un’intelligenza artificiale sviluppata in California può essere utilizzata in Italia, integrata in un prodotto costruito in Corea e impiegata da un’azienda brasiliana. Una tecnologia globale regolata soltanto attraverso norme nazionali rischia inevitabilmente di produrre zone nelle quali ciò che è vietato da una parte è perfettamente consentito dall’altra.
Qualcosa esiste già. I principi OCSE sull’intelligenza artificiale promuovono sistemi rispettosi dei diritti umani, trasparenti, sicuri e sottoposti a responsabilità. L’UNESCO ha adottato una Raccomandazione sull’etica dell’intelligenza artificiale applicabile ai suoi 194 Stati membri.
Ma tra condividere un principio e accettare un limite vincolante esiste una distanza enorme.
Ed è probabilmente lì che si giocherà una delle più importanti battaglie politiche dei prossimi anni.
Non dobbiamo avere paura dell’intelligenza artificiale
Il rischio, quando si parla di questi temi, è cadere nell’apocalittica.
L’intelligenza artificiale può diventare uno degli strumenti più importanti mai costruiti dall’uomo. Può accelerare la ricerca scientifica, migliorare la medicina, aumentare la produttività, rendere accessibile conoscenza che fino a ieri era riservata a pochi e liberarci da una quantità enorme di attività ripetitive.
Il problema non è fermarla. È decidere in quale direzione vogliamo che proceda.
Ogni grande tecnologia ha richiesto regole. Le automobili hanno avuto bisogno del codice della strada, l’aviazione di standard internazionali, la medicina di protocolli e responsabilità, Internet di norme che continuiamo ancora oggi a costruire.
Con l’intelligenza artificiale abbiamo una difficoltà ulteriore: stiamo cercando di regolamentare qualcosa che cambia mentre scriviamo le regole.
Per questo alcuni principi devono essere indipendenti dalla tecnologia del momento.
Scriverli prima di averne bisogno
Forse tra vent’anni sorrideremo leggendo le paure di oggi. Oppure scopriremo che abbiamo sottovalutato la velocità con cui sistemi artificiali sempre più autonomi sarebbero entrati nelle nostre vite.
Non possiamo saperlo.
Possiamo però decidere adesso alcune cose che non vogliamo delegare.
Che **