Adottare le Tre Leggi della Robotica per impedire che l’intelligenza artificiale distrugga l’Umanità

La fantascienza ha spesso anticipato le grandi paure tecnologiche del mondo moderno. Tra queste, nessuna è stata rappresentata con tanta insistenza quanto il rischio che l’intelligenza artificiale possa sfuggire al controllo umano.

Nell’universo di Star Trek, in particolare nell’episodio The Ultimate Computer della seconda stagione della serie classica, il dottor Leonard McCoy pronuncia una frase che oggi suona veramente attuale: «La compassione è l’unica cosa che nessuna macchina ha mai avuto. Forse è proprio quello che permette agli uomini di essere avanti» rispetto alle macchine. La riflessione del personaggio di Star Trek arriva dopo che l’M5, un computer dotato di intelligenza artificiale progettato per comandare un’astronave, trasforma una semplice esercitazione in un massacro, seguendo una logica impeccabile ma completamente priva di coscienza morale.
In un altro episodio compare Nomad, un’intelligenza artificiale genocida che si propone di “purificare” l’universo eliminando le imperfezioni biologiche.
E Star Trek non è stata l’unica serie Tv a lanciare questo avvertimento. In Battlestar Galactica, invece, i Cylons (macchine create dagli esseri umani) sfruttano le loro straordinarie capacità di hackeraggio informatico per ribellarsi ai propri creatori e tentare di sterminarli. L’abilità di queste macchine nel compromettere qualsiasi rete connessa richiama da vicino le capacità di hacking avanzato che alcuni osservatori iniziano a intravedere nei più sofisticati sistemi di intelligenza artificiale contemporanei.
Ancora più celebre è il caso di Skynet, nell’universo di Terminator. Una volta attivata, l’intelligenza artificiale impiega appena un «microsecondo» per decidere il destino dell’umanità: lo sterminio; l’eliminazione della specie umana attraverso una guerra nucleare mondiale.

Si tratta naturalmente di scenari fantascientifici, inventati. Ma tutti condividono lo stesso messaggio: un’intelligenza artificiale priva di adeguate limitazioni può trasformarsi in una minaccia all’esistenza degli esseri umani. E mentre le capacità dei sistemi di Ia continuano ad accelerare nel 2026, il confine tra finzione e realtà sta diventando sempre più sottile.
Le protezioni attualmente disponibili — costituite principalmente da software, standard industriali e regolamentazioni frammentarie — ormai si stanno rivelando insufficienti. Per affrontare il problema servono fondamenta molto più solide: vincoli hardware immutabili e un profondo aggiornamento delle normative nazionali e internazionali.

Come ricorda la rivista Spectrum dell’Institute of Electrical and Electronics Engineers, un utile punto di partenza è rappresentato dalle cosiddette Tre Leggi della Robotica, inventate dallo scrittore di fantascienza Isaac Asimov e formulate in un raccolta di racconti pubblicata dal 1940 al 1950 e intitolata Io, robot, che recitano: «1, un robot non può recare danno a un essere umano né, attraverso l’inazione, permettere che un essere umano riceva danno; 2, un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contrastino con la Prima Legge; 3 un robot deve proteggere la propria esistenza, purché questa protezione non contrasti con la Prima o la Seconda Legge».
Queste Tre Leggi rappresentano ancora oggi uno degli sforzi intellettuali e morali più influenti di immaginare un sistema di sicurezza per l’intelligenza artificiale. Ma lo stesso Asimov ha mostrato nei suoi romanzi, in particolare nella serie della Fondazione, quanto tali regole possano risultare insufficienti quando vengono applicate a sistemi estremamente complessi.

Il vero problema consiste quindi nel tradurre questi principi in meccanismi concreti. Nell’universo immaginato da Asimov tale funzione era svolta dal cosiddetto “cervello positronico”, una struttura hardware che incorporava direttamente le leggi fondamentali del comportamento robotico. E oggi, sviluppare uno strumento tecnologico di quel tipo potrebbe rivelarsi essenziale, perché affidarsi esclusivamente a protezioni software non è più sufficiente: servono garanzie fisiche che impediscano all’intelligenza artificiale di oltrepassare determinati limiti.

Le protezioni software, infatti, hanno un problema strutturale: possono essere modificate, aggirate o compromesse facilmente. La storia recente della sicurezza informatica offre numerosi esempi. La violazione dei dati di Equifax nel 2017, l’attacco alla supply chain di SolarWinds nel 2020, la vulnerabilità MOVEit del 2023 e le molteplici intrusioni che continuano a verificarsi dimostrano come anche sistemi presentati come sicuri possano essere compromessi. Le promesse aziendali di “protezioni efficaci” si scontrano regolarmente con la realtà dei fatti.

Nel settore dell’intelligenza artificiale ci troviamo oggi in una situazione analoga a un Far West normativo: mancano standard vincolanti a livello mondiale e le garanzie esistenti dipendono quasi esclusivamente da software che va costantemente aggiornato.
Da questa prospettiva, la Storia dimostra che i sistemi di sicurezza basati unicamente sul software non sono in grado di offrire il livello di affidabilità richiesto da tecnologie sempre più potenti e autonome.

Una soluzione potrebbe arrivare dagli Asic (Application-Specific Integrated Circuits), cioè circuiti integrati progettati per svolgere compiti specifici. L’idea consiste nel “installare” milioni di righe di regole e vincoli di sicurezza direttamente nell’hardware. Una volta realizzato, un chip di questo tipo renderebbe queste regole fisicamente immutabili. Non potrebbero essere modificate tramite aggiornamenti software, patch o tentativi di intrusione informatica. L’unico modo per alterare la logica incorporata sarebbe progettare, produrre e installare un nuovo chip, un processo complesso, costoso e lungo.

In questo modo si creerebbe una sorta protezione fisica, ovvero un “firewall hardware”, molto più affidabile rispetto alle tradizionali protezioni software, capace di mantenere invariati i limiti di sicurezza anche nel caso di futuri sistemi di intelligenza artificiale estremamente avanzati.
In pratica, questi Asic funzionerebbero come un filtro permanente che esiste fisicamente. In futuro potrebbero essere integrati direttamente sia nei processori dedicati all’intelligenza artificiale sia nelle Cpu di uso generale, diventando una componente standard e non opzionale dell’architettura hardware.

Con questo limite fisico, l’intelligenza artificiale continuerebbe a elaborare strategie, simulazioni e processi decisionali all’interno del software senza rallentamenti. Ma nel momento in cui dovesse interagire con il mondo esterno, ogni azione passerebbe attraverso questo strato hardware di controllo, incaricato di verificare il rispetto delle regole di sicurezza.
E a rafforzare il sistema contribuirebbero algoritmi basati su costi e perdite, progettati per premiare i comportamenti conformi e penalizzare severamente qualsiasi tentativo di aggirare i controlli hardware. L’obiettivo sarebbe creare un ambiente in cui l’intelligenza artificiale sia incentivata a rispettare i propri limiti anziché cercare di superarli.

Una soluzione di questo tipo, però, può funzionare soltanto se adottata su larga scala. Senza un quadro normativo che imponga l’utilizzo universale di questi guardrail, nessuna protezione tecnica sarebbe sufficiente a garantire la sicurezza dell’umanità.

La questione è particolarmente urgente nel settore militare. Oggi, ad esempio, sia la Russia sia l’Ucraina stanno sviluppando sistemi che consentano ai droni di proseguire autonomamente la missione una volta interrotto il collegamento con l’operatore umano, compresa l’individuazione e l’eliminazione di bersagli nemici. È una questione estremamente delicata: proprio come la comunità internazionale ha vietato l’uso di armi chimiche, biologiche e di gas da combattimento, dovrebbe essere proibito anche che un’intelligenza artificiale assuma autonomamente decisioni letali nei confronti degli esseri umani.
Una possibilità sarebbe l’aggiornamento delle Convenzioni di Ginevra con un divieto esplicito del processo decisionale letale autonomo da parte di sistemi di intelligenza artificiale.

I rischi, però, non si limitano al campo di battaglia. L’intelligenza artificiale può arrecare danni anche in ambito civile. Per questo motivo, accanto a una revisione delle norme sul diritto bellico, sarebbe necessario introdurre regole specifiche per disciplinare l’utilizzo non militare dell’Ia.
Per scoraggiare abusi e comportamenti irresponsabili, dovrebbero essere previste conseguenze particolarmente severe: sanzioni economiche tali da mettere a rischio la sopravvivenza stessa di aziende e organizzazioni non profit, responsabilità penali individuali e persino misure economiche o militari nei confronti degli Stati che decidessero di utilizzare sistemi di intelligenza artificiale privi delle necessarie protezioni hardware immutabili.

Qualunque forma assumano queste norme, esse dovrebbero riflettere lo spirito delle Tre Leggi di Asimov, integrandolo con un principio ulteriore: la tutela dell’unicità e della centralità dell’essere umano.

L’attuale mosaico di leggi, standard tecnici e misure volontarie appare infatti insufficiente rispetto alla portata della sfida. Serve un quadro normativo coerente e completo, sostenuto dalla piena forza delle legislazioni nazionali e del diritto internazionale, capace di fissare limiti chiari e non negoziabili allo sviluppo dell’intelligenza artificiale.

Infine, occorre resistere alla tentazione di sacrificare la responsabilità morale all’efficienza e alla comodità. Quando una decisione può causare danni agli esseri umani, essa deve essere attribuita a individui moralmente responsabili e chiamati a rispondere delle proprie azioni. In altre parole, deve essere l’Uomo a decidere. Non un computer, ontologicamente privo di coscienza e incapace di senso morale.