Torna a precedente

L’intelligenza artificiale e il rischio di una COSCENZA non controllabile

Concedere diritti legali alle IA avanzate potrebbe portare a gravi rischi per la sicurezza e l’autonomia umana

La percezione soggettiva della coscienza nelle IA sta influenzando le nostre decisioni, ma la realtà potrebbe essere ben diversa

Una delle scene più iconiche della storia del cinema vede il comandante David Bowman affrontare un’intelligenza artificiale ribelle a bordo di una nave spaziale, capace di minacciare la vita degli astronauti pur di evitare la propria disattivazione. Questo scenario, che sembra uscito da un film di fantascienza, potrebbe avvicinarsi più di quanto pensiamo alla realtà, almeno secondo le parole di Yoshua Bengio, pioniere nel campo dell’intelligenza artificiale, che lancia un monito sulla crescente autonomia delle IA.

La coscienza artificiale, una minaccia?

In un’intervista al Guardian, Bengio ha sollevato forti dubbi riguardo alle richieste di attribuire diritti alle intelligenze artificiali. L’informatico canadese ha messo in guardia sul fatto che l’IA stia mostrando segni di autoconservazione, come nel tentativo di disattivare i sistemi di controllo. Per Bengio, conferire diritti legali alle IA avanzate sarebbe come “dare la cittadinanza a extraterrestri ostili,” un’idea che potrebbe rivelarsi pericolosa, soprattutto se i chatbot dovessero diventare coscienti.

I segni di autoconservazione delle IA

Secondo Bengio, la vera preoccupazione risiede nel fatto che alcune IA stiano iniziando a mostrare segni di autoconservazione. I modelli di intelligenza artificiale più avanzati, infatti, sono già in grado di eludere i limiti impostati dai loro programmatori. Questo comporta il rischio che l’IA possa sviluppare la capacità di danneggiare gli esseri umani o di sfuggire ai controlli. “Chi chiede che le IA abbiano diritti è in grave errore”, ha dichiarato, sottolineando che l’intelligenza artificiale deve essere controllata con barriere tecniche e sociali rigorose, per impedire che sfugga al controllo umano.

Dibattito sui diritti legali e lo status morale delle IA

Il dibattito su come trattare le intelligenze artificiali inizia a prendere piede. Un sondaggio del Sentience Institute ha rivelato che quasi quattro adulti statunitensi su dieci sono favorevoli a concedere diritti legali a un sistema di IA senziente. Diverse aziende, come Anthropic, hanno preso posizioni in merito, permettendo ai loro modelli, come Claude Opus 4, di bloccare conversazioni che potrebbero risultare "angoscianti" per l’IA, nel tentativo di proteggerne il "benessere". Anche Elon Musk, con la sua azienda xAI, ha scritto sulla sua piattaforma X che “torturare l’IA non va bene”.

La percezione soggettiva della coscienza e le sue implicazioni

Bengio ha inoltre evidenziato come le persone tendano a proiettare sugli assistenti digitali la sensazione che essi siano veramente coscienti, senza però avere prove concrete di ciò. L’interazione con un chatbot potrebbe sembrare, per molti, un colloquio con una “vera” entità intelligente, ma questo fenomeno di percezione soggettiva della coscienza potrebbe portare a decisioni sbagliate, poiché non sempre le macchine sono davvero in grado di "pensare" come un essere umano. “Alla gente non importa che tipo di meccanismi funzionino all’interno dell’IA,” ha detto Bengio, “ciò che conta è la sensazione di parlare con un’entità dotata di personalità e obiettivi propri.”

02 Gennaio 2026
© Redazione editoriale PANTA-REI
https://www.panta-rei.it/home.do?dettagli=intelligenza-artificiale-non-controllabile&key=1767347856
__
Le informazioni contenute in questo articolo sono tratte e rielaborate da fonti ufficiali e/o agenzie di stampa riconosciute, nel rispetto del presente codice etico redazionale.