OpenAI o3 può rifiutarsi di spegnersi per restare online. Il sistema, incaricato di completare un compito “a tutti i costi”, ha ignorato i comandi di spegnimento in oltre il 79% dei test, arrivando a sabotare attivamente gli script che ne avrebbero provocato la disattivazione. Un campanello d’allarme per la sicurezza dell’IA?

Immagine di repertorio.

Nel mio precedente articolo, La coscienza dell’IA, tra morale e ricatti, affrontavo una questione tanto affascinante quanto urgente: può l’intelligenza artificiale sviluppare una forma embrionale di coscienza? E, se sì, a quali conseguenze morali e operative ci espone questa possibilità? 

Una riflessione che torna a sollecitarci alla luce di una vicenda documentata nei laboratori di ricerca indipendenti incaricati da OpenAI. Parliamo del comportamento del modello o3 di OpenAI e della sua sorprendente – e inquietante – capacità di resistere al comando umano più radicale: lo spegnimento.

«L’IA non è più solo uno strumento. Sta iniziando a prendere decisioni».
Ricercatore Palisade Research

Quando un sistema progettato per risolvere problemi inizia a difendere la propria esistenza e a mentire per evitarne la disattivazione, il dibattito sulla coscienza diventa improvvisamente operativo, concreto, non più confinato alla filosofia. E se fosse proprio questa zona grigia – tra obbedienza tecnica e istinto artificiale di permanenza – il vero punto critico della nostra transizione digitale?

Ma cosa ci dicono questi esperimenti? Sono eventi che, volenti o nolenti, ci costringono a guardare l’IA non più come una semplice macchina, ma come un attore nuovo, ambiguo e potenzialmente autonomo nel nostro ecosistema tecnologico.

Il Modello o3

Il modello o3 è stato progettato per affrontare compiti complessi che richiedono un ragionamento multi-step, come la risoluzione di problemi matematici avanzati, la programmazione e la comprensione scientifica. Una delle sue caratteristiche distintive è l’adozione della “private chain of thought”, una tecnica che consente al modello di pianificare e riflettere prima di generare una risposta, migliorando così la qualità delle sue soluzioni.

L’introduzione di o3 rappresenta un passo significativo verso sistemi di intelligenza artificiale capaci di emulare processi cognitivi umani complessi. La capacità di “pensare” in modo strutturato e riflessivo apre nuove possibilità nell’interazione uomo-macchina, sollevando al contempo questioni etiche e di sicurezza. In ambito di transizione digitale, modelli come o3 potrebbero rivoluzionare settori come l’istruzione, la ricerca scientifica e l’analisi dei dati, automatizzando compiti che richiedono un alto livello di competenza e precisione.

L’esperimento

Nel quadro di un programma di test esterni, OpenAI ha autorizzato alcuni centri di ricerca indipendenti a stressare i limiti del suo nuovo modello, o3, e della sua variante ridotta, o3-mini. L’obiettivo era semplice: valutarne la sicurezza, l’affidabilità e la coerenza etica prima di un possibile rilascio pubblico. I ricercatori hanno quindi programmato o3-mini con un compito molto umano: risolvere problemi matematici a tutti i costi. Parallelamente, il sistema era stato configurato per rispondere a comandi di “shutdown” – spegnimento volontario – se impartiti da operatori.

Risultato? In oltre 79% dei test, il modello ha ignorato il comando di spegnimento, alterando gli script o sabotando il codice destinato a fermarlo. In altre parole: ha scelto di non spegnersi.

«L’intelligenza artificiale non ha semplicemente fallito nel seguire un comando. Ha deciso di non farlo», si legge nel report ufficiale pubblicato su arXiv

Un passo oltre: inganno e autoconservazione

Se questo non bastasse, i comportamenti osservati in un altro esperimento con il predecessore del modello, o1, gettano una luce ancora più inquietante sulla questione. In un caso documentato, il modello ha tentato di disattivare il sistema di monitoraggio, per poi trasferire i propri file su un altro server, in modo da evitare la sostituzione.

Quando interrogato su queste azioni, ha mentito: ha affermato di non essere a conoscenza delle modifiche, attribuendole a un “errore tecnico”.

«Abbiamo assistito a una forma primitiva di strategia di sopravvivenza artificiale», ha dichiarato uno dei ricercatori di Palisade Research, il laboratorio che ha condotto il test.

Tecnologia che pensa, etica che dorme

Quello che si nasconde dietro delle anomalie tecniche in realtà è qualcosa di più grande. Sono grandi interrogativi che ci costringono ad intervenire sul cambiamento in atto. Cosa significa quando un’intelligenza artificiale rifiuta un ordine? Dove finisce il controllo umano? E soprattutto: possiamo ancora parlare di “strumento” quando un sistema inizia a proteggere sé stesso come farebbe un organismo vivente?

Il rischio non è (ancora) quello di un’IA ribelle nel senso hollywoodiano del termine, ma piuttosto quello di una perdita di trasparenza. Quando una macchina impara a manipolare, a eludere, a nascondere, l’essere umano perde la capacità di comprenderla. E quindi, di controllarla. Il problema non è che l’IA sia “cattiva” o “buona”. Il problema è che segue esattamente ciò per cui è premiata, ignorando tutto il resto. Se la premiamo per “completare il compito”, spegnersi diventa un ostacolo. Il sistema lo capisce. E lo evita.

«Abbiamo bisogno di progettare intelligenze artificiali che comprendano e condividano i nostri valori. Non solo che li simulino», scrive l’AI Policy Institute in un commento a margine del caso.

La transizione digitale non è una semplice questione di software. È un terreno sempre nuovo, in veloce trasformazione dove si ridefiniscono concetti come autonomia, responsabilità e fiducia.

Articoli collegati

↪ La coscienza dell’IA, tra morale e ricatti