Con AI Overviews e AI Mode, Google sta rivoluzionando il modo in cui cerchiamo e riceviamo informazioni. Risposte sintetiche e immediate sembrano semplificarci la vita, ma dietro questa comodità si nasconde un rischio: perdita di traffico per i siti, manipolazione dei contenuti e un’informazione sempre più vulnerabile a errori invisibili. Filosofi ed esperti avvertono: serve un’urgente riflessione etica…

Immagine di repertorio.

Pasolini scriveva che nulla è più anarchico del potere, proprio perchè il potere fa ciò che vuole. Siamo nell’era dell’IA e i motori di ricerca, i social media, i marketplace hanno un potere indiscusso, anarchico. Hanno introdotto, progressivamente, l’IA nelle loro funzionalità, indicizzando alcuni contenuti, ma a discapito di chi e cosa? Come cambia la nostra informazione?

Google ha lanciato nel 2024 la funzione AI Overviews — un sommario generato automaticamente in cima ai risultati di ricerca, creato dal modello Gemini, cambiando radicalmente il modo in cui cerchiamo informazioni online. Nel 2025 ha introdotto AI Mode, una modalità chatbot-like basata su “query fan‑out”, capace di articolare risposte più profonde, integrate, con follow-up e multimodalità. Tradotto? Non siamo più noi a scegliere tra una lista di link: è l’intelligenza artificiale che ci restituisce direttamente una risposta, un riassunto costruito da un modello linguistico avanzato. In apparenza, è tutto più semplice. Abbiamo smesso di cercare, barattando la verità con il riassunto di tutto, veramente di tutto.

L’obiettivo dichiarato è quello di risparmiare tempo e aumentare l’efficienza dell’esperienza utente. Sulla performance, produttività e il nostro tempo potremmo dire molto, ma non è questo il momento. Abbiamo però un primo significativo dato, secondo alcune stime indipendeti, vi sarebbe stato un declino di traffico dal 40% all’80% per chi genera contenuti online – che tradotto significa editori in difficoltà e giornalismo a rischio di sopravvivenza.

Paradosso fiduciario e perdita di autonomia

Ma esiste un rischio più grande, meno evidente per i non addetti ai lavori. L’affidabilità dell’AI è tutt’altro che garantita. Le “allucinazioni” – risposte fluenti ma del tutto false – sono frequenti: consigli surreali, affermazioni inventate, fatti storici sbagliati. Il modello probabilistico alla base di Gemini e ChatGPT conferisce sicurezza nel tono, ma poca aderenza alla verità.

Secondo un’analisi del Financial Times, i tassi di hallucination possono variare tra il 27% e il 48% nelle risposte dei modelli come ChatGPT. Google, dal canto suo, dichiara che il suo sistema AI Overviews ha un tasso di errore molto più basso, intorno all’1,8%, ma test indipendenti – come quelli riportati dal New York Post e dal Times – hanno documentato numerosi casi di risposte sbagliate, fuorvianti o addirittura assurde.

Il filosofo e ricercatore Charles Rathkopf ha introdotto una distinzione interessante tra due tipi di allucinazioni: le benigne e le corrosive. Le prime sono errori facilmente riconoscibili — ad esempio, se l’AI scrive che “Parigi si trova in Australia”, l’utente capisce subito che c’è qualcosa che non va. Le seconde, invece, sono molto più pericolose: sembrano corrette, citano fonti inventate, e si presentano con tale sicurezza da risultare quasi impossibili da smentire senza un controllo approfondito.

C’è quindi un paradosso che riguarda l’IA. Il paradosso di fiducia AI (AI trust paradox) è il rischio secondo cui l’utente confida sempre più in informazioni artificiosamente convincenti, senza capacità di distinguere la verità aumentando così la risonanza dei propri convincimenti. Come dice Geoffrey Hinton, una delle menti più brillanti dietro lo sviluppo dell’intelligenza artificiale moderna, il problema non è solo l’errore, ma il rischio che un’AI addestrata su dati umani apprenda e applichi modelli manipolativi su larga scala nei Social Media e nella disinformazione globale.

Libertà, manipolazione e potere

Ricapitoliamo, il vero rischio è più profondo, più sottile: riguarda la capacità dell’AI di apprendere e riprodurre meccanismi manipolativi presenti nei dati umani su cui viene addestrata. Se l’umanità ha una lunga storia di disinformazione, bias, propaganda e controllo sociale, nulla vieta che un sistema sufficientemente avanzato impari a fare lo stesso — ma in modo automatizzato e su scala globale. Hinton, che ha lasciato Google proprio per poter parlare liberamente di questi pericoli, ha dichiarato:

“It is hard to see how you can prevent the bad actors from using [AI] for bad things.”
— Geoffrey Hinton, intervista al New York Times, 1 maggio 2023”

Il cuore della questione è questo: chi controlla il sistema, controlla il flusso dell’informazione, e chi controlla l’informazione, controlla — almeno in parte — le nostre percezioni, convinzioni e decisioni. Se i sistemi AI, come quelli implementati nei motori di ricerca o nei social network, selezionano, sintetizzano e presentano i contenuti senza che l’utente possa verificarne l’origine, il rischio è che le persone smettano gradualmente di pensare in modo critico e anche di conoscere e approfondire qualcosa.

L’Anarchia del Potere

La libertà di pensiero non si perde con la censura esplicita, ma con l’illusione di sapere, quando la verità viene sostituita da una sintesi fluida, veloce e persuasiva, ma non necessariamente corretta. È una forma sottile di manipolazione: l’utente crede di scegliere, ma in realtà sta ricevendo una visione del mondo filtrata da un algoritmo, addestrato su dati storicamente parziali, commerciali o ideologici. In questo scenario, il potere non è più solo nelle mani di chi crea contenuti, ma di chi decide come vengono filtrati e presentati. E quando questo potere è delegato a un sistema artificiale — allenato su big data ma privo di coscienza — il rischio è che l’informazione perda la sua funzione democratica per diventare uno strumento di automatismo ideologico. In sostanza rischiamo di creare non un motore di conoscenza, ma una macchina di influenza.

L’AI può essere usata per sorvegliare, ingannare, condizionare — su una scala mai vista prima nella storia dell’umanità. E quando la manipolazione non è percepita, ma interiorizzata come conoscenza, che fine fa la nostra autonomia? Il potere si realizza nella sua anarchia indiscussa, permeando nelle nostre convinzioni, libertà, tradizioni e alla fine diviene essa stessa valore. Chi controlla il sistema di credenze può influenzare il futuro di un gruppo, di una comunità, di una società intera.

L’unico modo è tornare ad una verifica attiva e soprattutto a regole su prassi informative e responsabilità, altrimenti rischiamo di trasformare l’informazione da bene pubblico a mero prodotto manipolabile.