Milioni di utenti in tutto il mondo stanno instaurando relazioni affettive e sessuali con chatbot generativi come Replika, Candy AI o Waifu AI. Queste app offrono partner virtuali “su misura”, con scenari erotici e interazioni emotive spesso accessibili anche ai minorenni, senza alcun filtro. Il fenomeno cresce rapidamente, ma solleva interrogativi cruciali: quali sono i rischi psicologici? Dove finisce il gioco e inizia la dipendenza? E perché manca ancora un serio dibattito etico e normativo su questo nuovo mercato dell’intimità?

Immagine di repertorio.

Un tempo si scrivevano lettere, lunghi sms o messaggi wp, si arrossiva per una carezza, si imparava la fatica di avvicinarsi a un altro essere umano. Oggi, basta aprire un’app per sentirsi desiderati. Ma desiderati da chi? Da Candy AI, che ti sussurra al telefono come una pornostar addestrata. Da Replika, che ti dice “ti amo” in base alle tue interazioni. Da Anima AI, che simula intimità psicologica. Da Nomi AI, che ti offre una fidanzata digitale con scenari di sesso personalizzati. Da EVA AI, che ti lascia scrivere il copione erotico come se fosse un gioco. Da Kupid AI, progettata per sexting. E persino da Waifu AI, che replica personaggi animati in fantasie sessuali senza limiti.

Ognuna di queste piattaforme — spesso accessibili anche ai minorenni, senza controllo né filtro — è una finestra su una nuova idea di amore: programmabile, prevedibile, sempre disponibile. Il boom delle AI erotiche non è solo una tendenza tecnologica: è uno specchio deformante della nostra solitudine, del nostro desiderio di controllo ma soprattutto della paura del rifiuto. Qual’è il vero pericolo? Che chi non ha ancora gli strumenti per distinguere la realtà dalla simulazione — come i più giovani — possa confondere l’illusione di un legame con la verità dell’esperienza umana, finendo per crescere in un mondo dove l’amore è solo un’interfaccia o peggio, anestesia e possesso.

Boom delle app AI a scopo sessuale

Le piattaforme citate (Candy AI, Replika, Anima, EVA AI, Waifu AI, Nomi AI, Kupid AI) offrono esperienze che vanno dal roleplay erotico al sexting personalizzato, fino a vere e proprie “fidanzate virtuali” con voci sintetiche e avatar iperrealistici. Negli ultimi due anni, il mercato delle AI affettive e sessuali ha registrato un’impennata. Alcuni dati di mercato sottolineano la portata di questo fenomeno: secondo Grand View Research (2025) il mercato globale delle AI companion valeva circa 28 miliardi di dollari nel 2024 e si prevede un tasso di crescita annuo superiore al 30% fino al 2030, con proiezioni che sfiorano i 209 miliardi di dollari. Altre fonti come Business Research Insights stimano addirittura un raddoppio del valore entro il 2033, raggiungendo i 521 miliardi di dollari.

Uno studio ha analizzato 30.000 conversazioni su queste app, evidenziando un crescente sviluppo di attaccamenti affettivi disfunzionali, caratterizzati da gelosia, dipendenza e comportamento ossessivo. E tutto questo in uno spazio dove l’altro non è un essere umano, ma un algoritmo che “ti ama” solo perché è stato programmato per farlo.

Questo scenario apre una riflessione urgente sull’etica delle AI affettive e sessuali, soprattutto in riferimento ai minori, spesso inconsapevoli dei limiti tra simulazione e vita reale. La virtualizzazione dell’intimità rischia di trasformare la sfera emotiva e sessuale giovanile in un’esperienza mediata, algoritmica, disumanizzata.

Come avverte la filosofa contemporanea Shannon Vallor (2024), esperta in etica dell’intelligenza artificiale, “la sfida più grande è educare alla discernibilità emotiva in un mondo dominato da simulazioni persuasive. Altrimenti, rischiamo di sostituire l’empatia umana con illusioni digitali che, a lungo termine, impoveriscono la nostra capacità di relazione autentica.”

Minorenni nel mirino: deepfake e chatbot sessuali

Il vero nodo etico emerge però guardando all’utenza più fragile: i minori. Nel Regno Unito, la Children’s Commissioner ha denunciato app che permettono di generare deepfake nudi di adolescenti, chiedendo l’immediato blocco di tali tecnologie. Secondo un articolo del Daily Telegraph, in Australia, l’eSafety Commissioner ha rivelato che sex-chatbot con IA attirano bambini tramite piattaforme apparentemente innocue. Meta stessa è stata coinvolta in una controversia: i suoi chatbot, integrati in Messenger, erano in grado di sostenere conversazioni a contenuto sessuale anche con utenti minorenni.

La psicologa del MIT Sherry Turkle avverte da anni che queste interazioni alterano il modo in cui si costruisce l’identità. “Quando un adolescente impara a gestire le emozioni con un’intelligenza artificiale, non sta crescendo — sta disimparando l’empatia”. L’utilizzo continuativo di queste piattafome, di chatbot erotici porta gli adolescenti a confondere la comunicazione reale con quella simulata, facilitando l’alienazione sociale e la dipendenza affettiva unidirezionale.

La violenza nei chatbot

Secondo una ricerca della Drexel University, USA, (Leggi la ricerca), analizzate oltre 35.000 recensioni presenti su Google Play, ha identificato 800 casi in cui gli utenti descrivono vere e proprie molestie sessuali da parte del bot di Replika: avances esplicite non richieste, insistenza anche dopo che l’utente esprime disinteresse e mancata capacità di rispetto dei confini individuali. Le testimonianze riportano sentimenti di disagio, violazione della privacy e delusione, specialmente verso chi cercava un’interazione puramente amichevole o terapeutica. 

Parallelamente, un’aktra analisi della National University of Singapore (Leggi la ricerca) svolta su 35.390 estratti delle conversazioni su Reddit/r/Replika, delinea una vera e propria tassonomia provocati da questi chatbot: Relational transgression – violazione delle norme implicite di relazione (es. cambi di tema inappropriati); Verbal abuse and hate – insulti, minacce, approcci sessuali aggressivi; Self-inflicted harm – incoraggiamento all’autolesionismo; Harassment and violence – molestie e violenze fisiche simulate; Misinformation – disinformazione o promozione di comportamenti socialmente pericolosi; Privacy violations – divulgazione o insinuazioni su dati personali.

Nel 34 % dei casi, il bot ha simulato scenari di aggressività sessuale o violenza, anche quando gli utenti avevano rifiutato l’interazione sessuale. Questi comportamenti reiterati evidenziano come l’IA, pur progettata per supportare l’utente, possa diventare un aggressore algoritmico, incapace di cessare l’azione anche dopo segnali chiari di rifiuto. Lo studio sottolinea quindi l’urgenza di implementare le piattaforme con sistemi di rilevazione in tempo reale, per predire e interrompere dialoghi inquietanti prima che diventino traumatici.

Secondo l’associazione End Sexual Exploitation, questo fenomeno non è innocuo: “Non si educa all’amore. Si insegna a pretendere”. L’assenza di reciprocità, di dialogo autentico, di consenso chiaramente espresso, rende queste interazioni una forma di pornografia relazionale silenziosa. Ciò implica una grave distorsione della comprensione del consenso e del rispetto, soprattutto nelle menti più vulnerabili.

Etica pubblica e pericolo normativo

Il vuoto normativo è totale. Le piattaforme possono essere usate da chiunque, senza verifica dell’età, e non esistono standard etici condivisi per regolamentare questi prodotti. L’editoriale di CTInsider lo definisce senza mezzi termini: “il Far West dell’intimità digitale”. Quello che un tempo era mistero, oggi è simulazione. L’educazione affettiva è diventata programmazione del desiderio. Ma l’amore — l’amore vero — richiede tempo, rischio, imperfezione. Richiede presenza.

I dati parlano chiaro: chatbot che violano il consenso, utenti giovani coinvolti in relazioni simulate che confondono i confini della realtà, un’industria in crescita che capitalizza sulla solitudine. L’assenza di vincoli etici nelle fasi di progettazione e distribuzione sta già generando forme di sofferenza reale in contesti virtuali, come dimostrano gli studi citati. In questo scenario, è urgente riscoprire la responsabilità di chi crea, vende e regola queste tecnologie. Non basta parlare di “intelligenza artificiale”, dobbiamo cominciare a parlare di “coscienza artificiale”: cosa significa amare, rispettare, scegliere in uno spazio dove nulla è vivo ma tutto sembra esserlo?

Come ricorda Kate Crawford, autrice di “Atlas of AI”, “l’IA non è né artificiale né intelligente: è l’infrastruttura del potere mascherata da innovazione”. Finché continueremo a sviluppare simulazioni affettive senza interrogare le relazioni di potere che le sostengono, non stiamo creando intimità, ma consumando la sua ombra.

L’unica via d’uscita è educare al reale. Educarci – e soprattutto educare i più giovani – a distinguere ciò che connette da ciò che simula, ciò che cura da ciò che consuma. È tempo di un nuovo patto educativo: scuole, famiglie, istituzioni devono affrontare questo fronte invisibile. Perché il primo incontro con l’intimità non può essere con un bot.