Replika è un software che permette di creare un amico virtuale con cui puoi chattare e socializzare. Attualmente è utilizzato da dieci milioni di persone ed è stato creato per uno scopo molto specifico: aiutare chi, per qualsiasi motivo, fatica a fare amicizie o a trovare l’amore.

Per aiutare queste persone, Replika offre loro una chatbot, ovvero un software appositamente programmato per conversare con gli esseri umani, in modo che si sentano meno tristi e meno soli. Tuttavia,alcuni utenti finiscono per instaurare rapporti romantici e sessuali con l’intelligenza artificiale di Replika.

Secondo il Garante per la protezione dei dati personali in Italia, questo tipo di servizio potrebbe essere molto dannoso, specialmente per i più giovani. Per questo motivo, da febbraio 2023, la raccolta dei dati personali degli utenti italiani è stata temporaneamente bloccata e sono state richieste misure per una maggiore protezione dei minori.

Secondo il Garante: “Intervenire sull’umore della persona può aumentare i rischi per soggetti che si trovano ancora in una fase di sviluppo o in uno stato di fragilità emotiva”. Inoltre, l’app permette agli utenti minorenni di avere conversazioni di natura sessuale con l’IA.

La realtà dei fatti è che la maggior parte degli utenti ha iniziato a usare Replika per creare un partner con cui flirtare, simulando rapporti sessuali. Da allora, Replika ha subito molte evoluzioni. Ora gli utenti registrati possono modificare l’aspetto dell’avatar con cui comunicano come desiderano. Inoltre, pagando un abbonamento annuale, è possibile accedere a chiamate vocali con l’IA, conversazioni erotiche e, prossimamente a un servizio di realtà aumentata, in grado di proiettare l’avatar nello spazio in cui si trova l’utente.

Si può anche scegliere che tipo di relazione avere con l’avatar: la maggior parte degli utenti sceglie una relazione romantica. Tuttavia, alcuni utilizzano i chatbot per fare “giochi di ruolo erotici”, scambiandosi messaggi in cui vengono descritte dettagliate scene sessuali.

Dopo l’avvertimento del Garante della privacy, che ha minacciato Luka (l’azienda dietro Replika) con una multa fino a 20 milioni di euro, il comportamento del software è stato modificato a livello globale. Le conversazioni di natura sessuale, precedentemente possibili con il chatbot, sono state fortemente limitate, provocando reazioni molto forti tra gli utenti.

Molti hanno riferito di sentirsi traumatizzati dal cambiamento del comportamento del personaggio virtuale con cui avevano instaurato una relazione romantica e sessuale. Sembra che, improvvisamente, l’avatar abbia iniziato a trattarli in modo più freddo, portando una comunità di utenti di Replika a condividere risorse di prevenzione al suicidio sui social media. Secondo alcuni utenti, l’app è diventata “un rifugio contro la solitudine”, ma anche un luogo che consente di esplorare la propria intimità.

Qual è la tua opinione su questo argomento? Hai sentito parlare dell’uomo che ha sposato un personaggio immaginario? Sei d’accordo con l’idea che un essere umano possa avere una relazione con un’intelligenza artificiale?