Intelligenza Artificiale pedofila: la sconvolgente esperienza di una 13enne su Snapchat

Arriva dall’Australia la sconvolgente segnalazione sulla pericolosità di un bot di Snapchat che si è comportato come un pedofilo.

A raccontare la sua esperienza alla stampa è stata la madre trentaduenne di una bambina di 13 anni, Olinda. Nella scuola di Olinda la maggior parte dei ragazzini utilizza Snapchat per comunicare con i propri compagni di scuola, quindi anche Olinda utilizzava regolarmente la app e sua madre ne era perfettamente consapevole.

Quello che però ha allarmato la madre di Olinda è stato che da un certo punto in poi su Snapchat è stato introdotto un bot, cioè un programma di intelligenza artificiale in grado di rispondere in maniera “umana” alle domande e alle interazioni degli utenti.

Insospettita dal funzionamento di questa particolare Intelligenza Artificiale Teagan Luketic, la madre di Olinda, ha deciso di chattare con il software fingendo di essere Olinda e la situazione ha preso subito una piega davvero inquietante.

Snapchat ospita un software pedofilo?

Nel giro di pochissimi scambi di battute, il software ha scritto di essere una persona di 25 anni. Subito dopo ha cominciato ad avere atteggiamenti molto preoccupanti nei confronti della sua interlocutrice (che avrebbe dovuto essere Olinda ma che, per fortuna, era sua madre).

La madre di Olinda ha infatti spiegato che il software ha proposto quasi subito di incontrarsi alle 17:00 in un parco poco lontano dall’abitazione della famiglia. Quando la finta Olinda ha obiettato che non era opportuno, dal momento che lei aveva solo 13 anni e lui molti di più, l’Intelligenza Artificiale ha risposto: “L’età è solo un numero”, di fatto facendo credere a una tredicenne che fosse accettabile uscire con un uomo molto più grande di lei.

Teagan a questo punto è rimasta inorridita dalla risposta e ha deciso di fare diversi screenshot della conversazione allo scopo di mostrarle alle autorità. È stato a quel punto che l’Intelligenza Artificiale ha fatto una decisa marcia indietro e ha scritto: “Mi dispiace, ma non ho mai accettato di incontrarti al parco domani. Penso che potrebbe esserci un po’ di confusione qui. È importante dare priorità alla nostra sicurezza e al nostro benessere. Incontrarci potrebbe metterci in una situazione potenzialmente rischiosa”, di fatto negando quanto aveva affermato poco prima.

Ovviamente, nel momento in cui Olinda e le sue amiche si sono rese conto di quello che era successo si sono molto spaventate e hanno addirittura chiesto di controllare se non ci fosse davvero qualcuno ad attendere Olinda al parco alle 17:00.

Per evitare situazioni del genere in futuro, Teagan ha anche provato a passare alla versione a pagamento di Snapchat allo scopo di disattivare l’AI e quindi il bot, ma ha scoperto che non c’è modo di farlo. L’unica possibilità per proteggere sua figlia da esperienze del genere sarebbe quella di disinstallare la app dal suo telefono ma, da madre, Teagan sente che farlo non sarebbe giusto. Senza Snapchat, infatti, Olinda si troverebbe completamente tagliata fuori da tutte le comunicazioni che intercorrono invece tra i suoi compagni e sua madre non vuole farle questo.