Secondo Reuters Il governo italiano ha preso la decisione perché il chatbot potrebbe rappresentare un rischio per “giovani in via di sviluppo o emotivamente instabili”. Lo sviluppatore del chatbot viene multato di dieci milioni di euro. Per evitare ciò, Replika non può più trattare i dati degli utenti italiani a tempo indeterminato. Inoltre, il Garante per la protezione dei dati personali ha richiesto l’immediata attuazione delle modifiche.

Secondo la legge europea, servizi come Replika (anche se socialmente responsabili) non sono autorizzati a raccogliere dati da minori. Per il semplice motivo che le persone di età inferiore ai 18 anni non possono concludere contratti. Inoltre, l’agenzia governativa italiana sostiene che i minori possono utilizzare il servizio senza la supervisione dei genitori perché non è richiesta la verifica dell’età. E anche se i bambini dicono al chatbot che non sono abbastanza grandi, non ci sarà alcun sistema per interrompere il contatto o terminare il servizio.

Replika come strumento per i giovani

In questo caso, potresti chiederti se il diritto europeo non vada molto oltre. Un numero crescente di giovani alle prese con problemi di salute mentale ha bisogno dell’ascolto o del consiglio di un consulente (digitale) confidenziale. Il Garante per la protezione dei dati personali vede Replica come un prodotto sanitario, soggetto in molti casi a condizioni rigorose (giustamente).