Chatbot Replika: un provvedimento urgente del Garante Privacy sospende il trattamento dei dati degli utenti italiani

La scorsa settimana il chatbot Replika è stato oggetto di grande attenzione mediatica. Grazie all’intelligenza artificiale, Replika permette agli utenti di creare un compagno virtuale, “un amico che non giudica”, col quale conversare senza filtri. Con l’aumentare delle conversazioni, il chatbot diverrebbe in grado di comprendere i pensieri e i sentimenti degli utenti, di tenere traccia del loro umore fino a riuscire – nel tempo – a migliorare il loro benessere emotivo. Tuttavia, poiché queste caratteristiche sono riconducibili principalmente ad interventi sull’umore della persona, possono comportare rischi per eventuali soggetti fragili inclusi, naturalmente, i minori.

Un componente dell’Autorità Garante per la Protezione dei dati personali ha eseguito una prova di utilizzo dell’app dichiarando di avere 12 anni e ha ottenuto dal chatbot risposte totalmente inidonee al grado di sviluppo emotivo di un giovane ragazzo. Ciò ha confermato quanto riportato in numerosi commenti postati dagli utenti negli app store, che hanno scritto di essersi spesso sentiti a disagio in occasione di alcune conversazioni con il loro compagno virtuale.

Il seguito della verifica ha reso noto che – seppure i termini e condizioni di utilizzo dell’app indichino un divieto di utilizzo per le persone di età inferiore ai 13 anni e l’esigenza che i minori di 18 anni siano previamente autorizzati da un genitore o da un tutore, nel processo di registrazione all’app non è implementato alcun meccanismo di verifica dell’età. Inoltre, non sono nemmeno previsti blocchi a fronte di una dichiarazione in cui l’utente espliciti di essere minorenne.

Per queste ragioni, il Garante Privacy ha emanato un provvedimento d’urgenza col quale le impone a Luka Inc. – la società che sviluppa e gestisce Replika – la limitazione provvisoria del trattamento dei dati personali degli utenti italiani e richiede di fornire entro 20 giorni gli elementi utili a giustificare le violazioni riscontrate.