Ciao, Replika: perché il chatbot AI è stato bloccato e quali saranno le conseguenze

L’intelligenza artificiale (AI) ha spopolato sul web negli ultimi mesi, dimostrando a più di uno scettico le potenzialità quasi illimitate (e per certi versi spaventose) di questi strumento informatico, capace di mimare in modo impressionante il comportamento umano. 


L’ascesa vertiginosa di queste piattaforme sembra però aver portato ad una prima stretta legislativa, volta a tutelare gli utenti dai rischi legati all’uso di questi chatbot. Il primo sito a pagare le conseguenze di questo tentativo di regolazione è stato Replika, bloccato con effetto immediato dal Garante per la Protezione dei Dati Personali (GPDP) il 2 febbraio. 


Considerando la natura del provvedimento, apparso come un proverbiale “fulmine a ciel sereno”, sorge quindi spontaneo porsi diverse domande: perché Replika è stato bloccato? Sarà possibile tornare a usare il servizio? Sono previste conseguenze anche per gli altri strumenti di intelligenza artificiale? 


Cos’è Replika?

Prima di discutere di implicazioni etiche, privacy, intelligenza artificiale e dati sensibili è necessario spiegare cos’è Replika ed i motivi del boom di utilizzi anche in Italia.


Sviluppato da Luka Inc, società statunitense che produce prodotti AI per il mercato dei consumatori privati, Replika è un chatbot che sfrutta l’intelligenza artificiale per replicare realisticamente il comportamento di un essere umano, adattando progressivamente le proprie risposte in base alle reazioni e alle informazioni ricevute dalle persone.

Concretamente, l’applicazione utilizza l’AI per fornire all’utente una sorta di “amico cibernetico” con cui discutere ad ogni ora, “senza giudizio, dramma o ansia sociale coinvolti” (come riportato dalla descrizione presente sullo store Google).


Non servono quindi spiegazioni dettagliate per spiegare il successo di un’applicazione simile anche in Italia: la facilità d’utilizzo dell’app, unita alla novità del concetto e al suo innegabile potenziale (chi non vorrebbe avere un “amico” sempre disponibile?) hanno portato Replika ad ammassare milioni di download sulle piattaforme online.


Sorge quindi spontaneo chiedersi il motivo di un gesto così radicale da parte del Garante Privacy: entriamo quindi nel dettaglio della sentenza e gettiamo luce sul lato “oscuro” di questo applicativo.


Perché il Garante Privacy ha bloccato Replika?

Come ogni intelligenza artificiale, Replika impara come rispondere ad un input (in questo caso una frase) attraverso ciò che viene fornito dagli utenti stessi. 

Appare però evidente come questo fattore sia un’arma a doppio taglio, soprattutto sul web: se grazie all’apprendimento di quello che dicono le persone Replika può emulare sempre meglio il comportamento umano, dall’altro lato l’AI fa molta fatica a non ascoltare i cattivi consigli.


Questo rende Replika potenzialmente molto pericoloso per persone appartenenti a categorie “sensibili” (come bambini, adolescenti o anziani) o con problemi di salute mentale, che paradossalmente dovrebbero trarre i maggiori benefici da questo tipo di applicazione. 


Sulla base di questa criticità e in seguito a diversi articoli giornalistici delle scorse settimane, in cui sono stati riportati diversi casi di molestie e proposte inadatte a qualsiasi pubblico, il Garante Privacy ha deciso di intervenire per sventare potenziali rischi.

Tra le motivazioni indicate nel provvedimento del 2 febbraio vengono sottolineati diversi aspetti preoccupanti, tra cui:

  • l’assenza di controlli adeguati sull’età: negli store l’applicazione viene indicata come idonea per persone con più di 17 anni, mentre nei termini di servizio del sito web il divieto risulta invece per minori di 13 anni. Oltre a ciò, l’applicazione non prevede controlli d’età in fase di iscrizione o limitazioni per minori;
  • la presenza di un numero allarmante di recensioni che lamentano molestie subite dal chatbot;
  • grosse falle nella privacy policy: l’applicazione non parla esplicitamente di diversi aspetti fondamentali dal punto di vista della privacy  e del trattamento dati (soprattutto dei minori), violando diversi articoli del Regolamento in materia;

Quali sono state le misure adottate nei confronti di Replika?

Con il già citato provvedimento del 2 febbraio, il Garante Privacy ha bloccato in maniera provvisoria il sito web e le app, dando agli sviluppatori 20 giorni per indicare quali provvedimenti verranno presi per sistemare le criticità riscontrate e giustificare la violazione del Regolamento. Luka Inc. avrà la possibilità di presentare ricorso in tribunale entro 60 giorni dalla ricezione del provvedimento.

Nel caso in cui la società non comunicherà quanto richiesto dal Garante non mancheranno sanzioni salatissime, che potranno arrivare a 20 milioni di euro o il 4% del fatturato globale annuo.

Cosa succederà a servizi simili di chat?

Non abbiamo una sfera di cristallo, ma il provvedimento nei confronti di Replika preannuncia sicuramente una stretta delle autorità italiane nei confronti di questi applicativi, ritenuti pericolosi dal punto di vista dei contenuti e del trattamento dati.

La limitazione di Replika sarà allo stesso tempo un monito per tutti i produttori di chatbot in circolazione, che dopo questo episodio non dimenticheranno di inserire degli opportuni controlli d’età sulle loro applicazioni.

Related Posts

Leave a Reply