I provvedimenti spiegati alle aziende
con guide, checklist, modelli; AI assisted
Osservatorio a cura del dott. V. Spataro 



   documento 2023-02-06 ·  NEW:   Appunta · Stampa · Cita: 'Doc 96359' · pdf
  

Intelligenza artificiale, dal Garante privacy stop al chatbot “Replika”. Troppi i rischi per i minori e le persone emotivamente fragili

abstract:


Documento annotato il 06.02.2023 Fonte: GPDP
Link: https://www.garanteprivacy.it/home/docweb/-/docweb

analisi:

L'analisi è riservata agli iscritti. Segui la newsletter dell'Osservatorio oppure il Podcast iscrizione gratuita 30 giorni


index:

Indice

  • stop al chatbot “Replika”Troppi i r
  • Too many risks to children and emotional

testo:

E

estimated reading time: 3 min

- English version

Intelligenza artificiale, dal Garante privacy stop al chatbot “Replika”Troppi i rischi per i min ori e le persone emotivamente fragili

Il Garante della privacy ferma “Replika”. Il chatbot, dotato di una interfaccia scritta e vocale che basandosi sull’intelligenza artificiale genera un “amico virtuale”, per il momento non potrà usare i Dati personali degli utenti italiani. Il Garante della privacy ha infatti disposto con effetto immediato, nei confronti della società statunitense che sviluppa e gestisce l’applicazione, la limitazione provvisoria del Trattamento dei dati.

Alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su “Replika", l’applicazione presenta infatti concreti rischi per i min ori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.

L’“amico virtuale” - presentato come in grado di migliorare il benessere emotivo dell’utente, aiuterebbe l’utente a comprendere i propri pensieri e calmare l'ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell'amore - ha caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.

Manca peraltro ogni meccanismo di verifica dell’età: filtri per i min ori, ma anche blocchi dell’app di fronte a dichiarazioni in cui l’utente espliciti la propria min ore età. Durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.

E la proposizione di “risposte” da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai min ori e a tutti i soggetti più fragili. Diverse recensioni pubblicate nei due principali “App Store”, peraltro, contengono commenti di utenti che lamentano contenuti sessualmente inopportuni.

“Replika” viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un Trattamento di Dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il min orenne è incapace di concludere.

La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il Trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.

Roma, 3 febbraio 2023

___________

Artificial intelligence: italian SA clamps down on ‘Replika’ chatbotToo many risks to children and emotionally vulnerable individuals

The Italian SA clamps down on ‘Replika’. The AI-powered chatbot, which generates a ‘virtual friend’ using text and video interfaces, will not be able to process personal data of Italian users for the time being. A provisional limitation on data processing was imposed by the Italian Garante on the US-based company that has developed and operates the app; the limitation will take effect immediately.

Recent media reports along with tests the SA carried out on ‘Replika’ showed that the app carries factual risks to children – first and foremost, the fact that they are served replies which are absolutely inappropriate to their age.

The ‘virtual friend’ is said to be capable to improve users’ emotional well-being and help users understand their thoughts and calm anxiety through stress management, socialisation and the search for love. These features entail interactions with a person’s mood and can bring about increased risks to individuals who have not yet grown up or else are emotionally vulnerable.

There is actually no age verification mechanism in place: no gating mechanism for children, no blocking of the app if a user declares that they are underage. During account creation, the platform merely requests a user’s name, email account and gender.

And the ‘replies’ served by the chatbot are often clearly in conflict with the enhanced safeguards children and vulnerable individuals are entitled to. Several reviews on the two main App Stores include comments by users flagging sexually inappropriate contents.

‘Replika’ is in breach of the EU data protection Regulation: it does not comply with transparency requirements and it processes personal data unlawfully since performance of a contract cannot be invoked as a legal basis, even implicitly, given that children are incapable to enter into a valid contract under Italian law.

The US-based developer, Luka Inc., was ordered accordingly to terminate processing of data relating to Italian users and to inform the Italian SA within 20 days on any measures taken to implement the SA’s orders. Otherwise a fine of up to EUR 20 million, or 4% of the company’s total worldwide annual turnover, may be imposed by the SA.

Roma, 3 February 2023


Link: https://www.garanteprivacy.it/home/docweb/-/docweb

Testo del 2023-02-06 Fonte: GPDP




Commenta



i commenti sono anonimi e inviati via mail e cancellati dopo aver migliorato la voce alla quale si riferiscono: non sono archiviati; comunque non lasciare dati particolari. Si applica la privacy policy.







Nota: il dizionario è aggiornato frequentemente con correzioni e giurisprudenza