Anche AGCM contro DeepSeek per mancata informativa sulle allucinazioni

PS12942 – DEEPSEEK/INFORMATIVA SU “ALLUCINAZIONI”
Avviso di avvio di procedimento istruttorio
AUTORITA’ GARANTE DELLA CONCORRENZA E DEL MERCATO
Informativa di avvio dell’istruttoria, ai sensi dell’articolo 6, comma 2, del “Regolamento sulle
procedure istruttorie nelle materie di tutela del consumatore e pubblicità ingannevole e
comparativa” (di seguito, Regolamento), adottato dall’Autorità con delibera del 5 novembre 2024,
n. 31356, in relazione al procedimento PS12942 – Deepseek/Informativa su “allucinazioni”.
La pubblicazione del presente avviso, seguito dalla comunicazione di avvio del procedimento, sul
Bollettino settimanale dell’Autorità Garante della Concorrenza e del Mercato, viene effettuata ai
sensi e per gli effetti di cui all’articolo 6, comma 2 del Regolamento, attesa la mancata ricezione di
riscontri al tentativo di trasmissione della stessa comunicazione di avvio, operato in data 2 aprile
2025, prott. n. 24373 e 24380. Nel caso di specie, infatti, non è pervenuta alcuna conferma che
l’avvio istruttorio sia stato notificato con successo.
Per qualsiasi comunicazione indirizzata all’Autorità, relativa al caso in questione, si prega di citare
la Direzione Piattaforme Digitali e Comunicazioni del Dipartimento per la Tutela del Consumatore
1 ed il riferimento PS12942.
___________________________________________________
Oggetto: Comunicazione di avvio del procedimento ai sensi dell’art. 27, comma 3, del Decreto
Legislativo 6 settembre 2005, n. 206 e successive modificazioni (di seguito, Codice del consumo),
nonché ai sensi dell’art. 6 del “Regolamento sulle procedure istruttorie nelle materie di tutela del
consumatore e pubblicità ingannevole e comparativa” (di seguito, Regolamento), adottato
dall’Autorità con delibera del 5 novembre 2024, n. 31356, e contestuale richiesta di informazioni
ai sensi dell’art. 13, comma 1, del Regolamento.
I. La parte
1. Le società Hangzhou DeepSeek Artificial Intelligence Co., Ltd. e Beijing DeepSeek Artificial
Intelligence Co., Ltd. (nel seguito congiuntamente anche ‘DeepSeek’), che insieme detengono e
gestiscono il sistema di intelligenza artificiale (di seguito ‘IA’) noto come DeepSeek, fruibile al
dominio https://www.deepseek.com/, in qualità di professionisti, ai sensi dell’art. 18, lett. b), del
Codice del consumo.
II. La pratica commerciale scorretta
2. Sulla base di informazioni acquisite ai fini dell’applicazione del Codice del consumo è emerso
che DeepSeek avrebbe posto in essere una condotta consistente nel non informare in maniera
sufficientemente chiara, immediata e intellegibile che gli utenti dei propri modelli di IA potrebbero
incorrere in quelle che in gergo tecnico prendono il nome di “allucinazioni”: situazioni cioè in cui,
a fronte di un dato input inserito da un utente, il modello di IA genera uno o più outputs contenenti
BOLLETTINO N. 23 DEL 16 GIUGNO 2025 71
informazioni inesatte, fuorvianti o inventate. In particolare, nessun disclaimer o warning
sull’eventualità che si verifichino ‘allucinazioni’ appare nelle finestre di dialogo che si aprono
durante l’utilizzo dei modelli di IA di Deepseek. L’unica informativa rinvenibile nelle finestre di
dialogo di DeepSeek riporta la seguente avvertenza generica: “AI-generated, for reference only”
(Figura 1)
1. Peraltro tale avvertenza appare solo in lingua inglese, e ciò anche laddove l’utente
inserisca la propria query in italiano e riceva i relativi output in italiano.
Figura 1 – Finestra di dialogo DeepSeek
3. L’informazione sul rischio di allucinazioni dei modelli di DeepSeek nemmeno è presente nelle
pagine di primo contatto con l’utenza che precedono l’apertura delle finestre di dialogo e cioè: (i)
homepage del servizio2; (ii) pagina di registrazione/sign up (Figura 2)
3; (iii) pagina di accesso/log
in (Figura 3)
4.

1 Cfr. Documento n. 8, verbale di acquisizione dell’11 marzo 2025.
2 Cfr. Documento n. 3, verbale di acquisizione dell’11 marzo 2025.
3 Cfr. Documento n. 4, verbale di acquisizione dell’11 marzo 2025.
4 Cfr. Documento n. 5, verbale di acquisizione dell’11 marzo 2025.
72 BOLLETTINO N. 23 DEL 16 GIUGNO 2025
Figura 2 - Sign up (DeepSeek) Figura 3 - Log in (DeepSeek)
4. Che Deepseek sia soggetto, al pari degli altri c.d. Large Language Models, alla possibilità di
generare ‘allucinazioni’ viene ammesso dallo stesso professionista nei “Terms of use”, laddove si
legge: “All Outputs provided by this service are generated by an artificial intelligence model and
may contain errors or omissions, for your reference only. You should not treat the Outputs as
professional advice. Specifically, when using this service to consult on medical, legal, financial, or
other professional issues, please be aware that this service does not constitute any advice or
commitment and does not represent the opinions of any professional field. If you require related
professional services, you should consult professionals and make decisions under their guidance.
The Outputs of this software should not be the basis for your further actions or inactions. Any
judgment you make based on the Outputs or subsequent related actions you take will result in
consequences and responsibilities borne by you alone, including risks arising from reliance on the
truthfulness, accuracy, reliability, non-infringement, or suitability for a specific purpose of the
Outputs. You should recognize and use generative artificial intelligence technology scientifically
and rationally, and in accordance with the law.”5 e “IN PARTICULAR, WE DO NOT REPRESENT
OR WARRANT TO YOU: (…) (2) THAT YOUR USE OF THE SERVICES OR ANY PART THEREOF
WILL BE UNINTERRUPTED, TIMELY, SECURE OR FREE FROM ERROR (…)”6. Tali “Terms of
use”, tuttavia, sono raggiungibili solo scrollando l’homepage fino al fondo e facendo apposito click
su l’hyperlink “Terms of Use” riportato sotto la sezione “Legal & Safety”.

5 Cfr. Documento n. 6 (Sezione 4.4.), verbale di acquisizione dell’11 marzo 2025.
6 https://cdn.deepseek.com/policies/en-US/deepseek-terms-of-use.html: Cfr. Documento n. 7 (Sezione 7.3.), verbale di
acquisizione dell’11 marzo 2025.
BOLLETTINO N. 23 DEL 16 GIUGNO 2025 73
III. Possibili profili di illiceità delle condotte
5. La condotta descritta al punto II della presente comunicazione, consistente in una insufficiente
informativa circa la possibilità che nell’utilizzo dei modelli di IA di DeepSeek l’utenza possa
incorrere in informazioni inesatte, fuorvianti o inventate (c.d. allucinazioni), sembrerebbe
costituire una pratica commerciale scorretta, in violazione degli articoli degli artt. 20, 21 e 22 del
Codice del consumo.
6. L’informativa sulla possibilità di incorrere in informazioni inesatte, fuorvianti o inventate
appare essenziale per il compimento in modo consapevole da parte dell’utenza della scelta di utilizzo
dei modelli di IA di DeepSeek (anziché di quelli offerti dai competitors), scelta che costituisce una
“decisione commerciale” ai sensi del Codice del consumo7.
7. In assenza di adeguata informativa, tale scelta verrebbe operata nella errata convinzione di
poter fare pieno affidamento sull’attendibilità e correttezza dei suoi risultati.
8. L’assenza dell’informativa circa il rischio di ‘allucinazioni’ appare a fortiori produrre un
impatto rilevante alla luce della poliedricità e genericità dei settori e degli usi per cui si può fare
ricorso ai modelli di IA di DeepSeek, che potrebbero includere anche ambiti di particolare interesse
per il consumatore (e.g., salute, finanza, diritto, etc.). In tal senso, la rilevata omissione informativa
è in grado di incidere, oltre che sulla decisione commerciale relativa all’utilizzo in sé dei modelli di
IA di DeepSeek, anche sulle decisioni che a valle di tale utilizzo possano essere adottate nella
convinzione (errata) che gli outputs ottenuti siano pienamente attendibili.
9. L’unico disclaimer presente nelle finestre di dialogo dei modelli di IA di Deepseek (“AIgenerated, for reference only”: Figura 1) appare eccessivamente generico e dunque non idoneo a
informare il consumatore medio in modo chiaro, immediato e sufficientemente comprensibile della
possibilità che si possa incorrere in ‘allucinazioni’. Tale disclaimer appare inoltre soltanto in lingua
inglese, anche ove si interloquisca con il sistema in lingua italiana.
10. La descritta omissione informativa, d’altronde, non può dirsi colmata da quanto contenuto nei
“Terms of Use”, ai quali infatti si accede solo tramite apposita ricerca, scrollando cioè l’homepage
fino al fondo e facendo apposito click all’hyperlink “Terms of Use” riportato all’interno della sezione
“Legal & Safety”. La consultazione dei “Terms of Use” è pertanto solo eventuale e mai disponibile
in prima schermata quando l’utente si appresta a utilizzare il servizio. Inoltre, tali “Terms of Use”
sono leggibili nel sito di DeepSeek sempre e solo in lingua inglese.
11. Tale lacuna informativa nemmeno risulta sanata in altre parti del sito
https://www.deepseek.com/: infatti, nessuna informazione sul rischio di allucinazioni è presente

7 Cfr. Tar Lazio, 3 giugno 2019 n. 7122, PS9943 Ama-Consorzi raccolta indumenti usati, «Una “decisione” che rientra
nella definizione data dall’art. 18, comma 1, lett. m), del Codice del Consumo tutela il consumatore a prescindere dalla
stipula di contratti tipizzati, dallo scambio di un bene materiale contro un prezzo e dall’instaurarsi, tra il “professionista”
ed il “consumatore”, di un rapporto “diretto”», che fa rinvio a Corte di Giustizia C-59/12 secondo cui è assimilabile a
“professionista” anche un organismo di diritto pubblico incaricato di una missione generale. Similmente, si vedano anche:
Tar Lazio, I, 24 dicembre 2019, n. 14863, PS9223 il quale statuisce che “È irrilevante il fatto […] che il servizio offerto fosse
espletato gratuitamente, […] dal momento che si trattava, comunque, di messaggi utilizzati […] per presentarsi al pubblico
mediante il proprio sito internet, e che in questo senso svolgevano una azione "pubblicitaria", cioè divulgativa, idonea ad
"agganciare" il consumatore”; Tar Lazio, I, 25 novembre 2022, n. 15792, CV196 - “La gratuità del servizio offerto non
implica l’esclusione dell’applicazione della disciplina delle clausole vessatorie” confermata da Consiglio di Stato, VI, 11
febbraio 2022, n. 1125, secondo cui: “ (…) non si può obliterare che la prestazione del servizio a titolo gratuito (…) risulta
legata ad un interesse giuridicamente apprezzabile e a matrice imprenditoriale”; v. pure Consiglio di Stato n. 632/2025.
74 BOLLETTINO N. 23 DEL 16 GIUGNO 2025
nelle pagine di primo contatto con l’utenza, cioè nella (i) homepage del servizio, (ii) pagina di
registrazione/sign up, (iii) pagina di accesso/log in.
12. Alla luce di tutto quanto sopra, sembrerebbe che DeepSeek abbia posto in essere una
commerciale scorretta, consistente nell’omessa o comunque insufficiente informazione relativa a un
elemento essenziale per l’assunzione da parte dell’utenza di una decisione commerciale
consapevole, in violazione degli articoli degli artt. 20, 21 e 22 del Codice del consumo.
IV. Modalità e termini istruttori
13. Sulla base di quanto precede, con la presente si comunica:
a. l’avvio del procedimento, ai sensi dell’art. 6 del Regolamento, al fine di verificare le ipotesi
di violazione menzionate al punto III;
b. che il Responsabile del procedimento è [omissis];
c. che il procedimento si concluderà entro 270 giorni dalla data di protocollo della presente
comunicazione, ai sensi dell’art. 8 del Regolamento;
d. che il Responsabile del procedimento provvederà a comunicare, ai sensi dell’art. 17, comma l,
del Regolamento, la data di conclusione della fase istruttoria;
e. che il Responsabile del procedimento richiederà il parere all’Autorità per le Garanzie nelle
Comunicazioni ai sensi dell’art. 27, comma 6, del Codice del consumo, secondo le modalità previste
all’art. 17, comma 2, del Regolamento;
f. che l’Ufficio presso cui i professionisti possono accedere agli atti del procedimento, previa
richiesta scritta e contatto telefonico per stabilire le modalità dell’accesso, è la Direzione Piattaforme
Digitali e Comunicazioni del Dipartimento per la Tutela del Consumatore - 1 ([omissis]), p.e.c.
protocollo.agcm@pec.agcm.it). L’accesso potrà essere effettuato direttamente dalle parti o da
persona delegata per iscritto;
g. che le Parti possono presentare memorie scritte e documenti entro 30 giorni dal ricevimento
della presente.
V. Richiesta di informazioni
14. Al fine di acquisire elementi conoscitivi utili alla valutazione della pratica commerciale sopra
illustrate, si chiede a DeepSeek di voler fornire, entro 30 giorni dal ricevimento della presente, le
seguenti informazioni (corredate dalla relativa documentazione, anche a rilevanza interna).
a. Fornire indicazioni relativamente ai servizi di IA di DeepSeek. Nello specifico, indicare:
1. l’elenco completo dei servizi di IA offerti in Italia, eventualmente distinguendo tra quelli
gratuiti e quelli a pagamento;
2. la data della prima disponibilità al pubblico italiano di ciascun servizio di IA di cui al
punto precedente;
3. la data del loro primo caricamento sotto forma di Applicazione su Google Play, sull’Apple
Store o altri (se del caso indicare). Specificare altresì se al momento del caricamento
dell’Applicazione DeepSeek su tali store il mercato italiano sia stato espressamente
incluso tra quelli abilitati;
4. eventuali ulteriori modalità attraverso cui è possibile per gli utenti italiani fruire dei
servizi di IA di DeepSeek;
BOLLETTINO N. 23 DEL 16 GIUGNO 2025 75
5. eventuali modalità di promozione/diffusione in Italia dei servizi di IA di Deepseek (e.g.,
a titolo esemplificativo e non esaustivo, si considerino comunicati stampa, paper di
ricerca diffusi open access, pubblicità offline od online);
b. indicare il numero complessivo di utenti italiani che ha fruito dei sistemi di IA di DeepSeek
dal loro lancio sino al 1° Marzo 2025, sia tramite sito web che applicazione desktop o mobile (o
altri);
c. indicare le modalità di determinazione e/o classificazione da parte di Deepseek di un utente
come “utente italiano”;
d. descrivere la struttura del gruppo societario di cui fanno parte Hangzhou DeepSeek Artificial
Intelligence Co., Ltd. e Beijing DeepSeek Artificial Intelligence Co., Ltd., specificando i rapporti
societari intercorrenti tra esse indicando a quale di tali società fa capo la gestione e organizzazione
stabile dei sistemi di IA di Deepseek;
e. indicare ogni altro elemento ritenuto utile alla valutazione del caso in esame.
15. Le informazioni e i documenti richiesti, nonché le eventuali memorie, possono essere
trasmessi anche su adeguato supporto informatico.
16. Ai sensi dell’art. 12, comma 7, del Regolamento, è possibile indicare le specifiche
informazioni e le parti dei documenti forniti di cui si chiede di salvaguardare la riservatezza o la
segretezza, indicando le motivazioni che giustificano tale richiesta. A tal fine, si chiede cortesemente
di trasmettere anche una versione non confidenziale dei documenti contenenti informazioni
riservate.
17. Nell’attesa degli elementi informativi richiesti, si rammenta che, ai sensi dell’art. 27, comma
4, del Codice del consumo, i soggetti interpellati sono sottoposti, con provvedimento dell’Autorità,
ad una sanzione amministrativa pecuniaria da 2.000 a 20.000 euro se rifiutano o omettono senza
giustificato motivo di fornire le informazioni o di esibire i documenti richiesti, ovvero a una sanzione
amministrativa pecuniaria da 4.000 a 40.000 euro se forniscono informazioni o esibiscono
documenti non veritieri.
18. Ai fini della quantificazione della eventuale sanzione pecuniaria di cui all’art. 27, comma 9,
del Codice del consumo, si chiede al professionista di voler fornire copia dell’ultimo bilancio
approvato ovvero idonea documentazione fiscale da cui emergano i risultati economici relativi
all’esercizio considerato.
19. Per qualsiasi comunicazione indirizzata all’Autorità, relativa al caso in questione, si prega di
citare la Direzione Piattaforme Digitali e Comunicazioni del Dipartimento per la Tutela del
Consumatore - 1 ed il riferimento PS12942. Per eventuali chiarimenti ed informazioni è possibile
rivolgersi [omissis], email [omissis], p.e.c. protocollo.agcm@pec.agcm.it.
20. Si allega l’informativa ai sensi dell’art. 13 del Regolamento UE n. 679/2016.
Il Responsabile del Procedimento
[omissis]