I provvedimenti spiegati alle aziende
con guide, checklist, modelli; AI assisted
Osservatorio a cura del dott. V. Spataro 



   algoritmi 2024-03-22 ·  NEW:   Appunta · Stampa · Cita: 'Doc 98392' · pdf

AGCM: TikTok non raccomandi video di autolesionismo

abstract:



AGCM con un ruolo sempre piu' protagonista nella tutela dei consumatori e non solo dei loro dati. Comunicato che apre le porte ad alcuni principi di diritto da applicare quotidianamente nelle aziende che usano il web.

E' applicazione delle netiquette, le consuetudini cogenti del web: hai il potere / dovere di controllo. Non di censura. Inoltre e' ora di aprire le aziende ad una gestione completa del supporto clienti.

Analisi in area riservata con 1 strategia di gestione degli algoritmi da implementare in 3 direzioni.

Bene i giornali che raccontano il lavoro di AGCM, il nostro antitrust.

Fonte: agcm
Link: https://agcm.it/media/comunicati-stampa/2024/3/PS1




analisi:

L'analisi è riservata agli iscritti. Segui la newsletter dell'Osservatorio oppure il Podcast iscrizione gratuita 30 giorni

.. ......

.... .... .. ..............., .'.... .. ..... . ........ ... ... ... ......... ... ........ .'...... ... ..........

... ....... .. .... .. ..... ......... .......... ... ....... ..... .......... .. ... ... ........... . ......... ......... ........ . ....... ... . .... ......, .. ......... .... ...........

.' ............ ..... .........., .. ............ ....... ... ...: .. .. ...... / ...... .. ..........

... .. .......:

  • .. ......... .......... ......... .......... ...' .. ....., .. ........... ...... ...... ... ....... ...........
  • .. ... ......... ... ....... ..... ........., .. ........
  • .. ... ..... .......... ........, .. .........

.' ... .. ...... .. ....... .. ... ........ ........ ... ........ ........




index:




testo:

R

Risultano inadeguati i controlli della società sui contenuti che circolano sulla piattaforma, in particolare quelli che possono minacciare la sicurezza di soggetti Minori e vulnerabili. Inoltre questi contenuti vengono sistematicamente riproposti agli utenti a seguito della loro Profilazione algoritmica, stimolando un uso sempre crescente del social network.

 L’Autorità Garante della Concorrenza e del Mercato ha irrogato una sanzione di 10 milioni di euro in solido a tre società del gruppo Bytedance Ltd, ovvero l’irlandese TikTok Technology Limited, la britannica TikTok Information Technologies UK Limited e l’italiana TikTok Italy Srl.

L’attività istruttoria ha consentito di accertare la responsabilità di TikTok nella diffusione di contenuti - come quelli relativi alla challenge “cicatrice francese” - suscettibili di minacciare la sicurezza psico-fisica degli utenti, specialmente se Minori e vulnerabili. Inoltre, TikTok non ha assunto misure adeguate ad evitare la diffusione di tali contenuti, non rispettando pienamente le Linee Guida di cui si è dotata e che ha reso note ai consumatori rassicurandoli che la piattaforma è uno spazio “sicuro”. Le Linee Guida vengono infatti applicate senza tenere in adeguato conto la specifica vulnerabilità degli adolescenti, caratterizzata da peculiari meccanismi cognitivi dai quali derivano, ad esempio, la difficoltà a distinguere la realtà dalla finzione e la tendenza ad emulare comportamenti di gruppo.

Infine, i contenuti - pur essendo potenzialmente pericolosi - sono diffusi tramite un “sistema di raccomandazione” basato sulla Profilazione algoritmica dell’utenza, che seleziona costantemente quali video destinare a ciascun consumatore nelle sezioni denominate “Per Te” e “Seguiti”, con l’obiettivo di aumentare le interazioni tra utenti e il tempo speso sulla piattaforma così da accrescere la redditività degli introiti pubblicitari. Ciò causa un indebito condizionamento degli utenti che vengono stimolati ad adoperare sempre di più la piattaforma.

Roma, 14 marzo 2024

Estratti:

  • b) La presenza di contenuti pericolosi su TikTok, le insufficienti iniziative assunte rispetto ai video relativi alla cicatrice francese e la riproposizione dei contenuti tramite il sistema di raccomandazione 20. La presenza su TikTok di contenuti pericolosi e l’impatto negativo dei social media ha assunto rilevanza mediatica e solleva preoccupazioni tra gli specialisti in campo medico40. A partire dal 5 febbraio 202341 è diventata virale la sfida relativa alla “cicatrice francese – french scar”, avente ad oggetto la diffusione di video di ragazzini che si procurano e insegnano a procurarsi un segno rosso sullo zigomo, evidente e duraturo, come se si trattasse di un’ampia cicatrice.
  • Più in generale, l’esigenza di effettuare un controllo stringente sui contenuti di TikTok discende dai meccanismi cognitivi dei ragazzi e adolescenti, e dall’importanza per i giovani di appartenere ad un gruppo tramite l’adozione di comportamenti emulativi di “leader”, anche virtuali. L’adolescente ha una capacità limitata di valutare le conseguenze delle proprie azioni; la capacità di discernimento, infatti, si acquisisce a livello neurologico solo nell’età adulta, considerato che il sistema nervoso raggiunge l’apice del proprio sviluppo intorno all’età di 30 anni. I ragazzi presentano poi maggiori difficoltà degli adulti nel distinguere la realtà dalle suggestioni della finzione; stante l’assenza di strumenti di inibizione generazionale, i giovani tendono a prendere decisioni più avventate degli adulti, dettate anche dal loro senso di onnipotenza. A livello neurologico la dipendenza dai dispositivi elettronici è analoga a quella dalle sostanze stupefacenti. Per derivare piacere si necessita di un uso sempre maggiore dello strumento, con una ricerca compulsiva (c.d. craving); le aree del cervello che si attivano in caso di astinenza da strumenti elettronici sono analoghe a quelle interessate da astinenza da sostanze stupefacenti. Negli ultimi anni l’utilizzo medio giornaliero dei dispositivi elettronici è di 7-8 ore e ciò desta preoccupazioni, considerato che il fenomeno dell’autolesionismo nei giovani ha subito un incremento enorme: prima della...
  • I video relativi alla cicatrice francese hanno passato il vaglio del processo di revisione automatizzata che sarà descritto in seguito in quanto, a detta delle Parti, non contengono contenuti che violano le Linee Guida47
  • o. Ciò in quanto tali video non promuoverebbero condotte che pongono a rischio la vita umana e non mostrerebbero gesti collegati a problemi psichici, ma riprodurrebbero un comportamento indotto dal mero desiderio di apparire interessanti4
  • A partire dal [omissis] - solo quando il fenomeno ha assunto rilevanza
    mediatica - TikTok ha posto in essere “a titolo precauzionale” le seguenti
    misure:

  • ha escluso i suddetti video segnalati dal feed “per te”; - ne ha impedito l’accesso ai Minori di 18 anni; - ha inserito per gli utenti maggiori di 18 anni un “warning label” nella parte inferiore dello schermo, che avvisa che “la partecipazione a questa attività potrebbe causare pericoli a te o ad altri” 49. Tali iniziative hanno riguardato solo i video “segnalati” dagli utenti o “selezionati in modo proattivo” da TikTok50. 23. I potenziali effetti dannosi dei contenuti presenti su TikTok, amplificati dalla riproposizione di contenuti simili più volte a uno stesso utente, sono stati rappresentati direttamente anche da esponenti del settore medico ed operatori nel settore dell’etica dell’intelligenza artificiale (come l’International Association for Suicide Prevention e il Digital Wellness Lab del Boston Children’s Hospital51).
  • 43. Le motivazioni circa l’inadeguatezza del sistema di moderazione di TikTok e le altre iniziative volte a rendere sicura la piattaforma sarebbero carenti, posto che non verrebbero forniti elementi relativi agli standard dell’industria e che non sarebbero stati valutati oggettivamente gli elementi prodotti da TikTok nel corso del procedimento. I professionisti danno risalto ad alcuni dati forniti nel corso del procedimento che non sarebbero stati valorizzati adeguatamente dagli uffici, affermando che si sarebbe omesso di considerare il numero di video rimossi, la rapidità della loro rimozione, l’articolata serie di misure assunte, nonché di effettuare un confronto con le misure adottate dalle altre piattaforme. A tal proposito, nelle memorie finali le Parti fanno riferimento alle informazioni relative agli “statement of reasons” del “DSA Transparency Database”85, al fine di affermare la superiorità dell’attività svolta da TikTok, rispetto ad altre piattaforme, nel monitoraggio dei contenuti. Inoltre, il numero di video rimossi, relativi alla categoria “atti e sfide pericolose” e alla cicatrice francese, sarebbe stato valutato insufficiente senza far riferimento ad alcun parametro di confronto oggettivo. Le valutazioni espresse nella comunicazione delle risultanze istruttorie circa le modalità di selezione dei moderatori si baserebbero su una erronea interpretazione delle informazioni fornite dalle Parti; ciò, unitamente alla circostanza che la moderazione umana ha inciso più della rimozione automatizzata, renderebbe infondata la contestazione circa la presenza di carenze nelle modalità di implementazione nella moderazione umana. 44. Con particolare riferimento alla vicenda relativa alla cicatrice francese, le Parti producono la perizia di un medico legale86 che afferma che dal punto di vista biologico la partecipazione alla challenge in questione si limita a produrre effetti effimeri, reversibili e non pericolosi per la salute. Non vi sarebbe induzione all’autolesionismo perché non c’è una lesione in senso giuridico e legale. In ogni caso, TikTok ritiene di essere intervenuto in modo immediato per precludere integralmente la visione dei contenuti in questione ai giovani utenti.


Link: https://agcm.it/media/comunicati-stampa/2024/3/PS1

Testo del 2024-03-22 Fonte: agcm




Commenta



i commenti sono anonimi e inviati via mail e cancellati dopo aver migliorato la voce alla quale si riferiscono: non sono archiviati; comunque non lasciare dati particolari. Si applica la privacy policy.


Ricevi gli aggiornamenti su AGCM: TikTok non raccomandi video di autolesionismo e gli altri post del sito:

Email: (gratis Info privacy)






Nota: il dizionario è aggiornato frequentemente con correzioni e giurisprudenza