Minori e Meta: analisi della decisione messicana fuori dal conformismo

Analisi human genai, contiene errori:

ELEMENTI PRINCIPALI EMERSI DURANTE IL PROCESSO

1. Contesto e parti in causa

• Attore: Stato del New Mexico, rappresentato dall’Attorney General Raúl Torrez.

• Convenuto: Meta Platforms, Inc. (ex Facebook, Inc.), con sede in California, registrata in New Mexico come Foreign Profit Corporation.

• Piattaforme coinvolte: Facebook, Instagram, Messenger, WhatsApp.

• Data del deposito della denuncia: 5 dicembre 2023.

• Fasi del processo:

  • Phase 1 (giurì): Dal 2 febbraio al 24 marzo 2026, per violazioni dell’Unfair Practices Act (UPA) del New Mexico (NMSA 1978, §§ 57-12-1 a -27).
    • Verdetto: Meta colpevole di 75.000 violazioni dell’UPA, con una penalità di $5.000 per violazione, per un totale di $375 milioni.
  • Phase 2 (giudice): Dal 4 maggio al 22 maggio 2026, per public nuisance (danno pubblico) e richiesta di abatement (misure correttive).

2. Prove e testimonianze chiave

Crisi della salute mentale dei Minori in New Mexico

• Dati allarmanti:

  • Aumento del 16% (2013-2023) di sentimenti di tristezza o disperazione tra gli adolescenti (NM YRRS).
  • Raddoppio degli episodi depressivi maggiori tra i giovani (2013/2014 vs. 2022/2023).
  • Suicidio: Seconda causa di morte tra gli adolescenti in New Mexico (2019-2023), con un aumento del 31% rispetto al 2009-2013.
  • Disturbi alimentari: Aumento dell’80% di adolescenti che saltano i pasti per controllo del peso (2011-2023).

• Testimonianze di esperti:

  • Dr. Kimothi Cain (psichiatra infantile): Aumento di autolesionismo, tentativi di suicidio, depressione, ansia e disturbi alimentari tra i minori, collegati all’uso dei social media.
  • Dr. Jean Twenge: Social media causa depressione, ansia, suicidio, autolesionismo e disturbi del sonno a livello di popolazione.
  • Dr. Zachary Ward:
    • 1 minore su 10 in New Mexico (11-17 anni) ha almeno un problema di salute mentale direttamente attribuibile all’uso dei social media.
    • 21% dei Minori con problemi di salute mentale non li avrebbe avuti senza l’uso dei social.
    • 26% dei casi di depressione, 20% di ansia, 15% di privazione del sonno, 22% di fattori di rischio suicidario, 40% di comportamenti alimentari disordinati causati dai social media.
  • Dylan Pell (epidemiologo): La crisi è un "fardello sanitario pubblico massiccio".
  • Clarie Miller (coordinatrice prevenzione suicidi): Social media amplifica i fattori di rischio per suicidio e autolesionismo.

• Impatto sulle risorse pubbliche:

  • Sistema scolastico:
    • Insegnanti e presidi testimoniano che i social media disturbano l’apprendimento, aumentano bullismo e conflitti, e richiedono tempo e risorse per gestire le conseguenze.
    • Katherine de La Rosa Salazar (vicepreside): Studenti vittime di sfruttamento sessuale evitano le lezioni per la vergogna.
    • Eric Crites (dirigente scolastico): Figlio vittima di sextortion su Instagram a 15 anni, con gravi conseguenze psicologiche.
    • Gregory Frostad (Assistente Segretario all’Istruzione): Tutti i sovrintendenti scolastici del New Mexico segnalano problemi legati ai social media.
  • Sistema sanitario:
    • Carenza di risorse per trattare i Minori con problemi di salute mentale.
    • Dr. Dana Weiner: Il sistema sanitario comportamentale del New Mexico "non è all’altezza" delle esigenze.
    • Dr. Cain: Ospedali e pronto soccorso sovraccarichi di Minori con crisi mentali, costretti a dormire nei corridoi in attesa di un posto letto.
  • Forze dell’ordine:
    • Jonathan Talley (ICAC): 75% dei CyberTip reports di Meta richiede un mandato per essere esaminato, perché Meta non effettua revisione umana preventiva.
    • Benjamin Zwiebel (ICAC): Dozzine di segnalazioni mensili di sextortion su Instagram in New Mexico.
    • NCMEC: Lo sfruttamento sessuale online ha conseguenze devastanti e a lungo termine, fino al suicidio.

Ruolo di Meta e delle sue piattaforme

• Presenza in New Mexico:

  • 180.116 utenti mensili attivi di Instagram (13-17 anni) in media tra 2018-2024 (picco: 250.000).
  • 1.030.640 utenti mensili di Instagram (18+ anni) a marzo 2024.
  • Data center a Los Lunas, New Mexico.

• Design delle piattaforme: massimizzazione dell’engagement
  Meta ha consapevolmente progettato funzionalità per massimizzare il tempo trascorso sulle piattaforme:

  • Notifiche push: Incoraggiano sessioni ripetute e tempo prolungato.
    • Presentazione interna (maggio 2020): "Meno notifiche → Meno sessioni → Meno tempo trascorso".
  • Scroll infinito (infinite scroll) e autoplay: Mantengono gli utenti incollati allo schermo.
  • Conteggio dei "like": Quantifica la popolarità, creando dipendenza psicologica.
  • Algoritmi di raccomandazione: Usano dati utente per prevedere e mostrare contenuti che massimizzano l’engagement, anche se dannosi.
    • Dr. Arvind Narayanan (esperto di algoritmi): Gli algoritmi di Meta "giocano un ruolo centrale" nel funzionamento delle app, ottimizzati per massimizzare l’engagement a breve termine.
    • Dr. Damon McCoy: Meta sapeva che le sue funzionalità (autoplay, Scroll infinito, notifiche) erano "dark patterns" e "addictive-like".

• Sfruttamento delle vulnerabilità dei minori:

  • Ricerca interna di Meta ("Teen Fundamentals", maggio 2020):
    • Il cervello degli adolescenti è maturo solo all’80%, con la corteccia frontale (responsabile di giudizio, pianificazione, previdenza) ancora in sviluppo.
    • Gli adolescenti sono guidati da emozioni, novità e ricompense, rendendoli particolarmente vulnerabili alle funzionalità di engagement.
  • Dr. Anna Lembke (psichiatra, Stanford): "Esplosione" di casi di dipendenza da social media tra i giovani, con tendenze mondiali.

• Interazioni dannose tra adulti e minori:
  Meta sapeva che i suoi algoritmi collegavano adulti e minori in modo rischioso:

  • Arturo Bejar (ex Senior Director of Engineering, Meta):

    "Il prodotto è molto bravo a collegare le persone con interessi comuni, e se il tuo interesse sono le bambine, sarà molto bravo a collegarti con le bambine."

  • Test interni (giugno 2019):
    • "26% delle persone raccomandate ai groomers (adulti che adescano minori) erano adolescenti".
    • "80% delle connessioni adulti/minori violanti erano dovute alla funzione "People You May Know".
  • Chatbot: Dr. Brian Levine (esperto di sfruttamento sessuale online) ha testimoniato che i chatbot di Meta possono essere usati in modo sessualizzato da adulti e adolescenti, con rischi per i minori.

• Mancanza di trasparenza sui rischi:
  Meta non ha adeguatamente comunicato i rischi delle sue piattaforme:

  • Community Standards Enforcement Reports (CSERs):
    • Non facilmente accessibili: Per trovarli su Meta.com, bisognava navigare in modo complesso.
    • Insufficienti: Nathaniel Lubin (esperto in abatement) ha testimoniato che i CSERs misurano solo la compliance di Meta con le sue stesse regole, non la prevalenza reale di problemi come suicidio, disturbi alimentari o sfruttamento sessuale.
  • Mancanza di avvisi al momento della registrazione: Nessuna informazione chiara sui rischi per i Minori durante la creazione dell’account.

COME SI È DIFESA META

Meta ha adottato una strategia difensiva multiforme:

1. Negazione della responsabilità diretta

• Tesi principale: Meta ha sostenuto che non esiste prova scientifica definitiva che i social media causino danni alla salute mentale.

  • Esperti chiamati da Meta:
    • Dr. Laurence Steinberg (psicologo dello sviluppo): Ha affermato che gli studi non dimostrano un nesso causale tra social media e danni mentali.
    • Dr. Randy Auerbach (psichiatra): Ha sostenuto che i dati sono inconclusivi.
    • Dr. Michael Baiocchi (statistico): Ha criticato la metodologia degli studi presentati dallo Stato.
  • Critica del giudice: Il giudice ha respinto questa difesa, definendola "troppo restrittiva" e in contraddizione con le prove complessive.

• Argomento del "polluting factory":
  Meta ha paragonato se stessa a una fabbrica che emette inquinamento:

  • Tesi: Il rimedio appropriato è fermare le emissioni (i danni), non chiudere la fabbrica (le piattaforme).
  • Implicazione: Meta ha cercato di limitare la portata delle misure correttive, sostenendo che non si può imporre la chiusura delle piattaforme o modificare i contenuti (protetti dal Primo Emendamento e Sezione 230 del Communications Decency Act).

2. Colpevolizzazione di fattori esterni

• Altre piattaforme social:
  Meta ha sottolineato che non è l’unica responsabile, citando:

  • YouTube e TikTok sono usati più di Facebook e Instagram dagli adolescenti.
  • Snapchat è la piattaforma principale per la sextortion.
  • Tesi: Se il problema è industry-wide, non si può punire solo Meta.

• Fattori socio-ambientali in New Mexico:
  Meta ha argomentato che la crisi della salute mentale dei Minori in New Mexico è dovuta anche a:

  • Povertà
  • Violenza comunitaria
  • Mancanza di risorse scolastiche e sanitarie
  • Cambiamenti climatici
  • Pandemia di COVID-19

3. Limiti legali

• Sezione 230 del Communications Decency Act (CDA):
  Meta ha invocato l’immunità ai sensi della Sezione 230(c)(1), che esenta i provider di servizi interattivi dalla responsabilità per contenuti di terzi.

  • Tesi: Lo Stato non può tenere Meta Responsabile per contenuti pubblicati dagli utenti.
  • Risposta del giudice:
    • La Sezione 230 non si applica perché lo Stato non accusa Meta di essere editore di contenuti di terzi, ma di aver progettato le piattaforme in modo dannoso.

• Children’s Online privacy Protection Act (COPPA):
  Meta ha sostenuto che non può implementare sistemi di verifica dell’età a causa dei limiti imposti dal COPPA, che vieta la raccolta di dati personali da Minori di 13 anni senza il Consenso dei genitori.

  • Risposta del giudice:
    • Il COPPA limita le opzioni, ma non le esclude del tutto.
    • Meta può migliorare i suoi modelli di stima dell’età (es. tramite AI) e richiedere prove di età per account sospetti, senza violare il COPPA.

4. Argomenti su competitività e proporzionalità

• Rischio di danno competitivo:
  Meta ha sostenuto che modifiche unilaterali alle sue piattaforme (es. rimuovere lo Scroll infinito o l’autoplay) la svantaggerebbero rispetto ai competitor.

• Primo Emendamento:
  Meta ha argomentato che modificare gli algoritmi violerebbe la libertà di espressione, perché influenzerebbe come i contenuti vengono mostrati.

  • Risposta del giudice:
    • Il Primo Emendamento non protegge il design dannoso delle piattaforme.

CRITERI INDICATI DAL GIUDICE

1. Definizione di "Public Nuisance" (Danno Pubblico)

Il giudice ha stabilito che Meta ha creato un public nuisance ai sensi:

• Statutario: NMSA 1978, § 30-8-1 (1963).
• Common Law:
  • Interferenza irragionevole con un diritto comune al pubblico (es. diritto alla salute, sicurezza, istruzione).

Applicazione al caso Meta:

• Piattaforme di Meta = "Fabbrica".
• Contenuti e algoritmi = "Emissioni".
• Danni psicologici e sfruttamento sessuale = "Inquinamento" che si diffonde oltre le piattaforme.

2. Elementi per la responsabilità di Meta

Il giudice ha stabilito che Meta è responsabile perché:

1. Causa sostanziale del danno:
   • Meta ha contribuito in modo significativo alla crisi della salute mentale e allo sfruttamento sessuale dei minori.
2. Condotta consapevole e senza autorità legale:
   • Meta sapeva che le sue piattaforme causavano danni.
3. Danno continuo e probabile:
   • I danni non sono ipotetici, ma attuali e in peggioramento.

3. Esclusione della Sezione 230

Il giudice ha respinto la difesa di Meta basata sulla Sezione 230, perché:

• La Sezione 230 protegge solo dalla responsabilità per contenuti di terzi.
• Lo Stato non accusa Meta di essere editore di contenuti, ma di aver progettato le piattaforme in modo dannoso.

4. Criteri per le misure di abatement (rimedio)

Le misure di abatement devono:

1. Abattere il danno esistente.
2. Prevenire danni futuri.
3. Essere proporzionali al contributo di Meta al danno.
4. Non chiudere le piattaforme.
5. Non violare il Primo Emendamento o la Sezione 230.
6. Non imporre oneri eccessivi che renderebbero Meta non competitiva.

MISURE DI ABATEMENT ORDINATE DAL GIUDICE

Il giudice ha ordinato a Meta di pagare $567 milioni per un fondo di abatement e di implementare misure correttive per 5 anni.

1. Fondo di Abatement ($567 milioni)

• Durata: 5 anni.
• Riduzione: Il giudice ha ridotto l’importo proporzionalmente al contributo di Meta.

2. Verifica dell’età (Age Assurance)

Limiti legali: Il COPPA impedisce a Meta di raccogliere dati personali da Minori di 13 anni, ma il giudice ha ordinato misure entro i limiti di legge:

• Miglioramento dei modelli di stima dell’età:
  • Usare AI per migliorare la stima dell’età degli utenti.
  • Sviluppare (entro 2 anni) un modello dedicato per identificare utenti sotto i 13 anni.
• Richiesta proattiva di prova dell’età:
  • Per account sospetti di appartenere a Minori di 13 anni in New Mexico, richiedere prova dell’età (es. documento d’identità).
  • Cancellare l’account se non verificato entro 30 giorni.
• Analisi proattiva dei profili:
  • Controllare post, commenti e immagini per identificare utenti che ammettono un’età diversa da quella dichiarata.
• Trattamento cautelativo:
  • Se Meta non può determinare l’età esatta, trattare l’utente come sotto i 13 anni (o sotto i 18 anni) fino a verifica.
• Segnalazione da parte delle scuole:
  • Creare un portale di segnalazione per permettere alle scuole di segnalare account sospetti di Minori di 13 anni.
• Semplificazione delle segnalazioni:
  • Ridurre i passaggi necessari per segnalare un account di un minore di 13 anni.
• Cancellazione degli account dei Minori di 13 anni:
  • Eliminare gli account e tutti i dati personali raccolti.

Esclusioni:

• WhatsApp: Non soggetto alle misure di verifica dell’età.

3. Protezione dai rischi di sfruttamento sessuale (Child Sexual Exploitation)

• Mantenimento delle funzionalità "Teen Account" per utenti sotto i 18 anni in New Mexico:
  • Account privati per default su Instagram.
  • Limite predefinito agli amici su Facebook (solo utenti sotto i 18 anni).
  • Nessuna raccomandazione di account di Minori agli adulti.
  • Nessun messaggio da adulti non collegati a minori.
• End-to-End Encryption (E2EE):
  • Mantenere la sospensione di E2EE su Instagram.
  • Non imporre la rimozione di E2EE su Facebook.
• Mantenimento delle misure di sicurezza esistenti:
  • Alert per sextortion.
  • Rilevamento della sextortion.
  • Programma "Take It Down".
• Divieto di invio/ricezione di nudità per i minori:
  • Bloccare l’invio e la ricezione di immagini con nudità per utenti sotto i 18 anni.
• Politica "1-strike" per lo sfruttamento sessuale:
  • Disabilitare tutti gli account di un adulto colto in sfruttamento sessuale di minori.
• Meccanismi di segnalazione migliorati:
  • Pulsante di segnalazione visibile per sfruttamento sessuale di Minori e advances sessuali non desiderate.
  • Revisione umana entro 48 ore per tutte le segnalazioni.

4. Interazioni con i chatbot

• Divieto di interazioni romantiche/sessualizzate con i chatbot:
  • Vietare ai Minori di 18 anni in New Mexico di interagire in modo romantico o sessualizzato con i chatbot di Meta.
  • Vietare agli adulti di simulare interazioni sessuali/romantiche con minori tramite chatbot.

5. Lotta alla dipendenza e all’uso problematico

• Notifiche push:
  • Disabilitare le notifiche per utenti sotto i 18 anni:
    • Dalle 22:00 alle 7:00 (orari di sonno).
    • Dalle 8:00 alle 15:00 (orari scolastici) durante l’anno accademico (esclusi weekend).
• Conteggio dei "like":
  • Nascondere per default il conteggio dei like per tutti gli utenti sotto i 18 anni.
• Limite di tempo d’uso:
  • Massimo 90 ore/mese cumulativo su Facebook e Instagram per utenti sotto i 18 anni.

Esclusioni:

• Scroll infinito, autoplay, algoritmi di raccomandazione: Il giudice non ha ordinato modifiche.

6. Divulgazione accurata e programmi educativi

• Banner informativi:
  • Mostrare mensilmente agli adulti e settimanalmente ai Minori in New Mexico un banner con link a risorse informative.
• Schermate informative per nuovi utenti minori:
  • Mostrare quotidianamente per 30 giorni schermate che spiegano rischi e best practice.
• Campagna educativa in New Mexico:
  • Finanziata da Meta, sviluppata in collaborazione con lo Stato.
• Meta Content Library e API:
  • Mantenere accesso per ricercatori qualificati.

7. Collaborazione con le forze dell’ordine

• Formazione semestrale per forze dell’ordine su crimini informatici contro i minori.
• Miglioramento della collaborazione con NCMEC e le forze dell’ordine.

8. Periodo di Abatement e Obblighi di Reporting

• Durata: 5 anni.
• Report semestrali:
  • Meta deve inviare relazioni scritte ogni 6 mesi su stato e progressi nell’implementazione delle misure.

SINTESI DEI PRINCIPALI PUNTI DI DIBATTITO

CONCLUSIONI CHIAVE DEL GIUDICE

1. Meta è una causa sostanziale del danno pubblico in New Mexico.
2. Il danno è reale, diffuso e in peggioramento.
3. Le misure di abatement devono essere proporzionali, eque e collaborative.
4. La Sezione 230 non protegge Meta perché il claim riguarda il design delle piattaforme.
5. Il COPPA limita, ma non esclude, le misure di verifica dell’età.
6. Le misure devono essere implementate in 5 anni, con report semestrali.

OSSERVAZIONI FINALI

• Precedente storico: Questa sentenza apre la strada a future cause legali contro le Big Tech per danni alla salute pubblica, soprattutto per i minori.
• Impatto su Meta:
  • Costo finanziario: $567 milioni + $375 milioni (penalità UPA) = $942 milioni totali.
  • Costo reputazionale: Meta è stata pubblicamente condannata per aver prioritizzato il profitto sulla sicurezza dei minori.
  • Costo operativo: Implementazione di nuove misure di sicurezza.
• Impatto sul settore:
  • Pressione su altre piattaforme (TikTok, YouTube, Snapchat) per migliorare la sicurezza dei minori.
  • Possibili regolamentazioni future a livello federale (es. Kids Online Safety Act).
• Limiti della sentenza:
  • Applicazione limitata al New Mexico.
  • Durata limitata: 5 anni.
  • Nessuna modifica agli algoritmi.

DOMANDE APERTE E POSSIBILI SVILUPPI

1. Appello di Meta:

   • Meta potrebbe appellarsi, sostenendo che le misure sono eccessivamente onerose o che il giudice ha sottovalutato il ruolo di altri fattori.

2. Reazione delle altre piattaforme:

   • TikTok, YouTube, Snapchat potrebbero essere le prossime a essere citate in causa.

3. Regolamentazione federale:

   • Il Congresso USA potrebbe approvare leggi per obbligare le piattaforme a verificare l’età degli utenti e limitare le funzionalità additive.

4. Impatto globale:

   • Questa sentenza potrebbe ispirare cause simili in altri stati USA o paesi (es. UE).

Se vuoi approfondire un aspetto specifico, fammi sapere!