Social Scoring

Tema assai controverso: tutti uguali davanti alla legge.

E' anche vero che la legge distingue le persone: i meno abbienti possono, a determinate condizioni, accedere ad alloggi pubblici.

Questi criteri sono determinati da leggi. In contesti territoriali limitati si chiede alle aziende informatiche di adottare ulteriori criteri sulla base di ulteriori dati. L'obiettivo e' quello di elargire sovvenzioni a chi veramente ne ha bisogno.

Tuttavia l'allargamento dei criteri rispetto a quelli strettamente indicati da una norma nazionale rende questi trattamenti pericolosi perche' automaticamente discriminatori.

La nozione di discriminazione, laddove e' necessario discriminare, e' qualcosa da considerare in questa ottica: con criteri diversi da quelli previsti, e comunque nel rispetto dei diritti umani secondo le autorità europee.

L'Olanda se ne occupa spesso. Ecco il comunicato stampa tradotto con Edge.

AP vuole chiarimenti sull'algoritmo di frode per i comuni
Comunicato stampa/16 maggio 2023Categoria:AI e algoritmiSupervisione dell'algoritmoComuniPagamento
Il DPA ha chiesto a 5 comuni chiarimenti sull'uso della "scorecard delle frodi". Questo è un algoritmo che mappa i rischi di frode da parte delle persone che beneficiano di prestazioni di sicurezza sociale.

I resoconti dei media e i segnali del FNV rivelano un quadro preoccupante che l'AP ha motivo di agire su questo.

La scorecard delle frodi è descritta come un sistema automatizzato che assegna ai beneficiari del welfare un punteggio basato su caratteristiche personali, come l'occupazione, l'area residenziale e il livello di istruzione. Il punteggio dovrebbe indicare se queste persone hanno un rischio maggiore di frode.

Sentenza della Corte
I 5 comuni avrebbero continuato a utilizzare l'algoritmo, nonostante la precedente giurisprudenza su Syri che l'utilizzo di un tale sistema viola la legge sulla privacy GDPR. E nonostante un appello dell'Associazione dei comuni olandesi (VNG) a fermarsi. I comuni si sarebbero fermati solo dopo le notizie critiche dei media.

Monique Verdier, vicepresidente dell'AP: "Molti casi passano esclusivamente attraverso il governo. Come cittadino, non hai libertà di scelta. Di conseguenza, sei costretto a sottoporti al Trattamento dei dati da parte del governo. Questo è precisamente il motivo per cui devi essere in grado di fidarti ciecamente che ciò sia fatto correttamente. Che il governo non memorizzi ed elabori informazioni su di te inutilmente. E questa discriminazione non ha alcun ruolo nei tuoi contatti con il governo".

Cronaca
L'AP vuole chiarimenti dai comuni. Entro 2 mesi devono riferire al DPA sul loro metodo di lavoro.

I comuni devono includere nel rapporto il parere del loro supervisore interno indipendente della privacy, il Responsabile della protezione dei dati (DPO). Nel fare ciò, devono indicare cosa hanno fatto con questo consiglio in quel momento.

Devono inoltre indicare se i cittadini hanno subito danni finanziari e, in caso affermativo, a quanto ammonta. E cosa faranno i comuni in caso di danni.

Dopo che i comuni hanno riferito al DPA, il DPA decide se sono necessarie azioni di follow-up e, in caso affermativo, quali.

Supervisione degli algoritmi
Nella vicenda delle indennità, l'indagine dell'AP ha rivelato un algoritmo discriminatorio dell'amministrazione fiscale e doganale. Il governo ha quindi istituito una commissione statale contro la discriminazione e il razzismo.

Al DPA è stato affidato il compito di dare una spinta alla supervisione degli algoritmi. E rafforzare la cooperazione reciproca dei vari supervisori degli algoritmi. L'obiettivo è rafforzare il controllo dell'uso degli algoritmi, combattere la discriminazione e l'arbitrarietà e promuovere la trasparenza.