Bias cognitivi

Se cerchiamo di tradurre Bias con Deepl ci restituisce "sbieco".

Decisamente non ci siamo.

Bias e' un pregiudizio, nel senso letterale. Qualcosa che precede il giudizio, qualcosa che diamo per scontato e come base di ulteriori ragionamenti.

Ad esempio: le donne guadagnano meno degli uomini, quindi sono sfruttate. I poveri non hanno nulla da perdere, quindi ci fregano.

Cosa c'e' di razionale, di verificato ? Ci sono piccolissime alterazioni della interpretazione della realtà (effettivamente le donne guadagnano meno, ma questo comporta automaticamente sfruttamento o ricorso al part time ? Il part time e' una scelta o una imposizione ?). Il fatto e' reale. L'interpretazione con un piccolissimo errore stravolge il senso della realtà.

Non e' vero neanche questo: come per tutte le abitudini (i pregiudizi sono abitudini mentali), possono servire per andare oltre piu' velocemente o per costruire castelli ingannevoli. Lo sanno bene i truffatori: 99% delle informazioni sono vere, ma con l'1% ti fanno apparire ovvia una interpretazione credendo di non doverla verificare.

OSINT (open source intelligence) e' il mettere al vaglio di un controllo scientifico tramite fonti indipendenti e aperte. Un modo per controllare argomentazioni e fatti.

C'e' tempo per controllare tutto ? Spesso no. Cosi' accettiamo un bias e su quello prendiamo decisioni avventate. Estrarre una scelta dal contesto del bias significa rendere doloso qualcosa che nasce come colpa magari lieve, se non distrazione o disinteresse.

I Bias cognitivi sono quindi pregiudizi.

E' ancora poco studiato, ma nell'intelligenza artificiale generativa e nelle interfacce conversazionali il bias non riguarda solo i modelli generativi, ma anche il client finale: l'uomo, che attribuisce una qualità e autorevolezza alla risposta fornita dalla macchina "solo perchè ha valutato molti piu' fatti di quanti mai potremmo valutarne noi".

In poche parole non solo la macchina restituisce i modelli cognitivi raccolti e interpretati con quella che viene chiamata intelligenza sociale (tanti la pensano in un modo); ma anche gli utenti danno un valore diverso a quello che è scritto, astraendolo dalla fonte, dall'autore e dal contesto.

Se la forma e il contesto sono particolari (ia generativa, plain text) assumiamo che la risposta sia vera perche' particolarmente espressa in forma chiara da non apparire piu' una semplificazione o piuttosto una risposta legata ad un contesto che sappiamo esistere, ma ci sfugge di fronte alla sorprendente chiararezza della IA generativa.

"Se lo dice il computer, sarà vero": questo bias influenza l'utente nel momento della lettura di risposte anche ovvie. Potremmo pensare di poter chiedere ad un panettiere come si progetta una centrale nucleare ? Perche' pensiamo di poter chiedere ad un chatbot una consulenza legale sulla nostra capacità ad usarlo ? Perche' presupponiamo che la macchina ci capisca sempre come vogliamo noi.

Ahime', non solo i partner, ma anche le macchine non sono onniscienti e non capiscono tutto quello che diciamo.

Uno dei bias piu' riconosciuti e' chiedere informazioni esatte ad una intelligenza artificiale generativa, nata per parlare in modo statisticamente apprezzato, non necessariamente corretto.

Ecco che si parla, in gergo tecnico, di "allucinazioni". Quelle della macchina sono facilmente verificabili, quelle umane difficilmente accettate.

I Bias cognitivi sono usati spesso per ingannare estraendo dal contesto in modo da cambiarne senso.

Nella privacy possono essere responsabili della sottovalutazione del rischio o enfatizzati fino al punto di diventare errori sui dati, piuttosto che sulle elaborazioni degli stessi.

Il metodo della trasparenza vuole evitare l'amplificazione di trattamenti basati su metodologie "sbagliate" perche' alterano i dati. In realtà la definizione di "sbagliato" e' legata al contesto. E' noto il caso dell'algoritmo per le microtransazioni finanziarie che presupponeva un mercato tranquillo. In presenza di una bancarotta improvvisa l'algoritmo, invece di cautelare gli investitori, ampliava e accelerava le perdite.

Si tratta quindi di presupposti, a volte espliciti ma non necessariamente, che pero' non arrivano all'utente finale per suo disinteresse o perchè evidenziare ogni rischio significherebbe sottovalutare colpevolmente i benefici. Un po' come i genitori non ricordano ai figli adulti di fare attenzione ai semafori rossi, cosi' come invece fanno con i figli piccoli.

Bias e trasparenza quindi sono due poli opposti che possono aiutarsi per migliorare quello che in diritto viene chiamato: "lo stato dell'arte".