Intelligenza artificiale e algoritmi nel diritto: gravi rischi

Due interessanti articoli arrivano parallelamente sul mio feed Linkedin.

Il primo articolo parla di un software per prevedere l'assegno divorzile.

1) Da Altalex: Re Mida e il calcolo dell'assegno divorzile.

Re Mida, per chi lo conosce, e'un software "storico".

D'Aietti, il suo papà, da tempo ha sviluppato un calcolo degli interessi.

Io per il calcolo del danno biologico sviluppai il primo software di calcolo di danni giudiziari,  nel mio piccolo, in vb1.0 per windows, una versione vecchissima.

Poi anche il calcolo degli interessi.

Oggi Re Mida parte da una analisi di tante decisioni (che io non sono riuscito a raccogliere, nonostante abbia cercato di coinvolgere avvocati specializzati e magistrati che se ne occupano) per arrivare ad una parametrazione omogenea nazionale come per il danno biologico.

Nelle more ho raccolto le best practices dei tribunali e sottolineato che al momento il calcolo era troppo aleatorio, e che spesso impoveriva l'ex marito che finiva alla mensa dei poveri.

Un software avrebbe evitato tante rovine personali.

Oggi c'e' la sensibilità a criteri unificati per l'assegno divorzile, ma ancora gli operatori faticano. Re Mida e' l'ottima occasione per confrontarsi seriamente con un collega che possa aiutare a non commettere piu' ingiustizie.

Il segreto: un software che aiuta le parti, gli avvocati, i giudici. Poi decideranno con le loro teste.

Parallelamente l'Europa crea una carta etica sulla intelligenza artificiale nel diritto, che copia male il GDPR.  

2) Carta Etica Europea su AI e diritto

Sia ben chiaro: quando si parla di bisogno di etica nel diritto ci si nasconde dietro ad un dito.

Se si parla di etica si nasconde che le norme non sono adeguate, e si rinvia ad una generica eticità che non puo' essere la norma giuridica, ma il fondamento di una norma. A meno che non vogliamo creare diritto incerto nell'applicazione, ma qui lascio spazio ai filosofi del diritto, mi basta ricordare le basi.

Cosa leggo nella proposta ? Il Gdpr, sostanzialmente. E per giunta solo in parte.

Ma soprattutto un approccio che delega le decisioni ad un computer, salvo un controllo posteriore.

E' il male.

Sono sviluppatore, capitemi  bene.

Vi faccio un esempio. Ad una vedova arriva l'ennesima lettera dall'INPS che annuncia che si riprenderà 4.000 euro all'anno perche' ha un reddito maggiore. La vedova non ha un reddito maggiore. Va dall'operatore e questo risponde: "Non lo so, lo dice il computer".

E' la regola: se  il computer non spiega la scelta, l'operatore non la cerca.

E' emergenza culturale.

Un computer non puo' dire una cosa senza spiegarla e argomentarla, e permettere di smontare la sua decisione.

Un computer che consiglia e' sicuramente indispensabile. Doveroso. Che prenda la decisione di riprendersi soldi senza un controllo preventivo umano, inaccettabile. 

E' solo una mentalità da legislatore fiscaiolo quella che dice che i dati sono sempre esatti, e sarà il  cittadino a dimostrare l'errore. No. Lo Stato deve sapere che gli errori si commettono e correggerli in autonomia, poi commettere errori umani, ma non permettere ad un computer di fare migliaia di errori simili. Oltretutto e' un costo.

Tu che sei qui e leggi queste idee falle tue, o comunque discutile con i tuoi colleghi.

Sono anni che i temi qui proposti cambiano in meglio il mondo del diritto.

Io ho fatto la mia, ora sta a te.

Vuoi un computer che emetta un decreto ingiuntivo senza passare da una parte umana terza prima che venga emesso, o vuoi un algoritmo che suggerisca soluzioni, senza prenderle, ed effettui i controlli migliori allo stato dell'arte, spiegando quali ha fatto ?

Nel mio software sul danno biologico, come in Re Mida, ogni passaggio e' spiegato, per poter controllare i conteggi e i criteri di calcolo.

Vorremmo fregarcene nel momento in cui si da' tutto all'intelligenza artificiale che e' una non intelligenza e per di piu' statistica ?

I primi tentativi di soluzione nel settore assicurativo sono di 15 anni fa, negli Stati Uniti. In Italia non hanno attecchito. Erano un ausilio, sostituivano la parte tediosa della trattativa, aiutavano a velocizzarla. Ma dietro c'erano sempre esseri umani.

Vogliamo una informatica che sostituisca l'inefficenza degli esseri umani o li aiuti a essere meno inefficienti ?

Questa, questa si', e' etica.