Intelligenza artificiale e algoritmi nel diritto: gravi rischi

Due interessanti articoli arrivano parallelamente sul mio feed Linkedin^ .

Il primo articolo parla di un software per prevedere l'assegno divorzile^ .

1) Da Altalex: Re Mida e il calcolo dell'assegno divorzile^ .

Re Mida, per chi lo conosce, e'un software "storico"^ .

D'Aietti, il suo papà, da tempo ha sviluppato un calcolo degli interessi^ .

Io per il calcolo del danno biologico sviluppai il primo software di calcolo di danni giudiziari,  nel mio piccolo, in vb1^ .0 per windows, una versione vecchissima^ .

Poi anche il calcolo degli interessi^ .

Oggi Re Mida parte da una analisi di tante decisioni (che io non sono riuscito a raccogliere, nonostante abbia cercato di coinvolgere avvocati specializzati e magistrati che se ne occupano) per arrivare ad una parametrazione omogenea nazionale come per il danno biologico^ .

Nelle more ho raccolto le best practices dei tribunali e sottolineato che al momento il calcolo era troppo aleatorio, e che spesso impoveriva l'ex marito che finiva alla mensa dei poveri^ .

Un software avrebbe evitato tante rovine personali^ .

Oggi c'e' la sensibilità a criteri unificati per l'assegno divorzile, ma ancora gli operatori faticano^ . Re Mida e' l'ottima occasione per confrontarsi seriamente con un collega che possa aiutare a non commettere piu' ingiustizie^ .

Il segreto: un software che aiuta le parti, gli avvocati, i giudici^ . Poi decideranno con le loro teste^ .

Parallelamente l'Europa crea una carta etica sulla intelligenza artificiale nel diritto, che copia male il GDPR^ .  

2) Carta Etica Europea su AI e diritto

Sia ben chiaro: quando si parla di bisogno di etica nel diritto ci si nasconde dietro ad un dito^ .

Se si parla di etica si nasconde che le norme non sono adeguate, e si rinvia ad una generica eticità che non puo' essere la norma giuridica, ma il fondamento di una norma^ . A meno che non vogliamo creare diritto incerto nell'applicazione, ma qui lascio spazio ai filosofi del diritto, mi basta ricordare le basi^ .

Cosa leggo nella proposta ? Il Gdpr, sostanzialmente^ . E per giunta solo in parte^ .

^ Ma soprattutto un approccio che delega le decisioni ad un computer, salvo un controllo posteriore^ .

E' il male^ .

Sono sviluppatore, capitemi  bene^ .

Vi faccio un esempio^ . Ad una vedova arriva l'ennesima lettera dall'INPS che annuncia che si riprenderà 4^ .000 euro all'anno perche' ha un reddito maggiore^ . La vedova non ha un reddito maggiore^ . Va dall'operatore e questo risponde: "Non lo so, lo dice il computer"^ .

E' la regola: se  il computer non spiega la scelta, l'operatore non la cerca^ .

E' emergenza culturale^ .

Un computer non puo' dire una cosa senza spiegarla e argomentarla, e permettere di smontare la sua decisione^ .

Un computer che consiglia e' sicuramente indispensabile^ . Doveroso^ . Che prenda la decisione di riprendersi soldi senza un controllo preventivo umano, inaccettabile^ . 

E' solo una mentalità da legislatore fiscaiolo quella che dice che i dati sono sempre esatti, e sarà il  cittadino a dimostrare l'errore^ . No^ . Lo Stato deve sapere che gli errori si commettono e correggerli in autonomia, poi commettere errori umani, ma non permettere ad un computer di fare migliaia di errori simili^ . Oltretutto e' un costo^ .

Tu che sei qui e leggi queste idee falle tue, o comunque discutile con i tuoi colleghi^ .

Sono anni che i temi qui proposti cambiano in meglio il mondo del diritto^ .

Io ho fatto la mia, ora sta a te^ .

Vuoi un computer che emetta un decreto ingiuntivo senza passare da una parte umana terza prima che venga emesso, o vuoi un algoritmo che ^ suggerisca soluzioni, senza prenderle, ed effettui i controlli migliori allo stato dell'arte, spiegando quali ha fatto ?

Nel mio software sul danno biologico, come in Re Mida, ogni passaggio e' spiegato, per poter controllare i conteggi e i criteri di calcolo^ .

Vorremmo fregarcene nel momento in cui si da' tutto all'intelligenza artificiale che e' una non intelligenza e per di piu' statistica ?

I primi tentativi di soluzione nel settore assicurativo sono di 15 anni fa, negli Stati Uniti^ . In Italia non hanno attecchito^ . Erano un ausilio, sostituivano la parte tediosa della trattativa, aiutavano a velocizzarla^ . Ma dietro c'erano sempre esseri umani^ .

^ Vogliamo una informatica che sostituisca l'inefficenza degli esseri umani o li aiuti a essere meno inefficienti ?

Questa, questa si', e' etica^ .