Ippocrate e il giuramento per chi fa l'IA

E' ora di finirla con la fede cieca nei dati. Qui il video da TED.

Questo trend si sta affermando tra gli esperti, non tra le persone.

In Spagna si propone un giuramento. Vediamo cosa dice:

Dice así:

• Recordaré que no he creado el mundo, y que este no satisface mis ecuaciones
• Aunque emplee audazmente modelos para estimar valor, no me dejaré impresionar excesivamente por las matemáticas
• Nunca sacrificaré la realidad por elegancia sin explicar por qué lo he hecho
• Tampoco proporcionaré a quienes usen mis modelos una falsa sensación de seguridad sobre su precisión, sino que haré explícitos supuestos y omisiones
• Reconozco que mi trabajo puede tener enormes efectos sobre la sociedad y la economía, muchos de ellos más allá de mi comprensión

“Se trata de una buena base filosófica”, dice O’Neil, “pero la autorregulación y unos valores sólidos solo contendrán a los escrupulosos”, advierte.

Traduciamo, molto liberamente:

• Ricordati che non hai creato il mondo e che il mondo non è una equazione
• Anche se i modelli aiutano, non lasciarti impressionare da essi
• La realtà vince sulle analisi
• A chi utilizza i risultati non darò la sensazione che valgano più di quello che valgono
• Ricordati che le tue analisi impattano sulla societa'

Queata è teoria, ma potrebbero restare solo scrupoli per qualcuno.

Nel 1996 scrivevo:

TITOLO I Principi generali
Art 1 Principi generali
Le telecomunicazioni sono risorsa dell'umanita'

1. Tramite le telecomunicazioni i cittadini esercitano i diritti di cui sono portatori2 e contribuiscono allo sviluppo personale e sociale, rispettando i doveri di tolleranza, rispetto3, osservanza delle leggi, degli usi e degli accordi negoziali.

L'idea era che quello che viene condiviso liberamente nel mondo resti libero. Io voglio diffondere una idea, sia essa una risorsa dell'umanita', ma anche il canale che la distribuisce deve essere considerato tale.

Qualcosa che oltre venti anni dopo, come allora, si fatica a capire.

Se si capisse che l'attuale IA è semplicemente sofisticata analisi statistica di big data, prodotti da milioni di utenti nel mondo, ci dovremmo chiedere se queste attività debbano "ritornare" i propri risultati a tutti, senza costruire posizioni di potere.

Ma qui stiamo guardando a quello che fra venti anni sarà ormai un gioco fatto.

Il tema è ancora più caldo quando parliamo degli aspetti legali. Questo post, interessantissimo, mostra tutti i limiti della discussione attuale. Mancano infatti prospettive più ampie (non si conoscono le altre responsabilità ex lege) e gli aspetti funzionali coinvolti. Probabilmente molti non intendono cosa significa applicare altre categorie legali e altri aspetti funzionali, ma il punto è proprio questo.