Civile.it
Civile.it
Grazie per l'invito alla newsletter, Michele Iaselli
A proposito del contenuto sopra indicato.
Il 12 e 14 luglio 2022 scrivevo a padre Benanti cosa si sarebbe potuto fare per tracciare la logica delle risposte in un llm.
Da qualche anno abbiamo dei modelli di reasoning che sono dei gioiellini, anche se nessuno va a guardarsi l'output.
Ma anche se non ci fosse il reasoning, perchè non chiedere alla macchina perchè risponde come risponde ? E magari discuterne con la macchina ?
Questo il software tradizionale non lo consente di fare.
Forse però e meglio non consigliarlo in pubblico, perchè in realtà la macchina è influenzata troppo dalla domanda, e realizzare un prompt neutro non è proprio alla portata di tutti. Se uno vuole ottenere una spiegazione, è un attimo ricevere una conferma viziata, anche usando termini apparentemente neutri.
Per farla breve: se abbiamo un diritto di avere spiegazioni, abbiamo il dovere di chiederle (o andarle a leggere nel reasoning).
E comunque abbiamo il dovere di dubitare anche di queste risposte, non il diritto di prenderle per corrette. Un pò come nella vita reale.
Se poi vogliamo usare una calcolatrice bene. Ma un llm non è una calcolatrice. E' una macchina bravissima a prendere i nostri pregiudizi.
Solo pochi giorni fa leggevo una persona lamentarsi dell'incapacità di un llm di invertire la risposta data ad una precedente domande. Io ho ottenuto al volo l'inversione delle parole, per poi sentirmi dire che si volevano le lettere tutte al contrario. E io che pensavo la domanda si potesse confondere con l'invertire il senso della risposta.
Insomma: senza esempi concreti verificabili, attribuire ad un sistema di ai o ad un llm (due cose totalmente diverse) l'incapacità di spiegare le risposte, è innegabilmente giusto.
Ma siamo noi a dover scegliere domande e dover valutare se accettare le risposte per buone.
Non la macchina a doversi difendere preventivamente da qualsiasi obiezione. Altro è il sicofantismo, un dark pattern, che non c'entra nulla sul ragionamento.
Potrei citare anche una mia ricerca su come un llm ha rifiutato di darmi retta in una tesi minoritaria, spiegandomi come sbagliavo. Averlo messo di fronte all'evidente incorenza della tesi maggioritaria, ha ribadito la sua senza rispondermi. Finchè alla fine ha dovuto accettare che quello che dicevo io era coerente (senza che glielo suggerissi, naturalmente, altrimenti mi trovavo la spiegazione bella e pronta).
Non ragionano. Mettono insieme connessioni di astrazioni linguistiche. Token e embeddings.
Che significa che non dobbiamo chiedere come ragiona. Non ragiona (anche se lo chiamiamo per semplicità reasoning). Dobbiamo chiedergli quali relazioni tra le nozioni che ha individuato (due domande in una) sono alla base del suo output.
Piuttosto voglio provocare il lettore fino in fondo: vi siete già chiesti che tipo di spiegazione vogliamo ?
Grazie per lo spunto.