Vedi quella nuvola a forma di gabbiano ?
Quella che sembra un ufo ?
Le abbiamo viste tutti.
Il nostro cervello cerca di semplificare quello che vede.
Alla complessità rispondiamo con semplificazioni. L'idea delle icone, dei simboli, dei geroglifici, dei segnali stradali.
Nella intelligenza artificiale si parla erroneamente di allucinazioni, mentre è l'uomo che da sempre dà il senso alle cose.
Noi diamo il nome alle cose, ed è una semplificazione.
Ora anche le macchine danno un nome a quello che leggono, e sono token che noi non capiamo ma che a loro servono per identificare statisticamente cosa differenzia un cane da un gatto.
Tuttavia la AI non è una attività autonoma di una macchina. E' una risposta ad una richiesta umana.
E' una conversazione, e la macchina deve rispondere sempre.
Nella conversazione anche noi possiamo introdurre pregiudizi.
L'incoerenza delle risposte, di qualsiasi tipo, è solo la non coincidenza tra quanto realmente ci aspettiamo e quello che la macchina ha capito.
In poche parole la macchina non capito cosa le chiediamo, e risponde con allucinazioni.
Alle sue allucinazioni noi reagiamo con l'orgoglio della razza superiore che capisce e dà forma all'incomprensione banalizzando, invece di analizzare i token e i quesiti che abbiamo messo in azione noi stessi.