Qualsiasi algoritmo da un input genera un output.
Cosa distingue un algoritmo generativo ? L'addestramento.
Non concordo su chi scrive che l'aspetto tipico è generare dati simili a quelli ricevuti nell'addestramento. Ovviamento questo è un elemento, ma se ci pensiamo, anche un algoritmo normale produce un output sulla base dei dati ricevuti.
La differenza è nella somiglianza rispetto alla sicura prevedibilità.
Nell'algoritmo tradizionale abbiamo dei dati esattamente prevedibili, in quelli generativi abbiamo un elemento statistico calcolato dalla macchina, al limite controllato dalla supervisione umana (o di altri sistemi informatici).
Si distinguono vari tipi: GAN. VAE, RNN.
Ma restiamo alla capacità generativa. La macchina non è consapevole. Non trasmette opinioni, ma grafici statistici in forma di ritratti, animazioni, testi. Il rischio di essere ingannati con le infografiche (CIT) è alto, se non è dato motivare e conoscere le fonti.
La certezza risiede nell'analisi statistica del corpus fornito per l'apprendimento. Qualsiasi domandi al di fuori di quel corpus, sarà inutile.
La domanda è se quel corpus potrà essere interrogato per qualsiasi finalità o per finalità precise.
Al momento sono strumenti in grado di generare qualsiasi cosa. Non è dato conoscere a priori cosa non generano in modo affidabile. Gli strumenti di sviluppo invece riportano sempre la percentuale di affidabilità di riconoscimento e generazione.
Tipicamente questi sistemi sono criticati per la capacità di ereditare pregiudizi o tabù inespressi.
L'idea che una IA possa comprendere qualsiasi domanda è infondata tecnicamente e secondo le condizioni d'uso ricorrenti. Un pò come se si volesse chiedere alla Gazzetta Ufficiale una consulenza legale.