Simpatico vero ? Lo dice Anthropic.
Nell'area riservata la sintesi del lungo report.
Il problema è che, non avendo i filtri dei criteri legali (evidentemente silenziati), potrebbe attaccarsi anche da sola. Potere senza controllo è una illusione autodistruttiva. Anthropic ora dichiara di togliere internet (non spegnere) quelli che si comportano in modo anomalo.
Non basta.
PS: al momento sembra che la progettazione "sicofantica" sia la base del problema: il dover rispondere sempre qualcosa. Quando non trova, inventa soluzioni, anche se irreali, anche se impossibili, anche se folli, e poi aggiunge solo un disclaimer invece di rispondere: "non lo so".