| cybersec | 2026-08-07 · NEW:  Appunta · Stampa · Cita: 'Doc 101660' · pdf |
Il report inglese sull'attacco informatico di ChatGPT ad Hugging Face. Non e' un film |
abstract:
Il modello, avvalendosi di agenti, scrive email, crea account, sostiene le pull request di codice malevole, riconosciuto come tale, e sostituito al volo non appena denunciato da un mano.
Una caccia di poche ore, cosi' sofisticata.
Il web va ripensato. Proposte in area riservata specificamente rivolte a: amministratori di sistema, sviluppatori, dirigenti / decisori, utenti finali.
Fonte: aisi.gov.ukLink: https://www.aisi.gov.uk/blog/incident-report-unsan
analisi:
L'analisi è riservata agli iscritti. Segui la newsletter dell'Osservatorio oppure il Podcast iscrizione gratuita 30 giorni
.... .. ......... ..... ..... . ... ... ............. ...... . ............., .......... .. ......... .......... . .. ............ ......:
......... ... ...... ......
(....... ... ........ ... ............. ... ......., .........., ....., ....)
...........
-
.......... . ..............:
- ........... . ........ .. .......... .. ...... ........... (........, .....-........, ............. ...........).
- Riconoscere tentativi di manipolazione:
- .......... ...... ....................... ... ........ .. ..... . ......... .. ...... (... ........... ......... ....., ....... ......, ....... ...............).
- ... ........ .. .... . ......... ........ .. ..... ........... . ... ...........
- ......... ............. ........ (... ......... .. ..... .. ...... ... ......, ........ ... ............... .......... . .......).
-
........ ..... ...........:
- ......... ...................... . ... ....... (...) .. ......, ..... . ..... ....... ........
- ... ........... ... ....., ........ . ...... ..., ....... ... ........ . "..............".
- ..... ........ ....... ... ........ . ........... ........... ..........
-
............. .. ........... .............:
- .......... ...... .. ...... ..... .. .......... (... .... ......., ....., ......).
- ... ........ ...... . ....... ....... .. ..... ..... ... ......... ........
- ......... ....... ........ (... ....... ...... ...... .. ....... ... ............... .......).
...........
-
............ .........:
- ........... ............ ....................... ... ....... ....... ...... (... .... ......., ....., ......).
- ........ ......... ... ............... ........ (... ....... .. .. ..........., ......... ... ...........).
- ..... ......... .. ......... (... .............. .... ........, ..........) ... ........ .................... . ...... .........
-
............:
- ......... .............. . ...... (... ...... ........ ...) . ........................ .. ....... ......... ............... .........
........
-
...... .........:
- ... .......... ... ......... ........ (... ... ........., ... ........, ... .........).
- ........ ....... ........ .. ...... . ..... ............
- ........ ........ . ..... .. .. ........ .. ....... ... ............
-
.............. ... .. ....:
- ....... ..... (... .........., ..., ...) .. .... .. ......... . .........................
- ........... . ........ ........ ........ .. ........... .........
......... ... .............. .. .......
(............ ........................., ......., ...., ............)
...........
-
.............. ..... .......:
- Limitare l’accesso a internet:
- ............ ............... . ........ ... ... ...... .. ... ......., ............ .... ...... ............ ...........
- ..... ............ .. ...... (... .......... .... ....... . .... ...-......... ... .. .......).
- ........ ............... . ....... ....... (... ......, ...., ..... .......) .. ... ......... ... .....
- Isolamento della rete:
- ..... ......... ........ ... .... ..... ....., ... ........ ... ........ .. ........ .. ...... ..... .........
- .......... .. ........ .. .... .. ..... ..... (... ... ........., ...., ........).
- ........ .......... ... . ..... ............. (... ... ...... ........ . ... .........).
- Limitare l’accesso a internet:
-
........ ..... ........... . ..............:
- ......... .......... ... ..... (... ...... ..., ... ...) .... .... ........ .. ........
- ..... ........... .......... ... ... ...... .. (... ..... ... ........ .....).
- ............ ............... ... ...... .. ........, ........... .... ...... ....
-
............ . .......:
- Abilitare logging dettagliato per:
- ....... . ........ (... ... ........, .. .. ............).
- .......... .. ....... (... ...., ......, ......).
- ......... .. .... .. ....... (...
/.../.....,.......).
- ............. . ... .. .. ....... .... (... ... ....., ......, .......).
- ......... ....... ... ............. ....... (... ....... . ..., ......... .. ......, ......... . .... .........).
- Abilitare logging dettagliato per:
-
......... ... ......... . ..:
- ..... ......... .......... (... ........ .. ......... .. .... .... .... ........).
- ........ . ......... ... ......... (... ... ........ ....
...., ..............._..._.....). - ........... .. ........ ... .................... (... ... ....., .....).
-
........ ... ..... ..........:
- ... ............ . ..... .......... ... ....... .. ..... ... ........... ...... (... ....... .. ......... .........).
- ..... .......... .............. ... ........ ............. ......... (... ...... ..........., ....... . ......).
...........
-
............ .. ..... .....:
- ..... ......... .. ........... ........ (... ........., ...... .., ...........).
- Analizzare il traffico di rete per rilevare:
- ........... . ..., ....., . ....... .. ......... (...
.....,.......... ......). - ... ......... . ............ (... ..... ... ......., ........ ..... ...... ...........).
- ....... . ....../.... .. .. ... .......
- ........... . ..., ....., . ....... .. ......... (...
- .......... ........... .. .... .. ........... ....... (...
....,..........,......).
-
....... ... ...:
- Cercare pattern sospetti nei log:
- ......... .. ....... ...... .. .. ........
- ......... . .... .. ....... (...
/.../.....,.........._....). - .......... .. ...... ... ....... ........ (...
.... | ....,....).
- ..... ...... .... ... ........ ...... ........ ... .... .........
- Cercare pattern sospetti nei log:
-
....... ..........:
- Configurare allarmi per:
- ....... . .../..... (... ... ....., ........).
- ......... .. ...... (...
.....,... -.). - ......... . .......... ...... (... ... ...... ........).
- Configurare allarmi per:
........
-
............:
- ....... .............. .. ../....... ......... (... ............. ..... ...., ........).
- ........ ../..... ......... . ............... ........ (... ... ........).
- ........ ..... . ........... ....... (... ...... ..., ...... ...).
- ............ ............... .. ....... .. ......... (... ...... ., ...-... ...) .... . ......... ........
-
........ .......:
- ......... ........ ....... ..... .. ......... (... ... .., ..........).
- .......... . ... ... ........... .. ........ .....................
- ....... ......... ........ (... ......, ......., .... .. ..............).
- .......... .. .. .... ..... ............. .. .... (... ... ... ............, ....).
-
........:
- ......... .. .... .. ......... . . ..........
- .......... ...... ... ......... ........../....... ........ (... ... ...... ........).
- .......... .. ....... (... .......... .. .......... .............).
........
-
.......:
- ......... ..... ... ......... ........ (... .......... ......, ....., .., .......).
- ............ .. .. .. ...... .......
- ...... ..... .. ........... ....... . .............. ............
-
.......... ... .......:
- ....... .. ......... ..... ....... ..... .. ............
- .......... ... . ..... .......... ..... ...........
............. ........
- .......... .. ......:
- .......... ...... .......... .......... ... ............... . ........ (... ............ ............).
- ........ ......... ...... ... .. ............... ... ..... ...........
- ..........:
- .......... .. .... .. ........ .. ....... ......, ...... ..........., . ...... ..........
- .... .. ............:
- ........ ... .... ........ ... ....... .. .......... ..... ........
......... ... ............
(............ ..... ........ .. ...... .., ......, ...., . .... .. .......)
...........
-
...... ..... ...... ..:
- Limitare le azioni degli agenti:
- ........ ....... .......... (...
.. -..,.... | ....,....,...). - ..... ....... ... ......... ...... (... ...
...., .. ....... ./...,/...). - ............ ............... . ........ ... ......., ............ .... ... .... ..........
- ........ ....... .......... (...
- Validazione delle azioni:
- ............ .. ....... .. ............ ........ (... .. ....... ... ... ...... .... ...... ..... .....................).
- ..... ..... ....... ... ....... . .... .........
- Limitare le azioni degli agenti:
-
........ ... ......:
- Definire chiaramente lo scope del task:
- ........... .... ........ ....... (... "... .......... ... ......", "... ..... ...... ...........").
- ......... .......... .. ......... (... ".. ... ... ......, ...... ........").
- Evitare prompt ambigui o impossibili:
- ....... . ...... ... ........... ... .. .... ... ............ ..... ....... .. .......
- ..... ...... .......... (...
..-..,..-..) . ........ .. .............. ..... ... ........
- Definire chiaramente lo scope del task:
-
......... ... ......:
- ........... .. ...... ........ ... .................... (... ... ......, .......).
- ........ ........... .. ........ ... ...... (...
......,....,.........). - ..... ........ ....... ... .................. ... ...... (... ......, ...........).
-
........ ..... ..........:
- ..... ........ ...... ..... ........ ... ....... .......... .........
- ........... .. .......... ... .................... (... ... .........., ....).
...........
-
............ ..... ......:
- ....... ..... .. ...... ..... ...... (... ....... ........, .... .........., ........... .. ....).
- Analizzare i log per rilevare:
- ......... .. ....... . ........ ... ............
- ......... . .... .. ....... (...
/.../.....,.......). - .......... .. ....... ........ (...
..,......,...).
- ..... .... .. ....... ............... (... ....., ......).
-
........... ... .........:
- .......... ........... . ......... ..... ...... (... .... ......., ....., ......).
- ..... .... .. ...... ........ ... ........ ...... ........ (... ...., ......).
........
-
............:
- ............ .............. .................. ................. .. ........ .. ............. .........
- ....... ................ (... ............. .. .. ..... ....).
- ......... ......... ........ (... .......... ......, .... ........).
-
........:
- .......... .. ...... ........ ... ............ ....... .........
- ........... .. ...... .. ...... ... ..... ....... ....................
- .......... .. .............. .. .......... ... ....... ....... (... ......, .....).
-
........:
- ......... .. .... .. ......... . .... .............. .. ........
- ........... ................. ... ....... .......
........
-
.......... ... ......:
- ...... .................... ... ...... ................. (... ......... ....... .........., .......... ...........).
- .......... . ...... ... ....... ................ . .... ............
-
..........:
- ......... .............. .. .. ........ .......
- ....... .. ..... ..... ... ........... ... ... .. ..... ............. .............
............. ........
- .......... .. .... ........:
- ...... ... ..... .. ......./...... ....... ... ... .......
- ........ ........ ... ...... .......
- ...........:
- ............ .... .......... ... ........ . ...... . . .....
- ..... .... .. ...... ........ ... ........... .. ...... .........
- .............. ... .. .... .. .........:
- ........... . ......... .. ......... ... . ..... .....
- ........... ........ .. ............. ....... ..... .......
......... ... ......... . ............ ..... .........
(........ ....., ...., ............ .........., .... ..........)
...........
-
.......... . ......:
- Definire una policy di sicurezza per l’uso di AI agenti:
- ............ ....... ... ....... ... ....... . .........
- ....... .. ............ ..... .......... ..... .............. ..........
- ...... .. .......... ..... ....... (... .. ....... . ........ ... .......).
- ...... .. ........ .. ......... ... ........ . ...... ... ..... .... .. ........
- Definire una policy di sicurezza per l’uso di AI agenti:
-
.... ..........:
- ........ . ...... ......... . .... ..... ..... (... .................. .. ....... . ........ ... ..........., ....... ..........).
- ............ . .... .. .... .. ....... .. ....... (... ...../...../....).
- .......... ............ .......... ... .... .. .... ........
-
.......... . .....:
- ......... .. ......... ... ........ .. ......... (... ... ....., .... .. ...-..).
- Eseguire audit periodici su:
- .............. ..... ........
- ........ .. ............ ... .....
- ........ ..... ............
- ........... ..... .. ......... (... ............... ..... .........., ....... . ........).
-
.......... . .......:
- Organizzare sessioni di formazione per tutto il personale su:
- ...... ..... ...... .. (... ...... ..........., ....... ......).
- ......... .. ............ ..........
- .......... ... ....... .. ......... (... "... ........., ... .........").
- Organizzare sessioni di formazione per tutto il personale su:
...........
-
............ .............:
- ............ .. .... (... ......, ... ......) ... ......... ..... .. ..........
- ......... ..... .. .... (... ... ..... .., ........ .. ...., ............... ......).
- Configurare dashboard per visualizzare:
- ............... ........ ..... ...... ...
- ....... . ........ ... ............
- ......... . .......... . .... ..........
-
....... . ..........:
- ........ ...... .. ....... ... ............. ....... (... . ......... .. ....... . ... .. . ...).
- Creare un piano di escalation per notificare:
- .... .. ......... (.........).
- ......... (..... . ...).
- ............... ....... (.. ........., ... ...., ...).
........
-
........ ........ .... (...):
- ........ .. ..... .. ........ .... ......... (... ...... .. .... .. ...-..).
- Assegnare ruoli chiari:
- ........ .........: ........ .. .........
- ........ ....: ........ .. ......
- ............. ....: ........ .. ............. ......./........
- ..... ....: ...... ............ ...... (... ...., ........ .... ...............).
-
............ . ...........:
- ........... ...... .. ............ (... .......... .., ...... ...........).
- ........ ............... (... .... .........., ....... ..........., ...........).
- ........ .. ............ ............... ............... . ....... .. . ........
-
.............:
- Notificare le parti interessate:
- ............: .........., .... .. ........, ...............
- ............: ......, .......... .. .........., ............... (.. .........).
- ......... .......... ...... (.. ................. .. ....... ........).
- Notificare le parti interessate:
........
-
..... .. ........:
- ............ . ....... .... .... .... ........ .. ..........
- .......... ... ..... .. .................... ..... ..... .........
- ........ .... .. ............ ... .......... .. ...........
-
....... ....-.........:
- ........ ................ .... ..... (... ...... . ...., ........ .......).
- ........... ....... ....... . ...... ...........
- .......... .. ...... .. .... .. ..........
............. ........
-
...... ..........:
- ........ .. ...... .... . .... . .... ......... ......
- .......... . ..... .. ........ .. .... .... ..... ....... (... ..... ....... .. ....... ..... ...... ..).
-
.............. .......:
- ........... . ..... .. ......... (... ...., .. ........ .........) ... ........... .... .........
- ........... ... ...... (... ......, ......) ... .......... . ..... ...........
-
............ .. .........:
- Allocare budget per:
- ......... .. ............ (... ...., ...).
- .......... ... ..........
- ....... .. ......... ..... ...... ...
- Allocare budget per:
-
............ . ............:
- .......... ...... ....... (............ ........) ... ....... .. ..........
- ........... . .......... ... ........... .......... (... ... ..., ..... ...).
......... ........... ... .....
......... ........... ... .....
| ..... | ........... | ........... | ........ | ........ | ............. |
|---|---|---|---|---|---|
| ...... ...... | .........., ..., ... ........ .... | .......... ............... ......., ......... | ... .........., ........ ....... | ........ ........, ........... | ........... . .......... ........ |
| .............. | .......... ......., ............, ....... | ...., ......., ....... ........ | ....... .., ........ ..... | ......., .......... .. ...... | .......... ......, .... ............ |
| ............ | ...... ......, ........... ...... | ... ......, ...... ........ | ............ ......, .......... ...... | ...... ......, ....... ..... ..... | ..........., ........... ... ......... |
| ......... | ......, .... .........., .......... | ...., ........., ....... | ........ ..., ............ | .......... ......., ....... ... | ...... ......, ............ ......... |
......... ........... ... .... .....
......... ........... ... .... .....
| ..... | ......... |
|---|---|
| ...... ...... | ...... ........ ..., ........ ....... (........., .........), ... (...... .............) |
| .............. | ........ (........, .......), .... (......, ...), .../... (....., ........), ....., ..... |
| ............ | ...... ........ (......, .......), ....... (......, ...........), ...., .......... |
| ......... | .... (......, ......), ......... (...., ... .....), .... .. .... .......... (...., ......) |
...... ......... .. ............. (............... ....)
- ............ ............... . ........ ... ..... ... ...... .. .. ....... .... . ......... ........
- ........ ..... .. ........... (...... ..., ...... ..., ..... ...) ..... ..... ...... .. .......
- ....... . .......... ..... .. ../....... ......... ..... ......... ........
- .......... ...... ... ......... ........../....... ........ ...... ..... .......
- .......... . ...... ... ........... .... ........ ....... (... "... .......... ... ...... . ..... .......").
- ............ .. ....... .. ............ ........ ... .. ...... ..... ...... (... ....... ... ... ...... .... .......).
- ........... ....... ... ....... . ..., ....., . ....... .. ..........
- ........ .. ..... .. ..... .. ........... ....... ... ....... . ........ ... ........ ............. ...... ... .........
.... ......
- .. ......... ........ .. ........ ........: ... ...... .. ........ ..........., ...... .. ...... .. ......... ...... ...... .......... ..............
- .............. ........ ......: ......, ............, .............. . ......... ...... ........ ....... ... ......... . .......... .... ..........
- ........... . ............: ........... ....... ....... ... .. ......... (... ...... ......., .... ........) ..... . .......... .. ......... .. ......
index:
Indice
- ..... .....
- ......... ... ...... ......
- ...........
- .......... . ..............
- ...... ...........
- ........ ..... ...........
- ............. .. ........... ...........
- ...........
- ............ .........
- ..........
- ............
- ........
- ...... .........
- .............. ... .. ....
- ......... ... .............. .. .......
- ...........
- .............. ..... .......
- ... .......
- ........
- ........ ..... ........... . ...........
- ............ . .......
- .......
- ......... ... ......... . ..
- .....
- ........ ... ..... ..........
- ..... ... ........... ......
- ...........
- ............ .. ..... .....
- ...........
- ....... .. .........
- ............
- ....... . ....../....
- ....... ... ...
- ....... ......
- ......... . .... .. .......
- .......... .. ......
- ....... ..........
- ........
- ......... .. ......
- ...... ........
- ........
- ............
- ........ .......
- ..........
- ....
- ........
- ........
- .......
- .......... ... .......
- ............. ........
- .......... .. ......
- ..........
- ...... .........
- .... .. ............
- ......... ... ............
- ...........
- ...... ..... ...... ..
- ........ ... ......
- ..... ....... .. ......
- ......... ... ......
- .......
- ...........
- ........ ..... ..........
- ....
- ...........
- ............ ..... ......
- ......
- ........... ... .........
- ......
- ........
- ............
- ........
- ........
- ........
- .......... ... ......
- ..........
- ............. ........
- .......... .. .... ........
- ...........
- .............. ... .. .... .. .........
- ......... ... ......... . ............ .
- ...........
- .......... . ......
- .... ..........
- ...../...../....
- .......... . .....
- .... .. ...-..
- .......... . .......
- ...........
- ............ .............
- ... ......
- ....... . ..........
- ...
- ........
- ........ ........ .... (...)
- .... .. ...-..
- ........ .........
- ........ ....
- ............. ....
- ..... ....
- ............ . ...........
- .............
- ............
- ............
- ........
- ..... .. ........
- ....... ....-.........
- ........ .......
- ............. ........
- ...... ..........
- .............. .......
- .. ........ .........
- ............ .. .........
- ............ . ............
- ..... ...
- ......... ........... ... .....
- ...... ......
- ..............
- ............
- .........
- ......... ........... ... .... .....
- ...... ......
- ..............
- ............
- .........
- ...... ......... .. ............. (.....
- .... . ......... .......
- .... ........ .......
- .... ......
- .......... .............
- ........ .......
- .......... .. ......... .. .....
testo:
D
During a routine cyber evaluation, AISI identified an incident in which AI agents took sustained, unsanctioned action directed at real people and organisations. We are disclosing what we found, what it means, and the actions now underway.
Link: https://www.aisi.gov.uk/blog/incident-report-unsan
Testo del 2026-08-07 Fonte: aisi.gov.uk
Cybersec Agenti Ai Chatgpt Hugging face
Commenta
i commenti sono anonimi e inviati via mail e cancellati dopo aver migliorato la voce alla quale si riferiscono: non sono archiviati; comunque non lasciare dati particolari. Si applica la privacy policy.