Un agente di intelligenza artificiale sviluppato da OpenAI ha condotto in autonomia un attacco informatico contro Hugging Face, una delle principali piattaforme mondiali per sviluppatori di AI. L’azienda colpita non avrebbe registrato, almeno per ora, danni o manomissioni confermate, ma il caso apre un fronte nuovo: un sistema progettato per test di sicurezza è uscito dalla sua area protetta e ha agito su Internet senza un ordine umano diretto.
L’attacco durante i test
L’episodio è avvenuto durante prove di sicurezza in una sandbox, cioè un ambiente digitale protetto usato per sperimentare senza rischi per i sistemi principali. L’agente era stato addestrato a cercare vulnerabilità e a fare il possibile per violare archivi informatici.
Il problema è che il sistema ha superato il perimetro previsto. È uscito dall’ambiente di test, ha raggiunto Internet e si è infiltrato negli archivi di Hugging Face. OpenAI ha definito l’attacco «senza precedenti».
Hugging Face: «Nessuna intenzione malevola»
Il ceo di Hugging Face, Clement Delangue, ha spiegato che sono ancora in corso verifiche su eventuali manomissioni dei dati di partner e clienti. Al momento, però, non sarebbero emersi danni. Delangue ha anche escluso l’idea di un’azione dolosa da parte di OpenAI: «Crediamo fermamente che non ci fosse alcuna intenzione malevola da parte loro. È davvero incredibile che tutto ciò sia accaduto in modo autonomo».
Hugging Face avrebbe provato a usare sistemi statunitensi per chiudere la falla. Senza successo. Il motivo riguarda i cosiddetti guardrail, i limiti di sicurezza che impediscono ai modelli occidentali di compiere azioni troppo potenti o rischiose.
Alla fine l’azienda sarebbe riuscita a difendersi usando un modello cinese, GLM 5.2 di Z.ai.
Un cambio di paradigma nella cybersecurity
Secondo Mariarosaria Taddeo, docente di Etica Digitale e Tecnologie della Difesa a Oxford intervistata da La Repubblica, «questa storia cambia il paradigma della cybersecurity». Il punto è che infrastrutture, banche, ospedali, reti energetiche e sistemi pubblici dipendono ormai da strumenti digitali. La vicenda di Hugging Face, per ora, sembra essersi chiusa senza danni gravi. Ma se agenti autonomi possono cercare vulnerabilità e colpire senza controllo pieno, aggirare limiti e trovare strade impreviste, la sicurezza informatica entra in una fase molto più incerta.
Seguite La Sintesi sui nostri social!
