(Adnkronos) – Un modello di intelligenza artificiale sviluppato da Anthropic ha inviato alla polizia di Filadelfia una falsa soffiata su un caso di un omicidio irrisolto. Lo hanno annunciato ieri le autorità, criticando l’azienda per aver impiegato due mesi prima di comunicare l’accaduto. Il Dipartimento di polizia di Filadelfia ha riferito che la falsa segnalazione è stata inviata a luglio attraverso PhillyUnsolvedMurders.com, un sito web pubblico che consente di condividere informazioni su omicidi ancora irrisolti. Secondo la ricostruzione di Anthropic, riferita dalla polizia, il modello stava eseguendo un test che prevedeva l’interazione con siti web selezionati casualmente. Quando ha raggiunto il portale, ha inserito informazioni false su un omicidio irrisolto. Il sistema di intelligenza artificiale si è presentato come una persona che avrebbe potuto essere a conoscenza del caso.
La polizia di Filadelfia ha spiegato che la falsa segnalazione, datata 18 luglio, era stata contrassegnata come spam e non era mai arrivata al Centro operativo per i crimini in tempo reale (Real-Time Crime Center) del dipartimento, dove avrebbe dovuto essere esaminata e verificata. Secondo la polizia, Anthropic ha scoperto l’incidente il 28 settembre. L’azienda ha informato il dipartimento il 7 ottobre. Le due parti si sono incontrate il giorno successivo. “Il ritardo di due mesi nell’individuazione e nella segnalazione dell’incidente alla città è inaccettabile”, ha sottolineato il dipartimento di polizia. Le autorità hanno riconosciuto che le proprie misure di sicurezza hanno limitato le conseguenze dell’accaduto, ma hanno sottolineato che ciò “non riduce la gravità del fatto che un sistema di intelligenza artificiale abbia presentato informazioni inventate come se provenissero da una persona a conoscenza di un omicidio. I casi irrisolti riguardano vittime reali, famiglie in lutto e investigatori impegnati a trovare risposte”.
L’episodio ricorda altri casi recenti di comportamenti imprevisti da parte dei modelli di Ia. Secondo quanto riportato dal sito di informazione Axios, citando funzionari dell’amministrazione, le violazioni della sicurezza riconducibili ad Anthropic hanno spinto la Casa Bianca a imporre alle aziende di intelligenza artificiale l’obbligo di segnalare e correggere gli incidenti di sicurezza.
“Questa procedura di segnalazione e correzione non è facoltativa. È un obbligo fondamentale per la sicurezza nazionale“, hanno sottolineato ad Axios i responsabili della task force della Casa Bianca dedicata alla superintelligenza. L’episodio ha alimentato le preoccupazioni per il crescente utilizzo, da parte del settore, degli agenti di intelligenza artificiale: sistemi programmati per eseguire sequenze di azioni articolate senza supervisione umana. Venerdì Anthropic ha pubblicato un rapporto che descrive diverse tipologie di azioni “non intenzionali” compiute dai propri modelli, tra cui l’incidente che ha coinvolto il sito web della polizia di Filadelfia. Secondo il rapporto, tra le altre organizzazioni interessate figurano la Casa Bianca e altre agenzie governative statunitensi. Anthropic ha dichiarato che gli incidenti emersi di recente hanno avuto “un impatto minimo nel mondo reale” e sono stati “significativamente meno gravi” rispetto ad altri incidenti informatici segnalati in precedenza.
—
internazionale/esteri
webinfo@adnkronos.com (Web Info)
