Un ricercatore della società di intelligenza artificiale Anthropic, Jacob Coxon, ha rassegnato le dimissioni citando gravi preoccupazioni sulla sicurezza della tecnologia. L’addio di Coxon ha riacceso il dibattito sui rischi esistenziali dell’AI, trovando una sponda nelle conferme arrivate dai vertici scientifici dell’azienda.
Le dimissioni di Jacob Coxon: “Corrono verso la superintelligenza giocando con le nostre vite”
In un intervento pubblicato su X, Coxon ha spiegato le motivazioni del suo addio dopo tre anni di lavoro nel pre-addestramento sia in OpenAI sia in Anthropic. “Chi sviluppa l’intelligenza artificiale crede fermamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento le stesse persone esprimere privatamente questa paura. Nessun’altra attività umana presenta un livello di pericolo simile”, ha denunciato Coxon.
Il ricercatore ha poi aggiunto: “Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi e stanno giocando con le nostre vite”.
L’ammissione di Anthropic: “Non siamo sulla buona strada per l’allineamento”
A commentare le dimissioni è intervenuto Evan Hubinger, responsabile dell’allineamento dei modelli AI di Anthropic. Pur affermando che l’azienda stia “facendo del suo meglio”, Hubinger ha ammesso che il gruppo non ha un piano “per risolvere il problema dell’allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo”.
Il rischio dell’auto-miglioramento ricorsivo
Nel confermare i timori che l’AI possa “sterminare tutta l’umanità”, il manager ha citato l’ultimo report aziendale sui rischi. Sebbene la minaccia dei modelli attuali rimanga bassa, il problema riguarda lo sviluppo imminente: “ciò che mi preoccupa è la superintelligenza derivante dall’auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo”.
Seguite La Sintesi sui nostri social!
