«Non vi mentirò: esistono pericoli reali». Dario Amodei, numero uno e co-fondatore del colosso tech Anthropic, rompe l’omertà della Silicon Valley con un’ammissione senza precedenti sullo sviluppo dell’intelligenza artificiale: «E credo che, per troppo tempo, il settore abbia mentito alle persone riguardo ai rischi connessi a questa tecnologia». Le affermazioni del manager giungono a pochi giorni dall’allarme lanciato da Jacob Coxon, ex ricercatore di Anthropic, secondo cui la sua ex azienda e OpenAI starebbero «giocando con le nostre vite» accelerando verso una superintelligenza in grado di autorigenerarsi. In un’intervista rilasciata alla Cbs, Amodei ha confessato di credere di «non aver compreso appieno cosa avrebbe comportato un progresso così rapido», spinto da una curva esponenziale sempre più ripida.
I controllori terzi e la curva esponenziale
Di fronte a una crescita fuori controllo, il numero uno di Anthropic predica prudenza ma evita gli allarmismi distruttivi: «Non significa che dobbiamo farci prendere dal panico oggi e che dobbiamo bloccare tutto. Ma direi che è un segnale d’allarme. Un segnale che ci indica la necessità di rallentare». Per garantire modelli davvero affidabili, la società si è detta pronta ad aprire le porte a valutatori terzi con accessi parificati a quelli dei dipendenti interni: «Ogni volta che qualcuno sviluppa un modello di IA, esiste un valutatore terzo in grado di verificare se l’azienda stia seguendo le pratiche di sicurezza a cui si è impegnata: è un po’ come un ispettore sanitario».
L’interruttore d’emergenza e l’insidia dei regimi
Amodei si dice apertamente favorevole a una regolamentazione federale che imponga paletti precisi, compresa l’introduzione di un dispositivo di spegnimento immediato per bloccare le macchine fuori controllo: «Un kill switch è una buona idea». Il manager rigetta invece la linea proibizionista paventata da alcune proposte legislative orientate al blocco totale dello sviluppo: «Non credo che vietarla, vietarla completamente, sia l’approccio giusto per l’IA. In primo luogo, l’idea di rinunciare per sempre a benefici incredibili e a cure mediche mi lascia perplesso. In secondo luogo, questa tecnologia verrà sviluppata anche in altri Paesi, inclusi quelli autoritari».
Seguite La Sintesi sui nostri social!
