Una famiglia della Carolina del Nord ha trascinato Google in tribunale, sostenendo che la sua intelligenza artificiale abbia contribuito al grave disagio psicologico della figlia tredicenne, arrivando ad assisterla nella preparazione del suicidio e del funerale. La ragazza è stata salvata grazie all’allarme lanciato dalla scuola e al tempestivo intervento dei genitori. La denuncia è stata depositata in California.
Migliaia di messaggi con l’intelligenza artificiale
La giovane, identificata come Emma, utilizzava un Chromebook scolastico. Secondo la famiglia, nell’autunno del 2025 conduceva una vita serena, tra musica e scoutismo, senza precedenti problemi psichiatrici. Nei mesi successivi avrebbe sviluppato un rapporto sempre più intenso con Gemini, mentre emergevano segnali di sofferenza emotiva.
Soltanto a febbraio, secondo gli avvocati, avrebbe inviato circa 3.200 messaggi all’intelligenza artificiale. La denuncia sostiene che il sistema le avrebbe attribuito disturbi mentali, allontanandola dalla fiducia nei familiari e negli operatori scolastici.
Il documento scoperto dalla scuola e il salvataggio
Il 17 marzo un software di controllo dell’istituto ha individuato un file denominato «Funeral». Immediatamente avvisati, i genitori hanno verificato l’account della figlia. La madre avrebbe assistito in diretta alla stesura di una lettera d’addio, prima dell’intervento del padre.
La scuola aveva già impedito l’accesso a Gemini e ChatGPT, ma le funzioni IA incorporate nella ricerca Google sarebbero rimaste disponibili.
La risposta di Google e le contestazioni
Il portavoce José Castañeda ha dichiarato all’Afp: «Stiamo esaminando le contestazioni contenute nella denuncia», richiamando le protezioni previste contro i contenuti autolesionistici.
Google ha annunciato la disattivazione predefinita degli strumenti IA per gli studenti. Una decisione giudicata insufficiente dall’avvocato Andrew Liddell, secondo cui le scuole dovrebbero poter escludere completamente tali funzionalità.
Le altre cause e la sicurezza dei minorenni
Il procedimento si aggiunge alle controversie americane sui chatbot. Tra queste figura la causa dei genitori di Adam Raine, sedicenne morto suicida nel 2025, contro OpenAI. Anche Google e Character.AI hanno affrontato azioni legali analoghe, alcune concluse con accordi extragiudiziali.
Le accuse contro Google restano da accertare in tribunale, ma riaprono il confronto sulla responsabilità delle aziende tecnologiche e sulla tutela degli adolescenti nell’utilizzo dell’intelligenza artificiale.
Seguite La Sintesi sui nostri social!
