L’odierno panorama digitale è scosso da una profonda crisi scaturita dall’impiego distorto dell’intelligenza artificiale generativa, attraverso programmi progettati con il solo scopo di violare la sfera privata altrui. Una ricerca dettagliata del Tech Transparency Project ha rivelato l’esistenza di una moltitudine di applicativi capaci di denudare virtualmente gli individui partendo da una fotografia. Tali sistemi, definiti tecnicamente app nudify, sfruttano algoritmi complessi per eliminare gli indumenti o sovrapporre i volti su contenuti pornografici. Secondo i dati forniti dall’ente, questa attività non resta confinata nei meandri del web oscuro, ma infesta persino i negozi digitali ufficiali di Apple e Google.
Le dinamiche economiche dietro le applicazioni di spoglio virtuale
L’indagine mette in luce un contesto allarmante relativo alla circolazione di questi strumenti, in grado di generare profitti immensi in tempi brevissimi. Gli analisti hanno rintracciato diciotto software su App Store e venti nel catalogo Google Play. Le statistiche complessive descrivono un business sommerso che vanta 483 milioni di installazioni, con ricavi per i creatori che superano i 122 milioni di dollari. Spesso queste applicazioni si camuffano da banali programmi di fotoritocco, rivelando solo in un secondo momento la loro natura di strumenti per l’alterazione visiva a finalità sessuale.
Le carenze dei sistemi di vigilanza e l’accesso ai minori
Una questione centrale riguarda i protocolli di sicurezza che permettono l’utilizzo di queste app senza alcun vincolo di età. Numerosi prodotti esaminati dal Tech Transparency Project erano contrassegnati dalla dicitura Everyone, risultando così accessibili anche ai bambini. Questa mancanza di controllo ha attirato forti critiche verso i giganti della Silicon Valley, ritenuti negligenti nella tutela dei propri spazi virtuali. Katie Paul, alla guida dell’organizzazione, ha ribadito la sua posizione ai microfoni di Bloomberg, richiamando i colossi tecnologici ai propri doveri.
La reazione dei colossi tecnologici e l’indagine su Grok
“Le aziende non effettuano un’adeguata revisione di queste app, continuando ad approvarle e a trarne profitto nonostante i rischi evidenti per la sicurezza degli utenti,” ha asserito Paul. Mentre il progresso tecnologico avanza più rapidamente dei monitoraggi umani e automatici, Apple e Google hanno dichiarato di aver rimosso la maggior parte dei software segnalati. Tuttavia, la rapidità con cui queste applicazioni mutano nome per tornare online resta un ostacolo per i legislatori. La preoccupazione per i deepfake cresce anche a causa dell’accessibilità di tali mezzi. Di recente, la Commissione Europea ha avviato un’istruttoria su Grok, l’intelligenza artificiale di Elon Musk attiva su X, analizzando la produzione di materiale esplicito su minori tramite comandi testuali, evidenziando la necessità di regole internazionali ferree per impedire che l’innovazione diventi uno strumento di degradazione.
Leggi anche: 2045: il momento in cui il mondo è cambiato per sempre
Seguite La Sintesi sui nostri social!
