Redazione ExtraRemL’universo digitale deve affrontare una nuova e delicata emergenza collegata all’uso improprio dell’intelligenza artificiale generativa. Alcune applicazioni sviluppate con questa tecnologia permettono infatti di violare la privacy delle persone attraverso la manipolazione delle immagini. Una recente indagine realizzata dal Tech Transparency Project ha fatto emergere un numero preoccupante di software in grado di spogliare virtualmente chiunque a partire da una semplice fotografia.
Software sempre più sofisticati per creare immagini intime false
Questi strumenti, conosciuti nel settore con il nome di app “nudify”, utilizzano algoritmi avanzati per eliminare gli indumenti dalle immagini originali oppure per inserire il volto delle vittime all’interno di filmati pornografici già esistenti. Secondo i dati raccolti dall’organizzazione no-profit Tech Transparency Project, il fenomeno non interessa soltanto aree nascoste della rete, ma coinvolge direttamente i principali negozi digitali mondiali gestiti da Apple e Google.
Un mercato da centinaia di milioni di download
Il rapporto descrive una situazione particolarmente preoccupante per la diffusione di questi prodotti digitali, che negli ultimi mesi hanno generato introiti enormi. Il gruppo di ricerca ha identificato diciotto applicazioni di questo tipo presenti nello store di Apple e altre venti disponibili nel catalogo ufficiale di Google.
I dati mostrano le dimensioni di un mercato sommerso che ha raggiunto circa 483 milioni di download complessivi, garantendo agli sviluppatori oltre 122 milioni di dollari di ricavi. Molti programmi si presentano come semplici editor fotografici, ma successivamente rivelano funzionalità dedicate alla manipolazione di immagini e video a sfondo sessuale.
Filtri insufficienti e polemiche sulle classificazioni
Uno degli elementi più controversi emersi dall’analisi riguarda il sistema di classificazione che consente l’accesso a questi contenuti senza particolari limitazioni. Diverse applicazioni esaminate dal Tech Transparency Project riportavano infatti l’etichetta “Everyone”, caratteristica che le rendeva teoricamente scaricabili anche da bambini e adolescenti.
La gestione dei controlli di sicurezza ha provocato forti critiche nei confronti dei colossi della Silicon Valley, accusati di non riuscire a monitorare in maniera efficace i propri ecosistemi digitali. La direttrice dell’organizzazione, Katie Paul, ha espresso una posizione molto dura durante un’intervista concessa a Bloomberg, evidenziando le responsabilità delle aziende coinvolte.
«Le aziende non effettuano un’adeguata revisione di queste app, continuando ad approvarle e a trarne profitto nonostante i rischi evidenti per la sicurezza degli utenti», ha dichiarato Katie Paul.
Apple e Google corrono ai ripari dopo il rapporto
L’evoluzione rapidissima della tecnologia ha superato le capacità di controllo dei moderatori e dei sistemi automatici di verifica. Dopo la pubblicazione dell’indagine e le conseguenti pressioni mediatiche, Apple e Google hanno confermato la rimozione della maggior parte delle applicazioni segnalate dai rispettivi store ufficiali.
Tuttavia, la facilità con cui questi software riappaiono con nomi differenti continua a rappresentare una sfida aperta per governi, istituzioni e autorità di controllo di tutto il mondo.
L’attenzione internazionale sui deepfake sessuali
La questione dei deepfake non rappresenta una novità nelle cronache internazionali, ma negli ultimi mesi ha assunto contorni ancora più preoccupanti a causa della semplicità con cui chiunque può accedere a questi strumenti.
All’inizio dell’anno, la Commissione Europea aveva già avviato un’indagine formale nei confronti di Grok, il chatbot integrato nel social network X di Elon Musk. In quel caso specifico, le autorità avevano concentrato l’attenzione sulla possibilità di generare immagini pedopornografiche o deepfake sessuali che coinvolgevano soggetti minorenni attraverso semplici comandi impartiti all’intelligenza artificiale.
La necessità di regole più severe contro gli abusi
Gli episodi emersi negli ultimi mesi dimostrano quanto sia urgente introdurre una regolamentazione internazionale più rigorosa. Governi e istituzioni devono intervenire con strumenti più efficaci per impedire che l’innovazione tecnologica si trasformi in un mezzo utilizzato per molestare, ricattare e umiliare milioni di persone inconsapevoli in ogni parte del mondo.
Author: Redazione ExtraRem
Table of Contents
