Il deepfake corre veloce sul web, alimentando violazione della privacy, truffe e disinformazione. Ecco i rischi legati a questa tecnologia e le misure per contrastarla.
Negli ultimi tempi si sta parlando diffusamente di “deepfake”, una tecnica per la manipolazione dell’Intelligenza Artificiale (IA), utilizzata per sovrapporre immagini e video con quelli originali. Può servire per creare falsi video pornografici, notizie false, truffe, per atti di cyberbullismo e altri crimini informatici. Malgrado l’Unione Europea (UE), il 13 marzo scorso, abbia approvato l’“IA act”, la legge sull’IA, un regolamento dell’Unione Europea che mira a dare un quadro normativo comune. Ma il “deepfake” non conosce ostacoli né normativi né concreti. Basta citare il caso del processo che vede imputato Filippo Turetta per il barbaro femminicidio di Giulia Cecchettin. Sulla piattaforma Character.ai, uno chatbot con cui gli utenti possono avere conversazioni personalizzate, sono apparse immagini di entrambi i protagonisti sotto forma di avatar pronti a comunicare con gli utenti.
Ma bisogna accettare passivamente il fenomeno? Gli esperti ritengono che, ad esempio, il caso in questione riguarda in primis l’espropriazione di dati personali, perché le foto e le modalità per ricostruire la voce della Cecchettin non sono state certo fornite dai familiari. Ora, possono i dati personali di una persona defunta viaggiare liberamente in rete per puro intrattenimento e, in più, per ricavarne profitto? Si tratta di violazione della dignità umana e dell’identità personale, che fanno emergere problemi di natura etica.
Si tratta di deep fake realizzato con l’IA e riferendosi ad una persona defunta, viene definito “thanabot”, un fenomeno che negli USA ha assunto dimensioni eclatanti per scopi truffaldini. Al contrario, in Cina è utilizzato come strumento per assistere psicologicamente le persone colpite da lutti. Ma, oltre all’espropriazione di identità, il thanabot può essere utilizzato per scopi di disinformazione e manipolazione mediatica. L’episodio del femminicidio di Giulia Cecchettin narrato dal chatbot è una pericolosa alterazione della realtà, con tutti gli effetti negativi del caso.
Poi ci sono i casi di deepfake pornografici, altrettanto negativi. “PermessoNegato” è un’associazione nata per offrire supporto tecnologico e orientamento legale alle vittime di diffusione non consensuale di materiale intimo e di violenza online. Applica tecnologie, strategie e politiche per la non proliferazione della diffusione non consensuale di materiale intimo e di altre forme di violenza online, attraverso la rimozione dei contenuti dalle principali piattaforme online. Secondo una recente indagine a cura della rivista Wired, considerata la “Bibbia di Internet”, esistono 50 bot su Telegram usati per “spogliare” immagini di donne passate a miglior vita per produrre immagini pornografiche. Il fenomeno è stato definito “deepfake porn”. Ogni mese sono pressappoco 4 milioni gli utenti che trastullano coi bot e il fenomeno è diventato talmente pervasivo che Pavel Durov, fondatore di Telegram, a fine agosto è stato arrestato e poi rilasciato per reati connessi alla pornografia infantile, traffico di droga e affari sleali sulla piattaforma. Anche il governo della Corea del Sud ha avviato procedure per bloccare le immagini e video sessuali distribuiti in rete.
E’ chiaro che siamo di fronte ad un fenomeno che tocca temi delicati. Stabilire cosa è reale e cosa non lo è, è stato un tema molto dibattuto da filosofi e no, sin dalla notte dei tempi. Però dalla percezione dei fatti derivano idee, valori e la cultura di una società che si pone il problema della violenza di genere. L’informazione gioca un ruolo di primo piano su questo versante, così come i controlli delle autorità preposte, perché chi viaggia in rete deve sentirsi tutelato e non aggredito!