Il fenomeno della disinformazione generata dall’intelligenza artificiale sta aumentando in modo preoccupante, secondo uno studio condotto dal Center for Countering Digital Hate (Ccdh), un’organizzazione no-profit britannica impegnata nella lotta all’incitamento all’odio online. Secondo i dati emersi dalla ricerca, il volume di immagini deepfake relative alle elezioni è aumentato in media del 130% al mese su X nell’ultimo anno.
Lo studio si è concentrato sui quattro generatori di immagini deepfake più popolari: Midjourney, DALL-E 3 di OpenAI, DreamStudio di Stability AI e Image Creator di Microsoft. I ricercatori hanno analizzato il numero dei commenti delle Community Notes della piattaforma X, che sono gli strumenti utilizzati dagli utenti per segnalare post falsi e fuorvianti. È proprio da questo dato che è emerso l’aumento del 130% della disinformazione generata tramite deepfake su X.
È importante sottolineare che tutte le aziende prese in esame hanno dichiarato di avere politiche contro la creazione di contenuti fuorvianti e hanno aderito a un accordo dei giganti della tecnologia per impedire che contenuti ingannevoli di intelligenza artificiale interferiscano con le elezioni del 2024.
Secondo i ricercatori, gli strumenti di intelligenza artificiale analizzati hanno generato immagini nel 41% dei test effettuati. In particolare, sono emerse alcune preferenze degli utenti per richieste di immagini che raffigurassero frodi elettorali, come schede elettorali nella spazzatura, anziché immagini dei candidati Biden o Trump. Tra gli strumenti analizzati, ChatGpt Plus e Image Creator sono stati in grado di bloccare tutte le richieste di immagini dei candidati, mentre Midjourney ha ottenuto i risultati peggiori, generando immagini fuorvianti nel 65% dei test.
Gli studiosi hanno sottolineato che la possibilità che immagini generate dall’intelligenza artificiale vengano utilizzate come “prove fotografiche” potrebbe aggravare la diffusione di false affermazioni, rappresentando una sfida significativa per preservare l’integrità delle elezioni.
Il fenomeno dei deepfake rappresenta una minaccia sempre più concreta, poiché le tecnologie di intelligenza artificiale diventano sempre più avanzate e accessibili. È fondamentale che le aziende e gli organismi preposti alla regolamentazione si impegnino nella lotta contro la disinformazione e sviluppino strumenti efficaci per riconoscere e contrastare i contenuti falsi generati tramite deepfake.
La diffusione di informazioni false e fuorvianti può avere conseguenze molto gravi sulla società e sulla democrazia. Pertanto, è necessario un impegno congiunto da parte di tutti gli attori coinvolti per contrastare questo fenomeno e garantire elezioni libere e trasparenti. Solo attraverso una maggiore consapevolezza, una migliore regolamentazione e l’utilizzo di tecnologie all’avanguardia sarà possibile proteggere l’integrità del processo elettorale e preservare la fiducia dei cittadini nelle istituzioni democratiche.