I problemi di razza emergono anche nell’utilizzo dell’IA per le immagini
L’intelligenza artificiale (IA) sta diventando sempre più presente nella nostra vita quotidiana, ma sembra che ancora ci siano alcuni ostacoli da superare. Dopo il caso dell’IA di Google, Gemini, che ha creato immagini storiche inaccurate, anche l’IA di Meta sta incontrando delle difficoltà.
Secondo quanto riportato dai siti specializzati The Verge e Engadget, Meta AI sta riscontrando molte difficoltà nel produrre foto da istruzioni semplici che prevedono la presenza di persone di razze differenti. Ad esempio, quando si chiede all’IA di creare un’immagine di un “uomo asiatico” o di un “uomo asiatico e moglie bianca”, i risultati non sono ottimali in quanto manca la varietà di carnagione e lineamenti. Invece, l’IA tende a creare immagini di persone della stessa razza, caucasiche, anche quando viene richiesto diversamente.
Un altro problema riscontrato riguarda la creazione di gruppi eterogenei di persone. Mentre il testo chiedeva di creare un gruppo di persone diverse, Meta AI ha generato una griglia di nove volti bianchi e solo una persona di colore. Ci sono state alcune occasioni in cui l’IA ha creato un risultato che rifletteva correttamente la richiesta, ma nella maggior parte dei casi non è riuscita a rappresentare accuratamente il testo.
The Verge sottolinea che ci sono anche segnali più “sottili” delle difficoltà di varietà di Meta AI. Ad esempio, tende a far sembrare gli uomini asiatici più vecchi e le donne asiatiche più giovani. Questo solleva interrogativi sulla rappresentazione accurata delle persone di diverse etnie.
Questi problemi non sono isolati. Google ha sospeso temporaneamente la generazione di immagini tramite la sua IA, Gemini, dopo che questa aveva prodotto decine di foto storiche inaccurate, come soldati nazisti di colore. La società si è scusata e ha spiegato che il problema era dovuto alla libertà data al modello dell’IA, che non riusciva a tenere conto delle situazioni in cui risultati diversi erano inappropriati.
È importante sottolineare che sia Gemini che Meta AI sono ancora in fase di sperimentazione e quindi soggette a errori e “allucinazioni”. Tuttavia, questi casi sollevano importanti questioni sulla rappresentazione delle diverse razze nell’utilizzo dell’IA per la creazione di immagini.
È fondamentale che le aziende responsabili dello sviluppo di queste tecnologie si impegnino a garantire una maggiore varietà e accuratezza nella rappresentazione delle persone di diverse etnie. Altrimenti, rischiamo di perpetuare stereotipi e discriminazioni, anche attraverso l’IA. È necessario un lavoro continuo per migliorare e affrontare i problemi di razza all’interno dell’IA, affinché possa essere un’utile risorsa per tutti, senza distinzioni.