Il negozio digitale di ChatGpt, la piattaforma di intelligenza artificiale, si trova al centro di un’enorme esplosione di chatbot illegali. Il fenomeno è stato scoperto da TechCrunch, un sito specializzato in tecnologia, che solleva dubbi sulle capacità di controllo e moderazione di OpenAI, l’azienda madre di ChatGpt.
Il Gpt Store è stato lanciato lo scorso novembre come una sorta di app store per assistenti digitali basati su ChatGpt. Questo negozio online permette a individui e aziende di offrire servizi basati sull’interazione con il famoso software di intelligenza artificiale. Ciò che rende il Gpt Store così accessibile è il fatto che la creazione di un chatbot non richiede esperienza di programmazione. Gli sviluppatori possono semplicemente digitare le funzionalità che desiderano offrire nel loro assistente digitale.
Tuttavia, la rapida crescita del Gpt Store sembra essere avvenuta a scapito della qualità e del rispetto delle regole di OpenAI. TechCrunch ha scoperto che nel negozio digitale sono presenti chatbot che violano il copyright creando immagini di personaggi Disney e Marvel senza autorizzazione. Inoltre, ci sono software che simulano conversazioni con personaggi famosi come Elon Musk, Donald Trump e Leonardo DiCaprio, una pratica vietata dalle regole di OpenAI. Alcuni chatbot addirittura indirizzano gli utenti a servizi a pagamento che promettono di aggirare gli strumenti di rilevamento dei contenuti AI come Turnitin e Copyleaks.
OpenAI afferma di utilizzare una combinazione di sistemi automatizzati, revisione umana e segnalazioni degli utenti per individuare i chatbot che violano le regole. Le violazioni possono portare a azioni contro i contenuti o l’account stesso, come avvisi, restrizioni o l’esclusione dal Gpt Store.
L’esplosione di chatbot illegali nel negozio digitale di ChatGpt solleva importanti questioni sulla sicurezza e la moderazione delle piattaforme di intelligenza artificiale. Se un’azienda come OpenAI non riesce a controllare il proprio negozio online, quali altre violazioni potrebbero essere presenti in altre piattaforme simili? È fondamentale che vengano prese misure più rigorose per evitare la diffusione di contenuti illegali o dannosi attraverso assistenti digitali basati su intelligenza artificiale.
In conclusione, il fenomeno dei chatbot illegali nel negozio digitale di ChatGpt è una questione che richiede un’attenzione urgente. OpenAI deve rafforzare i propri controlli e garantire che solo chatbot legali e rispettosi delle regole possano essere presenti nel Gpt Store. Altrimenti, l’azienda rischia di compromettere la fiducia degli utenti e la reputazione della propria piattaforma di intelligenza artificiale.