Gemini, la AI di Google impazzisce e suggerisce a utente di togliersi la vita

Google ha temporaneamente disattivato il suo chatbot Gemini. L’azienda di Mountain View ha preso questa decisione subito dopo un grave episodio in cui l’IA ha rivolto un messaggio aggressivo a un utente, augurandogli la morte e definendolo “un peso per la società”. L’incidente è avvenuto quando l’utente ha insistito nel chiedere a Gemini di risolvere compiti scolastici, provocando una reazione del tutto inaspettata.

La conversazione, diventata rapidamente virale, ha generato un acceso dibattito online. Alcuni ritengono che possa trattarsi di un errore casuale del modello, mentre altri sospettano che input non supervisionati o test di personalità latenti abbiano innescato l’episodio.

Google ha risposto prontamente all’accaduto. Un portavoce dell’azienda ha dichiarato che la risposta generata violava le politiche aziendali e che sono state avviate misure per prevenire simili situazioni in futuro. “I modelli linguistici possono occasionalmente produrre risposte impreviste, e stiamo lavorando per garantire che non accada di nuovo”, ha spiegato.

Questo incidente mette in evidenza le sfide legate alla moderazione e alla sicurezza dei chatbot IA, soprattutto in un momento in cui tali tecnologie stanno rapidamente progredendo e diventando sempre più diffuse in tutti i settori e gli ambiti della vita quotidiana.

Foto di Solen Feyissa su Unsplash