Meta, Google e OpenAI insieme per tutelare i minori dalle AI generative

OpenAI, Microsoft, Google e Meta hanno stretto un’alleanza per garantire che i loro strumenti, specialmente nell’ambito dell’intelligenza artificiale, non possano essere utilizzati per commettere abusi sui minori o per creare materiale sessualmente esplicito che coinvolga i bambini. I promotori di questo accordo sono Thorn, un’organizzazione impegnata nella sicurezza dei minori, e All Tech Is Human, un’associazione no-profit che promuove la tecnologia responsabile.

L’obiettivo principale del’iniziativa è impedire la produzione e la diffusione di contenuti sessuali che coinvolgono minori, lavorando per rimuoverli dai social media e dai motori di ricerca. Negli Stati Uniti solo nel 2023 sono stati segnalati oltre 104 milioni di file sospetti riguardanti abusi sessuali su minori.

Per cercare di arginare questa vera e propria piaga sociale Thorn e All Tech Is Human hanno redatto un documento con strategie e suggerimenti alle aziende coinvolte nello sviluppo di strumenti di intelligenza artificiale, motori di ricerca e piattaforme di social media per prevenire gli abusi.

In questo catalogo di “consigli per l’uso” per esempio c’è la selezione attenta e scrupolosa dei dati utilizzati per addestrare i modelli di intelligenza artificiale, evitando dataset contenenti materiale pedopornografico o contenuti sessuali per adulti, poiché l’IA generativa tende a confondere tali concetti.

Thorn sta incoraggiando le piattaforme di social media e i motori di ricerca a eliminare i collegamenti a siti web e app che consentono la distribuzione di immagini di bambini, contribuendo così a prevenire la creazione di nuovo materiale di abusi sessuali su minori attraverso l’intelligenza artificiale.

Foto di Solen Feyissa su Unsplash