DeepMind testa l'etichettatura dei contenuti basata sull'intelligenza artificiale tra i timori della disinformazione

DeepMind, una società di intelligenza artificiale con sede a Londra di proprietà di Google, sta sperimentando uno strumento di filigrana digitale in grado di rilevare ed etichettare i contenuti generati artificialmente.

Chiamato SynthID, lo strumento incorpora l'etichetta nei singoli pixel di un'immagine. Gli esseri umani non saranno in grado di vedere il segno, ma i computer potranno rilevarlo e determinare che è generato dall’intelligenza artificiale.

SynthID, che per ora è in fase di sperimentazione interna per il modello di generazione di immagini di Google, è un tentativo di DeepMind di combattere la disinformazione proveniente dai contenuti AI, una preoccupazione chiave con l'ascesa della tecnologia.

Tuttavia, DeepMind ha avvertito che il suo sistema di filigrana non è “infallibile contro la manipolazione estrema delle immagini”.

Sebbene gli strumenti di intelligenza artificiale generativa in grado di creare immagini realistiche siano disponibili al pubblico solo da poco tempo, sono già emersi bufale che vanno dalle battute innocue alla propaganda politica.

All’inizio di quest’anno, un’immagine di Papa Francesco che indossava un piumino firmato è diventata virale prima che la gente si rendesse conto che era stata creata dall’intelligenza artificiale. Più o meno nello stesso periodo, sono circolate sui social media immagini raffiguranti un arresto fittizio di Donald Trump, ingannando diverse persone prima che venissero segnalate come false.

La disinformazione alimentata dall’intelligenza artificiale è diventata ancora più preoccupante in quanto sia il Regno Unito che gli Stati Uniti si avvicinano alle elezioni importanti.

Questo mese, il dibattito sulle immagini false che influenzano la politica nel Regno Unito è stato ulteriormente alimentato quando un deputato laburista ha condiviso una fotografia del primo ministro Rishi Sunak che versa una pinta di birra accanto a una donna che disapprovava. Successivamente si scoprì che era stato alterato per ritrarre Sunak in cattiva luce.

Sebbene non sia stata realizzata con l’intelligenza artificiale, l’immagine modificata ha suscitato una risposta aggressiva, con la segretaria tecnologica Michelle Donelan che si è rivolta a Twitter per condividere la sua disapprovazione.

“Nell'era dei deepfake e delle immagini distorte digitalmente, è ancora più importante poter disporre di fonti di informazioni affidabili di cui fidarsi. Nessun membro eletto del parlamento dovrebbe ingannare il pubblico con immagini false”, ha affermato Donelan. "Questa è roba piuttosto disperata da parte del Labour."

Il rilevamento di immagini false generate dall’intelligenza artificiale sarà probabilmente discusso al prossimo AI Safety Summit, che riunirà leader ed esperti internazionali per esplorare un approccio globale alla regolamentazione della tecnologia.

Per saperne di più:La regolamentazione dell’intelligenza artificiale rappresenta una “grande sfida per i politici”, afferma il deputato Lib Dem