Manipolare una foto o un video è sempre più semplice e il deepfake, ossia la sintesi dell’immagine umana basata sull’Intelligenza Artificiale, è oggi un fenomeno in grande crescita. A parte qualche esempio di comicità o scherzo, gli scenari che si stanno aprendo sono allarmanti: truffe, cyberbullismo, revenge porn, crimini informatici. Nella lotta alla diffusione di questo fenomeno sui social network, TrueBees è il progetto 100% made-in-Trentino che intende combinare strumenti di Intelligenza Artificiale e un sistema di blockchain per garantire agli utenti che un contenuto multimediale condiviso in rete sia realmente affidabile.
Cosa accade ogni 60 secondi su Internet? Più di 300 mila foto vengono condivise sui social network, quasi 700 mila video sono trasmessi su YouTube e circa 600 mila post vengono pubblicati su Twitter. Numeri da capogiro se moltiplicati per i secondi a disposizione nell’arco di una giornata, che ci costringono a fermarci un attimo per pensare a cosa davvero il Web rappresenti per noi oggi.
Da un lato, Internet è sinonimo di innegabile democratizzazione e di un certo grado di libertà, uno spazio dove informarsi e condividere. Dall’altro lato, tuttavia, questa stessa libertà lo rende uno spazio vulnerabile, dove ogni utente può rendere pubblici i contenuti che preferisce, pur essendo magari non legittimato o autorizzato a farlo. Chiunque, infatti, può creare contenuti o accedervi altrettanto facilmente, ma può anche - purtroppo - manipolarli.
Proprio in quest’ultimo caso si parla del fenomeno deepfake, un neologismo che deriva dalla fusione della parola deep learning (una branca dell’Intelligenza Artificiale, IA) con fake (falso, in inglese), e che consiste in una tecnologia in grado di manipolare l’immagine reale di un volto umano al fine di ricrearne artificialmente una copia fedele ma isolata o decontestualizzata rispetto all’originale.
Al di là di esempi simpatici e comici che popolano in rete (ve la ricordate la Regina Elisabetta che balla durante il messaggio di Natale al popolo inglese? ), i deepfake possono rappresentare talvolta un pericoloso mezzo di disinformazione (che si ricollega direttamente all’altrettanto preoccupante problema delle fake news) e che si presta facilmente per attacchi reputazionali, di porn revenge, di cyberbullismo, truffe informatiche e influenza fasulla e negativa dell’opinione pubblica.
Per contrastare questo fenomeno, numerosi team di ricerca in tutto il mondo hanno iniziato a sviluppare sistemi informatici per verificare l’integrità di foto e video che circolano su Internet. Si tratta non solo di una corsa contro il tempo, ma anche contro la tecnologia stessa, che si sta evolvendo molto velocemente. Al punto di essere diventata talmente sofisticata da essere in grado di creare immagini contraffatte perfettamente reali, tali da ingannare persino gli occhi più esperti.
Esempi di foto generate artificialmente; solo una piccola percentuale di persone (indicata nel box rosso) riesce a riconoscere che un’immagine è falsa.
Le persone tendono a credere naturalmente a ciò che vedono, specie se risulta verosimile, ovvero se ricalca in maniera minuziosa la realtà. È però possibile creare uno strumento di tutela per tutti gli utenti attivi sui social media, in modo che diventi più semplice rispondere alle domande “Questa immagine è reale? Posso fidarmi e condividerla a mia volta?".
È proprio con queste premesse e provocazioni che in U-Hopper abbiamo deciso di unirci ad un team composto da quattro ricercatori dell' Università di Trento per aggiudicarci la vittoria dell’Open Call lanciata da Trublo , presentando il progetto TrueBees che mira a contrastare la diffusione dei deepfake sui social media.
Per raggiungere questo obiettivo, il nostro team intende combinare strumenti di Intelligenza Artificiale per il riconoscimento e la classificazione di immagini false e un sistema di blockchain per creare una sorta di registro dove salvare in modo “indelebile” tale classificazione per poi renderlo accessibile a chiunque voglia consultarlo.
In U-Hopper siamo molto orgogliosi di lavorare su un tema così delicato e attuale - il nostro obiettivo non sarà solo quello di realizzare uno strumento efficace per proteggere gli utenti, ma anche di fare luce su queste zone d’ombra del Web che oggigiorno costituiscono, purtroppo, una fonte di grande preoccupazione. E siamo particolarmente contenti di portarlo avanti assieme alle eccellenze dell’Università di Trento, in un’ottica di sinergie e ricadute positive sul territorio trentino.
Scrivici per saperne di più oppure visita il sito del progetto e iscriviti alla newsletter per rimanere aggiornato sugli sviluppi del progetto!
Disclaimer: Trublo è un progetto europeo finanziato nell’ambito del programma Horizon 2020 che mira a studiare come le nuove tecnologie, ed in particolare la blockchain, possano rivoluzionare il settore dei media.