Passa ai contenuti principali

Deep fake: come distinguerli in un battito di ciglia

Un nuovo metodo permette di smascherare la maggior parte dei video fasulli generati con l'intelligenza artificiale sfruttando una loro (per ora irrisolta) debolezza: l'assenza di occhi chiusi.

reu_rtx2rzrc_web
Un caso a sé, ma in genere non è facile trovare foto di personaggi noti con gli occhi chiusi.

L'ultima frontiera della disinformazione virale sfrutta le potenzialità dell'intelligenza artificiale per far muovere e parlare personaggi famosi con i volti, le espressioni e le parole di altri: il deep fake, ossia la sostituzione delle facce, o di alcuni elementi del viso dei protagonisti, grazie a software estremamente avanzati, garantiscono oggi risultati realistici.
Per ora la tecnica è stata sfruttata soprattutto nella satira e nel mondo del cinema hard, ma l'ombra di filmati-bufala con personaggi politici lanciati in dichiarazioni mai fatte pesa (per esempio) sulle prossime elezioni di medio termine americane. Un gruppo di ricercatori dell'Università di Albany, New York, sembra però avere identificato un tallone d'Achille del meccanismo.
DEEP FAKE: COME FUNZIONA? Come spiegato su The Conversation, i video deep fake sfruttano un sistema di reti neurali profonde (cioè adibite al deep learning, l'apprendimento automatico basato su diversi livelli di rappresentazione) per studiare i movimenti facciali di una persona e sintetizzare immagini del volto di un'altra persona facendole assumere espressioni analoghe.

Per queste operazioni serve un ampio database di fotografie di entrambi i volti: maggiore è il numero di immagini usate per "istruire" un deep fake, tanto più realistico risulterà il video finito. E qui casca l'asino.

LE FOTO CHE NESSUNO VUOLE. Nella realtà, gli esseri umani sbattono gli occhi ogni 2-10 secondi, e ogni battito di ciglia richiede tra un decimo e quattro decimi di secondo. Difficilmente, però, si trovano in Rete foto di persone con gli occhi chiusi: un po' perché trascorriamo la maggior parte del tempo con gli occhi aperti, e un po' perché raramente un fotografo pubblica ritratti ad occhi chiusi in un servizio.

FISSITÀ SOSPETTA. Le reti neurali dei video deep fake hanno quindi poco materiale da cui attingere: il risultato è che raramente nei video deep fake vedrete il protagonista sbattere gli occhi. Siwei Lyu, direttore del laboratorio di Visione artificiale e Machine Learning dell'Università di Albany, ha sviluppato con i colleghi algoritmi in grado di identificare automaticamente e con precisione la posizione degli occhi nei video, e tener traccia di ogni battito di ciglia.

Nei due filmati qui sotto: 1) una persona "autentica" sbatte gli occhi mentre parla; 2) in un video deep fake non si vedono battiti di ciglia.
PRONTO A TUTTO. Per evitare che il sistema cadesse nello stesso tranello delle reti neurali "nemiche", è stato istruito su una vasta libreria di foto di persone sia con gli occhi chiusi, sia aperti. La tecnica sembra funzionare e il team riesce ora a distinguere i video deep fake nel 95% dei casi.

BATTAGLIA APERTA. Si tratta tuttavia di una vittoria temporanea. Come ricordano i ricercatori, la tecnologia per produrre questi filmati è in continua evoluzione: i malintenzionati potrebbero per esempio recuperare frame di soggetti con occhi chiusi dai video usati per istruire le reti neurali, e aggirare così la falla temporanea. A ogni mossa segue una contromossa, come in una partita a scacchi.

Commenti

Post popolari in questo blog

Dengue, aumentano i casi in Italia: da dove arriva e perché sta crescendo il virus delle zanzare

Sono 500 i casi di Dengue confermati nel nostro Paese da gennaio 2024. Il maxi focolaio di Fano con oltre 100 contagi fa temere un'ulteriore diffusione.     Sangue in provetta L'aumento vertiginoso dei casi di  Dengue  – infezione trasmessa dalle zanzare del genere  Aedes , come la zanzara tigre – fa salire l'attenzione su una malattia che l'Oms aveva già inserito tra le  10 minacce per la salute globale  ancor prima dell'ondata epidemica attuale. I timori si alimentano anche in Italia, con il recente focolaio scoppiato a Fano, nelle Marche, che finora registras 102 casi accertati e altri dieci probabili.   Già il 2023 era stato un anno record, con oltre  6 milioni di contagi  e casi autoctoni registrati anche in zone, come l'Europa e l'Italia, in cui la malattia non è normalmente presente (ma è a volte diagnosticata nei viaggiatori provenienti da aree a rischio). Tuttavia, le cifre relative ai primi mesi del 2024 sono state capaci di sb...

Impiantato un cuore artificiale che funziona come i treni a levitazione magnetica maglev

  Un uomo ha vissuto per 8 giorni con un cuore artificiale che pompa sangue sfruttando la levitazione magnetica: è andato tutto bene e presto ripeteremo l'operazione su un altro paziente.     Il cuore artificiale totale (TAH) in titanio prodotto dall’azienda BiVACOR. Lo scorso luglio  è stato trapiantato per la prima volta   un cuore artificiale in titanio che funziona con la stessa tecnologia che fa correre sulle rotaie i  maglev , i treni superveloci a levitazione magnetica . Il TAH (acronimo che viene dall'inglese  total artificial heart ) è stato impiantato in Texas in un paziente statunitense di 58 anni in attesa di un cuore umano, e  l'ha tenuto in vita per otto giorni senza dare alcun effetto collaterale , finché il paziente stesso non è stato sottoposto a trapianto. Cuore sospeso.  Il cuore artificiale, grande quanto un pugno, non è sottoposto ad usura meccanica:  l'unica parte che si muove, infatti, è un piccolo rotore interno c...

Il legame (negativo) tra bevande zuccherate e malattie cardiovascolari

  Bere bevande zuccherate aumenta il rischio di soffrire di malattie cardiovascolari: meglio concedersi un dolcetto ogni tanto.     Bevande zuccherate? Se ci tieni alla salute del tuo cuore, meglio di no. È meglio bere una bevanda zuccherata o mangiare un dolcetto? Stando a quanto scoperto da uno studio  pubblicato su  Frontiers in Public Health , la seconda. Analizzando l'impatto del consumo di zucchero sul rischio di soffrire di malattie cardiovascolari, i ricercatori hanno infatti scoperto che  bere bibite zuccherate aumenta il rischio di venire colpiti da ictus, insufficienza cardiaca, fibrillazione atriale e aneurisma . «La cosa più sorprendente è stata scoprire che diverse fonti di zucchero aggiunto hanno un impatto differente sul rischio di malattie cardiovascolari», commenta  Suzanne Janzi , una degli autori, sottolineando l'importanza di considerare non solo  quanto  zucchero consumiamo, ma anche  di che tipo . Lo studio.  ...