Da asporto chiave
- Deep Nostalgia è un nuovo programma che ti permette di animare vecchie foto.
- La tecnologia mostra quanto sia facile creare video di persone che fanno cose che in re altà non hanno fatto nella vita reale.
- La tecnologia deep fake è già così sofisticata che è difficile dire se un video è reale o generato dal computer, dice un esperto.
Fai attenzione ai nuovi software che possono creare i cosiddetti "falsi profondi", in cui possono essere simulati video di persone reali, avvertono gli esperti.
Deep Nostalgia, pubblicato dalla società MyHeritage, è di tendenza sui social media, con gli utenti che rianimano tutti, dai compositori famosi ai parenti morti. Il software sta suscitando reazioni contrastanti, con alcune persone deliziate dalle creazioni e altre che le trovano inquietanti. La tecnologia mostra quanto sia facile creare video di persone che fanno cose che in re altà non hanno fatto nella vita reale.
"La tecnologia deepfake sta diventando sempre più sofisticata e pericolosa", ha dichiarato Aaron Lawson, assistente direttore del Laboratorio di tecnologia e ricerca vocale (STAR) di SRI International, in un'intervista via e-mail. "Ciò è in parte dovuto alla natura dell'intelligenza artificiale. Laddove la tecnologia 'tradizionale' richiede tempo ed energia umana per migliorare, l'IA può imparare da se stessa.
"Ma la capacità dell'IA di svilupparsi è un'arma a doppio taglio", ha continuato Lawson. "Se un'IA viene creata per fare qualcosa di benevolo, ottimo. Ma quando un'IA è progettata per qualcosa di dannoso come i deep fake, il pericolo è senza precedenti."
Il software dà vita alle foto
Il sito web di genealogia MyHeritage ha introdotto il motore di animazione il mese scorso. La tecnologia, nota come Deep Nostalgia, consente agli utenti di animare le foto tramite il sito Web MyHeritage. Una società chiamata D-ID ha progettato algoritmi per MyHeritage che ricreano digitalmente il movimento dei volti umani. Il software applica i movimenti alle fotografie e modifica le espressioni facciali in modo che si muovano come fanno di solito i volti umani, secondo il sito Web MyHeritage.
Deep Nostalgia mostra che la tecnologia deep-fake sta diventando più accessibile, ha detto in un'intervista via e-mail Lior Shamir, professore di informatica alla Kansas State University. Sta procedendo rapidamente ed eliminando anche le sottili differenze tra video e audio falsi e reali.
"Ci sono stati anche progressi sostanziali verso il deep fake in tempo reale, il che significa che i video deep fake convincenti vengono generati al momento della comunicazione video", ha detto Shamir."Ad esempio, si può tenere una riunione Zoom con una certa persona, mentre si vede e si sente la voce di una persona completamente diversa."
C'è anche un numero crescente di deep fake basati sul linguaggio, ha detto in un'intervista via e-mail Jason Corso, direttore dello Stevens Institute for Artificial Intelligence presso lo Stevens Institute of Technology. "Generare interi paragrafi di testo falso profondo verso un'agenda specifica è piuttosto difficile, ma i progressi moderni nell'elaborazione profonda del linguaggio naturale lo stanno rendendo possibile", ha aggiunto.
Come rilevare un falso profondo
Mentre la tecnologia di rilevamento dei falsi falsi è ancora in una fase nascente, ci sono alcuni modi per individuarne uno, ha detto Corso, a cominciare dalla bocca.
"La variabilità nell'aspetto dell'interno della bocca quando qualcuno parla è molto alta, il che rende difficile animare in modo convincente", ha spiegato Corso. "Si può fare, ma è più difficile del resto della testa. Nota come i video di Deep Nostalgia non dimostrano la capacità della fotografia di dire "ti amo" o qualche altra frase durante la creazione del falso profondo. Ciò richiederebbe l'apertura e la chiusura della bocca, cosa molto difficile per la generazione di deep fake."
Il ghosting è un altro giveaway, ha aggiunto Corso. Se vedi sfocature intorno ai bordi della testa, è il risultato di "movimento veloce o pixel limitati disponibili nell'immagine sorgente. Un orecchio potrebbe scomparire parzialmente temporaneamente o i capelli potrebbero diventare sfocati dove non ti aspetteresti", ha detto.
Puoi anche fare attenzione alle variazioni di colore quando cerchi di individuare un video falso profondo, come una linea netta sul viso, con colori più scuri su un lato e più chiari sull' altro.
"Gli algoritmi dei computer possono spesso rilevare questi modelli di distorsione", ha affermato Shamir. "Ma gli algoritmi deep fake stanno avanzando rapidamente. È inevitabile che saranno necessarie leggi severe per proteggere dal deep fake e dai danni che possono facilmente causare."
