di sabatino coppola | digital coach
Che cosa sono le Deepfake?
Le deepfakes sono video sapientemente realizzati con una tecnologia inventata nel 2014 da Ian Goodfellow, un Ph.D. studente che ora lavora presso Apple. La maggior parte della tecnologia deepfake si basa su “Generative Adversarial Networks” (GAN) I GAN consentono agli algoritmi di andare oltre la classificazione dei dati nella generazione o creazione di immagini. Ciò si verifica quando due GAN cercano di ingannarsi l’un l’altro nel pensare che un’immagine sia “reale”. Utilizzando solo un’immagine, un GAN esperto può creare un video clip di quella persona. Il Centro di intelligenza artificiale di Samsung ha recentemente pubblicato ricerche che condividono la scienza alla base di questo approccio. “Fondamentalmente, il sistema è in grado di inizializzare i parametri sia del generatore che del discriminatore in un modo specifico per persona, in modo che la formazione possa essere basata su poche immagini e eseguita rapidamente, nonostante la necessità di mettere a punto decine di milioni di parametri”. Hanno detto i ricercatori su un documento pubblicato nel web. “Mostriamo che un tale approccio è in grado di apprendere modelli di “testa parlante” altamente realistici e personalizzati di nuove persone e persino ritratti.”
Per ora, questo si applica solo ai video di persone parlanti. Ma cosa succederebbe quando i GAN potranno far ballare, battere le mani o essere manipolati in un altro modo? Perché le deepfakes sono pericolose? Se dimentichiamo il fatto che ci sono oltre 30 nazioni attivamente impegnate nella guerra cibernetica in questo momento, allora la più grande preoccupazione per le deepfake potrebbe essere rappresentato dal sito deepnudes, dove i volti delle celebrità e i volti delle donne comuni potrebbero essere sovrapposti a video pornografici e divulgati in rete. Il fondatore di deepnudes alla fine ha annullato il lancio del sito, temendo che “la probabilità che le persone ne abusino è troppo alta”. “Al livello più elementare, i deepfake sono bugie mascherate da sembrare verità” – afferma Andrea Hickerson, direttore della School of Journalism and Mass. Communications dell’Università della Carolina del Sud. “Se li prendiamo come verità o prove, possiamo facilmente trarre conclusioni false con conseguenze potenzialmente disastrose”. Gran parte della paura dei Deepfakes riguarda giustamente la politica, afferma Hickerson. “Che cosa succede se un video falso ritrae un leader politico che incita alla violenza o al panico? Altri paesi potrebbero essere costretti ad agire se la minaccia fosse immediata?” Cosa viene fatto per combattere i deepfakes? Il Comitato di intelligence della Camera dei rappresentanti degli Stati Uniti ha inviato una lettera a twitter, facebook e google chiedendo in che modo i siti di social media avevano pianificato di combattere i deepfakes nelle elezioni del 2020. L’inchiesta è arrivata in gran parte dopo che il presidente Trump ha twittato un video falso del presidente della Camera Nancy Pelosi : Ciò ha fatto seguito alla richiesta avanzata dal Congresso a gennaio di chiedere al direttore dell’intelligence nazionale di fornire un rapporto formale sulla tecnologia dei deepfake. Mentre l’indagine legislativa è fondamentale, potrebbe non essere sufficiente. Anche istituzioni governative come la DARPA e ricercatori di college come Carnegie Mellon, l’Università di Washington, la Stanford University e il Max Planck Institute for Informatics stanno sperimentando la tecnologia delle deepfake. Le organizzazioni stanno esaminando sia come utilizzare la tecnologia GAN, sia come combatterla. Alimentando algoritmi deepfake e video reali, sperano di aiutare i computer a identificare quando qualcosa è un falso. Stiamo usando la tecnologia per combattere la tecnologia in una corsa che non finirà mai. “I video di deepfake minacciano il nostro senso civico e possono causare gravi danni reputazionali e psichici alle persone”, afferma Sharon Bradford Franklin, direttore delle politiche dell’Open Technology Institute del New America . “Inoltre rendono ancora più difficile, per le piattaforme web, impegnarsi nella moderazione responsabile dei contenuti online”.
Come individuare un Deepfake
Molti persone hanno già perso la fiducia nelle notizie. E man mano che la tecnologia deepfake cresce, cresce sempre più lo sconforto tanto che l’information disorder ha preso il posto della verità. “Il modo migliore per proteggersi da un deepfake è di non girare mai un video personale”, afferma Hickerson. “Non possiamo presumere che vedere sia credere. Il pubblico dovrebbe cercare in modo indipendente informazioni contestuali correlate e prestare particolare attenzione a chi e perché qualcuno sta condividendo un video. In generale, le persone sono sciatte su ciò che condividono sui social media. Anche se la tua migliore amica lo condivide, dovresti pensare a dove l’ha preso”.
Chi o qual è la fonte originale?
La soluzione a questo problema deve essere guidata dagli utenti stessi fino a quando i governi, i tecnologi o le aziende non possano trovare una soluzione. Se non c’è una spinta immediata per combattere il dilagare di questo fenomeno, potrebbe essere troppo tardi. Tutto ciò che dovremmo fare è chiedere che le piattaforme che propagano queste informazioni siano ritenute responsabili, che il governo faccia sforzi per garantire che la tecnologia abbia un uso positivo per compensare gli aspetti negativi e che l’educazione digitale sia inserita come materia di studio nelle scuole per formare le persone al riconoscimento delle “fake”.