Cosa sono i deepfake? Sono contenuti (video, audio, foto...) che sfruttano algoritmi di intelligenza artificale e simulano in modo convincente le sembianze, i movimenti, gli atteggiamenti di persone (spesso si tratta di gente famosa) ai quali fanno pronunciare frasi mai dette realmente. Ciò contribuisce ad alimentare il giro di fake news che si nutrono di questi fenomeni. Il falso aggiunto al falso può diventare spesso micidiale. 

Facebook ha deciso di aumentare i controlli e di combattere questo problema in vista della campagna elettorale per le Presidenziali USA 2020 che ormai è alle porte. Verranno introdotte nuove regole riguardo la tipologia di contenuti pubblicabili e ci sarà una vera e propria battaglia ai deepfake.

Il comunicato ufficiale di FB parla di interventi che riguarderanno file modificati “in modi che non sono evidenti a un utente medio e che potrebbero ingannare qualcuno”. La nuova policy cita in modo esplicito le clip ottenute mediante l’impiego di IA e machine learning: ciò significa che ad esempio il filmato di Nancy Pelosi divenuto virale nei mesi scorsi, rallentato ad hoc con un semplice editor per far sembrare l’esponente democratica sotto l’effetto di alcool, potrebbe non essere messo al bando dal social stando alle regole appena annunciate. Immaginiamo che nella corsa alla Casa Bianca candidati, movimenti e sostenitori dell’una o dell’altra fazione non risparmieranno colpi bassi agli avversari, come già visto quattro anni fa.

Facebook non è la sola piattaforma chiamata a porre limiti al fenomeno. Lo ha fatto anche Twitter, nei mesi scorsi, condividendo una bozza di quella che sarà la policy chiamata a stabilire rigidi paletti da non oltrepassare.