Tentamos criar um deepfake de Mark Zuckerberg e Alex Jones ?? e falhou. Aqui está o que aconteceu.

Verificando Os Fatos

Fazer parecer que alguém fez ou disse algo que nunca aconteceu é mais difícil do que parece.

Isso é o que Poynter aprendeu nas últimas semanas enquanto tentava criar um vídeo 'deepfake' de Alex Jones, anfitrião do Infowars e teórico da conspiração frequente, fazendo comentários que foram realmente feitos pelo CEO do Facebook, Mark Zuckerberg. Deepfakes, com o nome do usuário Reddit que criou o método, são essencialmente criados extraindo um grande número de quadros de um vídeo e sobrepondo-os uns aos outros.



como obter informações de alguém

O objetivo: fazer com que pareça que alguém está fazendo ou dizendo algo que não está. E foi isso que Poynter tentou fazer para ver como essa tecnologia é realmente fácil de usar.



Usando FakeApp , uma ferramenta online gratuita que permite aos usuários criar seus próprios deepfakes, tentamos criar um vídeo rudimentar de Zuckerberg contando as teorias de conspiração infundadas de Jones. Abaixo está o vídeo, criado com a ajuda de Warren Fridy, desenvolvedor de web em tempo parcial do Poynter.



Obviamente, essa não é uma boa versão de algo que pornografia amador , pessoas em sites marginais e até mesmo os partidos políticos tornaram-se alarmantemente proficientes em. Enquanto o rosto de Zuckerberg é de fato sobreposto ao de Jones, o FakeApp incluiu todo o seu rosto, fazendo-o parecer algum tipo de demônio embaçado sem olhos perceptíveis. Depois, há o fato de que o áudio não foi transposto.

Resumindo: devemos manter nossos empregos diários.

Piadas à parte, levamos semanas para descobrir algo que está longe de ser um vídeo deepfake aceitável. E isso porque - apesar da cobertura frequente da mídia do fim do mundo sobre a tecnologia deepfake - é realmente muito difícil para criar um.



“Deepfake requer algum esforço manual”, disse Matthias Niessner , um professor da Universidade Técnica de Munique, cujo laboratório pesquisas deepfakes, em um e-mail para Poynter. “De certa forma, você poderia vê-lo como semelhante ao Photoshop. É um pouco exagerado. ”

meus seguidores do twitter são reais?

O aumento dos deepfakes - discutido durante um painel no Global Fact-Checking Summit em Roma hoje - deixou de ser uma coisa assustadora da Internet para uma verdadeira ameaça à democracia, de acordo com Pedra rolando . Vox escreveu que vídeos manipulados podem alterar nossas memórias, The Verge disse criar vídeos pornôs falsos em breve será super fácil e Com fio mesmo coberto uma startup blockchain que se dedicou a combater o formato.

Ao mesmo tempo, alguns relataram que os deepfakes gerais já acabaram e os “retratos de vídeo profundos” são com que todos devemos nos preocupar.



Enquanto isso, depois de mais de um mês de tentativas, mal fomos capazes de produzir algo que parecesse até mesmo um pouco realista. Claro, isso poderia (com razão) ser atribuído à nossa própria ignorância dos modelos de aprendizado de máquina - outro jornalistas tiveram mais sucesso - mas o ponto aqui é que criar um vídeo significativamente alterado ainda não é tão fácil quanto postar uma notícia falsa no Facebook (e provavelmente não é tão lucrativo).

“Não acho que pessoas sem qualquer tipo de experiência em aprendizagem profunda possam criar um vídeo deepfake convincente usando o aplicativo deepfake disponível online”, disse Annalisa Verdoliva , professor assistente da Universidade de Nápoles Federico II, em um e-mail para Poynter. “Mesmo para pessoas experientes, é bastante difícil.”

Verdoliva tentou criar seu próprio vídeo deepfake com uma equipe de pesquisa e disse que não deu certo porque eles não obtiveram variação suficiente nas imagens para treinar com precisão o modelo que cria o deepfake. Esse também é um desafio importante para aspirantes a fraudadores como Poynter.

Aqui estão as etapas que demos:

  1. Baixamos o FakeApp e o instalamos em uma área de trabalho remota do Windows (o Poynter usa quase exclusivamente Macs, com os quais o FakeApp não é compatível).
  2. Baixamos dois videoclipes - um de Zuckerberg falando sobre a investigação da intromissão russa nas eleições de 2016 nos EUA, e outro de Jones falando sobre o “estado profundo” e a agenda política do presidente Donald Trump. Isso dá ao FakeApp muitas fotos de rosto para escolher.
  3. Deixamos a “inteligência artificial” que alimenta o FakeApp encontrar e cortar os rostos em cada vídeo para criar um modelo de aprendizado de máquina que mesclaria Jones e Zuckerberg para fazer parecer que o primeiro estava falando como o último. Isso levou um fim de semana inteiro, ou cerca de três dias.
  4. Finalmente, o FakeApp gerou o vídeo. Fridy disse que poderia ter treinado o modelo por mais tempo e com mais fotos do rosto de Zuckerberg para torná-lo mais preciso, mas isso teria levado mais tempo.

Agora a parte divertida. Aqui estão alguns dos problemas que encontramos ao usar o FakeApp:

  1. Você não pode executar o FakeApp no ​​macOS da Apple - ele só funcionou no Windows para nós.
  2. Você deve ter um Placa gráfica baseada em NVIDIA , que é essencialmente uma peça de hardware que permite processar todas as imagens e transformá-las juntas.
  3. Você precisa de muita memória no computador - cerca de 10 GB ou mais.
  4. Encontramos problemas de compatibilidade com as diferentes versões do TensorFlow, uma biblioteca de software que permite ao FakeApp criar seu modelo de aprendizado de máquina.
  5. Pegamos o áudio do vídeo original para tentar encaixá-lo no deepfake, mas o FakeApp não fez nada com ele.

“O FakeApp parece bom, mas quando você se senta para experimentar, não funciona 100 por cento”, disse Fridy. “Não é uma ferramenta fora da caixa.”

quem está moderando o debate republicano

FakeApp supostamente foi baixado mais de 100.000 vezes. Existem canais 4chan e Reddit inteiros dedicados à criação de deepfakes. Mas, por enquanto, a tecnologia é rudimentar, na melhor das hipóteses - mesmo para aqueles que sabem como usá-la corretamente.

Por que Fox News é ruim?
FakeApp

(Capturas de tela do FakeApp)

Fridy disse que tecnologia como Adobe After Effects e Lyrebird , assim como Face2Face e Pixel2Pixel , provavelmente seriam melhores apostas para a criação de um vídeo deepfake. S.pa, um partido político belga que criou um deepfake de Trump no mês passado, usei o After Effects.

Apesar das complicações da ferramenta, os vídeos deepfake ainda são preocupantes - apenas não no futuro imediato e com algumas ressalvas.

“Estamos apenas no início dessa tecnologia e acho que ela irá melhorar em breve e se tornar fácil de usar para todos”, disse Verdoliva. “No momento, a resolução ainda é muito baixa, mas isso será um problema no futuro próximo, porque houve um progresso impressionante na geração de faces sintéticas de alta qualidade.”

Ao mesmo tempo, entender mal e superestimar o impacto e o potencial dos deepfakes podem representar uma ameaça maior no curto prazo.

“Minha maior preocupação no momento é o equívoco de muitas dessas abordagens”, disse Niessner. “A indústria cinematográfica tem se mostrado bastante realista & apos; fake & apos; imagens dos últimos 30 anos. Mas agora adicionando IA como uma palavra da moda, de repente é um problema - embora nem mesmo funcione tão bem. ”

Deepfake os vídeos serão discutidos durante um painel no Global Fact 5 hoje. Siga @factchecknet e #GlobalFactV para atualizações ao vivo.