Verdadeiro ou falso? Vídeos 'deepfake' estão cada vez mais reais

Manipulação de imagem com uso de inteligência artificial diverte, mas acende alerta para disseminação de notícias falsas

  • Foto do(a) author(a) Carol Neves
  • Carol Neves

Publicado em 25 de agosto de 2019 às 07:07

- Atualizado há um ano

. Crédito: Arquivo/AFP

Um dia você abre sua rede social de preferida e vê um vídeo inusitado em que o presidente Jair Bolsonaro aparece cantando "o pintinho piu". Ou recebe um link para imagens que mostram o ator Steve Buscemi falando após receber um Globo de Ouro - só que a voz e o corpo são de Jennifer Lawrence. Quem sabe você viu o criador do Facebook, Mark Zuckerberg, fazendo um discurso surpreendente em que fala sobre como sua empresa manipula dados de usuários. O que esses vídeos têm em comum? Todos são falsos e usam tecnologia para manipular a realidade de maneira cada vez mais sofisticada, com uso de inteligência artificial.

Vídeo feito pelos artistas Bill Posters e Daniel Howe com ajuda de uma agência para criticar as políticas de privacidade do Facebook:

Nas redes sociais, vídeos que satirizam o presidente Jair Bolsonaro e seu entourage viralizaram. Bolsonaro aparece como o Chapolin Colorado ou o palhaço Bozo, o filho Carlos é o Tonho da Lua de "Mulheres de Areia", o ministro Sergio Moro é uma dançarina melindrosa... Postados no Twitter, Instagram e Youtube, os vídeos curtos tiveram milhares de acesso. Todos foram feitos pelo jornalista mineiro Bruno Sartori, 30 anos, que é editor de mídias digitais e também estudante de Direito.

Carlos Bolsonaro ou Tonho da Lua? 

Bruno conta ao CORREIO que começou a editar vídeos aos 15 anos e, influenciado pelo trabalho do chargista Maurício Ricardo, sempre se sentiu atraído por um trabalho com viés mais político. "Passei a desenvolver os meus próprios vídeos e desde então eu venho me aperfeiçoando", conta. "Sempre foi politizado". Esses vídeos são feitos com ajuda da inteligência artificial. Bruno explica: "Existe uma biblioteca de código aberto, que utiliza a GPU para fazer o treinamento (da AI). Eu forneço milhares de imagens da pessoa que eu quero copiar, ela analisa essas imagens e depois é capaz de reproduzir".

Depois, vem a parte da edição. "Só o deepfake não te entrega uma coisa tão real, no pós-produção eu já consigo melhorar". Ele leva cerca de sete dias para fazer um vídeo. "Varia muito. Para treinar o rosto estou levando uns quatro dias e depois mais uns três dias para terminar o vídeo todo".

Bozonaro

Os vídeos são bem-humorados, mas nem todo mundo gosta, já que há um claro tom de crítica. "Todo dia ameaça, todo dia xingamentos, vídeos denunciados, vídeos derrubados. Mas é parte do jogo, principalmente por causa desse extremismo (que vivemos)". Bruno sempre sinaliza seu conteúdo como deepfake e, pelo contexto, é difícil realmente se enganar. Para ele, quem usa a tecnologia para disseminar vídeos com intenção de desinformar é "mau caráter"."Pornografia é uma coisa que mais me preocupa, porque as vítimas serão mulheres e são casos que acabam com a vida da pessoa. Esse tipo de conteúdo vai prejudicar muita gente", diz. "Tem também as fake news, mas eu acredito que a população vai ser educada até uma próxima eleição, a mídia tem que fazer o trabalho dela, para que quando chegue, a gente já tenha feito com que as pessoas pelo menos desconfiem que aquilo ali não é real".Desinformação A ideia de que o deepfake possa ajudar a criar um caos político e social é o pior cenário, mas não é uma ameaça tão inverossímil. As fake news já são um tema forte que estão moldando debates e mudando opiniões. Há denúncias de que as notícias falsas espalhadas nas redes sociais ajudaram a mudar os rumos das eleições presidenciais do Brasil e dos EUA, por exemplo. Com vídeo entrando no jogo, a tendência é que o ruído aumente ainda mais.

No ano passado, o Buzzfeed fez um vídeo em que o ex-presidente dos EUA Barack Obama aparece falando: "Estamos entrando em uma era em que nossos inimigos podem fazer parecer que qualquer um está dizendo qualquer coisa a qualquer momento. Mesmo se eles nunca fossem dizer essas coisas". O site americano fez uma edição em que Obama aparece falando um texto escrito por eles e lido pelo diretor Jordan Peele. O resultado é bastante crível e criou um alerta sobre os possíveis efeitos desses vídeos. 

Obama diz que Trump é "um idiota completo"

A jornalista Tatiana Maria Dourado, que estuda fake news e eleições no Poscom, na Universidade Federal da Bahia (Ufba), e é vinculada ao Instituto Nacional de Ciência e Tecnologia em Democracia Digital, diz que os efeitos nocivos dos vídeos deepfakes ainda devem ser testados mais diretamente nas eleições de 2020 dos EUA e pela Europa, mas que a preocupação aumenta com as notícias falsas ficando cada dia mais realistas.

"A presunção de verdade é um fator elementar para o compartilhamento de notícias. Cria-se um efeito de verdade com a montagem de um vídeo e há mais chance de mentiras serem disseminadas de forma massiva e consequentemente impactar o debate eleitoral a ponto de criar um clima de instabilidade democrática", diz. "A preocupação é quando esses vídeos tiverem roteiros estratégicos, pensados, e que obviamente podem ter essa vertente antidemocrática. Quando o processo democrático é manipulado e a gente não sabe de onde vem", diz.Para a pesquisadora, o material audiovisual pode seduzir mais pessoas porque "remete a uma ideia maior de veracidade". "Imagem, tanto fotografia como vídeo, a gente tem uma ideia de que serve como prova de que algo é real. O grande perigo é esse, que essas mentiras pareçam cada vez mais verdade", diz.Por outro lado, ela destaca que a população está cada vez mais consciente de que existem muitas notícias falsas circulando e isso pode fazer com que fiquem mais atentas. "Querendo ou não, mesmo diante dessa polarização e acirramento que vivemos, as pessoas já conseguem perceber que as fake news estão aí. A esperança é de que isso gere um posicionamento crítico diante da informação e o consumo de notícias seja feito através de fontes confiáveis, profissionais. Primeiro estar ciente que existe a fake news, checar a fonte, tudo isso é importante, assim como esse debate contínuo entre eleições".

Famosos no pornô Quando se fala na preocupação com distribuição de pornografia falseada é porque a mesma inteligência artificial já está sendo usada para criar vídeos que colocam, por exemplo, rostos de famosas em cenas de vídeos pornôs. Cenas adultas foram criadas com os rostos de atrizes como Gal Gadot, Emma Watson e Natalie Portman assistidas milhares de vezes na internet.

Aliás, o que não é surpreendente, o mundo da pornografia foi um dos primeiros a fazer uso dessa tecnologia, ainda que de maneira apócrifa, com sites e fóruns online dedicados inteiramente a isso. Vários deixam claro que não se trata de um vídeo real da artista ali retratada - eles trazem o nome da celebridade e o da atriz pornô que originalmente fez a cena - mas isso não parece afastar os interessados em assistir ao que quer que sua imaginação deseje. Natalie Portman é uma das vítimas preferidas nos falsos pornôs (Foto: Reprodução) "Esse nível de falsificação ainda não chegou popularmente em nível doméstico, e vai ser muito preocupante quando acontecer. Mas com a popularização da tecnologia, não é possível descartar o uso disso como uma arma para situações de vingança, espalhar notícias falsas sobre desafetos e coisas do tipo. A gente já vê no dia a dia as pessoas divulgando vídeos íntimos reais seja para atacar ou não", diz o advogado Leo Ramires. Compartilhar vídeos e fotos de nudez de outra pessoa é crime - no caso de imagens falsas, cabe denúncia por difamação, diz o advogado.

A tendência é de que a linha entre o real e falso vá ficando cada vez mais tênue. Do hoje cotidiano Photoshop ao aplicativo inocente que coloca de maneira automática um sorriso no rosto de qualquer um ao deepfake, o salto não é tão grande quanto possa parecer. "A tecnologia sempre vai existir e sempre vai mudar. A ferramenta em si não é o problema, mas nós devemos estar atentos para que nesse caminho nossos direitos não se percam", finaliza Ramires.