Deepfakes semeiam dúvidas, geram confusão e desconfiança nos eleitores

A tecnologia que pode produzir deepfakes está amplamente disponível. 

No início de março, circulou um vídeo manipulado do presidente ucraniano Volodymyr Zelenskyy . Nele, um Zelenskyy gerado digitalmente disse ao exército nacional ucraniano para se render. O vídeo circulou online, mas foi rapidamente desmascarado como um deepfake – um vídeo hiper-realista, mas falso e manipulado, produzido usando inteligência artificial.

A deepfake of Ukrainian President Volodymyr Zelensky calling on his soldiers to lay down their weapons was reportedly uploaded to a hacked Ukrainian news website today, per @Shayan86 pic.twitter.com/tXLrYECGY4

— Mikael Thalen (@MikaelThalen) March 16, 2022

Embora a desinformação russa pareça ter um impacto limitado, esse exemplo alarmante ilustrou as possíveis consequências dos deepfakes.

No entanto, os deepfakes estão sendo usados ​​com sucesso em tecnologia assistiva. Por exemplo, pessoas que sofrem de doença de Parkinson podem usar a clonagem de voz para se comunicar .

Deepfakes são usados ​​na educação: a empresa de síntese de voz CereProc, com sede na Irlanda, criou uma voz sintética para John F. Kennedy, trazendo-o de volta à vida para fazer seu discurso histórico .

No entanto, toda moeda tem dois lados. Deepfakes podem ser hiper-realistas e basicamente indetectáveis ​​pelos olhos humanos .

Portanto, a mesma tecnologia de clonagem de voz pode ser usada para phishing, difamação e chantagem. Quando os deepfakes são deliberadamente implantados para remodelar a opinião pública, incitar conflitos sociais e manipular eleições, eles têm o potencial de minar a democracia.

Causando caos

Deepfakes são baseados em tecnologia conhecida como redes adversariais generativas em que dois algoritmos treinam um ao outro para produzir imagens.

Embora a tecnologia por trás das falsificações profundas possa parecer complicada, é uma questão simples de produzir uma. Existem vários aplicativos online, como Faceswap e ZAO Deepswap, que podem produzir deepfakes em minutos.

O Google Colaboratory — um repositório online de código em várias linguagens de programação — inclui exemplos de código que podem ser usados ​​para gerar imagens e vídeos falsos . Com um software tão acessível, é fácil ver como os usuários comuns podem causar estragos com deepfakes sem perceber os riscos potenciais à segurança.

A popularidade de aplicativos de troca de rosto e serviços online como o Deep Nostalgia mostram quão rápida e amplamente os deepfakes podem ser adotados pelo público em geral. Em 2019, foram detectados aproximadamente 15.000 vídeos usando deepfakes . E espera-se que esse número aumente.

Deepfakes são a ferramenta perfeita para campanhas de desinformação porque produzem notícias falsas críveis que levam tempo para serem desmascaradas. Enquanto isso, os danos causados ​​por deepfakes – especialmente aqueles que afetam a reputação das pessoas – costumam ser duradouros e irreversíveis.

Ver é crer?

Talvez a ramificação mais perigosa dos deepfakes seja como eles se prestam à desinformação em campanhas políticas.

Vimos isso quando Donald Trump designou qualquer cobertura da mídia pouco lisonjeira como “ notícias falsas ”. Ao acusar seus críticos de divulgar notícias falsas, Trump conseguiu usar a desinformação em defesa de seus erros e como ferramenta de propaganda.

A estratégia de Trump permite que ele mantenha o apoio em um ambiente repleto de desconfiança e desinformação ao afirmar “ que eventos e histórias verdadeiras são notícias falsas ou deepfakes ”.

A credibilidade das autoridades e da mídia está sendo prejudicada , criando um clima de desconfiança. E com a crescente proliferação de deepfakes, os políticos poderiam facilmente negar a culpa em quaisquer escândalos emergentes. Como a identidade de alguém em um vídeo pode ser confirmada se ela o negar?

Combater a desinformação, no entanto, sempre foi um desafio para as democracias que tentam defender a liberdade de expressão. As parcerias entre humanos e IA podem ajudar a lidar com o risco crescente de deepfakes fazendo com que as pessoas verifiquem as informações. A introdução de nova legislação ou a aplicação de leis existentes para penalizar os produtores de deepfakes por falsificar informações e se passar por pessoas também podem ser consideradas.

Abordagens multidisciplinares por governos internacionais e nacionais, empresas privadas e outras organizações são vitais para proteger as sociedades democráticas de informações falsas.

1. Sze-Fung Lee é assistente de Pesquisa, Departamento de Estudos da Informação, Universidade McGill
2. Benjamin CM Fung é professor e Cadeira de Pesquisa do Canadá em Mineração de Dados para Segurança Cibernética, McGill University