Precisamos falar sobre os perigos do Deepfake

Tecnologia vem crescendo muito nos últimos anos e pode ser extremamente destrutiva em alguns casos. Saiba mais!

Deepfake, uma junção de “deep learning” e “fake”, é uma tecnologia revolucionária e, ao mesmo tempo, ameaçadora. Surgiu no final da década de 2010, quando se tornou mais visível e acessível graças aos avanços no aprendizado de máquina. Essa técnica avançada de manipulação de mídia, baseada em inteligência artificial, têm abalado a confiança na autenticidade de vídeos, áudios e imagens, ao criar conteúdos falsos de forma bastante convincente.

O termo ganhou as mídias em 2017, quando vídeos falsos de mulheres famosas em conteúdos adultos começaram a circular no Reddit, um fórum de notícias e discussões. A tecnologia, inicialmente impulsionada por pesquisadores em universidades, logo se difundiu e foi adotada por entusiastas online, elevando o Deepfake de um nicho técnico a uma ferramenta com potencial destrutivo em diversos campos.

O que é Deepfake?

O Deepfake é uma técnica avançada de manipulação de mídia, impulsionada por inteligência artificial, capaz de criar vídeos, áudios ou imagens falsificadas que se assemelham consideravelmente à realidade. Com ela é possível colocar o rosto de uma pessoa em uma situação que foge do contexto, criando um cenário inteiramente falso.

Por meio de algoritmos complexos e da análise de conjuntos de dados, o Deepfake elabora modelos detalhados das feições e voz de uma pessoa-alvo. Com esses modelos, é possível editar e alterar aspectos em vídeos, resultando em produções que, à primeira vista, parecem genuínas, mas são completamente inventadas.

Como funciona o Deepfake?

O funcionamento do Deepfake é uma verdadeira dança entre a inteligência artificial e uma pilha gigante de dados. Tudo começa com a coleta extensiva de informações sobre a pessoa que será “falsificada”. Esses dados podem incluir milhares de fotos e vídeos de diferentes ângulos, expressões faciais e movimentos. Em seguida, algoritmos de aprendizado profundo (IA) entram em ação.

Esses algoritmos estudam meticulosamente cada detalhe das imagens e vídeos coletados. Eles aprendem os padrões faciais, gestos, nuances vocais e até mesmo os movimentos específicos da pessoa-alvo. Com essa vasta quantidade de dados, o Deepfake cria um modelo digital extremamente detalhado dessa pessoa.

É aí que a mágica – ou melhor, a ilusão – acontece. Com base nesse modelo, a tecnologia permite manipular vídeos existentes ou criar novos do zero. É possível moldar as expressões faciais, movimentos corporais e até a voz para fazer com que o material falso pareça o mais autêntico possível.

Tipos de Deepfake

A manipulação digital por meio de deepfakes já evoluiu a ponto de ultrapassar a barreira da criação de vídeos falsificados. Atualmente, podemos encontrar deepfakes em muitos formatos, como:

Deepfake de rosto: manipula expressões faciais e movimentos labiais em vídeos, substituindo o rosto de uma pessoa em uma gravação por outro rosto sintético.

Deepfake de voz: imita e manipula uma voz real. Pode gerar discursos, conversas ou áudios que parecem ser autênticos, mas são totalmente fabricados.

Deepfake de imagens estáticas: cria fotografias completamente fictícias, como retratos de indivíduos em situações ou ambientes que nunca estiveram. A manipulação de imagens estáticas pode ser usada para criar conteúdos enganosos em diversos contextos, desde a adulteração de fotos até a criação de identidades falsas.

Deepfake textual: gera textos e discursos falsos através de máquinas de escrita movidas por inteligência artificial. Atualmente, o Chat GPT é uma ferramenta que tem esse poder.

Deepfake de perfis falsos: cria perfis falsos nas redes sociais, fazendo com que contas pequenas cresçam rapidamente. Utiliza em conjunto os quatro tipos de Deepfake abordados anteriormente, para construir pessoas fictícias e influenciar nichos ou populações.

Deepfake em tempo real: de todos os tipos já citados, esse é o que mais impressiona e assusta, capaz de gerar conteúdo em tempo real. Essa modalidade permite criar vídeos ou transmissões ao vivo manipuladas, possibilitando a alteração instantânea de rostos, vozes e gestos durante uma interação em tempo real.

O Deepfake e as eleições

A manipulação de mídia por meio do Deepfake durante períodos eleitorais é uma questão que preocupa especialistas e políticos ao redor do mundo. A capacidade de criar vídeos falsos extremamente realistas pode ser usada para difamar candidatos, espalhar desinformação e afetar diretamente a percepção pública, influenciando, em última instância, os resultados das eleições.

Durante as eleições de 2020 nos Estados Unidos, o candidato Donald Trump compartilhou vídeos falsos de seu concorrente Joe Biden, hoje atual presidente. Em 2022, em meio à corrida presidencial brasileira, perfis falsos – também criados com tecnologia de Deepfake – produziram centenas de montagens envolvendo os dois candidatos, Lula e Jair Bolsonaro.

O Deepfake e a indústria do entretenimento

Na indústria do entretenimento, o Deepfake tem sido explorado para reviver figuras históricas ou rejuvenescer atores mais velhos em filmes e produções. A cantora Whitney Houston faleceu em 2012, mas realizou uma turnê em 2020 totalmente em holograma. Aqui no Brasil o mesmo aconteceu com Elis Regina, que participou de um comercial para uma marca de automóveis junto com sua filha Maria Rita, inteiramente recriada por inteligência artificial.

No filme “O Irlandês” (2019), da Netflix, o estúdio VFX rejuvenesceu Robert De Niro para que ele parecesse 30 anos mais novo. Após a estreia do filme, muitos espectadores opinaram sobre a veracidade da tecnologia. Contudo, essa prática levanta questões éticas e legais sobre o uso de imagens e direitos de propriedade intelectual, especialmente quando envolve indivíduos falecidos ou apropriação não autorizada de imagens.

A greve dos atores e roteiristas de 2023 teve um de seus fundamentos apoiados nessa questão: os estúdios queriam colocar em contrato a utilização de inteligência artificial para auxiliar na escrita dos roteiros, bem como utilizar “cópias” digitais dos atores para facilitar algumas cenas.

Apesar dos desafios éticos, o Deepfake também oferece novas oportunidades para a narrativa e a expressão artística. A capacidade de alterar digitalmente rostos e vozes permite a criação de mundos imaginários e interpretações únicas que antes seriam impensáveis. No entanto, é fundamental encontrar um equilíbrio entre a inovação tecnológica e o respeito à integridade artística e ética.

Como identificar um Deepfake?

Identificar um Deepfake pode ser um desafio, mas existem alguns sinais e técnicas que podem ajudar na detecção dessa manipulação digital:

1) Análise visual detalhada:
Observar cuidadosamente um vídeo ou uma imagem pode revelar sinais de manipulação. Procure por inconsistências, como distorções faciais, movimentos estranhos ou falta de sincronia labial. Em alguns casos, áreas específicas do rosto podem apresentar problemas de resolução ou transições bruscas entre os frames, especialmente ao redor dos olhos, boca ou cabelo.

2) Análise da fonte e contexto:
Verificar a fonte original do conteúdo é crucial. Se possível, busque por versões anteriores ou outras fontes confiáveis que possam confirmar a autenticidade do vídeo ou da imagem. Além disso, considere o contexto em que o conteúdo está sendo apresentado. Se a informação parece incoerente com fatos conhecidos ou o contexto não parece se alinhar, pode ser um sinal de manipulação.

3) Fontes confiáveis e verificação cruzada:
Ao se deparar com um conteúdo suspeito, é essencial buscar por fontes confiáveis e verificadas. Veja se outras fontes reconhecidas ou especialistas validam a autenticidade do material. A verificação cruzada de informações por meio de múltiplas fontes pode ajudar a confirmar se o conteúdo é legítimo ou uma manipulação.

4) Conhecimento atualizado:
Manter-se informado sobre as últimas tendências e avanços nas tecnologias de Deepfake é crucial para identificar possíveis manipulações. Conhecer as características comuns dessas manipulações pode ajudar na detecção precoce e na prevenção da disseminação de conteúdo falso.

Como se proteger de deepfakes?

A proteção contra deepfakes envolve a combinação de vigilância, educação e utilização de medidas de proteção online:

1) Educação e conscientização:

O primeiro passo é entender o que são deepfakes e como funcionam. Educar-se sobre os sinais de manipulação e os riscos associados aos conteúdos falsificados é fundamental. O conhecimento sobre as características comuns dessas manipulações pode ajudar a identificar possíveis deepfakes antes de compartilhá-los.

2) Fortaleça a sua persona online:

Mantenha as suas contas e dispositivos protegidos. Utilize senhas fortes e atualize regularmente os seus sistemas de segurança. Isso não apenas protege contra a manipulação de mídia, mas também contra outras formas de ataques cibernéticos que possam disseminar conteúdo falso.

3) Gerencie as suas informações pessoais:

Evite compartilhar informações pessoais sensíveis em plataformas públicas ou redes sociais. Quanto menos informações estiverem disponíveis publicamente, menos material os criadores de Deepfake terão para manipular.

4) Configure restrições de privacidade:

Ajuste as configurações de privacidade em suas redes sociais e contas online. Isso limita o acesso de terceiros às suas informações e reduz a probabilidade de que seus dados sejam utilizados para criar conteúdo falso.