Deepfake: o que é, riscos e como se proteger de falsificações

Em meio às inovações da inteligência artificial (IA), responsável por avanços notáveis e por transformar a forma como interagimos com o mundo digital, surge o deepfake, uma técnica sofisticada que gera vídeos, áudios e imagens falsas com um realismo impressionante.

Este termo caracteriza uma tecnologia que envolve alguns limites éticos e sociais importantes. Apesar de conter um potencial criativo impressionante, golpes e fraudes cibernéticas têm ganhado novas camadas preocupantes com os deepfakes.

Dessa forma, esse recurso vai muito além do entretenimento e posiciona um desafio complexo para a sociedade, especialmente em áreas como segurança digital e integridade da informação.

Com efeito, entender o que é deepfake, como funciona e seus impactos é fundamental para navegar com segurança no cenário digital contemporâneo. Pensando nisso, elaboramos este texto para te ajudar a dominar esse conceito. Confira o que você vai encontrar neste artigo:

• • O que é deepfake?
  • Como os deepfakes são criados?
  • Riscos e usos maliciosos do deepfake
  • Benefícios e aplicações éticas do deepfake
  • Como identificar um deepfake?
  • Estratégias de proteção e combate ao deepfake
  • Conclusão

O que é deepfake?

De forma simplificada, deepfake é uma técnica avançada de manipulação de mídia que utiliza inteligência artificial para criar vídeos, áudios ou imagens falsas que parecem autênticos.

O nome deriva da fusão entre “deep learning” (aprendizado profundo), uma subárea do machine learning (aprendizado de máquina) baseada em redes neurais artificiais que permite aos sistemas aprenderem com dados não estruturados, e “fake” (falso em inglês).

Por meio de algoritmos sofisticados e treinados com um grande volume de dados, essa tecnologia permite substituir rostos em vídeos, clonar vozes e simular ações com um alto grau de perfeição.

Embora tenha aplicações recreativas e voltadas para a educação e entretenimento, o deepfake se tornou popular por seu uso em conteúdos enganosos ou maliciosos, com o intuito de desinformar.

Leia também: IA Generativa: o que é, como funciona e aplicações

Como os deepfakes são criados?

A criação de deepfakes é um processo complexo que envolve o uso de Redes Generativas Adversariais (GANs), um tipo de rede neural artificial. Basicamente, uma GAN é composta por duas partes principais: o gerador e o discriminador.

Em primeiro lugar, para criar um deepfake, é necessário reunir uma grande quantidade de dados, como imagens e vídeos, da pessoa que se deseja reproduzir artificialmente. Quanto mais dados são fornecidos, mais exata será a recriação do rosto ou da voz.

Em seguida, esses dados alimentam o modelo para o treinamento. O gerador se encarrega de criar o conteúdo, ao passo que o discriminador tenta diferenciar o conteúdo real do falso. Essas duas partes trabalham juntas, aprimorando-se mutuamente.

Por meio desse processo contínuo de interação e aprendizado, o objetivo final é que o discriminador não consiga mais distinguir entre o conteúdo real e o sintético. Com isso, os deepfakes resultantes tornam-se cada vez mais reais.

Ademais, outro método utilizado é a arquitetura de autocodificador. Os autocodificadores compactam dados em uma representação de dimensão inferior e, subsequentemente, os reconstroem, sendo eficazes na remoção de ruídos visuais.

Ao buscar características essenciais de uma imagem, como a de um rosto, os autocodificadores permitem a criação de modelos versáteis que podem gerar imagens completamente novas ou transferir imagens e movimentos entre diferentes fontes.

Leia também: LLM: entenda o que é e como funcionam Large Language Models

Riscos e usos maliciosos do deepfake

A capacidade do deepfake de manipular mídias com precisão levanta preocupações significativas. Sua disseminação irresponsável pode ser explorada para enganar e manipular pessoas, comprometendo a confiança em fontes de informação e dificultando a distinção entre o real e o falso.

Os usos inadequados da inteligência artificial em deepfakes incluem:

• Desinformação e fake news: Vídeos e áudios manipulados são empregados para espalhar boatos, influenciar eleições e prejudicar a reputação de indivíduos ou empresas;
• Fraudes e golpes: Criminosos podem usar deepfakes para imitar autoridades, colegas de trabalho ou familiares, solicitando transferências bancárias ou informações sigilosas, configurando inclusive engenharia social;
• Chantagem e difamação: A criação de vídeos falsos para ameaçar indivíduos, solicitar pagamentos ou favores em troca da não divulgação é um risco pertinente. Casos de adultização de figuras infantis e mídia explícita não consensual, muitas vezes direcionada a celebridades, representam grande porcentagem dos deepfakes ilícitos;
• Roubo de identidade: A tecnologia deepfake também pode ser utilizada para criar novas identidades ou roubar as de pessoas reais, falsificando documentos ou imitando a voz da vítima para criar contas ou realizar compras.

Impactos negativos dos deepfakes no Brasil

Casos de fraude e crimes virtuais com deepfakes se proliferaram significativamente nos últimos anos. Segundo o relatório Sumsub Identity Fraud Report 2023, entre 2022 e 2023, os crimes cometidos com deepfake cresceram em 830% no Brasil, ressaltando a gravidade do uso incorreto desse recursos tecnológico.

Ademais, no que diz respeito à política, o Tribunal Superior Eleitoral (TSE) no Brasil aprovou regras para combater o uso indevido de deepfakes em eleições, proibindo expressamente a veiculação desse tipo de conteúdo em propaganda eleitoral.

Candidatos que utilizarem deepfakes podem ser responsabilizados por abuso de poder político, uso indevido de meios de comunicação social, e podem inclusive incorrer em crime eleitoral.

Em suma, a criação e disseminação de deepfakes sem consentimento violam a autonomia e privacidade das pessoas, exigindo cuidado ao navegar na internet e o urgente aprimoramento das leis para lidar com essa nova realidade tecnológica.

Benefícios e aplicações éticas do deepfake

Por outro lado, embora associado a usos polêmicos e preocupantes, a tecnologia de deepfake apresenta diferenciais e pode ser aplicada de modo positivo, sobretudo quando devidamente divulgada e sem violar a privacidade ou direitos de propriedade intelectual.

Alguns benefícios da inteligência artificial no deepfake incluem:

• Entretenimento e criatividade: O deepfake, quando adequadamente sinalizado, pode ser uma ferramenta útil para a criação de vídeos humorísticos, paródias, memes e efeitos visuais em filmes e produções audiovisuais;
• Pesquisa e desenvolvimento tecnológico: O avanço das técnicas de deepfake está atrelado à pesquisa em algoritmos de aprendizado profundo e inteligência artificial, favorecendo aplicações em visão computacional e segurança digital;
• Demonstrações tecnológicas: Criações artificiais de deepfake podem ser utilizadas para demonstrações em relatórios, notícias e eventos, simulando espaços, dinâmicas e interações físicas;
• Recriações históricas: Historiadores, educadores e entusiastas podem utilizar deepfakes para animar fotos e pinturas antigas ou recriar eventos históricos.

É crucial, portanto, equilibrar a inovação tecnológica com a ética e a responsabilidade para garantir que o deepfake seja usado de forma benéfica, protegendo a confiança e a segurança da sociedade.

Leia também: IA que cria imagens: conheça 6 para seu dia a dia

Como identificar um deepfake?

Detectar um deepfake pode ser desafiador, especialmente com a evolução constante da inteligência artificial. Contudo, é possível identificar sinais de atividade incomum ou movimento não natural que indicam manipulação. Observe os seguintes detalhes:

• Anomalias faciais e movimentos irrealistas: Preste atenção a piscares incomuns (pouco ou em excesso), expressões faciais estranhas, desalinhamento dos olhos, distorções faciais ou movimentos labiais que não coincidem com o áudio. Deepfakes de baixa qualidade podem apresentar contornos irregulares, cores distorcidas ou áreas pixelizadas;
• Inconsistências temporais: Se o vídeo retrata uma pessoa em um contexto histórico ou evento específico, procure por inconsistências temporais, como a presença de alguém em um local antes ou depois de um acontecimento conhecido;
• Qualidade da imagem e áudio: Observe a coerência da nitidez, sombras e iluminação no vídeo, que podem parecer artificiais ou incomuns. No áudio, fique atento a interrupções abruptas, alterações na qualidade ou timbre da voz, ou palavras que não se alinham com os movimentos labiais;
• Posicionamento e formato corporal não natural: Como deepfakes se concentram majoritariamente em rostos, corpos podem ter formatos não naturais, ou o posicionamento da cabeça e do corpo podem parecer inconsistentes ou desajeitados. Cabelos também podem parecer não naturais;
• Verificação da fonte: Sempre confirme a autenticidade do conteúdo verificando a fonte. Consulte veículos de imprensa confiáveis, sites oficiais ou relatos independentes sobre o vídeo. A falta de informações ou a presença de informações contraditórias são indícios de um deepfake. Use também ferramentas de verificação, como softwares que ajudam a detectar manipulações digitais.

Estratégias de proteção e combate ao deepfake

A rápida evolução das fraudes digitais exige inovação contínua nas soluções de segurança. É fundamental adotar uma postura crítica e cautelosa diante de conteúdos digitais para se proteger e evitar a disseminação de informações falsas.

Para se proteger proativamente, considere sempre verificar atentamente todas as solicitações e habilitar configurações de privacidade em redes sociais e plataformas bancárias. Utilizar senhas variadas e fortes combinadas com autenticação de dois fatores (2FA) e atualizar o antivírus de todos os dispositivos também são medidas eficazes.

Em contextos corporativos, é fundamental considerar o treinamento de funcionários, a fim de manter as equipes informadas sobre os golpes mais recentes e como identificá-los, uma vez que o modus operandi da fraude deepfake evolui constantemente.

Leia também: 6 dicas para usar inteligência artificial sem correr riscos

O que fazer se você for vítima de deepfake?

Se por alguma razão você for afetado por um deepfake, documente as evidências. Antes de mais nada, salve os conteúdos sintéticos, comentários, plataformas, capturas de tela e quaisquer dados associados. Anote data, hora e plataforma.

Em seguida, denuncie o conteúdo deepfake nas plataformas onde foi compartilhado, pois a maioria possui políticas de remoção de mídia manipulada. Em casos que envolvem roubo de identidade ou financeiro, contate as autoridades e elabore relatórios formais de ocorrência, pois tais práticas configuram crimes.

Para casos mais graves, advogados podem dar suporte para a tomada de ações legais. Ademais, especialistas em relações públicas podem contribuir positivamente para mitigar danos de reputação.

Tecnologias e regulamentações no combate ao deepfake

Não obstante, a própria inteligência artificial também é uma ferramenta essencial na luta contra deepfakes.

Soluções como liveness (prova de vida), que analisa micromovimentos para garantir a autenticidade de capturas biométricas, e a análise comportamental, que identifica padrões de uso para detectar fraudes, estão se tornando cruciais.

Além disso, empresas de tecnologia estão desenvolvendo ferramentas de detecção de deepfake. Algoritmos criptográficos podem inserir “hashes” em vídeos para indicar adulterações, enquanto programas podem inserir “elementos” digitais que dificultam a criação de deepfakes de alta qualidade.

Redes sociais como Facebook, Twitter e YouTube também implementaram regras para evitar a disseminação de conteúdo falso.

No cenário eleitoral, o Tribunal Superior Eleitoral (TSE) ampliou a responsabilidade de provedores de internet e plataformas de redes sociais na disseminação de informações falsas.

Eles são obrigados a remover posts falsos ou descontextualizados imediatamente e proibir o impulsionamento ou monetização de conteúdos falsos. As plataformas devem, inclusive, elaborar relatórios de avaliação de impacto sobre a integridade do processo eleitoral.

Conclusão

Em síntese, os deepfakes representam uma fronteira complexa na era digital, oferecendo tanto oportunidades criativas quanto sérios riscos à segurança e à verdade. Não é a primeira vez que um recurso tecnológico serve como uma “faca de dois gumes”, mas seu potencial de manipulação exige cuidado redobrado.

Nesse contexto, entender como essa tecnologia funciona, seus usos maliciosos e as estratégias para identificar e combater criações sintéticas de deepfake são conhecimentos cada vez mais relevantes para empresas, instituições e usuários comuns de redes sociais.

Em um mundo onde a linha entre o real e o artificial se torna cada vez mais tênue, equilibrar a inovação tecnológica com a ética e a responsabilidade é, por fim, essencial para proteger a confiança e a integridade da nossa sociedade em um futuro cada vez mais digital.

No Distrito, exploramos as tendências mais relevantes em inteligência artificial, inovação e o universo das startups. Para saber tudo sobre temas como esse, assine nossa newsletter AI Factory News e mantenha-se à frente das novidades tecnológicas que moldam o futuro!