Deepfake: Entenda o que é e quais os riscos dessa tecnologia
A técnica conhecida como deepfake é baseada em inteligência artificial e possibilita a criação de conteúdos fraudulentos, manipulando fotos, vídeos e gravações de áudio através da tecnologia de redes neurais generativas. Essa manipulação pode ter consequências sérias, uma vez que os deepfakes são empregados para distorcer a realidade, resultando em impactos negativos para a sociedade, como a disseminação de informações enganosas, a violação de dados pessoais e ofensas à dignidade de pessoas.
Uma maneira eficaz de se proteger contra os deepfakes é reforçar a segurança dos dados sensíveis disponíveis na internet, especialmente nas plataformas de redes sociais. Reduzir a exposição de informações pessoais dificulta as ações de cibercriminosos.
A seguir, vamos detalhar o que significa deepfake, como essa tecnologia opera, quais são os riscos relacionados ao seu uso e as maneiras de se prevenir contra as manipulações que ela pode gerar.
O que significa deepfake?
Deepfake é uma palavra que resulta da combinação dos termos “deep learning” (aprendizado profundo) e “fake” (falsificado). O conceito refere-se a uma abordagem que utiliza inteligência artificial para manipular informações, possibilitando a criação de fotos, vídeos e gravações de áudio que não correspondem à realidade.
Como funciona um deepfake?
Para a geração de um deepfake, um programa coleta dados (imagens, vídeos e áudios) de uma pessoa específica e, com o auxílio de algoritmos de aprendizagem profunda, que imitam o funcionamento do cérebro humano, treina redes neurais artificiais. Essas redes têm o objetivo de mapear movimentos, expressões faciais e até mesmo o timbre de voz da pessoa.
Depois desse processo de treinamento, as redes neurais se tornam aptas a sobrepor o rosto de uma pessoa em outras imagens ou vídeos, além de reproduzir sua voz para gerar falas novas a partir de textos escritos. Os resultados, embora possam parecer autênticos, são, na verdade, frutos de uma manipulação feita por aplicações de inteligência artificial.
A criação de deepfakes, que antes era uma tarefa complexa e limitada a especialistas, tornou-se acessível, especialmente com o avanço da IA generativa, permitindo que qualquer pessoa realize deepfakes online usando softwares ou plataformas como DeepFaceLab ou Faceswap.
Como deepfakes replicam de forma fiel movimentos e expressões humanas?
Os resultados realistas dos deepfakes são atribuídos a treinamentos com dados extensos, técnicas avançadas de deep learning e a utilização de Redes Neurais Generativas Adversárias (GANs). Durante o treinamento, as redes neurais são alimentadas com grandes volumes de dados para reconhecer padrões relacionados a expressões faciais, posturas e variações de tons de voz.
Além disso, o uso de GANs permite que a rede neural passe por um processo contínuo de geração e discriminação, aprimorando seus resultados até que o discriminador não consiga distinguir entre o material genuíno e o forjado.
Qual é a diferença entre deepfake e IA generativa?
Enquanto os deepfakes são uma técnica específica que utiliza a inteligência artificial generativa para elaborar conteúdos falsos a partir de informações já existentes, a IA generativa é um campo amplo que engloba algoritmos de deep learning e redes neurais capazes de criar novos conteúdos, como textos, áudios, vídeos e imagens, a partir de dados coletados em seu treinamento.
Portanto, o deepfake é uma das muitas utilizações da IA generativa, mas não a representa em sua totalidade.
Quais são os principais exemplos de deepfake?
Os deepfakes podem ser encontrados em contextos tanto positivos quanto negativos, abrangendo várias áreas, como educação, política e entretenimento. Exemplos marcantes incluem:
- Avatares e modelos virtuais: possibilitam a criação de avatares em jogos ou simulações de roupas;
- Memes e entretenimento: usados em paródias e memes, trocando rostos para fins humorísticos;
- Educação: criação de personagens animados que ajudam a esclarecer dúvidas em contextos educacionais;
- Fake news: frequentemente utilizados na política para manipulação de aparições de figuras públicas;
- Abuso sexual de imagem: empreguem rostos de personalidades em conteúdos de caráter explícito;
- Propagandas enganosas: anúncios que utilizam a imagem de celebridades sem consentimento para induzir os consumidores.
Como identificar deepfake?
A identificação de deepfakes se torna uma tarefa desafiadora frente aos avanços tecnológicos. No entanto, algumas características podem ajudar na detecção:
- Falas desencontradas: os deepfakes podem apresentar uma falta de sincronia entre o áudio e os movimentos labiais;
- Movimentos robóticos: olhos inexpressivos e expressões faciais abruptas são comuns em deepfakes;
- Iluminação inconsistente: variações de iluminação em diferentes quadros indicam a possibilidade de manipulação;
- Deformações faciais: algumas edições podem resultar em distorções visuais em rostos;
- Marcas d’água: criações podem apresentar logos dos softwares utilizados para sua elaboração;
- Oscilações vocais: variações abruptas no tom da voz podem sinalizar uma falsificação;
- Ruídos no áudio: interferências e sons abafados são comuns em áudios fabricados por inteligência artificial.
Quais são os riscos de deepfakes?
O uso indevido de deepfakes pode infringir vários aspectos da legislação brasileira e prejudicar a reputação de indivíduos. Alguns dos principais riscos associados a esse tipo de manipulação incluem:
- Desinformação: a possibilidade de criar fake news a partir de deepfakes é intensa, contribuindo para a disseminação de informações falsas;
- Difamação e calúnia: a manipulação pode acarretar crime à reputação de um indivíduo;
- Violação de privacidade: o uso de deepfakes sem autorização constitui violação de dados pessoais;
- Bullying e cyberbullying: deepfakes também são ferramentas utilizadas para realizar ataques virtuais e linchamentos digitais;
- Fraudes: criminosos podem se valer de deepfakes para realizar fraudes e enganos;
- Falsificação de identidade: o uso não autorizado de dados biométricos de terceiros pode ser entendido como falsificação de identidade.
Existem formas de se prevenir contra deepfakes?
Uma das formas de se proteger é reforçar a privacidade dos dados pessoais. É aconselhável revisar as configurações de privacidade em suas redes sociais, evitando que fotos e vídeos de alta resolução fiquem acessíveis a qualquer um. Além disso, priorize procuras de informações em fontes confiáveis, como meios de comunicação oficiais, para validar a veracidade de conteúdos que você consome.
Deepfake é crime no Brasil?
Atualmente, o deepfake não é regulamentado especificamente no Código Penal brasileiro. Contudo, a utilização ilegal pode infringir diversas leis, como a Lei Geral de Proteção de Dados Pessoais (LGPD). Quando alguém utiliza deepfakes sem o devido consentimento, pode estar violando normas de proteção de dados e também configurando crimes como difamação ou fraude de identidade, conforme evidenciado por análises jurídicas.
Observa-se que há Projetos de Lei em andamento, como o PL nº 1272/23, que pretende criminalizar deepfakes, e o PL nº 5.695/23, que busca integrar deepfakes na Lei Maria da Penha. Outros projetos visam regulamentar o uso de ferramentas de inteligência artificial em publicidade e aumentar as penalidades para crimes relacionados a deepfakes.
É permitido usar deepfake em propaganda eleitoral?
De acordo com as diretrizes atuais, o Tribunal Superior Eleitoral (TSE) proibiu o uso de deepfakes durante campanhas eleitorais, atualizando a Resolução nº 23.610/2019. As novas regras também exigem que seja informado o uso de inteligência artificial nas propagandas. Candidatos que desrespeitarem essa norma poderão ter suas candidaturas ou mandatos cassados e enfrentar multas por veiculação de notícias forjadas.
O que fazer se alguém criar um deepfake com sua imagem?
Primeiramente, é importante salvar uma cópia do deepfake e coletar o maior número de informações pertinentes, como autor do conteúdo, data e horário da publicação, que podem servir de provas. Após isso, reporte o incidente à rede social onde o conteúdo foi disseminado, solicitando a remoção imediata. Também é crucial buscar uma delegacia especializada em crimes cibernéticos e considerar a consultoria de um advogado para explorar as possibilidades legais de ação contra a infração cometida.
Compreender o que são deepfakes é essencial para a promoção de uma internet mais segura e responsável. A conscientização sobre os riscos e a proteção dos dados pessoais são fundamentais para evitar que se torne uma vítima dessa tecnologia crescente.
