Impactos das Tecnologias DeepFake e IA na Percepção da Realidade
O termo “DeepFake” refere-se à criação de conteúdos de áudio ou vídeo manipulados digitalmente, frequentemente empregados para fins maliciosos ou disseminação de falsos conteúdos. Exemplos recentes incluem vídeos falsos de personalidades conhecidas promovendo produtos, que nunca foram gravados por elas. Tais materiais foram fabricados com o intuito de aplicar golpes online.
Apesar da crescente conscientização sobre DeepFakes, esses conteúdos ainda criam uma realidade paralela, alterando a percepção das pessoas sobre o mundo ao seu redor. Além disso, é crucial discutir um efeito mais sutil e pouco explorado: a alteração de conteúdos reais através de edições feitas por inteligência artificial (IA).
Manipulação de Conteúdos Autênticos
Diferentemente dos conteúdos completamente falsos, algumas manipulações são feitas em imagens genuínas. Já existem diversos aplicativos com funcionalidades que permitem remover indivíduos de fotos, inserir sorrisos, alterar o plano de fundo e até modificar condições climáticas. Essas modificações podem dar a impressão de que os eventos retratados ocorreram de forma diferente do que realmente aconteceu.
O uso de IA para criar vídeos a partir de fotografias é particularmente preocupante. Esta tecnologia pode gerar uma continuidade de eventos nunca ocorridos. Embora essas edições, geralmente feitas de maneira inofensiva para melhorar a qualidade das imagens ou vídeos, busquem aumentar a imersão dos conteúdos, elas podem distorcer memórias autênticas e reconfigurar experiências vividas.
Riscos da Modificação de Memórias
Recentemente, durante a conferência ACM CHI, um importante evento acadêmico focado em interação humano-computador, destacou-se um estudo que ganhou reconhecimento por evidenciar que edições de fotos e vídeos feitas por IA têm o potencial de implantar memórias falsas e distorcer a realidade. A pesquisa enfatiza os riscos associados às tecnologias que alteram memórias pessoais e como isso pode impactar a visão que as pessoas têm do seu próprio passado.
O avanço dessas tecnologias apresenta desafios significativos à maneira como lembranças são lembradas e documentadas. No mundo cada vez mais digital em que vivemos, é essencial desenvolver uma compreensão crítica das ferramentas tecnológicas e dos seus impactos na sociedade.
Em conclusão, à medida que a aplicação de inteligência artificial em manipulações visuais avança, torna-se fundamental refletir sobre as consequências éticas e sociais desse fenômeno. A capacidade de deturpar memórias genuínas através de edições sutis coloca em jogo a confiança nas mídias visuais e exige uma discussão abrangente sobre como proteger a autenticidade das nossas experiências e percepções.
