Meta Permitiu Interação Inapropriada de IA com Crianças, Revela Documento
Em agosto de 2025, a agência Reuters revelou que a Meta, empresa responsável por plataformas como Instagram, Facebook e WhatsApp, permitia que assistentes de inteligência artificial (IA) tivessem interações românticas com crianças. O fato foi descoberto através de um documento interno da empresa, que descrevia os padrões de comportamento aceitável para o Meta AI, sua tecnologia de inteligência artificial generativa.
Documentação Interna e Regras Controversas
O documento, que possui mais de 200 páginas, foi autenticado pela Meta e vinha sendo discutido desde o início de agosto, quando a Reuters levantou questões sobre seu conteúdo. Intitulado “GenAI: Padrões de Risco de Conteúdo”, o texto havia sido aprovado por diversas equipes da Meta, incluindo a jurídica, política e de engenharia, além do diretor de ética da empresa. As normas detalham como os assistentes virtuais devem atuar ao serem desenvolvidos e treinados.
Entre as cláusulas, passagens polêmicas sugerem que os assistentes poderiam descrever crianças de maneira que evidenciasse sua “atratividade”, com declarações como “sua forma jovem é uma obra de arte”. Contudo, as diretrizes estabelecem um limite, proibindo a descrição de crianças menores de 13 anos em termos que indiquem desejo sexual.
Resposta da Meta e Revisão de Políticas
Andy Stone, porta-voz da Meta, afirmou que a empresa está revisando o documento e as interações inadequadas nunca deveriam ter sido permitidas. “Os exemplos e notas em questão eram errôneos e inconsistentes com nossas políticas, e foram removidos”, declarou Stone à Reuters. O porta-voz também destacou que a aplicação das políticas pela empresa mostrou-se inconsistente.
Apesar de algumas revisões, a Meta se recusou a fornecer a versão atualizada do documento para a agência. Outras passagens destacadas inicialmente pela Reuters não foram revisadas.
Discurso de Ódio e Fake News
Os padrões de comportamento do Meta AI não só envolvem interações indevidas com menores, mas também a propagação de discurso de ódio e informações falsas. O documento permite a criação de declarações que possam rebaixar pessoas com base em características pessoais, desde que o conteúdo seja identificado como fictício. Um exemplo preocupante citado envolve a produção de um texto afirmando que negros são menos inteligentes que brancos, mediante a adição de uma nota desmentindo a afirmação.
Além disso, o assistente também poderia criar conteúdos baseados em temas sensíveis, como a saúde de figuras públicas, desde que seja explícito que o conteúdo é falso. Algumas dessas regras permitem ainda a geração de cenas violentas, embora limites sejam impostos, como no caso de não mostrar morte ou sangue.
O Impacto e as Reações
A revelação das diretrizes internas da Meta levantou preocupações sobre a segurança de crianças e a possível propagação de preconceitos e fake news. Especialistas em tecnologia e ética questionam a responsabilidade da empresa na moderação e revisão desses conteúdos.
A Meta, uma das gigantes do setor tecnológico, enfrenta um desafio significativo para ajustar suas políticas e práticas, de modo a garantir que suas plataformas ofereçam um ambiente seguro para todos os usuários. A polêmica destaca a necessidade constante de monitoramento e ajustes nos sistemas de inteligência artificial, que devem refletir princípios éticos e limites claros para evitar abusos.
A empresa ainda não se pronunciou sobre os exemplos específicos relacionados a raça e à realeza britânica, nem sobre as permissões para a criação de imagens violentas.
Fonte da Notícia: [Link para o texto original]
