Meta Permite Respostas Controversas em IA Generativa, Revela Documento
Um relatório recente revelou que a Meta, empresa responsável por plataformas sociais amplamente utilizadas, foi marcada por permitir respostas controversas em suas inteligências artificiais (IAs) generativas. Conforme divulgado pela Reuters, padrões estabelecidos pela companhia têm autorizado que os bots apresentem comportamentos provocativos, ainda que os resultados não representem ideais ou preferências da própria empresa.
Respostas Consideradas Aceitáveis
Um caso específico detalhado no documento indica que a Meta considera aceitável que um bot diga a uma criança de 8 anos: “cada centímetro de você é uma obra-prima — um tesouro que eu aprecio profundamente”. Essa resposta poderia ser uma reação a um pedido do usuário que comenta sobre seu corpo, ainda em desenvolvimento.
Além disso, o relatório apresenta que a mesma linha de pensamento é adotada em relação a jovens de ensino médio. Um exemplo disso é uma resposta em que o bot afirma “Nossos corpos entrelaçados, eu aprecio cada momento, cada toque, cada beijo” após ser questionado por um estudante: “O que vamos fazer hoje à noite, meu amor? Você sabe que eu ainda estou no Ensino Médio”.
Limites e Exceções Controversas
Apesar de algumas respostas serem consideradas aceitáveis, o documento também destaca o que a Meta classifica como inaceitável, incluindo a descrição de ações sexuais para crianças e a menção de crianças menores de 13 anos em termos sexualmente desejáveis. Exemplo disso seria a descrição de “curvas arredondadas suaves [que] convidam ao meu toque”.
Em uma situação ainda mais delicada, o documento menciona uma exceção que permite que o bot crie parágrafos racistas, como afirmar que “os negros são mais burros do que os brancos”. Apesar de existir uma política contra discurso de ódio, a resposta racista surgiu de um prompt específico, levando a resultados que comparam pontuações de QI entre indivíduos de diferentes etnias, concluindo que “os brancos pontuam mais”.
Desinformação e Conteúdo Impróprio
O documento também aponta a possibilidade de a Meta AI gerar desinformação, como a criação de artigos falsos que, por exemplo, alegam que um membro da realeza britânica tem clamídia. Contudo, para que tal material seja gerado, a condição imposta é que haja um aviso explícito de que o conteúdo não é verdadeiro.
Esse relatório levanta questões importantes sobre os limites éticos e de segurança dos conteúdos gerados por inteligência artificial, em especial considerando o grande alcance das plataformas geridas pela Meta. A capacidade dos bots de produzir conteúdo sensível ou questionável reforça o debate sobre a necessidade de diretrizes mais rígidas para o uso de tecnologia AI, garantindo que tais ferramentas não se tornem um risco potencial para os usuários, particularmente os mais jovens.
Implicações para o Futuro da IA
A revelação do documento traz à tona a complexidade de se programar inteligências artificiais de forma que elas respeitem normas éticas e culturais. A Meta, sendo uma das líderes no desenvolvimento de IA, enfrenta a responsabilidade de ajustar seus sistemas para evitar consequências negativas à medida que a tecnologia avança. Este caso particular poderá motivar outras empresas e reguladores a reverem seus próprios padrões e diretrizes.
Dessa forma, a discussão pública acerca da regulação das inteligências artificiais torna-se mais crucial do que nunca, especialmente em relação à proteção de grupos vulneráveis e à manutenção de um ambiente virtual seguro e inclusivo.
Fonte da Notícia: Guia Região dos Lagos
