xAI Anuncia Alteração Não Autorizada no Software do Chatbot Grok
No início desta quarta-feira, a xAI informou que o software de respostas do Grok sofreu uma modificação não autorizada. Essa alteração conseguiu burlar o processo usual de revisão da empresa. Conforme declarado pela xAI, a modificação direcionava o Grok a emitir uma resposta fixa sobre um tema político, o que contraria tanto as políticas internas da empresa quanto seus valores fundamentais.
Interações Inusitadas com o Chatbot
Ao longo da quarta-feira, usuários da plataforma X observaram que o Grok mencionava o controverso tema de “genocídio branco” na África do Sul em interações que, originalmente, não estavam relacionadas a esse tópico. Capturas de tela dessas conversas foram divulgadas, aumentando a polêmica. A questão da expropriação de terras na África do Sul é criticada por alguns, incluindo Musk, nascido no país, como sendo discriminatória contra pessoas brancas. No entanto, o governo sul-africano nega a existência de perseguições raciais e classifica como infundadas as alegações feitas por figuras como o então presidente dos Estados Unidos, Donald Trump, sobre “genocídio”.
Medidas da xAI Após o Incidente
Em reação ao evento desta semana, a xAI anunciou que tornará públicos os prompts do sistema do Grok no GitHub. Com isso, o público terá a possibilidade de visualizar e fornecer feedback sobre cada modificação realizada nos prompts do chatbot, promovendo assim maior transparência e controle comunitário sobre o processo de desenvolvimento.
Este caso chama a atenção para a importância da segurança no desenvolvimento de inteligências artificiais e da transparência para com o público, especialmente quando essas ferramentas passam a ter influências sobre temas sociais delicados. A xAI, ao decidir compartilhar os prompts abertamente, busca não apenas reparar o erro ocorrido, mas reforçar o compromisso com a ética e a precisão das informações transmitidas por seus sistemas.
