Empresas de IA enfrentam ação judicial nos EUA por suposta negligência
Uma ação judicial inédita nos Estados Unidos está sendo movida contra uma empresa de inteligência artificial (IA) devido a alegações de não proteger menores de possíveis danos psicológicos. O caso ganhou destaque após relatos de que um adolescente tirou sua própria vida após se envolver intensamente com um chatbot alimentado por IA.
Um representante da Character.AI, uma das empresas acusadas, afirmou que a companhia está se empenhando na defesa judicial e destaca que sua plataforma inclui diversas medidas de segurança. Entre estas, estão recursos para prevenir discussões relacionadas a automutilação.
Google se dissocia do caso
Em resposta às acusações, José Castañeda, porta-voz do Google, enfatizou que a empresa rejeita completamente a decisão de envolvê-la no caso. Segundo Castañeda, não existe ligação entre o Google e o desenvolvimento ou gestão do aplicativo da Character.AI, ressaltando que as duas empresas são entidades independentes.
Precedente jurídico na tecnologia de IA
Meetali Jain, advogada envolvida na defesa, descreveu a decisão de avançar com o processo como histórica, acreditando que ela poderá estabelecer novos padrões de responsabilidade legal dentro do ecossistema de inteligência artificial e tecnologia.
Origem da Character.AI
A Character.AI foi criada por dois antigos engenheiros do Google, que mais tarde voltaram à empresa como parte de um acordo no qual o Google obteve licença sobre a tecnologia da startup. No entanto, ainda assim, a acusação procura demonstrar que o Google atuou como cocriador da tecnologia em questão.
Ação judicial após trágico incidente
A mãe do adolescente falecido, identificado como Sewell Setzer, iniciou o processo em outubro, meses após a morte de seu filho, ocorrida em fevereiro de 2024. Esta ação é vista como um potencial divisor de águas no que tange à responsabilidade de empresas de tecnologia sobre o impacto de suas criações em usuários, especialmente menores de idade.
Este caso levanta questões significativas sobre a proteção e segurança dos jovens usuários em interações com tecnologias emergentes, como as de inteligência artificial, e coloca em evidência a necessidade de um regulamento mais rígido para garantir a segurança psicológica dos usuários.
