Aplicativos de Nudificação Removidos pela Apple Após Denúncia da BBC
A Apple tomou uma atitude ao remover diversos aplicativos da App Store após uma investigação conduzida pela BBC. Esta investigação revelou que esses aplicativos estavam sendo promovidos no TikTok como ferramentas para a criação de deepfakes que podem remover roupas de pessoas sem o seu consentimento.
Os aplicativos, frequentemente chamados de “nudify” ou de “remoção de roupas”, utilizam inteligência artificial para digitalmente eliminar roupas de imagens, resultando na criação de fotos ou vídeos de pessoas em estados nus ou parcialmente nus.
Embora descritos nas páginas da App Store e nos sites dos desenvolvedores como maneiras de “apimentar selfies”, os anúncios pagos no TikTok tinham uma abordagem diferente, promovendo esses aplicativos como métodos para gerar representações sexualizadas de mulheres sem sua autorização. Entre as mensagens encontradas, algumas chamavam os usuários a baixar os aplicativos para “ver as fotos mais quentes da sua paixão”, enquanto outras afirmavam que os aplicativos “permitiam tirar a roupa de qualquer pessoa”.
Ainda, havia propagandas que afirmavam poder “colocar qualquer um de biquíni”. Para proteger as vítimas deste tipo de abuso, os nomes dos aplicativos não são divulgados, uma vez que criar imagens sexualmente explícitas de alguém sem consentimento figura como ilegal em vários países, incluindo o Reino Unido.
A crescente popularidade desses aplicativos de “nudificação” tem gerado preocupações em várias partes do mundo, com casos destacados na Espanha, Coreia do Sul e nos Estados Unidos. Estes episódios frequentemente envolvem meninas em idade escolar e, em alguns casos, as vítimas foram chantageadas com imagens manipuladas por inteligência artificial.
De acordo com Arvind Narayanan, professor do Centro de Política de Tecnologia da Informação de Princeton, as empresas de tecnologia têm uma responsabilidade moral em limitar a disseminação de aplicativos que utilizam deepfake para nudificação. Ele argumenta que deveria haver muito mais barreiras para restringir o acesso a essa tecnologia e que autoridades globais precisam banir esses aplicativos das lojas virtuais, além de impedir que redes sociais obtenham lucros com anúncios que promovem esse tipo de conteúdo.
A investigação da BBC descobriu que alguns anúncios no TikTok utilizaram imagens de atrizes conhecidas, como Lena Headey e Maisie Williams, da série Game of Thrones, para mostrar como mulheres poderiam ser falsamente representadas como se estivessem despindo-se até ficarem apenas em roupas íntimas. Uma das empresas envolvidas fazia uso dessas atrizes para evidenciar sua funcionalidade de nudificação por meio de inteligência artificial.
Depois da reportagem da BBC, a Apple agiu rapidamente e retirou os aplicativos da App Store. De acordo com a empresa, três deles foram suspendidos até que os desenvolvedores façam as devidas correções. Um quarto aplicativo, que se especializava em criar vídeos de mulheres dançando sem roupas a partir de fotos, foi completamente removido e o seu desenvolvedor teve a conta encerrada.
A Play Store do Google também confirmou que está investigando os aplicativos mencionados. Entre os aplicativos que a BBC focou está um que já foi baixado mais de um milhão de vezes, conforme dados da própria Play Store. Enquanto isso, a Apple não disponibiliza informações sobre o número de downloads de seus aplicativos.
Apesar de não permitir a criação de imagens inteiramente nuas, o aplicativo em questão facilita a geração de imagens sexualmente sugestivas de qualquer pessoa. O desenvolvedor oferece “pacotes” que contêm diferentes tipos de poses, incluindo cenas que mostram mulheres em situações comprometedores, como no chão com a boca aberta ou tomando banho.
No TikTok, esse aplicativo é promovido como uma forma de “conseguir as fotos mais quentes da sua paixão”. Em resposta por e-mail, o criador do aplicativo afirmou que não tinha intenção de comercializá-lo como uma ferramenta de deepfake sem consentimento e se comprometeu a revisar suas práticas em relação ao uso da tecnologia.
A questão da nudez e da manipulação de imagens digitais continua a suscitar debates e preocupações, em especial no contexto de plataformas de mídia social. Fatos como este demonstram a necessidade de um controle mais rigoroso sobre aplicações que possam infringir direitos e privacidade de indivíduos.
Quando são abordadas questões como a nudez gerada por meio de inteligência artificial, é evidente que a sociedade enfrenta um desafio ético e legal que clama por soluções eficazes e rápidas.
