Autoridades pedem respostas ao Grok por imagens sexualizadas feitas por IA
A União Europeia (UE) e o Reino Unido se juntaram, nesta segunda-feira (5), às crescentes críticas internacionais contra o Grok, a inteligência artificial (IA) de Elon Musk, por gerar imagens falsas e sexualizadas de mulheres e menores de idade.
As denúncias de abusos surgem após a implementação de um botão para "editar imagens" no Grok, que permite aos usuários alterar imagens online com instruções como "coloque-a de biquíni" ou "tire a roupa dela".
A Comissão Europeia disse nesta segunda que está "analisando de forma muito séria" as queixas contra a IA desenvolvida pela startup de Musk, a xAI, e integrada à rede social X.
"O Grok agora oferece um 'modo picante' que exibe conteúdo sexual explícito, com parte desse conteúdo gerado a partir de imagens de aparência infantil. Isso é ilegal. É revoltante", disse Thomas Regnier, porta-voz da Comissão Europeia para assuntos digitais.
A UE soma-se ao Reino Unido, França, Índia e Malásia, que pediram medidas corretivas.
A Ofcom, agência reguladora do setor de comunicações do Reino Unido, afirmou que já entrou em contato com a X e a xAI para saber como estão cumprindo "seu dever legal de proteger os usuários do Reino Unido".
Na semana passada, a Promotoria da França anunciou que uma investigação contra o X, iniciada em julho de 2025, agora incluirá acusações de que o Grok é usado para gerar e difundir pornografia infantil.
Na sexta-feira, as autoridades da Índia informaram ao X que tinha um prazo de 72 horas para retirar o conteúdo. O prazo se encerrou nesta segunda, mas até agora não há confirmação se o X respondeu.
A Comissão de Comunicações e Multimídia da Malásia também manifestou preocupação no fim de semana.
Enquanto isso, usuárias aguardam resposta.
A advogada Azira Aziz, radicada na Malásia, disse ter ficado horrorizada depois que um usuário pediu ao Grok que transformasse "sua foto de perfil em uma de biquíni".
"A violência de gênero que usa a IA como arma contra mulheres e crianças, sem o seu consentimento, deve ser firmemente rejeitada", declarou Aziz à AFP.
Quando a AFP solicitou comentários, a xAI respondeu com uma mensagem automática: "A mídia tradicional mente".
"Identificamos falhas nas medidas de segurança e estamos corrigindo-as com urgência", publicou o Grok no X em resposta à controvérsia.
burs-ac/sla/lb/mel/ic/am