Agência britânica investiga rede X por imagens de caráter sexual geradas por IA
A agência britânica de segurança na internet, a Ofcom (na sigla em inglês), anunciou nesta segunda-feira (12) a abertura de uma "investigação" contra a rede social X "por imagens de caráter sexual divulgadas" por seu assistente de inteligência artificial (IA) Grok.
"Foram recebidos relatos muito preocupantes sobre o uso" do Grok no X "para criar e compartilhar imagens de pessoas nuas, o que poderia constituir atentado ao pudor ou pornografia, assim como imagens de caráter sexual de crianças, que poderiam constituir material de pornografia infantil”, indicou a Ofcom em comunicado.
As imagens, criada após pedidos ao Grok para despir pessoas reais a partir de fotos ou vídeos, geraram protestos em todo o mundo.
A Indonésia, no sábado, e a Malásia, no domingo, suspenderam o acesso a esse assistente.
Após as críticas, o Grok desativou na sexta-feira sua função de criação de imagens para usuários não assinantes.
Um porta-voz do primeiro-ministro britânico, Keir Starmer, afirmou que tal medida "simplesmente transforma uma função que permite a criação de imagens ilegais em um serviço premium" e constitui "um insulto às vítimas de misoginia e violência sexual".
A Ofcom informou nesta segunda-feira que, na semana passada, solicitou explicações ao X, acrescentando que a rede social "respondeu dentro do prazo estipulado".
A investigação deverá "determinar se o X violou suas obrigações legais", que lhe impõem, entre outras coisas, "avaliar o risco de que pessoas acessem conteúdos ilegais no Reino Unido".
A medida também busca "eliminar os conteúdos ilegais" e "avaliar os riscos que representam para as crianças britânicas".
A agência pode impor multas de até 10% do faturamento mundial da empresa afetada e recorrer à Justiça para solicitar o bloqueio do site no Reino Unido.
ode/zap/psr/jvb/jc/aa