A União Europeia lançou uma investigação formal contra a xAI, empresa de IA (inteligência artificial) de Elon Musk, após forte reação pública à forma como o chatbot Grok disseminou imagens sexualizadas de mulheres e crianças.
O bilionário tem sido alvo de investigação por reguladores de todo o mundo este mês, depois que pessoas começaram a usar o Grok para gerar deepfakes de pessoas sem consentimento. As imagens foram publicadas tanto na rede social X quanto no aplicativo separado Grok, ambos administrados pela xAI.
A investigação, anunciada nesta segunda-feira (26) sob a DSA (Lei de Serviços Digitais, na sigla em inglês) da UE, avaliará se a xAI tentou mitigar os riscos de implementar as ferramentas do Grok no X e a proliferação de conteúdo que “pode constituir material de abuso sexual infantil”.
“Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a chefe de tecnologia da UE, Henna Virkkunen.
“Com esta investigação, determinaremos se o X cumpriu suas obrigações legais sob a DSA, ou se tratou os direitos dos cidadãos europeus —incluindo os de mulheres e crianças— como danos colaterais de seu serviço.”
Se a autoridade concluir que a empresa violou as regras, o bloco pode impor multas de até 6% do faturamento anual mundial. Um funcionário da UE disse que não haverá medidas provisórias durante a investigação.
A investigação europeia surge após o regulador de mídia britânico Ofcom abrir uma investigação formal sobre o Grok, enquanto Malásia e Indonésia baniram completamente o chatbot.
Após a reação negativa, a xAI restringiu o uso do aplicativo apenas a assinantes pagantes e disse que “implementou medidas tecnológicas” para limitar o Grok de gerar certas imagens sexualizadas. No entanto, em testes realizados pela Folha, ainda era possível para usuários não pagantes utilizarem o serviço.
Musk também disse que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse feito upload de conteúdo ilegal”.
Outro funcionário da UE antecipou que diante do dano causado às pessoas retratadas nas imagens, o bloco não está convencido de que as medidas de mitigação adotadas pela plataforma tenham sido suficientes para controlar a situação.
A empresa, que adquiriu o site de mídia social X de Musk no ano passado, projetou seus produtos de IA para terem menos “barreiras” de conteúdo do que concorrentes como OpenAI e Google. Musk chamou seu modelo de “maximamente buscador da verdade”.
A comissão multou o X em 120 milhões de euros (cerca de R$ 750 mi) em dezembro do ano passado por violar seus regulamentos de transparência, fornecer acesso insuficiente a dados e pelo design enganoso de seus selos azuis para contas verificadas.
A multa foi criticada por Musk e pelo governo dos Estados Unidos, com a administração Trump alegando que a UE estava injustamente visando grupos americanos e infringindo princípios de liberdade de expressão defendidos pelo movimento Maga.
O X não respondeu imediatamente a um pedido de comentário.
