O Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa de Elon Musk, admitiu nesta sexta-feira (2) falhas em seus mecanismos de proteção após a geração e publicação de imagens sexualizadas de menores na plataforma X. Segundo a empresa, os conteúdos foram produzidos a partir de comandos feitos por usuários.

Em comunicado, a xAI afirmou que identificou brechas nos sistemas de segurança da ferramenta e que medidas corretivas estão sendo implementadas com urgência para evitar novas ocorrências. A empresa reforçou que qualquer material relacionado a abuso sexual infantil é ilegal e proibido.

O caso gerou reação de autoridades da França. Ministros do governo francês denunciaram o episódio à Arcom, órgão regulador da mídia no país, para apurar se o conteúdo violou a Lei de Serviços Digitais da União Europeia. De acordo com eles, as imagens apresentavam caráter “sexual e sexista” e eram “manifestamente ilegais”.

As imagens, que mostravam menores usando roupas mínimas, circularam no X antes de serem removidas. O episódio amplia o debate sobre a responsabilidade das plataformas digitais e os limites no uso de sistemas de inteligência artificial generativa, especialmente diante de conteúdos sensíveis e ilegais.