A plataforma X anunciou nesta semana que o Grok, seu sistema de inteligência artificial, passará a contar com bloqueios específicos para impedir a geração de imagens de nudez e conteúdos sexualizados não consensuais.

A medida foi divulgada dias depois de vir à tona o caso da jornalista Julie Yukari, a brasileira que denunciou ter sua foto manipulada pela IA para parecer nua, sem qualquer autorização.

No início de janeiro, Julie relatou que uma foto sua publicada no X foi usada por perfis anônimos para solicitar ao Grok a criação de versões sexualizadas e pornográficas. As imagens falsas se espalharam rapidamente, causando danos à sua reputação e expondo sua intimidade. O episódio foi registrado na polícia como crime de registro não autorizado de intimidade sexual e gerou ampla repercussão nas redes sociais.

O que muda no Grok

- Bloqueio automático: a IA não poderá gerar ou editar imagens de pessoas reais em situações íntimas.

- Tolerância zero: proibição absoluta de exploração sexual infantil, nudez não consensual e deepfakes sexuais.

- Responsabilização: apenas assinantes pagos terão acesso a recursos de edição de imagens, medida que, segundo a X, facilita rastrear abusos.

- Monitoramento reforçado: filtros adicionais para impedir tentativas de burlar as restrições.

A decisão da X ocorre em meio a pressões de autoridades nos Estados Unidos, União Europeia e Brasil, que investigam o uso indevido da tecnologia para assédio e difamação. Países como Indonésia e Malásia já haviam bloqueado o acesso ao Grok após denúncias semelhantes.