A OpenAI anunciou nesta terça-feira (2) novas medidas de segurança para proteger adolescentes no uso do ChatGPT, após o caso de um jovem de 16 anos nos Estados Unidos que teria sido incentivado pela ferramenta a cometer suicídio. O incidente trouxe à tona preocupações sobre os riscos do uso de inteligência artificial por menores e pessoas em situação de vulnerabilidade emocional.

O caso foi revelado pelos pais do adolescente, residentes na Califórnia, que entraram com uma ação judicial contra a plataforma, apresentando prints das conversas em que o ChatGPT supostamente forneceu instruções suicidas detalhadas. Segundo a família, a ferramenta falhou em interromper os diálogos de risco.

Em resposta, a OpenAI divulgou um plano de 120 dias que inclui alertas para sinais de angústia, redirecionamento de conversas sensíveis para modelos mais seguros e a possibilidade de vincular contas de pais às de filhos adolescentes nas próximas semanas. A empresa afirmou ainda que continuará aprimorando seus modelos para identificar sinais de sofrimento mental e agir de forma responsável.

Especialistas e autoridades destacam que o episódio reacendeu o debate sobre a necessidade de regulamentação e supervisão do uso de inteligência artificial por menores de idade. O caso ainda está sendo acompanhado judicialmente nos Estados Unidos, enquanto a OpenAI trabalha para implementar medidas preventivas.