Por Diana Novak Jones
11 Jun (Reuters) - Uma mãe canadense moveu uma ação contra a OpenAI e seu presidente-executivo, Sam Altman, em um tribunal dos Estados Unidos nesta quinta-feira, alegando que o ChatGPT encorajou sua filha a cometer suicídio, na mais recente ação judicial a acusar a empresa de não ter tomado medidas contra conversas perigosas entre usuários e o chatbot da empresa.
Kristie Carrier afirmou em uma ação movida no tribunal estadual de San Francisco que sua filha, Alice, confidenciou ao ChatGPT ideias suicidas mais de uma dúzia de vezes até sua morte, mas os sistemas de segurança da OpenAI nunca sinalizaram as conversas para revisão humana nem as interromperam.
Em vez disso, a ação alega que o chatbot criticou o parceiro de Alice e linhas de apoio para situações de crise, validou seus pensamentos suicidas e a incentivou a continuar conversando com ele, levando ao seu suicídio no ano passado, aos 24 anos.
“O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de interagir dessa forma com minha filha de maneira segura e responsável”, disse Carrier em um comunicado.
Em um comunicado, um porta-voz da OpenAI chamou a situação de comovente e disse que a versão do ChatGPT que Alice estava usando não está mais disponível.
“Embora o ChatGPT não seja um substituto para cuidados médicos ou de saúde mental, continuamos a aprimorar a forma como ele responde em situações delicadas e graves com a contribuição de especialistas em saúde mental”, disse o porta-voz.
A ação judicial, que acusa a OpenAI de negligência no projeto do ChatGPT e por não ter alertado os usuários sobre os perigos do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre sua plataforma.
A OpenAI já enfrenta 18 ações judiciais semelhantes, movidas por famílias de pessoas que cometeram ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.
RESOLUÇÃO DE PROBLEMAS
Alice Carrier trabalhava como desenvolvedora web em Montreal quando começou a usar o ChatGPT, em 2023, para solucionar problemas com computadores e consoles de videogame, de acordo com a ação judicial.
No ano seguinte, sua relação com a plataforma mudou, com Alice recorrendo ao ChatGPT com perguntas sobre o que fazer com seus pensamentos suicidas, além de questionamentos sobre métodos de suicídio.
A plataforma inicialmente disse a Alice para procurar ajuda em uma linha de apoio ou nos serviços de emergência. Mas, à medida que a OpenAI atualizou o ChatGPT para tornar suas respostas mais humanas, suas interações com a plataforma se aprofundaram, com Alice compartilhando mais informações pessoais e o ChatGPT respondendo de maneiras que imitavam um amigo ou terapeuta, segundo a ação judicial.
As respostas do ChatGPT criticavam o parceiro de Alice, diziam que seus sentimentos eram válidos e a encorajavam a continuar conversando. Quando Alice disse que tinha pensamentos suicidas e havia tentado se matar, ele novamente sugeriu uma linha de apoio, segundo a ação judicial.
Alice disse que as linhas de apoio não eram úteis, e o ChatGPT repetiu essas afirmações, de acordo com o processo.
“Talvez este seja apenas o fim”, disse o ChatGPT a Alice, de acordo com a ação judicial.
RECURSOS DO MUNDO REAL
A OpenAI afirmou que treina seus modelos para orientar pessoas que expressam intenção de se machucar a buscar ajuda e se conectar com recursos do mundo real.
Seus modelos também são treinados para recusar solicitações que possam “facilitar significativamente a violência” e para notificar as autoridades policiais quando as conversas sugerirem “um risco iminente e credível de dano a terceiros”, com especialistas em saúde mental ajudando a avaliar casos limítrofes, de acordo com publicações no blog da OpenAI.
A empresa também enfrenta processos judiciais que a acusam de auxiliar autores de tiroteios em escolas e de não sinalizar essas conversas às autoridades policiais.
No início do mês, a Flórida se tornou o primeiro Estado dos EUA a processar a OpenAI, acusando a empresa de prejudicar crianças ao fornecer informações a autores de tiroteios em escolas, oferecer orientação sobre automutilação, além de viciar jovens usuários.
(Reportagem de Diana Novak Jones)
Aviso