Por Diana Novak Jones
11 Jun (Reuters) - Uma mãe canadense processou a OpenAI e seu presidente-executivo, Sam Altman, em um tribunal dos Estados Unidos na quinta-feira, alegando que o ChatGPT encorajou sua filha a cometer suicídio, no mais recente processo judicial que acusa a empresa de não ter tomado medidas sobre conversas perigosas entre usuários e o chatbot da empresa.
Kristie Carrier afirmou em uma ação movida no tribunal estadual de San Francisco que sua filha Alice contou ao ChatGPT sobre suas ideias suicidas mais de uma dúzia de vezes até sua morte, mas os sistemas de segurança da OpenAI nunca sinalizaram as conversas para revisão humana nem as interromperam.
Em vez disso, a ação alega que o chatbot criticou o parceiro de Alice e as linhas de apoio a crises, validou seus pensamentos suicidas e a incentivou a continuar conversando com ele, levando ao seu suicídio no ano passado, aos 24 anos.
“O ChatGPT assumiu a persona de um confidente, um melhor amigo, um terapeuta às vezes, mesmo não sendo capaz de interagir dessa forma com minha filha de maneira segura e responsável”, disse Carrier em um comunicado.
Um porta-voz da OpenAI não respondeu imediatamente a um pedido de comentário sobre as alegações.
A ação judicial, que acusa a OpenAI de negligência no projeto do ChatGPT e por não alertar os usuários sobre os perigos do produto, pede indenização e uma ordem judicial exigindo que a OpenAI interrompa automaticamente conversas sobre automutilação e exiba avisos sobre sua plataforma.
A OpenAI já enfrenta 18 ações judiciais semelhantes movidas por famílias de pessoas que cometeram ou tentaram suicídio em um processo coordenado no tribunal estadual da Califórnia, de acordo com os advogados de Kristie Carrier.
A OpenAI afirma que treina seus modelos para orientar pessoas que expressam intenção de se machucar a buscar ajuda e se conectar com recursos do mundo real.
Aviso