Por Daniel Wiessner
10 Jun (Reuters) - Um ex-engenheiro da xAI que agora dirige um centro de estudos dedicado à segurança da tecnologia da inteligência artificial, abriu processo contra a empresa alegando ter sido demitido por levantar preocupações sobre os riscos que a IA representa para a humanidade.
Devin Kim alega na ação movida na terça-feira no tribunal estadual da Califórnia que seus esforços para estabelecer limites ao desenvolvimento do chatbot Grok o tornaram alvo da liderança da empresa.
O processo foi aberto pouco antes da oferta pública inicial de ações da SpaceX, a maior de todos os tempos, na sexta-feira. A SpaceX controla a xAI.
“O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente no que diz respeito ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o processo.
Representantes da xAI e da SpaceX não comentaram o assunto.
O Centro para a Segurança da IA, organização sem fins lucrativos que se concentra nos riscos potencialmente representados pela tecnologia, anunciou na semana passada que havia nomeado Kim como seu presidente.
Elon Musk, o homem mais rico do mundo, fundou a xAI em 2023 afirmando que a empresa era uma alternativa mais segura à OpenAI, que ele ajudou a fundar há mais de uma década. No mês passado, um júri rejeitou a ação movida por Musk em que ele afirmava que a OpenAI havia se desviado de sua missão original de beneficiar a humanidade.
De acordo com o processo aberto na terça-feira, Kim foi uma das primeiras contratações da xAI em 2024 e foi promovido a um cargo de liderança importante meses após ingressar na empresa.
Kim disse que Musk esperava que a xAI implementasse testes e processos de segurança adequados. Mas o supervisor de Kim, o cofundador da xAI Jimmy Ba, desrespeitou essas diretrizes e rejeitou a insistência de Kim em implementar mecanismos de segurança, alega o processo.
Kim afirma que Ba o demitiu abruptamente em setembro passado, pouco antes dele fazer uma apresentação sobre segurança em IA para a liderança da empresa.
A ação acusa a xAI e a SpaceX de retaliação e demissão indevida e pede indenização por danos morais em valor não especificado.
A SpaceX e outros empreendimentos de Musk, incluindo a montadora de veículos elétricos Tesla, têm sido alvo de questões de segurança, desde riscos para os funcionários da empresa até preocupações com a tecnologia de direção autônoma.
Em 2023, a Reuters documentou pelo menos 600 acidentes de trabalho na SpaceX, incluindo membros esmagados, amputações, eletrocussões e uma morte. Alguns funcionários atribuíram os problemas a uma cultura de segurança negligente e à crença de Musk de que a SpaceX está em uma busca urgente para criar um refúgio no espaço diante de uma Terra em declínio.
A SpaceX não se pronunciou na época, mas em documentos judiciais e em outros locais a empresa defendeu seu histórico de segurança e afirmou que oferece treinamento extensivo em segurança.
Aviso