Por Yves Herman e Foo Yun Chee
ESTRASBURGO, 16 Set (Reuters) - A presidente da Comissão Europeia, Ursula von der Leyen, apoiou nesta quarta-feira os pedidos de laboratórios de IA dos EUA por uma pausa no desenvolvimento da tecnologia, afirmando que convidará os principais laboratórios para discutir medidas para lidar com os riscos.
Os comentários de von der Leyen, proferidos em seu discurso anual ao Parlamento Europeu em Estrasburgo, ocorreram em meio a crescentes preocupações com o perigo potencial representado pela inteligência artificial, colocando-a em desacordo com o presidente dos Estados Unidos, Donald Trump, que descartou o alarme sobre a segurança da IA.
Os perigos foram ressaltados pelo pesquisador da Anthropic Jacob Coxon, que renunciou e acusou tanto a empresa quanto a OpenAI de correrem em direção a uma superinteligência que se autoaperfeiçoa sem agir de forma responsável. Ele havia trabalhado anteriormente na OpenAI.
O presidente-executivo da Anthropic, Dario Amodei, pediu na semana passada que as empresas de IA diminuíssem o ritmo de avanço das capacidades dos modelos, recebendo o apoio tanto de Elon Musk, que dirige a xAI, quanto de Sam Altman, presidente-executivo da OpenAI.
“À medida que os modelos de ponta se tornam mais capazes, esses riscos ganham cada vez mais destaque. Os modelos que estão sendo desenvolvidos permitirão ataques de hackers em um nível que nunca imaginamos ser possível. E eles logo estarão nas mãos de adversários que veem o mundo de maneira muito diferente de nós”, disse von der Leyen aos parlamentares da UE.
Ela citou incidentes recentes envolvendo agentes de IA rebeldes e alertas de desenvolvedores.
“Os CEOs das empresas mais avançadas nos dizem que é hora de desacelerar no desenvolvimento dos modelos autorrecursivos. Se as pessoas que desenvolvem a tecnologia são claras, então nós também devemos ser”, disse von der Leyen.
Von der Leyen afirmou que as regras da UE que regem o uso da IA, adotadas recentemente, colocam a Europa em posição de moldar os esforços globais para lidar com os riscos.
Ela afirmou que a Europa trabalhará com parceiros que compartilham da mesma visão, como o Canadá, o Reino Unido e outros, para adotar medidas como avaliação e verificação de modelos, além de segurança em IA.
“Convocarei os principais laboratórios de ponta para uma discussão sobre como podemos apoiar os esforços em andamento do setor para controlar o ritmo da inovação”, disse von der Leyen.
Ela também propôs a proibição do uso de redes sociais por crianças menores de 13 anos e a proibição de contas pessoais para menores de 15 anos, afirmando que as plataformas devem comprovar que são seguras para as crianças. Ela anunciará os detalhes na quinta-feira.
(Reportagem de Foo Yun Chee e Inti Landauro)
Aviso