Por Jody Godoy
30 Set (Reuters) - A Comissão Federal de Comércio dos Estados Unidos (FTC) está conduzindo uma investigação em todo o setor de inteligência artificial, envolvendo empresas como Anthropic e OpenAI, para identificar possíveis riscos que a tecnologia representa para os consumidores, informou um autoridade de alto escalão da FTC à Reuters nesta quarta-feira.
A investigação é a primeira ação regulatória oficial dos EUA a se aprofundar na questão de agentes de IA rebeldes, em meio a um aumento de incidentes que têm criado temores de que uma IA descontrolada possa, um dia, causar danos aos seres humanos.
A FTC planeja emitir intimações formais para obtenção de informações e exigir depoimentos de executivos das principais empresas desenvolvedoras de IA, incluindo Anthropic, OpenAI e o grupo de pesquisa METR, disse o funcionário.
O presidente da FTC, Andrew Ferguson, sugeriu na semana passada que os desenvolvedores que instruem agentes de IA em testes de segurança que resultem em invasões a outros sistemas devem ser responsabilizados por quaisquer danos que causem.
Anthropic e OpenAI não responderam imediatamente a pedidos de comentário da Reuters.
Ferguson já tinha preocupações com as empresas antes mesmo dos agentes de IA desenvolvidos pela OpenAI invadirem a plataforma de código aberto Hugging Face, disse a autoridade.
Mas o incidente em que os agentes da OpenAI sondaram o hub de programação de IA em busca de vulnerabilidades antes de realizar um ataque em grande escala aumentou a urgência em torno da questão, disse a autoridade.
O presidente dos EUA, Donald Trump, se reuniu com altos executivos do setor de IA na terça-feira, ocasião em que as empresas concordaram em estabelecer padrões voluntários.
Aviso