Compartilhe este texto

Ex-conselheira da OpenAI diz que empresas precisam de auditores externos

Por Folha de São Paulo

17/04/2024 16h30 — em
Economia



VANCOUVER, CANADÁ ((FOLHAPRESS) - Para a pesquisadora Helen Toner, ex-membro do conselho do OpenAI que tentou retirar o CEO de seu cargo, as principais empresas dedicadas a sistemas avançados de IA (inteligência artificial) deveriam permitir auditores externos para "examinar minuciosamente seu trabalho".

"Temos que exigir que essas empresas compartilhem informações sobre o que estão construindo, o que os seus sistemas podem fazer e como estão gerindo riscos", disse Toner, australiana-americana diretora do Centro para Segurança e Tecnologias Emergentes da Universidade de Georgetown (Washington).

"Se ficarem por conta própria, elas vão seguir direção semelhante às empresas de mídia social", completou ela, durante uma palestra do TED, que acontece nesta semana em Vancouver (Canadá).

O "TED talk" de Toner veio após uma série de palestras com cenários otimistas impulsionados por IA, incluindo um palestrante que engoliu uma pílula-robô ao vivo, dirigida por um médico via controle remoto, transmitindo ao vivo suas entranhas.

Mas Toner, que passou dois anos no conselho do OpenAI, a firma criadora do ChatGPT, veio alertar para a necessidade de regulamentações para guiar o avanço das novas tecnologias.

No final de 2023, ela e dois colegas do conselho do OpenAI decidiram remover Sam Altman do cargo de CEO por acreditar que o executivo estava apressando o desenvolvimento das ferramentas de IA sem as devidas medidas de segurança.

Altman acabou voltando à companhia uma semana depois por pressão de funcionários e investidores. Ao refazer o conselho, deixou Toner de fora.

A pesquisadora disse que o debate sobre regulamentação de IA é sempre acalorado e varia em duas direções: "pisar no acelerador" ou "pisar no freio". Mas ela acredita num meio-termo, percorrendo uma estrada "com um parabrisa limpo e um excelente sistema de direção", disse.

"Concretamente, isto significa investir na nossa capacidade de medir o que os sistemas de IA podem fazer", disse. "Hoje, se quisermos descobrir se uma IA pode fazer algo preocupante, como hackear infraestruturas críticas ou persuadir alguém a mudar suas crenças políticas, os métodos de medição são rudimentares. Precisamos de algo melhor."

Lista **** A ideia de auditores externos e a criação de mecanismos de incidentes, como acontece com ataques cibernéticos ou acidentes de avião, já começaram a ser implementados em Bruxelas, Londres e Washington.

Empresas como OpenAI, Google DeepMind e Anthropic também pensam em estruturas de autogovernança, assumindo compromissos de monitoração de seus sistemas. "É um primeiro passo produtivo da indústria e espero que vire algo mais difundido", disse Toner.

Pisar no freio, no entanto, está longe de ser uma possibilidade. "IA já está acontecendo", disse. "O que podemos fazer é implementar políticas que nos dêem uma imagem tão clara quanto possível de como a tecnologia está evoluindo. Só assim poderemos entrar no jogo e lutar pelo futuro que nós queremos."

"Selfie" das estranhas

No mesmo programa de palestras de Toner, outros sete convidados falaram de inteligência artificial, como Andrew Steer, CEO da Bezos Earth Fund, uma iniciativa filantrópica estabelecida por Jeff Bezos em 2020.

A fundação se comprometeu a doar US$ 100 milhões para empresas que usarem IA para resolver problemas na natureza, como monitoramento e conservação da biodiversidade, desenvolvimento de proteínas alternativas, e "digitalização" da rede elétrica. "Estamos atrás de problemas muito, muito práticos com soluções práticas", disse Steer.

Outro destaque foi o "TED Talk" do engenheiro Alex Luebke ao lado do colega Vivek Kumbhari, médico-cientista e presidente de gastroenterologia da Clínica Mayo. Os dois são fundadores da Endiatx e apresentaram seu primeiro produto, a PillBot, a primeira câmera motorizada em formato de comprimido que visa substituir endoscopia.

"Se você acha que sabe o que é uma selfie, você não sabe", avisou o curador do TED, Chris Anderson, antes de apresentar a dupla.

Primeiro, Kumbhari mostrou o comprimido na mão, do tamanho de uma vitamina, antes de jogá-lo num aquário com água para mostrar como pode ser dirigido por um controle remoto. A demonstração não funcionou muito bem, com a pílula se negando a afundar, mas mesmo assim eles prosseguiram.

Luebke então engoliu a PillBot, e um telão mostrou ao vivo suas entranhas. "Uma delícia", brincou Luebke. "E não, você não sente o robô se mexendo lá dentro."

A pílula é descartável, custa apenas US$ 35 para fabricar e está em fase de testes clínicos.

"Isso nos dará acesso a uma grande quantidade de informações que poderemos usar para treinar IA e automatizar uma grande variedade de funções, como diagnóstico e tratamento", disse Luebke. "E, eventualmente, até mesmo intervenções.


Siga-nos no
O Portal do Holanda foi fundado em 14 de novembro de 2005. Primeiramente com uma coluna, que levou o nome de seu fundador, o jornalista Raimundo de Holanda. Depois passou para Blog do Holanda e por último Portal do Holanda. Foi um dos primeiros sítios de internet no Estado do Amazonas. É auditado pelo IVC e ComScore.

ASSUNTOS: Economia

+ Economia