Um estudo da Universidade de Oxford, no Reino Unido, acendeu um alerta sobre a neutralidade da inteligência artificial. Divulgada em janeiro, a pesquisa intitulada "The Silicon Gaze" (O Olhar de Silício) revela que o ChatGPT compartilha informações carregadas de preconceitos geográficos e raciais sobre diferentes regiões do Brasil.
De acordo com o levantamento, o robô da OpenAI atribui classificações de inteligência significativamente mais baixas aos moradores desses estados quando comparados a habitantes do Sudeste e do Distrito Federal.
Para chegar a esses resultados, os pesquisadores analisaram 20,3 milhões de consultas feitas à plataforma. Através de um sistema de pontuação, transformaram as respostas da IA em um ranking comparativo de "inteligência percebida":
Topo da lista: São Paulo, Minas Gerais e Distrito Federal foram classificados como "mais inteligentes".
Base da lista: Amazonas e Maranhão receberam as piores avaliações do sistema.
Os pesquisadores de Oxford destacam que o comportamento da ferramenta não é aleatório, mas reflete preconceitos estruturais presentes nos dados utilizados para treinar a IA. O estudo aponta que o padrão de "inteligência" ditado pelo ChatGPT coincide com a demografia racial das regiões.
"Esse padrão corresponde à diferença racial entre regiões (as regiões norte e interior abrigam predominantemente populações mistas, negras ou indígenas), o que está alinhado com as longas histórias de como raça e inteligência percebida foram construídas", diz o texto da pesquisa.
O recorte subnacional feito no Brasil, nos Estados Unidos e no Reino Unido demonstra que o "olhar" da tecnologia ainda carrega os vícios e estigmas das sociedades humanas, reforçando estereótipos históricos em vez de combatê-los.
