Informação algorítmica e políticas públicas : potencialidades, vieses e riscos da inteligência artificial generativa

Abstract

O capítulo analisa o impacto da "informação algorítmica" na sociedade, com foco no contraste entre o "caos informacional" gerado pela desinformação nas mídias sociais e as potencialidades da Inteligência Artificial Generativa (IAG) na gestão governamental. Os autores defendem que a desinformação operada por algoritmos de engajamento afeta severamente a legitimidade e a implementação de políticas públicas no Brasil, atuando como um "quarto eixo analítico" (ou o quarto "I") que se soma às tradicionais análises neoinstitucionalistas (instituições, atores e ideias). Como contrapartida a esse cenário nocivo, o texto apresenta a experiência do projeto Inteligência Artificial Aplicada às Políticas Públicas (IAPP) e o desenvolvimento do ChatPP, um assistente baseado em grandes modelos de linguagem (LLMs). Ao contrário das redes sociais, os assistentes de IAG produzem textos coesos baseados em acervos acadêmicos e técnicos, demonstrando uma orientação racional e civilizada que pode acelerar a efetividade do setor público. No entanto, o capítulo adverte que as tecnologias de IAG não são neutras e carregam "vieses algorítmicos". Esses vieses decorrem de decisões de design, da falta de representatividade e de discriminações históricas embutidas nos dados de treinamento. Desse modo, o estudo conclui que os assistentes reproduzem posicionamentos políticos vinculados à curadoria de seus repositórios bibliográficos. Assim, os autores ressaltam a necessidade crucial de regulação, auditoria e de uma formação crítica refinada por parte dos gestores públicos para mitigar os riscos e alinhar a aplicação dessas ferramentas aos valores republicanos e democráticos do país.