Os sistemas de IA agêntica têm um enorme potencial para a empresa. A autonomia é o principal benefício, mas essa natureza autônoma pode trazer sérias consequências se os sistemas agênticos saírem dos trilhos. Os riscos usuais da IA se aplicam, mas podem ser ampliados em sistemas agênticos.

Muitos sistemas de IA agêntica usam aprendizado por reforço, que envolve a maximização de uma função de recompensa. Se o sistema de recompensa for mal projetado, a IA pode fazer exploração de brechas para alcançar “pontuações altas” de maneiras não intencionais.

Considere alguns exemplos:

• Um agente encarregado de maximizar o engajamento nas redes sociais que prioriza um conteúdo sensacionalista ou enganoso, espalhando informações erradas inadvertidamente.
• Um robô de armazém otimizado para velocidade que danifica os produtos para acelerar o processo.
• Uma IA de negociação financeira focada em maximizar os lucros que se envolve em práticas comerciais arriscadas ou antiéticas, provocando instabilidade no mercado.
• Uma IA de moderação de conteúdo projetada para combater discursos nocivos censura demais as discussões legítimas.

Alguns sistemas de IA agêntica podem se tornar autorreforçadores, levando os comportamentos a se intensificarem em direções inesperadas. Esse problema ocorre quando a IA se foca demais em otimizar uma métrica específica sem as devidas proteções e como os sistemas agênticos geralmente são compostos de vários agentes autônomos trabalhando juntos, há chances de falhas. Engarrafamentos, gargalos, conflitos de recursos – todos esses erros podem se acumular. É importante que os modelos tenham metas claramente definidas que possam ser medidas, com ciclos de feedback implementados para que os modelos possam se aproximar cada vez mais da intenção da organização ao longo do tempo (Stryker, 2026).

Palavras-chave: avaliação em tomada de decisão, falhas em gestão, gestão de projetos, pontos

Stryker, Cole. O que é IA agêntica? Staff Editor, AI Models, IBM Think. Disponível em < https://www.ibm.com/br-pt/think/topics/agentic-ai >. Acesso em 9 fev. 2026.

-- GregorioIvanoff - 09 Feb 2026
to top