Caso de 1998 na Defesa canadense expõe o risco oculto da IA agentic em compras

Uma pergunta que viralizou no LinkedIn

Em 2 de outubro, o consultor Jon W. Hansen, FCIPS, publicou no blog Procurement Insights um comentário sobre um post de Julie Simou, Chief Data & Analytics Officer, que já passava de cem comentários no LinkedIn. A pergunta de Simou era direta: discute-se muito o que um agente de IA pode fazer, mas quem controla no que ele tem permissão de confiar?

A resposta dela foi um modelo de dois planos. Um plano de controle rege a ação do agente: o que ele pode executar, aprovar, disparar. Um plano de dados rege o contexto: as informações que o agente usa para decidir. Os dois planos já são debate corrente entre quem está implantando IA agentic em compras e em outras áreas.

O plano que falta: quem alimenta o agente de dados

Hansen concorda com o modelo de Simou, mas aponta uma lacuna: nenhum dos dois planos mostra de onde o dado vem. Para ele, dado é resíduo de como as pessoas trabalham de fato, e esse resíduo pode estar tecnicamente correto e ainda assim ensinar a lição errada a um agente. É o que ele chama de plano operacional, que sustenta os outros dois.

O caso: Defesa canadense, 1998

Para sustentar o argumento, Hansen recorre a um caso real do Department of National Defence do Canadá, em 1998. Os dados de entrega mostravam pedidos chegando tarde no dia. A informação era precisa: todo pedido realmente chegava tarde, e qualquer checagem de governança de dados teria validado o registro sem ressalva.

O que o dado não mostrava era o motivo. Técnicos estavam segurando pedidos de propósito para proteger suas próprias métricas de chamados de serviço. Um agente que confiasse apenas no registro de entregas teria aprendido a lição errada: que os fornecedores eram lentos, quando a causa real era como os próprios técnicos eram medidos internamente.

Em resumo: o dado passou em todo teste de qualidade e ainda assim carregava um viés que só aparece quando alguém entende a rotina de trabalho por trás do número, não o número em si.

Guardrails não são cerca

Hansen distingue dois tipos de proteção. Guardrails costumam ser instalados depois que o agente já foi colocado em operação, dentro de uma estrutura conhecida, e normalmente limitada. São úteis, mas funcionam como um cercado dentro de um terreno que já foi definido por outra pessoa.

Uma cerca de verdade, na visão dele, só existe quando alguém mapeia como o negócio realmente funciona: quem faz o quê, por quê, e onde moram os desvios do processo formal.

Uma cerca de verdade só pode ser construída entendendo como o negócio realmente funciona: quem faz o quê, por quê, e onde moram os desvios.

A firm fence can only be built by understanding how the business actually works: who does what, why, and where the workarounds live.Jon W. Hansen, FCIPS, Procurement Insights

É por isso, segundo ele, que poucas empresas chegam a construir essa cerca completa, e por isso que operações paralelas, os famosos jeitinhos informais dentro do processo oficial, sempre existiram e continuam existindo.

O que isso significa para quem está testando IA agentic em compras

O argumento de Hansen tem aplicação direta em times que estão automatizando scorecards de fornecedor, triagem de pedidos ou aprovação de exceções com agentes de IA. Antes de perguntar o que o agente pode fazer ou em que dado ele pode confiar, existe uma pergunta anterior: como o trabalho realmente acontece hoje, incluindo os atalhos que ninguém documentou.

Alguns pontos valem checagem concreta antes de liberar um agente para decidir sozinho com base em métricas operacionais:

• Métricas de equipe interna que alimentam o dado de fornecedor: se o indicador de entrega depende de como um time interno registra o recebimento, qualquer incentivo torto nesse registro vira viés silencioso no histórico do fornecedor.
• Exceções manuais não documentadas: processos que funcionam "na prática" por fora do sistema formal não aparecem no dado limpo que o agente vai consumir.
• Quem mede e é medido pelo mesmo número: quando a pessoa que registra o evento também é avaliada por esse evento, o registro carrega um interesse embutido.

Um agente com todas as permissões corretas e acesso ao dado mais atualizado ainda pode errar a causa raiz se ninguém verificou se esse dado reflete o processo real ou apenas o processo formal. Para compras, isso significa que o trabalho de mapear o processo operacional, muitas vezes relegado a consultorias de reengenharia, volta a ser pré-requisito antes de automatizar decisões com IA, não um detalhe posterior.

O que ainda falta responder

O texto de Hansen é uma reação de blog ao modelo de Simou, não um manual de implementação. Ele não detalha como mapear esse terceiro plano na prática, nem qual ferramenta ou metodologia usar para expor os desvios informais de um processo de compras.

Fica também em aberto como esse terceiro plano se testa: o modelo de dois planos de Simou já tem adoção e debate público; o plano operacional de Hansen é, por ora, um argumento conceitual que ainda não apareceu documentado em um projeto real de IA agentic em compras.

Fonte: procureinsights.com