Pesquisa expõe falha de vinculação de evidências na reconstrução forense de logs de agentes de IA

O artigo parte de um problema que vai se tornar cada vez mais comum conforme agentes de IA executam tarefas autônomas (transações bancárias, automações de e-mail, operações em sistemas): quando algo dá errado e é preciso reconstruir o que o agente fez e por quê, não basta recuperar o valor correto a partir dos logs — é preciso provar qual registro preservado efetivamente sustenta aquela conclusão. Isso é exatamente o problema central da cadeia de custódia e da análise de artefatos em forense digital tradicional, aplicado agora a logs de ferramentas, explicações geradas pelo próprio agente e identificadores locais de citação.

Os pesquisadores usaram 64 casos mecanicamente verificáveis extraídos de execuções salvas do AgentDojo Banking e testaram dois leitores LLM (incluindo o Claude Sonnet) e um comparador determinístico, variando a presença de tabelas explícitas de vinculação entre identificador e registro, e a renomeação desses identificadores. O resultado mais marcante: com os identificadores originais e sem tabela de vinculação, o Sonnet recuperou corretamente 100% das localizações literais da fonte, mas fez afirmações de "citação-fonte" sem qualquer sustentação em 26 de 28 casos onde a relação crítica estava ausente — e, de forma mais preocupante, 22 dessas afirmações não sustentadas ainda assim coincidiram com a referência correta, ou seja, eram "acertos por adivinhação" indistinguíveis de uma reconstrução genuína sem auditoria adicional.

A implicação prática é relevante para qualquer equipe que vier a investigar incidentes envolvendo agentes de IA autônomos: a simples renomeação de identificadores de citação não resolveu o problema (não houve remédio consistente), mas adicionar vinculações explícitas entre registro e evidência melhorou significativamente a reconstrução fundamentada nos dois leitores testados. Isso sugere um requisito de design para sistemas de agentes que operam em produção — registrar explicitamente qual evidência sustenta qual decisão, não apenas o resultado final — equivalente ao que já se exige em perícia tradicional ao documentar a cadeia de custódia de cada artefato. Sem esse tipo de vinculação, uma reconstrução forense de agente de IA pode parecer correta e ser, na realidade, uma suposição sem base probatória, o que é inaceitável em um contexto investigativo ou judicial.