Pesquisa expõe falha de vinculação de evidências na reconstrução forense de logs de agentes de IA
Um estudo com Claude Sonnet reconstruindo execuções salvas do benchmark AgentDojo Banking mostra que um leitor LLM pode acertar o valor correto, mas fazer afirmações de "fonte da citação" sem nenhum suporte real em 26 de 28 casos quando falta uma tabela explícita de vinculação registro-evidência. Os autores concluem que concordância factual não é suficiente para validar reconstrução forense de agentes de IA.
Fonte ↗