Quando investigadores de IA não podem confiar em suas próprias ferramentas: verificação de evidências para investigação de ameaças cibernéticas
Um artigo acadêmico recém-publicado no arXiv (cs.CR) examina o que acontece quando agentes baseados em LLM triam alertas de segurança combinando as saídas de múltiplos detectores sem verificar se essas fontes são confiáveis entre si. Usando o dataset CIC-IDS2017 corrigido, os autores mostram que corromper apenas um de quatro detectores já é suficiente para destruir a acurácia da triagem automatizada, e propõem um mecanismo de verificação cruzada (CAV) que recupera boa parte dessa acurácia a baixo custo computacional.
Fonte ↗