Estudo com 82 profissionais de TI mostra que humanos e detectores automáticos falham em identificar deepfakes de áudio modernos
Pesquisa testou a capacidade de 82 profissionais de TI e de seis detectores automáticos pré-treinados em identificar fala sintetizada por três ferramentas de clonagem de voz lançadas em 2019, 2022 e 2024. O F1-score de detecção humana caiu de ~90% nos sintetizadores mais antigos para 48% com o ElevenLabs, e a detecção de manipulações parciais (apenas uma frase trocada em um áudio real) ficou em apenas 9% de acurácia rigorosa.
O estudo comparou a evolução da qualidade de deepfakes de áudio ao longo de cinco anos, usando três ferramentas de síntese de voz representativas de gerações diferentes (RTVC de 2019, YourTTS de 2022 e ElevenLabs de 2024). Os pesquisadores mediram tanto a acurácia de detecção humana — com 82 profissionais de TI avisados previamente de que deepfakes estariam presentes — quanto o desempenho de seis detectores automáticos pré-treinados sobre o mesmo material de áudio, cobrindo dois cenários: spoofing completo (o áudio inteiro é sintético) e spoofing parcial (apenas uma sentença dentro de um áudio real é substituída por fala sintética).
Os números mostram uma degradação acentuada da capacidade de detecção humana à medida que os sintetizadores evoluem: o F1-score caiu de cerca de 90% para RTVC e YourTTS até apenas 48% para o ElevenLabs, mesmo com os avaliadores cientes de que estavam sendo testados. O cenário de spoofing parcial é ainda mais preocupante do ponto de vista forense: a acurácia rigorosa de detecção caiu para 9%, e em 77% dos casos os ouvintes classificaram a frase sintética inserida como autêntica. Os autores também notam um efeito colateral relevante — os participantes passaram a rotular cada vez mais áudio genuíno como falso, um viés que corrói a confiança em evidência de áudio legítima, não só a detecção de manipulações reais.
O achado central para quem trabalha com perícia de mídia é que humanos e detectores automáticos falham de formas complementares e nenhum dos dois localiza de forma confiável manipulações curtas dentro de um áudio majoritariamente genuíno — justamente o tipo de manipulação mais plausível em fraude, extorsão ou engenharia social direcionada (um trecho editado em uma ligação, por exemplo, em vez do áudio inteiro forjado). Isso reforça a limitação de depender de peritos humanos ou de uma única ferramenta de detecção automatizada como prova suficiente em laudo, e aponta para a necessidade de adotar múltiplas camadas de verificação — proveniência do arquivo, watermarking na origem e detecção em nível de segmento (não apenas do áudio como um todo) — como prática padrão em casos que envolvam áudio como evidência.
Na prática, este é mais um dado empírico que sustenta o que profissionais de forense de mídia já vinham sinalizando informalmente: a distância entre a qualidade dos deepfakes de última geração e a capacidade humana/automatizada de detectá-los está aumentando, não diminuindo, e laudos periciais sobre autenticidade de áudio devem cada vez mais se apoiar em análise técnica de artefatos de síntese (espectrografia, metadados, cadeia de custódia da gravação) em vez de julgamento perceptual, humano ou automatizado isolado.