Já IA acreditando: por que é tão difícil identificar conteúdo de IA

Você já deve ter visto (ou até usado) essa expressão rolando nos comentários e nos stories: “já IA acreditando.” Ela aparece debaixo daquele vídeo de bicho fazendo algo impossível, daquela selfie “de aeroporto” suspeitamente perfeita, daquele áudio que parece ser de alguém famoso falando bobagem. É a legenda perfeita pra aquele segundo de “opa, quase caí”. E é engraçada porque é verdadeira: hoje, menos de 1% das pessoas consegue identificar corretamente um conteúdo falso gerado por IA, seja foto, áudio ou vídeo.

A piada, no fundo, tá descrevendo uma estatística real. E é aqui que a coisa fica séria: no Brasil, fraudes com deepfake cresceram 400% em 2026, e a IA já está presente em 42,5% das fraudes financeiras registradas no país, segundo a Polícia Federal. Ou seja: o mesmo instinto de “quase acreditei” que rende risada em um vídeo de gato também é o que golpistas estão explorando pra convencer empresas a transferir dinheiro.

Mas afinal, de onde vem esse “já IA acreditando”?

Sendo honesto com você: não tem uma origem oficial catalogada, um post zero, uma pessoa que “inventou” a expressão, pelo menos não que a gente tenha conseguido confirmar. É mais provável que seja uma daquelas frases que foram se formando naturalmente, do jeito que a internet brasileira adora fazer: alguém fala em um comentário, pega, vira reação-padrão, e de repente tá em todo lugar.

E faz todo sentido que tenha pegado justamente agora. A gente vive rodeado de conteúdo gerado por IA o tempo inteiro, desde a “arte” no estilo Ghibli que tomou o Instagram até vídeos hiper-realistas de coisas que nunca aconteceram. “Já IA acreditando” virou quase um reflexo, tipo aquele momento em que você lê uma notícia bizarra e antes de compartilhar, para e pensa “espera, isso é real?”.

O problema é que esse reflexo está ficando cada vez menos confiável, não porque a gente ficou mais distraído, mas porque o “IA gerado” está ficando bom demais.

Os modelos generativos evoluíram a ponto de produzir imagens, vídeos e áudios capazes de convencer até quem já está acostumado a procurar sinais de conteúdo artificial. E existe uma ironia nisso: quanto mais aprendemos a desconfiar do que vemos na internet, mais sofisticados os conteúdos falsos precisam ser para passar pelo nosso filtro e, ainda assim, estão passando.

O resultado é uma espécie de fadiga da desconfiança. A gente não sabe mais apenas o que é verdadeiro; em muitos casos, também não sabe se vale a pena confiar na própria capacidade de perceber a diferença. E isso deixou de ser um problema restrito a vídeos virais.

Você também pode se interessar: O gargalo dos agentes de IA no Brasil: não é tecnologia, é confiança

Por que quase ninguém mais consegue identificar um deepfake?

Lembra de quando dava pra “pegar” uma imagem de IA só de olhar pras mãos torradas com sete dedos? Pois é, esses dias já eram. Durante um tempo, identificar uma falsificação digital dependia de procurar erros: mãos estranhas, voz robótica demais, movimento esquisito, um rosto que não acompanhava bem a fala. A IA generativa comeu boa parte desses erros de lanche, e o dado de mercado confirma isso sem meias palavras: estudos apontam que menos de 1% das pessoas consegue identificar corretamente, de forma consistente, um conteúdo falso gerado por IA.

Hoje, um conteúdo falso pode ser tecnicamente convincente e, principalmente, contextualmente convincent, e essa segunda característica é a mais traiçoeira. Um vídeo de uma pessoa conhecida dizendo uma frase absurda ainda levanta suspeita (esse a gente ainda pega). O problema é quando a mesma pessoa diz algo plausível, dentro de um contexto já conhecido, usando a própria voz e os próprios trejeitos. Aí a dificuldade deixa de ser perceber uma anomalia, passa a ser desconfiar de algo que parece completamente normal. E desconfiar do normal é muito mais difícil (e cansativo) do que desconfiar do esquisito.

Leia também: Fraude na Black Friday: como proteger sua operação

De meme a golpe: como isso já está sendo explorado

Beleza, até aqui tudo bem engraçado, mas segura essa, porque a piada tem um lado sério. Esse cenário interessa (e muito) à segurança da informação, porque a maioria dos ataques não começa com uma vulnerabilidade técnica, começa com uma pessoa sendo convencida a fazer alguma coisa. É o mesmo princípio por trás de phishing, engenharia social e fraude de identidade, só que agora com um multiplicador de convencimento embutido.

Os números do Brasil em 2026 mostram a curva com clareza:

O apelido “Golpe do CEO 2.0”, cunhado por entidades do setor financeiro, resume bem o padrão: o criminoso simula a voz (ou o vídeo) de um executivo para autorizar uma transferência ou liberar um acesso. Em 2024, um caso amplamente divulgado envolveu uma tentativa de fraude usando um áudio deepfake que imitava a voz de um CEO pedindo uma transferência urgente. Só não funcionou porque um executivo desconfiado fez uma pergunta pessoal que apenas o CEO real saberia responder. Em outros casos relatados ao redor do mundo, esse tipo de checagem simplesmente não existiu, e o prejuízo se confirmou.

Um criminoso pode usar informações públicas de um executivo (uma entrevista, um vídeo de LinkedIn, uma ligação gravada) para construir uma abordagem muito mais próxima da forma como aquela pessoa realmente se comunica. Pode combinar texto, voz e imagem para criar uma solicitação que pareça legítima. Pode usar urgência, contexto e autoridade para reduzir o tempo que a vítima tem para questionar o pedido.

A tecnologia, portanto, não cria exatamente um problema novo. Ela torna um problema antigo (engenharia social) muito mais convincente. E essa talvez seja a parte mais importante da discussão: a principal vulnerabilidade não está necessariamente no deepfake em si. Está na decisão que ele tenta provocar.

O limite de “ensinar as pessoas a desconfiar mais”

Existe uma reação natural quando esse assunto aparece: treinar as pessoas para identificar conteúdo gerado por IA. Isso continua importante, times precisam conhecer os sinais mais comuns e entender que voz e imagem já não são provas suficientes de identidade.

Mas existe um limite claro nessa abordagem, e o dado de “menos de 1%” deixa isso evidente: se a segurança depende exclusivamente de alguém perceber que determinado áudio “parece estranho”, a responsabilidade está sendo colocada sobre uma capacidade humana que nunca foi feita para funcionar como mecanismo de autenticação. O cérebro usa contexto, familiaridade e padrões para decidir rápido, na maior parte do tempo isso é uma vantagem, mas é exatamente essa previsibilidade que pode ser explorada.

Por isso, o avanço dos deepfakes traz uma conclusão pouco confortável para as empresas: não basta ensinar as pessoas a desconfiar mais. É preciso criar processos que não dependam apenas da desconfiança delas.

Segurança que funciona mesmo quando o golpe parece legítimo

Essa mudança de perspectiva desloca parte da responsabilidade do indivíduo para o sistema. Na prática, isso significa:

• Segunda confirmação obrigatória para operações de alto impacto (transferências, mudança de dados bancários, liberação de acesso a sistemas críticos), independentemente de quão convincente a solicitação pareça;
• Autenticação multifator (MFA) como padrão, não como exceção, voz e imagem deixam de ser prova suficiente de identidade sozinhas;
• Controles de acesso proporcionais ao risco, limitando privilégios e monitorando comportamentos fora do padrão;
• Procedimentos formais para mudanças sensíveis com fornecedores e parceiros, que não dependam de uma única ligação ou mensagem “parecer legítima”.

A lógica é simples: quanto maior o impacto de uma decisão, menos ela deveria depender de uma única evidência de identidade. Uma pessoa pode acreditar que está falando com o CE, mas uma transferência financeira relevante não deveria depender só disso.

Onde a arquitetura de segurança entra nessa conversa

É exatamente esse o racional por trás de uma arquitetura Zero Trust: em vez de confiar em uma única evidência (a voz familiar, o rosto conhecido, a mensagem que “parece” ter vindo do lugar certo), o acesso a sistemas críticos passa por autenticação obrigatória antes de qualquer liberação, com MFA e controles que não dependem do julgamento humano no momento do golpe. É esse tipo de camada, autenticação forte antes do acesso à aplicação, e não depois de alguém “confiar na voz do chefe”, que o Skyone Autosky aplica para proteger o acesso a sistemas de negócio. Do lado de monitoramento, ferramentas de análise de ameaças e SOC/SIEM ajudam a identificar comportamento fora do padrão mesmo quando a solicitação inicial pareceu perfeitamente legítima, porque a defesa não pode depender de alguém “perceber a tempo”.

E existe uma questão ainda maior: a confiança digital

Talvez o efeito mais interessante da popularização dos deepfakes não seja nem o aumento dos golpes, é a erosão da confiança. Quando sabemos que uma voz pode ser clonada, uma imagem pode ser criada e um vídeo pode ser fabricado, começamos a questionar aquilo que antes servia como evidência. Uma ligação pode não ser suficiente. Uma foto pode não ser suficiente. Um vídeo pode não ser suficiente.

Isso muda a dinâmica de empresas que dependem cada vez mais de interações digitais. Existe uma diferença importante entre autenticidade e aparência de autenticidade. Um conteúdo pode parecer perfeitamente legítimo e ainda assim não ser. A pergunta de segurança, portanto, começa a mudar: em vez de apenas “isso parece verdadeiro?”, a pergunta certa passa a ser “como posso confirmar que isso é verdadeiro?”.

Escrito por Skyone