Уже верите в ИИ: почему так сложно распознать контент, созданный с помощью ИИ?

Вы, вероятно, видели (или даже использовали) это выражение в комментариях и историях: «Я уже в это поверил». Оно появляется под видео, где животное делает что-то невозможное, под подозрительно идеальным селфи из «аэропорта», под аудиозаписью, на которой кто-то из знаменитостей говорит глупости. Это идеальная подпись для момента «ой, я чуть не попался». И это смешно, потому что это правда: сегодня менее 1% людей могут правильно распознать фейковый контент, созданный ИИ, будь то фотография, аудио или видео.

По сути, шутка описывает реальную статистику. И вот тут начинается самое серьезное: в Бразилии к 2026 году мошенничество с использованием дипфейков выросло на 400%, а искусственный интеллект уже присутствует в 42,5% зарегистрированных случаев финансового мошенничества в стране, согласно данным Федеральной полиции. Другими словами: тот же самый инстинкт «я почти поверил», который заставляет вас смеяться над видео с котиками, мошенники используют, чтобы убедить компании перевести деньги.

Но откуда вообще взялось это "Я и так в это верил"?

Честно говоря, официального подтверждения происхождения этого выражения нет, нет ни одного поста, который бы его "изобрел", по крайней мере, нам это не удалось подтвердить. Скорее всего, это одна из тех фраз, которые сформировались естественным образом, как это часто бывает в бразильском интернете: кто-то произносит её в комментарии, она становится популярной, превращается в стандартную реакцию, и внезапно оказывается повсюду.

И совершенно логично, что это прижилось именно сейчас. Мы постоянно окружены контентом, созданным искусственным интеллектом, от «искусства» в стиле Ghibli, захватившего Instagram, до гиперреалистичных видеороликов о событиях, которых никогда не было. «Искусственный интеллект уже в это верит» стало почти рефлексом, как тот момент, когда вы читаете странную новость и, прежде чем поделиться ею, останавливаетесь и думаете: «Подождите, это правда?».

Проблема в том, что это отражение становится все менее и менее надежным не потому, что мы стали больше отвлекаться, а потому, что «сгенерированное ИИ» становится слишком качественным.

Генеративные модели развились до такой степени, что создают изображения, видео и аудио, способные убедить даже тех, кто уже привык искать признаки искусственного контента. И в этом есть ирония: чем больше мы учимся не доверять тому, что видим в интернете, тем изощреннее должен быть фейковый контент, чтобы пройти через наш фильтр, и тем не менее, он всё ещё проходит.

В результате возникает своего рода усталость от недоверия. Мы больше не знаем, что правда, а что ложь; во многих случаях мы также не знаем, стоит ли доверять своей способности различать эти два понятия. И эта проблема уже не ограничивается вирусными видеороликами.

Возможно, вас также заинтересует: Главная проблема ИИ-агентов в Бразилии: дело не в технологиях, а в доверии.

Почему сейчас практически никто не может распознать дипфейк?

Помните времена, когда можно было «уловить» изображение, созданное ИИ, просто взглянув на обожженные руки с семью пальцами? Что ж, этим временам пришел конец. Какое-то время идентификация цифровой подделки зависела от поиска ошибок: странные руки, слишком роботизированный голос, необычные движения, лицо, не совсем соответствующее речи. Генеративный ИИ устранил значительную часть этих ошибок, и данные рынка однозначно это подтверждают: исследования показывают, что менее 1% людей могут последовательно правильно идентифицировать поддельный контент, созданный ИИ.

Сегодня ложная информация может быть технически убедительной и, прежде всего, контекстуально убедительной, и именно вторая характеристика является наиболее коварной. Видео, где известный человек произносит абсурдную фразу, всё ещё вызывает подозрение (это ещё можно заметить). Проблема возникает, когда тот же человек говорит что-то правдоподобное в известном контексте, используя свой собственный голос и манеры. Тогда сложность заключается не в обнаружении аномалии, а в недоверии к чему-то, что кажется совершенно нормальным. А недоверие к нормальному гораздо сложнее (и утомительнее), чем недоверие к странному.

Читайте также: Мошенничество в Черную пятницу: как защитить свой бизнес

От мема к мошенничеству: как это уже используется в корыстных целях

Хорошо, пока все неплохо, но подождите, у этой шутки есть серьезная сторона. Этот сценарий очень актуален для информационной безопасности, потому что большинство атак начинаются не с технической уязвимости, а с убеждения кого-то совершить определенное действие. Это тот же принцип, что и в фишинге, социальной инженерии и мошенничестве с личными данными, только теперь с встроенным множителем убеждения.

Показатели Бразилии за 2026 год наглядно демонстрируют эту тенденцию:

Прозвище «мошенничество с участием генерального директора 2.0», придуманное организациями финансового сектора, точно описывает схему: преступник имитирует голос (или видео) руководителя, чтобы санкционировать перевод или предоставить доступ. В 2024 году широко освещался случай попытки мошенничества с использованием дипфейк-аудио, имитирующего голос генерального директора, запрашивающего срочный перевод. Попытка провалилась только потому, что подозрительный руководитель задал личный вопрос, ответ на который мог знать только настоящий генеральный директор. В других случаях по всему миру подобная проверка просто не проводилась, и убытки подтвердились.

Преступник может использовать общедоступную информацию о руководителе (интервью, видео в LinkedIn, запись телефонного разговора), чтобы выстроить подход, максимально приближенный к тому, как этот человек общается в реальности. Он может комбинировать текст, голос и изображение, чтобы создать запрос, который выглядит правдоподобно. Он может использовать срочность, контекст и авторитет, чтобы сократить время, которое жертва может потратить на то, чтобы усомниться в запросе.

Таким образом, технологии не создают новую проблему. Они делают старую проблему (социальную инженерию) гораздо более актуальной. И это, пожалуй, самая важная часть дискуссии: главная уязвимость заключается не столько в самом дипфейке, сколько в решении, которое он пытается спровоцировать.

Предел "обучения людей большей подозрительности"

Естественная реакция на обсуждение этой темы: обучение людей распознаванию контента, созданного искусственным интеллектом. Это по-прежнему важно; командам необходимо знать наиболее распространенные признаки и понимать, что голоса и изображения больше не являются достаточным доказательством личности.

Однако у такого подхода есть явный предел, и цифра «менее 1%» это наглядно демонстрирует: если безопасность зависит исключительно от того, заметит ли кто-то, что тот или иной аудиофайл «звучит странно», то ответственность возлагается на человеческую способность, которая никогда не предназначалась для функционирования в качестве механизма аутентификации. Мозг использует контекст, знакомство и закономерности для быстрого принятия решения; в большинстве случаев это преимущество, но именно эта предсказуемость может быть использована в корыстных целях.

Таким образом, распространение дипфейков приводит компании: недостаточно просто научить людей быть более подозрительными. Необходимо создать процессы, которые не будут основываться исключительно на их недоверии.

Система безопасности, которая работает даже тогда, когда мошенничество выглядит правдоподобно

Такой сдвиг в перспективе перекладывает часть ответственности с отдельного человека на систему. На практике это означает:

• Для важных транзакций (переводы, изменение банковских реквизитов , предоставление доступа к критически важным системам) требуется второе подтверждение , независимо от того, насколько убедительным может показаться запрос;
• Многофакторная аутентификация (МФА) как стандарт, а не исключение; одних только голоса и изображения уже недостаточно для подтверждения личности.
• Соразмерный риску контроль доступа, ограничение привилегий и мониторинг нетипичного поведения;
• Официальные процедуры внесения конфиденциальных изменений в отношения с поставщиками и партнерами, которые не зависят от одного телефонного звонка или сообщения, «выглядящего законным».

Логика проста: чем больше влияние решения, тем меньше оно должно зависеть от одного единственного доказательства личности. Человек может считать, что разговаривает с генеральным директором, но крупный финансовый перевод не должен зависеть исключительно от этого.

Какое место в этом обсуждении занимает архитектура безопасности?

Именно в этом и заключается логика архитектуры «нулевого доверия»: вместо того, чтобы полагаться на единственное доказательство (знакомый голос, знакомое лицо, сообщение, которое «кажется» исходящим из нужного источника), доступ к критически важным системам требует обязательной аутентификации перед любым запуском, с использованием многофакторной аутентификации (MFA) и средств контроля, которые не зависят от человеческого суждения в момент атаки. Именно такой уровень — надежная аутентификация до доступа к приложению, а не после того, как кто-то «доверится голосу начальника» — Skyone Autosky для защиты доступа к бизнес-системам. Что касается мониторинга, инструменты анализа угроз и SOC/SIEM помогают выявлять аномальное поведение даже тогда, когда первоначальный запрос казался совершенно законным, поскольку защита не может полагаться на то, что кто-то «заметит это вовремя».

И есть еще более серьезная проблема: цифровое доверие

Пожалуй, самым интересным следствием популяризации дипфейков является не столько рост мошенничества, сколько подрыв доверия. Когда мы понимаем, что голос можно клонировать, изображение можно создать, а видео можно сфабриковать, мы начинаем сомневаться в том, что раньше служило доказательством. Телефонного звонка может быть недостаточно. Фотографии может быть недостаточно. Видео может быть недостаточно.

Это меняет динамику компаний, которые все больше полагаются на цифровое взаимодействие. Существует важная разница между подлинностью и видимостью подлинности. Контент может выглядеть совершенно легитимным, но при этом таковым не являться. Поэтому вопрос безопасности начинает меняться: вместо простого «кажется ли это правдой?», правильный вопрос звучит так: «Как я могу подтвердить, что это правда?».

Автор: Skyone