Тренд 80-х: каковы риски отправки фотографий искусственному интеллекту?

Если вы открывали Instagram, TikTok или WhatsApp в последние несколько недель, вы наверняка натыкались на кого-то, кто решил вернуться на четыре десятилетия назад. Пышная прическа. Подплечники. Джинсовая куртка. Фотография в стиле школьного альбома, зернистая, как пленка, со слегка выцветшими цветами, словно она прямиком из пыльного ящика 80-х.

Этот тренд распространился в социальных сетях слишком быстро, чтобы его игнорировать. К нему присоединились такие люди, как Сабрина Сато, Вирджиния Фонсека, Фернанда Паес Леме и Ана Мария Брага, хэштег #trendanos80 уже насчитывает тысячи постов, а сам Google Trends зарегистрировал этот термин в числе популярных поисковых запросов в Бразилии. Просто отправьте селфи в ChatGPT или Gemini с подходящей подсказкой, и вуаля: вы через несколько секунд снова в 80-х.

Это тот тип феномена, который помогает объяснить, почему некоторые тренды в области ИИ набирают такую ​​скорость. Процесс прост, результат выглядит потрясающе, и существует огромный социальный импульс: этим занимаются все, буквально все

Но есть один вопрос, который почти никогда не появляется рядом с кнопкой «сгенерировать».

Что происходит с вашей фотографией после того, как вы нажимаете кнопку «Отправить»?

Мы показали свои лица, не подумав о том, что именно показываем

В этом нет ничего плохого. Использование инструмента искусственного интеллекта для переосмысления фотографии само по себе не означает отказа от вашей конфиденциальности.

Суть в другом: мы много думаем о конечном результате — волосах, одежде, идеальном фильтре— и почти ничего не думаем о пути, который проходит изображение, чтобы достичь этого результата. Хранится ли оно? Как долго? Можно ли использовать его для обучения других моделей? Передается ли оно третьим лицам? Можно ли его удалить позже?

Эти вопросы гораздо менее приятны, чем выбор между джинсовой курткой и ярким пиджаком. Но именно эти вопросы должны учитываться при принятии решения, особенно учитывая, что эксперты уже начали комментировать эту конкретную тенденцию, и предупреждение не является общим.

Ваше лицо — это не пароль, который можно изменить

По словам юриста-специалиста, опрошенного SBT News по поводу этой тенденции, риск утечки может быть низким, но он существует, и проблема не ограничивается инструментами ИИ: социальные сети и другие цифровые сервисы также концентрируют большой объем персональных данных.

Элини Сабино, координатор технологических курсов в UnifacenS и специалист по искусственному интеллекту, подчеркивает простой, но тревожный момент: участники этой тенденции передают не просто «фотографию», а данные, которые можно сопоставить с их именем, профилем в социальных сетях, местом работы и распорядком дня, чтобы создать гораздо более полный портрет того, кто они есть.

И вот в чем разница между лицом и паролем: если пароль скомпрометирован, вы его меняете. Если украдена карта, вы ее аннулируете. А вот ваше лицо — нет. Не существует такого понятия, как «создание новой версии» вашей физической личности, если она использована не по назначению.

Это не означает, что каждое селфи, отправленное ИИ, станет биометрическим идентификатором, используемым против вас. Это означает, что прежде чем передавать потенциально конфиденциальные данные, стоит разобраться в правилах работы конкретного сервиса.

Разница кажется незначительной. На практике же она огромна.

Цифра, на которую никто не обращает внимания: почти каждый третий человек даже не читает условия

Недавние данные, полученные в ходе исследования цифрового поведения в Латинской Америке, помогают объяснить, почему подобные тенденции вызывают такую ​​обеспокоенность у экспертов по безопасности: примерно от 27% до 30% пользователей в регионе признаются, что не проверяют запрашиваемые приложением разрешения перед установкой или использованием, либо потому что текст слишком длинный, либо потому что они просто не обращают на него внимания.

Другими словами: большинство из нас автоматически нажимает кнопку «принять». А когда тренд набирает популярность, этот автопилот включается ещё сильнее. Вы видите, как это делает ваш друг, открываете инструмент, загружаете фотографию, выбираете стиль, публикуете. Менее чем за минуту всё готово. Невидимая часть — хранение данных, обмен ими, использование для обучения— откладывается на потом. Если вообще когда-либо выполняется.

А что, если ваша фотография содержит больше информации, чем вы предполагали?

Существует также гораздо более незначительный риск, о котором легко забыть: на отправленной вами фотографии может быть изображено гораздо больше, чем просто ваше лицо.

На шее у него висит бейджик. На заднем плане — экран компьютера с открытой электронной таблицей. На столе — документ. Интерьер его дома. Номерной знак автомобиля. Ребенок, который не дал (и не мог дать) согласия на то, чтобы появиться там.

Казалось бы, безобидное селфи может раскрыть гораздо больше информации, чем вы хотели бы сообщить, и эксперты, опрошенные различными СМИ, сходятся во мнении: прежде чем отправлять его, стоит оценить, что изображено на снимке вокруг вашего лица, а не только само лицо.

От шутки в социальных сетях до исходного материала для мошенничества

Вот тут-то и проявляется наименее заметная в заголовках информация об этой тенденции: чем больше четких фотографий лиц распространяется в открытом доступе, тем больше появляется исходного материала для дипфейков и мошеннических схем с использованием методов социальной инженерии, в том числе и корпоративных.

Анализы, предназначенные для руководителей высшего звена, уже указывают на эту проблему: данная тенденция представляет собой угрозу безопасности, о которой директорам и ИТ-командам следует знать, поскольку четкие, высококачественные фотографии — именно те, которые необходимы для нормального функционирования системы, — также являются тем типом материалов, которые подпитывают попытки выдать себя за других.

Одной фотографии недостаточно для создания изощренной мошеннической схемы. Но в сочетании с именем, должностью, компанией, голосом и распорядком дня (информация уже циркулирует) она может стать частью головоломки, гораздо более убедительной, чем кто-либо хотел бы признать.

Читайте также: Искусственный интеллект уже верит: почему так сложно распознать контент, созданный ИИ.

Итак, следует ли нам прекратить использование этих инструментов?

Нет. Было бы преувеличением рассматривать любое приложение для генерации изображений как угрозу, которой следует избегать любой ценой.

Суть в том, чтобы немного лучше осознать ситуацию, прежде чем нажать кнопку «Отправить». На практике это означает:

• Перед загрузкой фотографии быстро ознакомьтесь с политикой конфиденциальности инструмента;
• Проверьте, есть ли возможность запретить использование изображения при обучении модели или запросить его удаление впоследствии;
• Избегайте фотографий с документами, бейджами, рабочими экранами или другими людьми, которые не просили об этом;
• Компаниям: превратите это в четкую политику, указав, какие изображения и информацию сотрудники могут (или не могут) загружать во внешние инструменты искусственного интеллекта, поскольку нет смысла вкладывать значительные средства в безопасность системы и оставлять эту лазейку открытой.

Вам также может быть интересно: Как предотвратить утечки данных в ИИ: стратегии безопасности, LGPD (Бразильский общий закон о защите данных) и управление.

Эта тенденция может пройти. Изображение остаётся вашим

Пожалуй, это самая интересная часть всей истории. Через несколько недель никто уже не вспомнит о джинсовой куртке, сгенерированной искусственным интеллектом; в ленте будет доминировать другой стиль.

Но фотографии, отправленные для участия в игре, исчезают не с той же скоростью, что и сам тренд.

Суть не в том, чтобы испортить удовольствие или демонизировать технологии. Важно помнить, что за кнопкой «сгенерировать» скрываются данные, которые остаются вашими еще долго после того, как тренд сойдет на нет.

Наслаждаетесь ностальгией по 80-м? Всегда. Но, пожалуй, самый современный способ защитить в эпоху ИИ прост: прежде чем использовать какой-либо фильтр, спросите себя: «Что именно я даю взамен?»

Автор: Карлос Алькоба