Опасность теневого ИИ: как отсутствие управления влияет на компании

Выброшенная на помойку электронная таблица: Теневой ИИ и риски, связанные с ИИ без надлежащего управления

Был четверг, 17:40, и Марине нужно было представить предложение по корректировке цен к концу дня. В электронной таблице было 3200 строк: клиенты, контракты, маржа, согласованные скидки. Анализ вручную занял бы всю ночь.

Она открыла вкладку в браузере, вошла в инструмент искусственного интеллекта под своей личной учетной записью, скопировала всю электронную таблицу и написала: «Проанализируйте эти данные и предложите корректировки для каждого клиента».

Через четыре минуты у неё был ответ. В 6 вечера она сдала работу и получила похвалу от своего руководителя. Никто не спросил, как ей это удалось.

(Марина — вымышленный персонаж, созданный на основе ситуаций, описанных в исследовании.)

Всё это делалось не из корыстных побуждений. Всё было сделано в спешке, с использованием имеющихся инструментов и без каких-либо видимых правил. Но прибыль каждого из клиентов компании просто вышла из-под контроля. У этой истории есть название: Теневой ИИ.

Теневой ИИ — это использование инструментов искусственного интеллекта без ведома или одобрения ИТ-специалистов и специалистов по безопасности. В опросе Panorama Vibe Coding Brasil50,1% специалистов уже создали автоматизации или интеграции без формального ИТ-проекта, но только 26,4% (524 из 1982) подтверждают наличие четких и формализованных правил относительно того, какие данные могут поступать в инструменты ИИ.

Является ли Марина исключением? Цифры говорят, что нет

Panorama Vibe Coding Brasil, проведенном компанией Skyone в партнерстве с изданием The News, приняли участие 2440 специалистов.

Совокупность цифр говорит сама за себя: темпы селекции ускорились, а правила не успевают за ними. И есть один важный момент: заводчики уже ощущают риск, просто они не получили необходимой защиты.

Когда правила не существует, или оно существует, но никто его не видит

Наиболее распространенный профиль в опросе, составляющий 42,7% выборки (846 ответов), — это «фрагментированная ориентация»: большая техническая деятельность без единого стандарта. Среди создателей этой группы:

• 52,1% Они создают автоматизированные системы;
• 49,5% Они развивают внутреннюю интеграцию;
• 60,9% У них нет четких правил в отношении данных.

Даже в компаниях, где есть правила, 33,1% заявляют, что они плохо донесены до сотрудников.

Почему запрет ничего не решает

Если бы менеджер Марины запретил использование ИИ, она бы представила предложение позже в пятницу или воспользовалась бы своим мобильным телефоном. Проблема, которая привела её к созданию этого инструмента, всё равно осталась бы. В отчёте суммируется дилемма: соблюдение правил должно предшествовать свободному экспериментированию, но при этом экспериментирование не должно быть запрещено.

А что, если бы четверг у Марины сложился иначе?

Представьте ту же сцену, 17:40, ту же электронную таблицу. Разница лишь в том, что вместо личного аккаунта Марина открывает единый портал компании, использующий искусственный интеллект.

Она отправляет тот же запрос и получает ответ через четыре минуты. Но за кулисами происходят три вещи, о которых ей даже не приходится задумываться:

1. Конфиденциальные имена и значения анонимизируются перед тем, как попасть в модель в публичном облаке.
2. Запрос отслеживается, и команда записывается в журнал.
3. Доступ контролируется: компания решает, какие модели разрешены.

Такова роль корпоративного шлюза искусственного интеллекта, и именно для этого Skyone Astro (скоро в продаже): единый портал для доступа к нескольким платформам LLM, таким как OpenAI, Gemini и другим, с мониторингом, анонимизацией конфиденциальных данных (DLP) и регистрацией команд. Компания Marina продолжает быстро развиваться и сохраняет контроль над ситуацией.

От правил к практике: как Skyone помогает

Светофор начинает работу прямо сейчас

Пока этот инструмент не станет доступен, может помочь правило одной страницы:

Часто задаваемые вопросы

Что такое теневой ИИ?
Это использование инструментов искусственного интеллекта сотрудниками без одобрения или ведома ИТ-отдела и службы безопасности.

Какие существуют риски?
Утечка корпоративных и персональных данных, потеря возможности отслеживания, несоблюдение Закона Бразилии о защите персональных данных (LGPD) и автоматизация без владельца.

Что такое Skyone Astro?
Это корпоративный шлюз искусственного интеллекта от Skyone: единый портал для доступа к нескольким LLM-системам с мониторингом запросов, анонимизацией конфиденциальных данных (DLP) и регистрацией команд. Продукт находится на этапе запуска.

В чём разница между шлюзом искусственного интеллекта и политикой использования?
Политика определяет, что можно и чего нельзя делать. Шлюз же обеспечивает защиту на протяжении всего процесса, даже если кто-то забудет правило.

Возвращаемся к четвергу, 17:40

Вашей компании не нужно постоянно быть начеку, потому что система может стать частью этого процесса. Заключительная фраза «Панорамы» хорошо это总结总结: атмосфера программирования уже налицо. Теперь пришло время управлять.

Если у вас есть возможность сделать что-то одно на этой неделе, поделитесь с вашей командой информацией о системе светофоров. А если вы хотите понять всю картину целиком, скачайте Panorama Vibe Coding Brasil или узнайте о решениях Skyone в области искусственного интеллекта и обработки данных.

Автор: Skyone