Мы используем файлы cookie для оптимизации вашего взаимодействия с сайтом, анализа трафика и персонализации рекламы. Пожалуйста, выберите, согласны ли вы с использованием необязательных файлов cookie. Подробнее
В Panorama Vibe Coding Brasil, проведенном Skyone совместно с новостным агентством, управление ресурсами оказалось первой из трех проблем, препятствующих безопасному масштабированию ИИ в компаниях (две другие – технические знания и ИТ-инфраструктура). Цифры иллюстрируют масштаб проблемы: среди 1982 респондентов в общей базе данных только 26,4% подтверждают наличие четких и формализованных правил ввода данных в инструменты ИИ. Среди тех, кто создает решения в доминирующем профиле, 60,9% заявляют об отсутствии четких руководящих принципов в отношении данных, в то время как 52,1% разрабатывают автоматизацию, а 49,5% создают внутренние интеграции.
Перед лидерами в сфере технологий, безопасности и финансов стоит двоякая задача. Если компания ограничивает использование, она теряет производительность и подталкивает команды к использованию обходных путей, как обсуждалось в предыдущей статье этой серии. Если же она разрешает неограниченный доступ, она раскрывает корпоративную информацию, принимает на себя регуляторные риски и теряет контроль над расходами. Управление ИИ существует для того, чтобы разрешить это противоречие, не жертвуя ни одной из сторон.
В этом тексте подробно описывается, что представляет собой применимое корпоративное управление, какие технические средства его поддерживают, как распределять обязанности и как структурировать его таким образом, чтобы оно способствовало его применению, а не создавало барьеры. Данные получены в результате опроса, проведенного на нашей собственной выборке, которая отражает группу опрошенных, а не всю совокупность бразильских компаний.
Управление ИИ — это совокупность политик, ролей, средств контроля и процессов, посредством которых организация определяет, как может использоваться искусственный интеллект, кем, с какими данными и под каким надзором, а также как это использование контролируется и корректируется.
Это понятие часто путают с двумя смежными аспектами. Информационная безопасность защищает активы и данные от несанкционированного доступа. Соответствие требованиям проверяет соблюдение законов и правил. Управление — это уровень, который определяет, кто несет ответственность, почему и как два других уровня применяются к конкретному случаю ИИ. Именно это различие и является предметом рассмотрения в данной статье.
Скорость имеет значение, потому что внедрение не ждет. Согласно обзору ,22 % опрошенных бразильских компаний уже используют ИИ или LLM в своих циклах разработки, и более 80% планируют увеличить свой бюджет на ИИ и автоматизацию в следующем году. Когда использование распространяется быстрее, чем появляются правила, каждый новый вариант применения возникает без критериев и требует последующей корректировки, что обходится дороже.
Главный риск заключается в потере контроля над тем, куда попадает информация, кто имеет к ней доступ и как с ней будут обращаться. Контракт с конфиденциальными пунктами, таблица с информацией о компенсациях, исходный код продукта или база данных клиентов могут быть отправлены во внешний сервис за считанные секунды кем-то, кто не имел намерения причинить вред.
Показатель в 26,4% с формализованными правилами свидетельствует о том, что в большинстве случаев это решение по-прежнему зависит от индивидуального суждения. В отличие от них, 73,6% не подтверждают наличие четких правил. И риск не ограничивается чатом: когда половина создателей чата разрабатывает автоматизации (52,1%) и внутренние интеграции (49,5%), информация также начинает циркулировать между системами, без предварительной оценки каждого потока.
В случае персональных данных применяется Общий закон Бразилии о защите персональных данных (LGPD), и компания несет ответственность за их обработку, в том числе и в случаях, когда это делают сотрудники, использующие неутвержденные инструменты. Передача персональных данных в инструмент искусственного интеллекта должна иметь четко определенную цель, основание и защиту и не может зависеть от доброй воли каждого пользователя. Конкретные случаи следует обсуждать с юридическим отделом и сотрудником, ответственным за защиту данных.
Также наблюдается повышение осведомленности: среди тех, кто разрабатывает более одного типа решений, 27,3% спонтанно выражают обеспокоенность по поводу утечек и безопасности. Это свидетельствует о том, что проблема приобретает все большее значение по мере повышения зрелости системы.
Эффективная политика использования ИИ отвечает на практические вопросы на понятном пользователю языке. Обычно она включает в себя:
Наиболее распространенная ошибка — это составление политики в виде юридического текста. Краткий документ с конкретными примерами (например, «он может содержать краткое изложение протокола внутреннего совещания; его нельзя отправлять в базу данных клиентов») с большей вероятностью будет прочитан и применен на практике.
Политика без контроля зависит от индивидуальной дисциплины. Четыре технических направления подтверждают решения, принятые на бумаге.
В любой корпоративной системе управление доступом к тем или иным моделям и помощникам, а также предоставление им соответствующих прав, должно осуществляться так же, как и в любой другой системе. Особое внимание следует уделить подключению ИИ к электронной почте, хранилищам документов, CRM и другим инструментам: каждая интеграция расширяет возможности помощника по чтению и выполнению задач. Вопрос управления заключается в том, кто разрешает подключение, с какой степенью доступа и как оно отзывается. Подключения с индивидуальной аутентификацией, как правило, ограничивают доступ ИИ тем, что уже доступно каждому пользователю, но это необходимо проверять в каждой конкретной реализации.
В Skyone Astroсоединения осуществляются через коннекторы, индивидуальные OAuth-серверы и выделенные MCP-серверы, при этом администратор контролирует разрешения и соединения. На практике ИТ-команда решает, какие инструменты можно интегрировать с ИИ, и отслеживает, что подключено, вместо того, чтобы оставлять каждого пользователя настраивать это самостоятельно. Для тех, кто занимается интеграцией и автоматизацией, также предлагается Skyone Studio, который централизует соединения с iPaaS и Lakehouse и обеспечивает управление из источника.
Без записей невозможно расследовать инцидент или понять, как используется ИИ. Аудит позволяет просматривать подсказки и ответы, фильтровать данные по пользователю, периоду или теме и, при необходимости, определять, что произошло. Необходимо соблюдать осторожность: этот мониторинг касается данных сотрудников и должен иметь четкую цель, ограниченный доступ к записям и прозрачную коммуникацию с пользователями в соответствии с требованиями юридического отдела и сотрудника по защите данных.
Вот функция, которую Skyone Astro предлагает на уровне аудита: логирование команд и запрос подсказок и ответов с фильтрами и экспортом в CSV, а также поддержка расследований, когда необходимо установить факт. Экспорт полезен для отделов безопасности, юриспруденции и соответствия нормативным требованиям, которые используют собственные инструменты анализа.
Автоматические правила (контрольные механизмы) проверяют запросы и отправленные файлы и могут блокировать отправку или просто выдавать оповещение, в зависимости от серьезности проблемы. Практический подход заключается в том, чтобы начать с оповещений, наблюдать за ложными срабатываниями и только затем ужесточить ограничения, чтобы заблокировать категории с самым высоким риском. Блокировка всего с первого дня, как правило, вызывает разочарование и требует обходных путей.
В Skyone Astro механизмы защиты реагируют на запросы и загрузки и могут работать с блокировками и оповещениями, обеспечивая описанную выше последовательность действий. В обзоре также отмечается, что платформа анонимизирует конфиденциальные данные (DLP) до того, как запросы достигнут моделей.
Использование моделей ИИ обычно оплачивается в зависимости от объема обработки, что делает затраты переменными и труднопредсказуемыми без мониторинга. Более 80% опрошенных компаний планируют расширить свой бюджет на ИИ и автоматизацию, поэтому прозрачность расходования средств перестала быть просто деталью. Ограничения для пользователей, оповещения о приближении к пределу и отчеты о потреблении позволяют финансовому отделу видеть инвестиции, а руководству — сравнивать затраты и результаты по командам. Именно этот аспект обычно приближает финансового директора к обсуждению вопросов корпоративного управления.
Skyone Astro отображает использование в бразильских реалах (BRL), с ограничениями для пользователей и оповещениями, что упрощает отслеживание инвестиций для тех, кто отвечает за бюджет. Skyone предлагает две модели подписки: стандартную модель для малых и средних предприятий и корпоративную модель для крупных компаний, подробные условия которой изложены в коммерческом предложении.
Ответственность распределяется между всеми, и отсутствие четкого ответственного за каждую часть является одной из наиболее распространенных причин управления, существующего только на бумаге. Возможный вариант разделения:
| Бумага | Основная ответственность |
|---|---|
| ИТ и технологии | Платформы, интеграции, управление доступом и подключения |
| Информационная безопасность | Анализ рисков, правила защиты данных, реагирование на инциденты |
| Сотрудник по правовым вопросам и защите данных | LGPD, контракты с поставщиками, ограничения мониторинга |
| Финансы и контроль | Бюджет, лимиты и контроль потребления |
| Лидеры региона | Варианты использования, критерии качества и проверка специалистами вашей команды |
| Пользователи | Следуйте инструкциям, сообщайте о вопросах и инцидентах |
На практике целесообразно назначить человека или комитет для координации работы других областей и принятия решений в случае конфликта между скоростью и контролем. Нынешняя ситуация показывает, что перегрузка ИТ-инфраструктуры является одним из факторов, подталкивающих пользователей к использованию обходных путей, что усиливает необходимость распределения рабочей нагрузки, а не ее концентрации в одной области.
Принцип соразмерности. Случаи с низким уровнем риска, такие как переписывание общедоступного текста или обобщение неконфиденциальной внутренней информации, заслуживают ускоренного рассмотрения. Случаи с более высоким уровнем риска, такие как анализ данных о клиентах или решения, затрагивающие людей, заслуживают проверки и дополнительных мер контроля.
Три подхода помогают поддерживать баланс. Во-первых, предлагайте утвержденную и доступную альтернативу, поскольку правила без возможности их использования заставляют людей возвращаться к личным инструментам. Во-вторых, отслеживайте простые показатели (количество запрошенных исключений, сгенерированные оповещения, потребление на команду, инциденты), чтобы корректировать правила на основе данных. В-третьих, сочетайте правила с обучением: 52,7% всей пользовательской базы указывают на недостаток технических знаний как на самое большое препятствие, что свидетельствует о том, что правила работают только в том случае, если люди знают, как их применять. Компания Skyone связывает этот подход с программой Builders by Skyone, программой повышения квалификации и практического обучения руководителей.
Корпоративная платформа искусственного интеллекта может объединить в единой среде производственные ресурсы команд и административного персонала. Skyone Astro — пример такого подхода. В обзоре она описывается как корпоративный шлюз ИИ: единый портал, где компания контролирует доступ сотрудников к нескольким моделям LLM, при этом приоритет отдается соблюдению требований, а не свободному экспериментированию. Согласно справочным материалам Skyone, для администраторов она предлагает запросы с подсказками и ответами с фильтрами и экспортом в CSV, ограничения для запросов и загрузок с блокировками и оповещениями, контроль потребления со значениями в реалах (бразильская валюта), лимиты на пользователя и оповещения, а также подключения через коннекторы, индивидуальный OAuth и собственные MCP-серверы с контролем прав доступа. Для команд среда предоставляет доступ к нескольким моделям и помощникам.
Целесообразно рассматривать это как отправную точку для оценки, а не как гарантию. Ни одна платформа сама по себе не исключает риск утечки данных и не обеспечивает автоматического соответствия требованиям. Инфраструктура, хранение данных и операционные требования должны проверяться в каждом конкретном случае, а оценка должна проводиться с использованием синтетических или авторизованных данных, а также с применением мер контроля, которые комитет компании сочтет необходимыми. Человеческий контроль критически важных решений также остается обязанностью организации.
Обзор от Skyone и новостные сообщения помогают определить проблему: использование ИИ и автоматизации растет, и инвестиции не отстают, но только 26,4% опрошенных подтверждают наличие формализованных правил в отношении данных. Эффективное управление сочетает в себе четкую политику, технический контроль (доступ, аудит, защита и использование данных) и четко определенные обязанности в ИТ, безопасности, юриспруденции, финансах и руководстве. При правильной настройке это позволяет компании соглашаться на большее количество вариантов использования с известными критериями, вместо того чтобы полагаться на общие запреты.
Хотите понять, как структурировать управление ИИ в вашей компании? Ознакомьтесь с материалами Skyone Astro и контентом Skyone по корпоративному ИИи оцените подход на реальном примере из вашей деятельности.
Это набор политик, ролей, механизмов контроля и процессов, определяющих, как искусственный интеллект может использоваться в организации, кем, с какими данными и под каким контролем. Он включает в себя правила использования, контроль доступа, аудит, защиту данных, отслеживание затрат и распределение обязанностей.
Информационная безопасность защищает данные и системы от несанкционированного доступа и использования. Управление ИИ имеет более широкое значение: оно определяет, какие виды использования разрешены, кто за них отвечает и как будут решаться риски, связанные с безопасностью, конфиденциальностью, качеством и стоимостью. Безопасность — это лишь один из компонентов управления.
Разрешенные инструменты, допустимые и запрещенные категории данных, допустимые и запрещенные способы использования, необходимость проверки человеком при принятии важных решений, лица, ответственные за вопросы и инциденты, а также частота проверок. Конкретные примеры по областям повысят уровень вовлеченности.
Это зависит от цели, прозрачности и соразмерности мониторинга и должно быть согласовано с юридическим отделом и сотрудником, ответственным за защиту данных. К передовым практикам относятся четкое информирование пользователей, ограничение доступа к записям и использование данных только для заявленных целей, таких как обеспечение безопасности и расследование инцидентов.
Устанавливая лимиты для каждого пользователя или команды, настраивая оповещения о приближении к лимиту и отслеживая отчеты о потреблении по периодам, регулярный мониторинг позволяет сопоставлять расходы и результаты перед расширением доступа.
Протестируйте платформу или запланируйте беседу с нашими экспертами, чтобы узнать, как Skyone может ускорить реализацию вашей цифровой стратегии.
Есть вопрос? Поговорите со специалистом и получите ответы на все ваши вопросы о платформе.