Платформа Skyone

Объедините все операции вашей компании: автоматизируйте процессы, управляйте данными с помощью ИИ, переходите в облако, защищайте свои данные. Все это в Skyone.

Смотрите больше

Управление ИИ в компаниях: как структурировать его на практике

В опросе Panorama Vibe Coding Brasil, проведенном Skyone совместно с новостной службой, управление ресурсами оказалось первым из трех пробелов, препятствующих безопасному масштабированию ИИ в компаниях (два других — технические знания и ИТ-инфраструктура). Цифры иллюстрируют масштаб проблемы: среди 1982 респондентов в общей базе данных только 26,4% подтверждают наличие четких и формализованных правил ввода данных в инструменты ИИ. Среди тех, кто создает решения в доминирующем профиле, 60,9% заявляют об отсутствии четких руководящих принципов в отношении данных, в то время как 52,1% разрабатывают автоматизацию, а 49,5% создают внутренние интеграции.
ИИ 13 мин чтения Автор: Skyone

В Panorama Vibe Coding Brasil, проведенном Skyone совместно с новостным агентством, управление ресурсами оказалось первой из трех проблем, препятствующих безопасному масштабированию ИИ в компаниях (две другие – технические знания и ИТ-инфраструктура). Цифры иллюстрируют масштаб проблемы: среди 1982 респондентов в общей базе данных только 26,4% подтверждают наличие четких и формализованных правил ввода данных в инструменты ИИ. Среди тех, кто создает решения в доминирующем профиле, 60,9% заявляют об отсутствии четких руководящих принципов в отношении данных, в то время как 52,1% разрабатывают автоматизацию, а 49,5% создают внутренние интеграции.

Перед лидерами в сфере технологий, безопасности и финансов стоит двоякая задача. Если компания ограничивает использование, она теряет производительность и подталкивает команды к использованию обходных путей, как обсуждалось в предыдущей статье этой серии. Если же она разрешает неограниченный доступ, она раскрывает корпоративную информацию, принимает на себя регуляторные риски и теряет контроль над расходами. Управление ИИ существует для того, чтобы разрешить это противоречие, не жертвуя ни одной из сторон.

В этом тексте подробно описывается, что представляет собой применимое корпоративное управление, какие технические средства его поддерживают, как распределять обязанности и как структурировать его таким образом, чтобы оно способствовало его применению, а не создавало барьеры. Данные получены в результате опроса, проведенного на нашей собственной выборке, которая отражает группу опрошенных, а не всю совокупность бразильских компаний.

Что такое управление ИИ и почему оно должно идти в ногу со скоростью внедрения?

Управление ИИ — это совокупность политик, ролей, средств контроля и процессов, посредством которых организация определяет, как может использоваться искусственный интеллект, кем, с какими данными и под каким надзором, а также как это использование контролируется и корректируется.

Это понятие часто путают с двумя смежными аспектами. Информационная безопасность защищает активы и данные от несанкционированного доступа. Соответствие требованиям проверяет соблюдение законов и правил. Управление — это уровень, который определяет, кто несет ответственность, почему и как два других уровня применяются к конкретному случаю ИИ. Именно это различие и является предметом рассмотрения в данной статье.

Скорость имеет значение, потому что внедрение не ждет. Согласно обзору ,22 % опрошенных бразильских компаний уже используют ИИ или LLM в своих циклах разработки, и более 80% планируют увеличить свой бюджет на ИИ и автоматизацию в следующем году. Когда использование распространяется быстрее, чем появляются правила, каждый новый вариант применения возникает без критериев и требует последующей корректировки, что обходится дороже.

Какие риски связаны с вводом конфиденциальной информации в инструменты без надлежащих критериев?

Главный риск заключается в потере контроля над тем, куда попадает информация, кто имеет к ней доступ и как с ней будут обращаться. Контракт с конфиденциальными пунктами, таблица с информацией о компенсациях, исходный код продукта или база данных клиентов могут быть отправлены во внешний сервис за считанные секунды кем-то, кто не имел намерения причинить вред.

Показатель в 26,4% с формализованными правилами свидетельствует о том, что в большинстве случаев это решение по-прежнему зависит от индивидуального суждения. В отличие от них, 73,6% не подтверждают наличие четких правил. И риск не ограничивается чатом: когда половина создателей чата разрабатывает автоматизации (52,1%) и внутренние интеграции (49,5%), информация также начинает циркулировать между системами, без предварительной оценки каждого потока.

В случае персональных данных применяется Общий закон Бразилии о защите персональных данных (LGPD), и компания несет ответственность за их обработку, в том числе и в случаях, когда это делают сотрудники, использующие неутвержденные инструменты. Передача персональных данных в инструмент искусственного интеллекта должна иметь четко определенную цель, основание и защиту и не может зависеть от доброй воли каждого пользователя. Конкретные случаи следует обсуждать с юридическим отделом и сотрудником, ответственным за защиту данных.

Также наблюдается повышение осведомленности: среди тех, кто разрабатывает более одного типа решений, 27,3% спонтанно выражают обеспокоенность по поводу утечек и безопасности. Это свидетельствует о том, что проблема приобретает все большее значение по мере повышения зрелости системы.

Как определить политику использования ИИ, которой люди действительно будут следовать?

Эффективная политика использования ИИ отвечает на практические вопросы на понятном пользователю языке. Обычно она включает в себя:

  • Авторизованные инструменты и шаблоны, а также порядок запроса на добавление новых;
  • Категории данных, которые можно, нужно обрабатывать с осторожностью и которые нельзя передавать в ИИ;
  • Разрешенные, ограниченные и запрещенные виды использования с примерами по регионам;
  • Необходимость проверки человеком перед использованием контента, сгенерированного ИИ, в принятии решений, внешней коммуникации или предоставлении результатов клиентам;
  • Ответственные за вопросы, исключения и инциденты;
  • Частота проверок важна, поскольку инструменты меняются быстрее, чем документы.

Наиболее распространенная ошибка — это составление политики в виде юридического текста. Краткий документ с конкретными примерами (например, «он может содержать краткое изложение протокола внутреннего совещания; его нельзя отправлять в базу данных клиентов») с большей вероятностью будет прочитан и применен на практике.

Какие технические средства контроля лежат в основе управления искусственным интеллектом?

Политика без контроля зависит от индивидуальной дисциплины. Четыре технических направления подтверждают решения, принятые на бумаге.

Управление доступом, разрешениями и подключениями с помощью корпоративных инструментов

В любой корпоративной системе управление доступом к тем или иным моделям и помощникам, а также предоставление им соответствующих прав, должно осуществляться так же, как и в любой другой системе. Особое внимание следует уделить подключению ИИ к электронной почте, хранилищам документов, CRM и другим инструментам: каждая интеграция расширяет возможности помощника по чтению и выполнению задач. Вопрос управления заключается в том, кто разрешает подключение, с какой степенью доступа и как оно отзывается. Подключения с индивидуальной аутентификацией, как правило, ограничивают доступ ИИ тем, что уже доступно каждому пользователю, но это необходимо проверять в каждой конкретной реализации.

В Skyone Astroсоединения осуществляются через коннекторы, индивидуальные OAuth-серверы и выделенные MCP-серверы, при этом администратор контролирует разрешения и соединения. На практике ИТ-команда решает, какие инструменты можно интегрировать с ИИ, и отслеживает, что подключено, вместо того, чтобы оставлять каждого пользователя настраивать это самостоятельно. Для тех, кто занимается интеграцией и автоматизацией, также предлагается Skyone Studio, который централизует соединения с iPaaS и Lakehouse и обеспечивает управление из источника.

Аудит и обеспечение прозрачности в отношении запросов, ответов и действий

Без записей невозможно расследовать инцидент или понять, как используется ИИ. Аудит позволяет просматривать подсказки и ответы, фильтровать данные по пользователю, периоду или теме и, при необходимости, определять, что произошло. Необходимо соблюдать осторожность: этот мониторинг касается данных сотрудников и должен иметь четкую цель, ограниченный доступ к записям и прозрачную коммуникацию с пользователями в соответствии с требованиями юридического отдела и сотрудника по защите данных.

Вот функция, которую Skyone Astro предлагает на уровне аудита: логирование команд и запрос подсказок и ответов с фильтрами и экспортом в CSV, а также поддержка расследований, когда необходимо установить факт. Экспорт полезен для отделов безопасности, юриспруденции и соответствия нормативным требованиям, которые используют собственные инструменты анализа.

Защита данных с помощью правил, блокировок и оповещений

Автоматические правила (контрольные механизмы) проверяют запросы и отправленные файлы и могут блокировать отправку или просто выдавать оповещение, в зависимости от серьезности проблемы. Практический подход заключается в том, чтобы начать с оповещений, наблюдать за ложными срабатываниями и только затем ужесточить ограничения, чтобы заблокировать категории с самым высоким риском. Блокировка всего с первого дня, как правило, вызывает разочарование и требует обходных путей.

В Skyone Astro механизмы защиты реагируют на запросы и загрузки и могут работать с блокировками и оповещениями, обеспечивая описанную выше последовательность действий. В обзоре также отмечается, что платформа анонимизирует конфиденциальные данные (DLP) до того, как запросы достигнут моделей.

Контроль потребления и мониторинг инвестиций

Использование моделей ИИ обычно оплачивается в зависимости от объема обработки, что делает затраты переменными и труднопредсказуемыми без мониторинга. Более 80% опрошенных компаний планируют расширить свой бюджет на ИИ и автоматизацию, поэтому прозрачность расходования средств перестала быть просто деталью. Ограничения для пользователей, оповещения о приближении к пределу и отчеты о потреблении позволяют финансовому отделу видеть инвестиции, а руководству — сравнивать затраты и результаты по командам. Именно этот аспект обычно приближает финансового директора к обсуждению вопросов корпоративного управления.

Skyone Astro отображает использование в бразильских реалах (BRL), с ограничениями для пользователей и оповещениями, что упрощает отслеживание инвестиций для тех, кто отвечает за бюджет. Skyone предлагает две модели подписки: стандартную модель для малых и средних предприятий и корпоративную модель для крупных компаний, подробные условия которой изложены в коммерческом предложении.

Кто отвечает за управление ИИ в компании?

Ответственность распределяется между всеми, и отсутствие четкого ответственного за каждую часть является одной из наиболее распространенных причин управления, существующего только на бумаге. Возможный вариант разделения:

БумагаОсновная ответственность
ИТ и технологииПлатформы, интеграции, управление доступом и подключения
Информационная безопасностьАнализ рисков, правила защиты данных, реагирование на инциденты
Сотрудник по правовым вопросам и защите данныхLGPD, контракты с поставщиками, ограничения мониторинга
Финансы и контрольБюджет, лимиты и контроль потребления
Лидеры регионаВарианты использования, критерии качества и проверка специалистами вашей команды
ПользователиСледуйте инструкциям, сообщайте о вопросах и инцидентах

На практике целесообразно назначить человека или комитет для координации работы других областей и принятия решений в случае конфликта между скоростью и контролем. Нынешняя ситуация показывает, что перегрузка ИТ-инфраструктуры является одним из факторов, подталкивающих пользователей к использованию обходных путей, что усиливает необходимость распределения рабочей нагрузки, а не ее концентрации в одной области.

Как можно построить систему управления, которая будет способствовать использованию, а не просто создавать барьеры?

Принцип соразмерности. Случаи с низким уровнем риска, такие как переписывание общедоступного текста или обобщение неконфиденциальной внутренней информации, заслуживают ускоренного рассмотрения. Случаи с более высоким уровнем риска, такие как анализ данных о клиентах или решения, затрагивающие людей, заслуживают проверки и дополнительных мер контроля.

Три подхода помогают поддерживать баланс. Во-первых, предлагайте утвержденную и доступную альтернативу, поскольку правила без возможности их использования заставляют людей возвращаться к личным инструментам. Во-вторых, отслеживайте простые показатели (количество запрошенных исключений, сгенерированные оповещения, потребление на команду, инциденты), чтобы корректировать правила на основе данных. В-третьих, сочетайте правила с обучением: 52,7% всей пользовательской базы указывают на недостаток технических знаний как на самое большое препятствие, что свидетельствует о том, что правила работают только в том случае, если люди знают, как их применять. Компания Skyone связывает этот подход с программой Builders by Skyone, программой повышения квалификации и практического обучения руководителей.

Как корпоративная платформа может поддерживать корпоративное управление?

Корпоративная платформа искусственного интеллекта может объединить в единой среде производственные ресурсы команд и административного персонала. Skyone Astro — пример такого подхода. В обзоре она описывается как корпоративный шлюз ИИ: единый портал, где компания контролирует доступ сотрудников к нескольким моделям LLM, при этом приоритет отдается соблюдению требований, а не свободному экспериментированию. Согласно справочным материалам Skyone, для администраторов она предлагает запросы с подсказками и ответами с фильтрами и экспортом в CSV, ограничения для запросов и загрузок с блокировками и оповещениями, контроль потребления со значениями в реалах (бразильская валюта), лимиты на пользователя и оповещения, а также подключения через коннекторы, индивидуальный OAuth и собственные MCP-серверы с контролем прав доступа. Для команд среда предоставляет доступ к нескольким моделям и помощникам.

Целесообразно рассматривать это как отправную точку для оценки, а не как гарантию. Ни одна платформа сама по себе не исключает риск утечки данных и не обеспечивает автоматического соответствия требованиям. Инфраструктура, хранение данных и операционные требования должны проверяться в каждом конкретном случае, а оценка должна проводиться с использованием синтетических или авторизованных данных, а также с применением мер контроля, которые комитет компании сочтет необходимыми. Человеческий контроль критически важных решений также остается обязанностью организации.

Заключение: управление как условие для расширения использования

Обзор от Skyone и новостные сообщения помогают определить проблему: использование ИИ и автоматизации растет, и инвестиции не отстают, но только 26,4% опрошенных подтверждают наличие формализованных правил в отношении данных. Эффективное управление сочетает в себе четкую политику, технический контроль (доступ, аудит, защита и использование данных) и четко определенные обязанности в ИТ, безопасности, юриспруденции, финансах и руководстве. При правильной настройке это позволяет компании соглашаться на большее количество вариантов использования с известными критериями, вместо того чтобы полагаться на общие запреты.

Хотите понять, как структурировать управление ИИ в вашей компании? Ознакомьтесь с материалами Skyone Astro и контентом Skyone по корпоративному ИИи оцените подход на реальном примере из вашей деятельности.

Часто задаваемые вопросы

Что такое управление ИИ?

Это набор политик, ролей, механизмов контроля и процессов, определяющих, как искусственный интеллект может использоваться в организации, кем, с какими данными и под каким контролем. Он включает в себя правила использования, контроль доступа, аудит, защиту данных, отслеживание затрат и распределение обязанностей.

В чём разница между управлением ИИ и информационной безопасностью?

Информационная безопасность защищает данные и системы от несанкционированного доступа и использования. Управление ИИ имеет более широкое значение: оно определяет, какие виды использования разрешены, кто за них отвечает и как будут решаться риски, связанные с безопасностью, конфиденциальностью, качеством и стоимостью. Безопасность — это лишь один из компонентов управления.

Что должна содержать политика использования ИИ?

Разрешенные инструменты, допустимые и запрещенные категории данных, допустимые и запрещенные способы использования, необходимость проверки человеком при принятии важных решений, лица, ответственные за вопросы и инциденты, а также частота проверок. Конкретные примеры по областям повысят уровень вовлеченности.

Разрешено ли отслеживать действия и ответы сотрудников?

Это зависит от цели, прозрачности и соразмерности мониторинга и должно быть согласовано с юридическим отделом и сотрудником, ответственным за защиту данных. К передовым практикам относятся четкое информирование пользователей, ограничение доступа к записям и использование данных только для заявленных целей, таких как обеспечение безопасности и расследование инцидентов.

Как компании могут контролировать затраты на использование ИИ?

Устанавливая лимиты для каждого пользователя или команды, настраивая оповещения о приближении к лимиту и отслеживая отчеты о потреблении по периодам, регулярный мониторинг позволяет сопоставлять расходы и результаты перед расширением доступа.

Скайон
Автор: Skyone

Начните трансформацию своей компании

Протестируйте платформу или запланируйте беседу с нашими экспертами, чтобы узнать, как Skyone может ускорить реализацию вашей цифровой стратегии.

Подпишитесь на нашу рассылку

Будьте в курсе последних новостей от Skyone

Поговорите с отделом продаж

Есть вопрос? Поговорите со специалистом и получите ответы на все ваши вопросы о платформе.