Главная проблема для ИИ-агентов в Бразилии: дело не в технологиях, а в доверии

В Бразилии нет проблем с внедрением ИИ. Проблема в том, чтобы доверять ИИ и предоставлять ему автономию.

Двенадцать миллионов бразильских компаний уже в той или иной форме используют искусственный интеллект. Уже сама эта цифра должна стать поводом для радости; она показывает, что страна быстро освоила эту технологию, не проявляя скептицизма, который тормозил другие волны цифровизации в прошлом.

Однако есть и вторая цифра, опубликованная в том же исследовании, которая полностью меняет интерпретацию этой ситуации: только 6% этих компаний уже используют агентов на основе ИИ. И что еще хуже, только 15% бразильских компаний обладают необходимой структурной зрелостью для работы с таким уровнем автоматизации.

Посчитайте сами. Если 12 миллионов компаний используют ИИ, и только 6% перешли к использованию агентов, то более 11 миллионов компаний застряли на одном и том же этапе: они используют ИИ для ответов, подсказок, генерации текста и составления резюме. Но они недостаточно доверяют ему, чтобы позволить ему действовать самостоятельно.

Вот в чём сейчас настоящая проблема. И она не техническая.

Ажиотаж говорит о технологиях. Проблемы говорят о доверии

Если вы следите за новостями в сфере технологий, вы постоянно слышите об агентах искусственного интеллекта, как будто это естественный и неизбежный следующий шаг для любой компании, уже использующей генеративный ИИ. Крупнейшие мировые игроки запускают одного агента за другим. Консалтинговые фирмы публикуют отчет за отчетом о «годе агента». В каждой презентации продукта ИИ сегодня на каком-нибудь слайде присутствует слово «автономия».

Проблема в том, что именно автономию большинство бразильских компаний до сих пор не готовы предоставлять.

И это вполне логично. Чат-бот, дающий неправильный ответ, создает неловкую ситуацию. ИИ-агент, совершающий ошибку в действии, запускающий платеж, изменяющий регистрацию, отвечающий клиенту, связывающийся с поставщиком, изменяющий конфигурацию системы, порождает реальную, порой необратимую, операционную проблему. Разница между «ИИ предложил что-то неправильное» и «ИИ сделал что-то неправильное» — это разница между неудобством и инцидентом.

Это не сопротивление технологиям. Это осмотрительность перед лицом риска, с которым большинство компаний до сих пор не знают, как бороться.

Потому что ограничивающим фактором является не технология, а зрелость

Технология ИИ-агентств уже достаточно зрелая для использования в производственной среде. Узкое место кроется в другом, в трех основных составляющих, лежащих в основе любой ответственной автономной работы:

Управление. Кто решает, что агент может или не может делать самостоятельно? Какие действия требуют одобрения человека? Как проверить решение, принятое агентом три месяца спустя, если что-то пошло не так? Большинство бразильских компаний просто не имеют ответов на эти вопросы, потому что им никогда не приходилось в них нуждаться, до сих пор.

Данные. Агент ИИ действует только на основе качества данных . Если база данных клиентов устарела, если в ERP-системе содержится дублирующаяся информация, если системы не взаимодействуют друг с другом, предоставление автономии агенту в такой среде — это не автоматизация, а умножение ошибок в больших масштабах и с высокой скоростью.

Операционная зрелость. Существует ли документированный процесс? Есть ли ответственный за каждый автоматизированный рабочий процесс? Есть ли план действий на случай, если агент примет неожиданное решение? Компании, которые до сих пор используют электронные таблицы, электронную почту и неявные знания от сотрудников с самым долгим стажем работы, просто не имеют структуры для поддержки автономного агента, каким бы сложным он ни был.

Ни одну из этих трех проблем нельзя решить, просто купив более продвинутую лицензию на ИИ. Они решаются за счет архитектуры, системной интеграции и дисциплинированного подхода к данным — работы, которая не упоминается ни в одном посте LinkedIn о «будущем агентов ИИ», но именно она отличает 6% от остальных 94%.

Вам также может быть интересно: Автономные агенты ИИ: как автоматизировать процессы с помощью управления

Риск пропуска этого шага

Со всех сторон оказывается реальное давление с целью «не отстать» в за искусственный интеллект. Это подталкивает компании к тестированию ИИ-агентов до того, как будут разработаны основы, которые безопасно поддерживали бы эту автономию.

Результат обычно предсказуем: пилотный проект с использованием ИИ-агента, хорошо работающий в контролируемой среде с тщательно отобранными данными, терпит неудачу или, что еще хуже, незаметно исчезает из планов, как только сталкивается с реальным хаосом производственных систем. Не потому, что технология не работала. А потому, что компании негде было ее поддерживать.

Это подпитывает порочный круг: руководство теряет доверие не к самому ИИ, а к ИИ-агентам в частности, и инвестиции, которые могли бы быть направлены на повышение зрелости, улучшение управления и работу с данными, теряются в поспешной попытке сразу перейти к полной автоматизации.

Путь, отделяющий тех, кто станет объектом изучения, от тех, кто останется лишь статистическими данными

Компании, которые обеспечат следующие процентные доли внедрения ИИ-агентов в Бразилии, не обязательно будут обладать самой передовой моделью ИИ. Это будут те, кто первыми решили менее привлекательные задачи:

• Интегрировать системы, которые в настоящее время не взаимодействуют друг с другом, чтобы агент имел надежное представление о ходе работы;
• Установите четкие правила управления, определяющие, какие решения могут быть автоматизированы, а какие требуют вмешательства человека
• Создать прозрачность и возможность аудита каждого действия, совершаемого автономной системой, чтобы доверие было не актом веры, а чем-то поддающимся проверке;
• Продвигайтесь поэтапно, от помощника к второму пилоту, от второго пилота к управляемому агенту, от управляемого агента к большей автономии, вместо того чтобы пытаться совершить прямой скачок.

По сути, это разговор о надежной инфраструктуре. А надежная инфраструктура строится на основе хорошо спроектированного облака, организованных и управляемых данных, а также системы безопасности, разработанной с самого начала, а не после первого инцидента.

Читайте также: Инфраструктура для ИИ: почему облачные технологии являются основой цифровой трансформации

Правильный вопрос не в том, "когда у нас появятся агенты искусственного интеллекта"

Это то, «что должно быть в нашей работе, чтобы мы могли с уверенностью предоставлять автономию агенту ИИ, не создавая при этом большей опасности, чем проблема, которую он призван решать»

Бразилия не отстает в гонке за искусственный интеллект. Двенадцать миллионов компаний, использующих эту технологию, доказывают обратное. Сейчас на кону стоит другая, менее заметная гонка: кто сможет преобразовать разрозненные данные, несвязанные системы и неформальные процессы в достаточно прочную основу, чтобы автономия перестала быть риском и стала, по сути, конкурентным преимуществом.

Автор: Skyone