Корпоративный путь к агентному ИИ

Суть:

Директором по информации (CIO) увеличивается давление, чтобы внедрить агентный ИИ, но пропуск этапов ведет к перерасходу средств, нарушению соблюдения норм и усложнению, которое нельзя отменить. В этом посте предложен более разумный, поэтапный путь, который поможет масштабировать ИИ с контролем, ясностью и уверенностью.

ИИ-лидерам оказывается immense pressure, чтобы реализовать решения, которые одновременно являются экономически эффективными и безопасными. Проблема заключается не только в том, чтобы принять ИИ, но и в том, чтобы не отставать от новых технологий, которые могут показаться подавляющими.

Это зачастую приводит к соблазну погрузиться с головой в последние инновации, чтобы оставаться конкурентоспособными.

Однако, переход к сложным многоагентным системам без прочной основы можно сравнить с возведением верхних этажей здания, не закладывая его фундамента, что приводит к созданию неустойчивой и потенциально опасной конструкции.

В этом посте мы объясним, как направить вашу организацию через каждый этап зрелости агентного ИИ — безопасно, эффективно и без дорогостоящих ошибок.

Понимание ключевых концепций ИИ

Перед тем как углубиться в этапы зрелости ИИ, важно установить четкое понимание ключевых понятий:

Детерминированные системы

Детерминированные системы являются основными строительными блоками автоматизации.

Следуют фиксированному набору предопределенных правил, где результат полностью предсказуем. При одинаковом входе система всегда будет производить один и тот же выход.
Не включают случайность или двусмысленность.
Хотя все детерминированные системы основаны на правилах, не все системы, основанные на правилах, являются детерминированными.
Идеальны для задач, требующих последовательности, отслеживаемости и контроля.
Примеры: Базовые скрипты автоматизации, устаревшее корпоративное программное обеспечение и процессы плановой передачи данных.

Системы, основанные на правилах

Широкая категория, которая включает детерминированные системы, но может также вводить изменчивость (например, стохастическое поведение).

Работают на основе набора предопределенных условий и действий — “если X, то Y”.
Могут включать: детерминированные системы или стохастические элементы, в зависимости от дизайна.
Мощны для обеспечения структуры.
Не обладают автономностью или способностями к рассуждению.
Примеры: Фильтры электронной почты, автоматизация роботизированных процессов (RPA) и сложные протоколы инфраструктуры, такие как маршрутизация в интернете.

Процессный ИИ

Шаг вперед от систем, основанных на правилах.

Работает на основе больших языковых моделей (LLM) и моделей “видение-язык” (VLM).
Обучен на обширных наборах данных для генерации разнообразного контента (например, текстов, изображений, кода) в ответ на вводимые запросы.
Ответы основаны на заранее обученных знаниях и могут обогащаться внешними данными с помощью таких техник, как генерация с использованием поиска (RAG).
Не принимает автономные решения — работает только по запросу.
Примеры: Чат-боты генеративного ИИ, инструменты суммирования и приложения для генерации контента, основанные на LLM.

Системы с одним агентом

Вводят автономность, планирование и использование инструментов, поднимая базовый ИИ на более сложный уровень.

Программы на основе ИИ, предназначенные для выполнения конкретных задач самостоятельно.
Могут интегрироваться с внешними инструментами и системами (например, базами данных или API) для выполнения задач.
Не сотрудничают с другими агентами — действуют самостоятельно в рамках задачи.
Не путать с RPA: RPA идеальна для высокостандартизированных, основанных на правилах задач, где логика не требует рассуждений или адаптации.
Примеры: Ассистенты на основе ИИ для прогнозирования, мониторинга или автоматического выполнения задач, которые действуют независимо.

Многоагентные системы

Самая продвинутая стадия, включающая распределенное принятие решений, автономную координацию и динамические рабочие процессы.

Состоят из нескольких ИИ-агентов, которые взаимодействуют и сотрудничают для достижения сложных целей.
Агенты динамически решают, какие инструменты использовать, когда и в каком порядке.
Включают возможности планирования, рефлексии, использования памяти и совместной работы между агентами.
Примеры: Распределенные ИИ-системы, координирующие действия между отделами, такими как цепочка поставок, обслуживание клиентов или обнаружение мошенничества.

Что делает ИИ-систему по-настоящему агентной?

Чтобы считаться по-настоящему агентной, ИИ-система, как правило, демонстрирует основные возможности, позволяющие ей действовать с автономией и адаптируемостью:

Планирование. Система может разбить задачу на этапы и создать план выполнения.
Вызов инструментов. ИИ выбирает и использует инструменты (например, модели, функции) и инициирует вызовы API для взаимодействия с внешними системами для выполнения задач.
Адаптивность. Система может корректировать свои действия в ответ на изменяющиеся вводные данные или окружение, обеспечивая эффективное выполнение в различных контекстах.
Память. Система сохраняет актуальную информацию в течение этапов или сессий.

Эти характеристики соответствуют широко принятым определениям агентного ИИ, включая рамки, обсуждаемые лидерами ИИ, такими как Эндрю Нг.

С учетом этих определений, давайте рассмотрим этапы, необходимые для продвижения к внедрению многоагентных систем.

Понимание стадий зрелости агентного ИИ

В целях простоты мы разделили путь к более сложным агентным потокам на три этапа. Каждый этап представляет собой уникальные вызовы и возможности, касающиеся затрат, безопасности и управления.

Этап 1: Процессный ИИ

Как выглядит этот этап

На этапе Процессного ИИ организации обычно опробуют генеративный ИИ в изолированных случаях использования, таких как чат-боты, суммирование документов или внутренний Q&A. Эти усилия часто возглавляют инновационные команды или отдельные бизнес-единицы с ограниченным вовлечением IT.

Развертывания строятся вокруг одной LLM и работают вне основных систем, таких как ERP или CRM, что делает интеграцию и контроль сложными.

Инфраструктура часто собирается по частям, управление неформально, а меры безопасности могут быть непоследовательными.

Пример цепочек поставок для процессного ИИ

На этапе Процессного ИИ команда по цепочке поставок может использовать чат-бота на основе генеративного ИИ для суммирования данных о поставках или ответа на основные вопросы поставщиков на основе внутренних документов. Этот инструмент может получать данные через рабочий процесс RAG для предоставления аналитики, но не принимает никаких действий автономно.

Например, чат-бот может суммировать уровни запасов, предсказывать спрос на основе исторических трендов и генерировать отчет для команды. Однако затем команде необходимо решить, какие действия предпринять (например, разместить заказы на пополнение или скорректировать уровни запасов).

Система просто предоставляет выводы — она не принимает решений и не предпринимает действий.

Общие препятствия

Хотя ранние инициативы в области ИИ могут проявлять обещания, они часто создают операционные слепые зоны, которые тормозят прогресс, увеличивают затраты и повышают риски, если их не адресовать.

Интеграция данных и качество. Большинство организаций испытывают трудности с объединением данных из разрозненных систем, что ограничивает надежность и актуальность выходных данных генеративного ИИ.
Проблемы масштабируемости. Пилотные проекты часто застревают, когда командам не хватает инфраструктуры, доступа или стратегии для перехода от концепции к производству.
Неадекватное тестирование и согласование заинтересованных сторон. Генеративные выходные данные часто выпускаются без строгого контроля качества или приемки бизнес-пользователями, что ведет к проблемам с доверием и принятием.
Трудности управления изменениями. Поскольку генеративный ИИ меняет роли и рабочие процессы, плохая коммуникация и планирование могут создать сопротивление на уровне организации.
Отсутствие видимости и отслеживаемости. Без отслеживания моделей или возможности аудита трудно понять, как принимаются решения или определить, где происходят ошибки.
Риски предвзятости и справедливости. Генеративные модели могут укреплять или усиливать предвзятость в обучающих данных, создавая репутационные, этические или регуляторные риски.
Пробелы в этичности и ответственности. Контент, созданный ИИ, может размывать этические границы или использоваться неправомерно, вызывая вопросы о ответственности и контроле.
Регуляторная сложность. Развивающиеся глобальные и отраслевые регуляции усложняют обеспечение постоянного соблюдения норм в масштабах.

Требования к инструментам и инфраструктуре

Перед тем как перейти к более автономным системам, организациям необходимо убедиться, что их инфраструктура готова поддерживать безопасное, масштабируемое и экономически эффективное развертывание ИИ.

Быстрые, гибкие обновления векторной базы данных для управления встраиваниями по мере поступления новых данных.
Масштабируемое хранилище данных для поддержки больших наборов данных, используемых для обучения, обогащения и экспериментов.
Достаточные вычислительные ресурсы (ЦП/ГП) для запуска моделей в масштабе.
Рамки безопасности с механизмами управления доступом на уровне предприятия, шифрования и мониторинга для защиты чувствительных данных.
Гибкость при работе с несколькими моделями для тестирования и оценки различных LLM и определения наилучшего варианта для конкретных случаев использования.
Инструменты бенчмаркинга для визуализации и сравнения производительности моделей по результатам оценок и тестирования.
Реалистичные, специфичные для домена данные для тестирования ответов, моделирования предельных случаев и проверки результатов.
Прототипирование QA-окружения, поддерживающее быструю настройку, тестирование приемлемости пользователями и итеративную обратную связь.
Встраиваемая безопасность, логика ИИ и бизнес-логика для обеспечения последовательности, защитных барьеров и соответствия организационным стандартам.
Инструменты вмешательства и модерации в реальном времени для IT и команд безопасности, чтобы в реальном времени отслеживать и контролировать выходные данные ИИ.
Надежные возможности интеграции данных для подключения источников по всей организации и обеспечения высококачественных входных данных.
Эластичная инфраструктура для масштабирования в зависимости от спроса без ущерба для производительности или доступности.
Инструменты для соблюдения норм и аудита, позволяющие документирование, отслеживание изменений и соблюдение норм.

Подготовка к следующему этапу

Чтобы опереться на ранние инициативы в области генеративного ИИ и подготовиться к более автономным системам, организациям необходимо заложить прочную операционную и организационную основу.

Инвестируйте в готовые к ИИ данные. Они не должны быть идеальными, но должны быть доступными, структурированными и безопасными для поддержки будущих рабочих процессов.
Используйте визуализации векторной базы данных. Это помогает командам выявлять пробелы в знаниях и проверять актуальность генеративных ответов.
Применяйте QA/UAT на основе потребностей бизнеса. Придавайте приоритет тестированию приемлемости с конечными пользователями, которые будут полагаться на генеративные выходные данные, а не только с техническими командами.
Создайте надежный реестр ИИ. Отслеживайте версии моделей, запросы, выходные данные и использование по всей организации, чтобы обеспечить отслеживаемость и аудит.
Реализуйте базовое управление. Установите основные рамки, такие как управление доступом на основе ролей (RBAC), потоки одобрения и отслеживание происхождения данных.
Создайте воспроизводимые рабочие процессы. Стандартизируйте процесс разработки ИИ, чтобы перейти от одноразовых экспериментов к масштабируемым выходным данным.
Встроить отслеживаемость в использование генеративного ИИ. Обеспечьте прозрачность вокруг источников данных, конструкций запросов, качества выходных данных и активности пользователей.
Снизьте предвзятость на ранней стадии. Используйте разнообразные, репрезентативные наборы данных и регулярно проверяйте выходные данные модели, чтобы выявлять и устранять риски справедливости.
Собирайте структурированную обратную связь. Установите обратные связи с конечными пользователями для выявления проблем с качеством, направления улучшений и уточнения случаев использования.
Стимулируйте межфункциональный контроль. Включите юридические, комплаенс, команды науки о данных и бизнес-участников для руководства стратегией и обеспечения общего контроля.

Ключевые выводы

Процессный ИИ — это то, с чего начинают большинство организаций, но это также то, где многие застревают. Без прочных основ данных, четкого управления и масштабируемых рабочих процессов ранние эксперименты могут вводить больше рисков, чем ценности.

Чтобы продвигаться вперед, CIO необходимо сместить акцент с эксплоративных случаев использования на системы, готовые к предприятию — с инфраструктурой, контролем и межфункциональным согласованием, необходимыми для поддержки безопасного, защищенного и экономически эффективного внедрения ИИ в масштабах.

Этап 2: Системы с одним агентом

Как выглядит этот этап

На этом этапе организации начинают использовать по-настоящему агентный ИИ — внедряют системы с одним агентом, которые могут действовать независимо для выполнения задач. Эти агенты способны к планированию, рассуждению и вызову инструментов, таких как API или базы данных, для выполнения работы без участия человека.

В отличие от ранних генеративных систем, которые ждут запросов, системы с одним агентом могут решать, когда и как действовать в рамках заданного объема.

Это явный шаг к автономным операциям — и критическая точка инфлексии в зрелости ИИ организации.

Пример цепочек поставок для систем с одним агентом

Возвращаясь к примеру цепочки поставок. С установленной системой с одним агентом команда теперь может автономно управлять запасами. Система отслеживает запасы в реальном времени на складах в регионах, прогнозирует спрос на основе исторических трендов и автоматически размещает заказы на пополнение через интегрированный API поставок — без человеческого вмешательства.

В отличие от этапа процессного ИИ, где чат-бот только суммирует данные или отвечает на запросы на основе запросов, система с одним агентом действует автономно. Она принимает решения, adjusts inventory, and places orders within a predefined workflow.

Однако, поскольку агент принимает независимые решения, любые ошибки в конфигурации или пропущенные крайние случаи (например, неожиданные всплески спроса) могут привести к таким проблемам, как нехватка запасов, избыточные заказы или ненужные затраты.

Это критический сдвиг. Дело уже не в том, чтобы предоставлять информацию; теперь речь идет о том, что система принимает решения и выполняет действия, что делает управление, мониторинг и защитные меры более важными, чем когда-либо.