10 Лучших практик Gartner по масштабированию Генеративного ИИ на предприятии
Генеративный ИИ (GenAI) способен революционизировать бизнес во всех отраслях, однако многим организациям сложно эффективно интегрировать эту технологию. Для достижения успешных результатов руководители должны уделять приоритетное внимание ценности бизнеса, повышать грамотность в области ИИ, внедрять ответственные методы ИИ, способствовать межфункциональному сотрудничеству и уделять особое внимание непрерывному обучению.
В течении 2025 года как минимум 30% проектов генеративного ИИ были прекращены после этапа проверки концепции (proof of concept, PoC) по причине плохого качества данных, неадекватного контроля рисков, растущих затрат или неясной бизнес-ценности.
Для того чтобы обеспечить успешное внедрение необходимо задаться двумя ключевыми вопросами:
Gartner приводит 10 наилучших методов внедрения генеративного ИИ, которые могут быть применены с учетом текущего состояния технологии:
1. Определение приоритетов вариантов использования (use cases)
Установите непрерывный процесс определения приоритетов вариантов использования. Приведите варианты использования в соответствие с амбициями организации в области искусственного интеллекта. Используйте системный подход вместо выбора "самой яркой демонстрации" или манипуляций со стороны поставщиков.
Создайте фреймворк для измерения и отслеживания бизнес-ценности, тестируя каждый вариант использования на пилотном этапе и отслеживая преимущества после развертывания.
2. Фреймворк "Построить или купить"
Инициативы GenAI должны масштабироваться от нескольких пользователей до тысяч и в конечном итоге должны быть развернуты по всему предприятию. Это оказывает существенное влияние на то, как вы дифференцируете и ответственно применяете искусственный интеллект в бизнесе.
Спектр возможных решений от «купить» до «построить собственный»:
- Потребление (купить и использовать готовые приложения генеративного ИИ),
- Встраивание (использовать API генеративного ИИ),
- Расширение (построить RAG систему),
- Кастомизация (файн-тюнинг моделей генеративного ИИ),
- Создание (построить собственную модель).
При принятии решения о покупке GenAI оцените процесс обучения модели, методы обеспечения безопасности и конфиденциальности, глубину интеграции, простоту оперативного проектирования и цены. Проанализируйте варианты использования этих различных подходов. Пересматривайте этот вопрос по мере появления более эффективных и даже гибридных методов.
3. Пилотирование вариантов использования для обеспечения масштабируемости
Большинство пилотных проектов оказываются не рассчитаны на масштабируемость, поскольку они не учитывают будущие потребности в данных, конфиденциальности, безопасности и удобстве использования. Успешные пилотные проекты развивают в организации "мышечную память" на основе понимания возможного и обучения путем экспериментов.
Примените гибкое мышление и начните экспериментировать с вариантами использования, чтобы определить следующий шаг - масштабировать, усовершенствовать или прекратить. Создайте безопасную среду для экспериментов и предоставьте возможность экспериментировать с различными моделями GenAI.
4. Компонуемая архитектура генеративного ИИ
Дает представление о плюсах и минусах комплексной платформы по сравнению с дезагрегированным стеком. Повышает гибкость, сокращает техническую нагрузку и ограничивает зависимость от поставщиков.
Примените платформенный подход, используя возможность компоновки и отделяя модели от инженерных инструментов, инфраструктуры и уровня UX. Самый большой - не значит самый лучший. Определите подходящую модель, основываясь на производительности, стоимости владения, безопасности и конфиденциальности.
5. Ответственный ИИ в самого начала
Генеративный ИИ создает не только возможности, но и риски - комплаенс, репутационные и связанные с интеллектуальной собственностью. Важно принять ранние решения на основе анализа вариантов использования, которые будут иметь приоритетное значение.
Следует определить и опубликовать видение ответственного ИИ с прозрачными принципами и политиками касательно честности, нейтрализации влияния, этики, управления рисками, приватности, устойчивости и регуляторного соответствия. Разрабатывайте и тестируйте новые инструменты для снижения рисков генеративного ИИ.
6. Грамотность в области ИИ и данных
В будущем каждый сотрудник будет использовать GenAI напрямую - широкое внедрение требует повышенного внимания к грамотности в области ИИ. Большинство сбоев в работе ИИ могут быть вызваны плохим пониманием и неадекватным контролем со стороны человека.
Создавайте и проводите индивидуальные обучающие программы, ориентированные на различные бизнес-функции, а также обучайте высшее руководство навыкам работы с данными и ИИ. Сотрудничайте с отделом кадров для организации семинаров по составлению карт карьеры и сессий с открытым микрофоном, чтобы преодолеть страх, неуверенность и сомнения, связанные с влиянием ИИ на навыки и рабочие места.
7. Надежный дата-инжиниринг
Распространенным заблуждением является то, что GenAI не требует высококачественных данных из-за масштабной предварительной подготовки моделей. Модели GenAI обеспечивают наибольшую ценность в сочетании с данными организации.
Обучите команды ИИ передовым методам интеграции моделей с корпоративными данными с помощью векторных внедрений, а также новым подходам для эффективной тонкой настройки. Инвестируйте в такие возможности, как сбор метаданных, построение графиков знаний и моделей данных, чтобы лучше обосновать и настроить модели GenAI.
8. Тесное сотрудничество человека и искусственного интеллекта
Машины не оптимизированы для человеческих рабочих процессов, и недоверие людей к машинам (ИИ) может помешать нам работать с ними. Команды разработчиков и разработчиков должны работать с ИИ-агентами и обучать их, объяснять результаты их работы и следить за тем, чтобы они использовались ответственно.
Убедитесь, что есть "человек в цикле", который проверяет результаты работы приложений GenAI и изучает способы автоматизации процесса для обеспечения масштабирования. Создайте сообщества практиков GenAI для поощрения обмена знаниями и неформального сотрудничества.
9. Практика FinOps для GenAI
Масштабное внедрение GenAI может быть дорогостоящим, а при отсутствии управления может привести к увеличению общей стоимости владения (Total Cost Ownership, TCO). Модели ценообразования GenAI распространены повсеместно - разумная практика FinOps позволяет вам понимать, отслеживать и активно управлять затратами.
Внедрите инструменты мониторинга для аудита и отслеживания использования моделей GenAI и интегрируйте их с существующими инструментами FinOps. Обучите пользователей эффективным методам промптинга и изучите шаблоны промптов и кэширование, чтобы сократить расходы.
10. Продуктовый подход для GenAI
Стремительная эволюция технологического ландшафта GenAI требует разработки продуктового подхода с использованием гибкой модели доставки. ChatGPT и другие чат-боты изменили ожидания клиентов в отношении пользовательского опыта.
Применяйте в GenAI подход, ориентированный на продукт, с непрерывным обновлением и регулярной оценкой эффективности существующих подходов. Убедитесь, что менеджеры по продукту собирают и оценивают отзывы пользователей, чтобы внедрять продукт повторно.