Промптинг: ИИ не читает мысли
... но читает хорошие промпты. ИИ всё глубже встраивается в поиск, приложения и устройства, превращая сам процесс взаимодействия с технологиями в диалог. Управление голосом, визуальные подсказки, контекстные запросы — всё это теперь не фантазия, а основа будущего интерфейса.
Промптинг становится не просто инструментом, а языком общения с цифровым миром.
Чтобы уверенно говорить на этом языке, сотрудники Сбера теперь могут пройти образовательные программы по GenAI и развить ключевые навыки работы с ИИ.
Поговорили о промптинге с Иваном Герасимовым, IT-аналитиком платформы «Пульс», Сбер.
Промптинг — что это такое?
Для того, чтобы создавать качественные запросы при работе с GigaChat или другими большими языковыми моделями не обязательно быть специалистом больших данных. Достаточно понимать как работает LLM и как правильно составить промпт.
LLM — это механизм предсказаний. Модель принимает последовательный текст в качестве ввода, затем предсказывает, каким должен быть следующий токен, опираясь на данные, на которых она обучалась. LLM работает повторно, добавляя ранее предсказанный токен в конец последовательного текста, чтобы предсказать следующий токен. Предсказание следующего токена основано на связи между предыдущими токенами и тем, что модель видела во время своего обучения.
Когда вы создаёте запрос, вы пытаетесь направить LLM так, чтобы она предсказала нужную последовательность токенов. Этот процесс может включать в себя эксперименты с разными типами запросов.
Промптинг в HRTech
В HR-сфере LLM применяется, например, для автоматизации типовых задач — от генерации контента до анализа ответов сотрудников. Подобные технологии позволяют сократить рутину и сфокусироваться на качестве решений.
В «Пульсе» уже активно используется промптинг: здесь с помощью GigaChat можно подготовить AI-открытку коллеге и написать тёплое поздравление.
Zero-shot и Few-shot запросы
Запрос zero-shot содержит лишь описание задачи и некоторый текст для старта модели. Этот ввод может быть любым: вопросом, началом истории или инструкцией. Термин zero-shot означает «примеры отсутствуют». Например, мы просим классифицировать комментарий пользователя как положительные, нейтральные или отрицательные.
Это не значит, что запрос zero-shot является самым простым. Наоборот, он требует скрупулезного подхода. Если необходимо получить максимально точный ответ с большим количеством примеров, то потребуется много итераций, чтобы на выходе получить подробную инструкцию.
Запрос few-shot («несколько примеров») предоставляет модели сразу несколько примеров. Этот подход позволяет продемонстрировать модели шаблон, которому ей нужно следовать.
Как правило, рекомендуется использовать от трёх до пяти примеров для few-shot запроса.
Возвращение ответов в формате JSON полезно в реальных приложениях, это позволяет получить структурированные данные и ограничить возможность модели генерировать нежелательную или «галлюцинированную» информацию.
Системные, контекстные и ролевые запросы
Это техники для управления тем, как языковые модели генерируют текст:
- Системные запросы: устанавливают цель работы языковой модели. Это определяет общее направление того, что модель должна делать, например: переводить язык, классифицировать отзывы и т.д.
- Контекстные запросы предоставляют конкретные детали или фоновую информацию, которые важны для текущей задачи или диалога. Это помогает модели лучше понять нюансы запроса и адаптировать ответ под конкретную ситуацию.
- Ролевые запросы задают модели конкретного персонажа или роль, которую она должна принять.
Эти техники часто пересекаются друг с другом. Например, запрос, задающий роль системе, одновременно может включать и контекст.
Кроме того, системные запросы можно использовать для управления безопасностью и тональностью ответов модели. Для этого достаточно добавить инструкцию, например: «Ты должен быть уважительным в своих ответах».
Также есть популярный тип запросов «Цепочка рассуждений». О нём часто рассказывают в контексте логического рассуждения моделей, и GigaChat с такими задачами спокойно справляется, ему не нужно задавать дополнительные промпты.
Лучшие практики
Поскольку создание эффективных запросов — это итеративный процесс, важно документировать каждую попытку. Это помогает понять, какие изменения положительно влияют на результат.
Использование разных форматов вывода (JSON, списки, таблицы и т.д.) поможет получить структурированные и понятные ответы.
Тестируйте различные подходы, стили, форматы и формулировки. Иногда даже небольшие изменения в формулировках могут значительно улучшить результат.
Нейросети в работе и в жизни
В работе нейросети часто помогают с отрисовкой макетов перед тем, как отдать дизайнеру. Выбирайте не генерацию изображений, а отрисовку макетов при помощи html кода, в этом поможет zero-shot запрос с большой инструкцией.
GigaChat можно использовать для обработки документов, например, попросить его изучить анализ крови и подсказать, чем могут быть вызваны те или иные отклонения. Или как репетитора по английскому языку: он составляет план учёбы, даёт задачки и проверяет материал. C ним можно обсудить любые непонятные моменты и не бояться задавать глупые вопросы.
На Google I/O 2025 стало очевидно: переход к AI-native процессам — это не тренд, а необходимость. Именно поэтому «Пульс» стремится к AI-native подходу: чтобы быть не просто в курсе, а в центре перемен.