Компания Google недавно выпустила простую и понятную инструкцию (на английском языке) по промпт-инжинирингу. В ней рассказывается как настраивать модель, как создавать промпты, что влияет на результат, плюс небольшие лайфхаки. Вот ссылка на оригинал.

Здесь дана выжимка из того, что написано в инструкции.

Промпт-инжиниринг — это навык создания эффективных входных данных (запросов), чтобы направлять модели ИИ к генерации конкретных, точных и полезных результатов, которые необходимы пользователю.

Что важно для промпт-инжиниринга?

Большая Языковая Модель (БЯМ) работает, предсказывая наиболее вероятную последовательность слов (или «токенов»), следующую за вводом пользователя. Когда пользователь пишет запрос, он, по сути, задает начальную точку и направление для этого процесса предсказания. Промпт-инжиниринг включает в себя:

1. Создание четких инструкций: Точное указание ИИ, что необходимо от него получить.
2. Предоставление контекста: Передача ИИ необходимой фоновой информации.
3. Структурирование ввода: Форматирование запроса таким образом, чтобы ИИ лучше его понял.
4. Итерация и уточнение: Экспериментирование с запросами на основе полученных ответов ИИ до тех пор, пока не будет достигнут желаемый результат.

Базовые техники составления запросов

• Запрос «без примеров» (Zero‑Shot Prompting): Это самый простой метод. Вы просто даете БЯМ описание задачи или вопрос без каких‑либо примеров.




Например: «Сделай краткое изложение основных моментов статьи выше.»




• Запрос «с одним примером» (One‑Shot) и «с несколькими примерами» (Few‑Shot Prompting): Этот метод часто значительно эффективнее, особенно для специфических форматов или стилей. Вы предоставляете БЯМ один (one‑shot) или несколько (few‑shot) примеров типа ввода и желаемого вывода, которые вы ожидаете.

Почему это работает: Примеры действуют как микро‑настройка, четко демонстрируя ваши ожидания относительно структуры, тона или содержания.

Совет: Для few‑shot prompting стремитесь предоставить 3–5 разнообразных, высококачественных примеров, релевантных вашей задаче. Включите крайние случаи (edge cases), если необходимо.

Создание сцены. Предоставление ИИ контекста и личности/роли

Помимо базовых инструкций, вы можете более глубоко управлять поведением ИИ:

• Системный запрос (System Prompting): Определяет общую цель или ограничения для ИИ во время генерации ответа. Он задает «общую окружающую картину».

Пример: «Ты — продакт менеджер, который переводит технический жаргон на простой язык.»

• Контекстный запрос (Contextual Prompting): Предоставляет конкретную фоновую информацию, релевантную текущей задаче. Это помогает ИИ понять нюансы.

Пример: «Основываясь на отзыве клиента, предоставленном ранее, определи основную жалобу.»

• Ролевой запрос (Role Prompting): Заставляет ИИ стать конкретной персоной или персонажем для подражания, влияет на его тон, стиль и фокус знаний.

Пример: «Отвечай как остроумный, саркастичный пират.» или «Объясни эту концепцию как терпеливый учитель физики в старшей школе.»

Углубляемся: Продвинутые стратегии промптинга

• Запрос «Цепочка рассуждений» (Chain of Thought, CoT): Этот метод побуждает БЯМ «думать пошагово». Вместо того чтобы просто давать окончательный ответ, вы просите ее сначала изложить свой процесс рассуждения. Это значительно улучшает производительность при решении задач, требующих логики, математики или многоэтапного решения проблем.

Преимущество: Делает рассуждения ИИ прозрачными и помогает отлаживать ошибки.

Как: Просто добавьте фразы вроде «Давай подумаем шаг за шагом» или предоставьте few‑shot примеры, включающие шаги рассуждения.

Примечание: некоторые нейросети, например DeepSeek, заранее настроены на такое поведение.

• Запрос «с шагом назад» (Step‑Back Prompting): Прежде чем браться за конкретный, сложный вопрос, вы просите БЯМ сначала рассмотреть более общий, основополагающий принцип или концепцию. Это активирует более широкие знания и может привести к более глубоким ответам на конкретную задачу.




• Контроль самосогласованности (Self‑Consistency): Лучше, чем CoT. Вы запускаете один и тот же запрос несколько раз с настройками, поощряющими разнообразные выводы (например, в настройках нейросети следует установить более высокую «температуру», объяснение ниже). Затем вы рассматриваете различные рассуждения и итоговые ответы и выбираете наиболее часто встречающийся (а значит, согласованный). Это повышает надежность полученного ответа, и дает некоторую страховку от галлюцинаций.







Более сложные стратегии промптинга




Некоторые нейросети поддерживают дополнительные режимы генерации ответа.




• Дерево мыслей (Tree of Thoughts, ToT): Обобщает концепцию CoT, позволяя БЯМ исследовать несколько различных путей рассуждений одновременно, подобно ветвям дерева, оценивая разные варианты по ходу дела. Это мощный инструмент для сложных задач.




• ReAct (Reason and Act — Рассуждай и действуй): Эта революционная техника позволяет БЯМ решать сложные задачи, используя рассуждения на естественном языке в сочетании с внешними инструментами (такими как поисковая система или калькулятор) для сбора информации или выполнения действий. БЯМ рассуждает о том, что ей нужно сделать, формулирует действие (например, «Найти участников группы Metallica»), выполняет его с помощью инструмента, наблюдает за результатом, а затем продолжает рассуждения. Это ключевой шаг к созданию автономных ИИ‑агентов.

Настройка движка ИИ. Ключевые параметры конфигурации

Помимо текста запроса, движок нейросети имеет настройки, которые конфигурируют как ИИ будет генерировать свой ответ. В некоторых нейросетях (особенно с бесплатным доступом) эти настройки недоступны для пользователя. Но если используется self-hosting нейросеть, то такие настройки делаются либо через графический интерфейс, либо через конфигурирующие файлы:

• Длина вывода (Максимум токенов): Контролирует максимальную длину ответа.




Соображения: Более длинные выводы требуют больше времени, стоят дороже и потребляют больше энергии. Установка лимита не делает ИИ более лаконичным; она просто обрезает ответ. Возможно, вам потребуется скорректировать и запрос, и лимит длины для коротких ответов. Остерегайтесь обрезания важной информации, особенно при использовании структурированных форматов, таких как JSON.




• Управление сэмплированием (Температура, Top‑K, Top‑P): Эти настройки контролируют случайность и креативность вывода ИИ. БЯМ предсказывают вероятности для следующего слова; эти настройки определяют, как ИИ выбирает из этих вероятностей.

• Температура (Temperature): Контролирует случайность. Низкая температура (например, 0.1–0.3) делает вывод более сфокусированным, детерминированным и предсказуемым (хорошо для фактических ответов). Высокая температура (например, 0.7–1.0) увеличивает случайность, приводя к более разнообразным, креативным или неожиданным результатам (хорошо для мозгового штурма, творческого письма). Температура 0 означает, что ИИ всегда выбирает единственное наиболее вероятное следующее слово.




• Top‑K: Рассматривает только K наиболее вероятных слов для следующего шага. Низкий K (например, 1) детерминирован; высокий K допускает больше возможностей.




• Top‑P (Ядерное сэмплирование): Выбирает из наименьшего набора слов, чья кумулятивная вероятность превышает порог P. Низкий P более сфокусирован; P=1 рассматривает все возможности.

Все эти настройки взаимодействуют друг с другом. Экстремальные значения одной могут переопределить другие (например, Temp=0 делает Top‑K/P нерелевантными).

Для связного, но потенциально креативного вывода попробуйте Temp=0.2, Top‑P=0.95, Top‑K=30. Для высокой креативности попробуйте Temp=0.9, Top‑P=0.99, Top‑K=40. Для фактических задач начните с Temp=0.

Предупреждение: Неправильные настройки (особенно очень низкие или очень высокие температуры) иногда могут вызвать «ошибку цикла повторений», когда ИИ застревает, повторяя одно и то же слово или фразу. Поиск правильного баланса часто требует экспериментов.

Лучшие практики для эффективного промптинга

Освоение промпт‑инжиниринга — это итеративный процесс. Вот ключевые лучшие практики, которые помогут в работе:

1. Предоставляйте примеры (Few‑Shot — король): Это часто самая эффективная техника. Четкие примеры показывают ИИ точно, какой тип вывода вы хотите с точки зрения формата, стиля, тона и содержания.




2. Проектируйте с простотой и ясностью: Пишите запросы, которые легко понять. Избегайте двусмысленности, сложного языка и ненужной информации. Используйте четкие глаголы действия (например, Суммируй, Классифицируй, Извлеки, Сгенерируй, Сравни). Если это сбивает с толку вас, скорее всего, это сбивает с толку и ИИ.




3. Будьте конкретны в отношении желаемого вывода: Не будьте расплывчаты. Укажите желаемую длину, формат (абзац, списки, JSON) и любые другие ключевые элементы, которые должны быть включены или исключены.




4. Используйте инструкции вместо ограничений: Говорите ИИ, что делать, а не просто перечисляйте, чего не делать. Позитивные инструкции («Пиши в формальном тоне») обычно более эффективны и менее подвержены неправильному толкованию, чем негативные ограничения («Не используй сленг»). Используйте ограничения для безопасности (чтобы ответ не содержал недопустимых данных) или для указания обязательных правил форматирования.




5. Контролируйте длину вывода: Используйте настройку «Максимум токенов» и указывайте желаемую длину в вашем запросе (например, «Напиши краткое изложение в 50 словах»), чтобы управлять размером ответа (что влияет на стоимость работы с сетью) .




6. Используйте переменные для повторного использования: В приложениях, использующих нейросети, если это позволяет интерфейс, заменяйте жестко закодированные детали в ваших запросах переменными (например, {{название_города}} вместо «Лондон»). Это делает запросы динамичными и упрощает их повторное использование.




7. Экспериментируйте и итерируйте: Не ожидайте, что первый запрос будет идеальным. Пробуйте разные формулировки, структуры (вопрос vs. утверждение vs. инструкция), разные техники (zero‑shot vs. few‑shot) и настройки конфигурации (Температура, Top‑K/P). Смотрите, что лучше всего работает для вашей конкретной задачи и модели.




8. Смешивайте классы в примерах Few‑Shot: При выполнении задач классификации убедитесь, что ваши few‑shot примеры охватывают разные категории в смешанном порядке, чтобы предотвратить случайное переобучение ИИ на основе переданных последовательностей символов.




9. Адаптируйтесь к обновлениям модели: БЯМ постоянно развиваются. Следите за новыми версиями и возможностями. Тестируйте свои запросы с новыми моделями и корректируйте их, чтобы использовать улучшения.




10. Экспериментируйте с форматами вывода (попробуйте JSON!): Для задач, связанных с извлечением данных, классификацией или структурированной информацией, запрос ИИ на возврат вывода в формате JSON может быть очень полезен.




Преимущества: Обеспечивает структуру, уменьшает галлюцинации (заставляет ИИ придерживаться запрошенных полей), предоставляет типы данных, позволяет сортировать и легко используется в приложениях.




Предупреждение: JSON многословен и использует больше токенов. Иногда генерация может оборваться, что приведет к невалидному JSON. Существуют инструменты (например, библиотека Python json‑repair) для исправления некорректного JSON.




11. Рассмотрите структурированный ввод (JSON Schema): Так же, как чистый JSON хорош для вывода, предоставление входных данных, структурированных с помощью спецификации JSON Schema, может помочь ИИ понять структуру данных, типы и взаимосвязи, что приведет к более сфокусированной и точной обработке, особенно при работе со сложными данными.