Совершенный нейро-фанфик (Часть I)

===

Введение в цепочки промптов Одним из ключевых приемов в инженерии промптов для повышения эффективности и надежности больших языковых моделей (LLM) является разделение задач на подзадачи. После определения этих подзадач LLM получает запрос с конкретной подзадачей, а затем ее ответ используется как входные данные для следующего промпта. Этот процесс называется цепочкой промптов, где сложная задача разбивается на последовательность операций с промптами. Цепочки промптов особенно полезны при решении комплексных задач, с которыми LLM может не справиться, получив один подробный промпт. В цепочках промптов каждый запрос обрабатывает или дополняет сгенерированные ответы, прежде чем достичь конечного желаемого результата. Помимо улучшения производительности, цепочки промптов способствуют повышению прозрачности, управляемости и надежности вашего приложения на базе LLM. Это значительно упрощает отладку проблем с ответами модели, анализ и улучшение эффективности на различных этапах, требующих доработки. Цепочки промптов особенно эффективны при создании разговорных ассистентов на основе LLM и улучшении персонализации и пользовательского опыта ваших приложений.

===

Примеры использования цепочек промптов Цепочки запросов для ответов на вопросы по документам Цепочки запросов могут применяться в различных сценариях, требующих нескольких операций или преобразований. Например, распространенным применением LLM является ответ на вопросы о большом текстовом документе. В этом случае полезно разработать два разных промпта: первый отвечает за извлечение релевантных цитат для ответа на вопрос, а второй использует эти цитаты и исходный документ для формирования ответа. Другими словами, вы создаете два отдельных промпта для выполнения задачи ответа на вопрос по документу. Первый промпт, приведенный ниже, извлекает соответствующие цитаты из документа с учетом заданного вопроса. Обратите внимание, что для простоты мы добавили заполнитель {{document}} для документа. Чтобы проверить промпт, вы можете вставить статью из Википедии, например, о инженерии промптов. Из-за большего объема контекста для этой задачи мы используем модель gpt-4-1106-preview от OpenAI. Вы также можете использовать этот промпт с другими LLM с длинным контекстом, такими как Claude. Запрос #1:       Вы - полезный ассистент. Ваша задача - помочь ответить на вопрос, заданный по документу. Первый шаг - извлечь цитаты, относящиеся к вопросу, из документа, ограниченного знаками ####. Пожалуйста, выведите список цитат, используя <quotes></quotes>. Если соответствующих цитат не найдено, ответьте "Соответствующих цитат не найдено!".       ####       {{document}}       #### Вывод Запроса #1:       <quotes>       - Промптинг с цепочкой рассуждений (Chain-of-thought, CoT)[27]       - Промптинг с генерацией знаний[37]       - Промптинг от меньшего к большему[38]       - Декодирование с самосогласованностью[39]       - Промптинг на основе сложности[41]       - Самоуточнение[42]       - Промптинг с деревом мыслей[43]       - Майевтический промптинг[45]       - Промптинг с направленным стимулом[46]       - Текстовая инверсия и вложения[59]       - Использование градиентного спуска для поиска промптов[61][62][63][64]       - Инъекция промптов[65][66][67]       </quotes>

-

Цитаты, полученные из первого промпта, теперь можно использовать как входные данные для второго промпта, приведенного ниже. Заметьте, что вы можете немного очистить цитаты, например, удалить ссылки. Эти ссылки можно убрать или использовать как часть другого промпта в цепочке, но пока их можно игнорировать. Затем второй промпт берет соответствующие цитаты, извлеченные первым промптом, и формулирует полезный ответ на вопрос, основываясь на документе и этих извлеченных цитатах. Второй промпт может выглядеть так: Запрос #2:       Опираясь на набор соответствующих цитат (ограниченных тегами <quotes></quotes>), извлеченных из документа, и исходный документ (ограниченный знаками ####), пожалуйста, составьте ответ на вопрос. Убедитесь, что ответ точен, имеет дружелюбный тон и звучит полезно.       ####       {{document}}       ####       <quotes>       - Промптинг с цепочкой рассуждений (Chain-of-thought, CoT)[27]       - Промптинг с генерацией знаний[37]       - Промптинг от меньшего к большему[38]       - Декодирование с самосогласованностью[39]       - Промптинг на основе сложности[41]       - Самоуточнение[42]       - Промптинг с деревом мыслей[43]       - Майевтический промптинг[45]       - Промптинг с направленным стимулом[46]       - Текстовая инверсия и вложения[59]       - Использование градиентного спуска для поиска промптов[61][62][63][64]       - Инъекция промптов[65][66][67] </quotes> Вывод запроса #2:       Техники промптинга, упомянутые в документе, включают:       1. Промптинг с цепочкой рассуждений (Chain-of-thought, CoT)       2. Промптинг с генерацией знаний       3. Промптинг от меньшего к большему       4. Декодирование с самосогласованностью       5. Промптинг на основе сложности       6. Самоуточнение       7. Промптинг с деревом мыслей       8. Майевтический промптинг       9. Промптинг с направленным стимулом       10. Текстовая инверсия и вложения       11. Использование градиентного спуска для поиска промптов       12. Инъекция промптов Каждая из этих техник применяет уникальные стратегии для улучшения или уточнения взаимодействия с большими языковыми моделями для достижения желаемых результатов.

-

Как видите, упрощение и создание цепочек промптов - это эффективный подход к составлению запросов, когда ответы должны пройти несколько этапов обработки или преобразований. В качестве упражнения вы можете попробовать разработать промпт, который удаляет ссылки (например, [27]) из ответа перед отправкой его как окончательного ответа пользователю вашего приложения. Дополнительные примеры цепочек промптов вы можете найти в документации, использующей LLM Claude. Наш пример вдохновлен и адаптирован из их примеров.

===