Глава 2.8 «Советы по длинному контексту»
9 августа 2024 г. в 00:30
===
Советы по использованию промптов с длинным контекстом Расширенное окно контекста Claude (200 тысяч токенов для моделей Claude 3) позволяет решать сложные задачи с большим объемом данных. Это руководство поможет вам эффективно использовать эту возможность. Основные советы по промптам с длинным контекстом • Размещайте объемные данные в начале: Располагайте длинные документы и входные данные (от ~20 тысяч токенов) ближе к началу вашего промпта, выше запроса, инструкций и примеров. Это может значительно улучшить производительность Claude для всех моделей. (Размещение запросов в конце может повысить качество ответов до 30% в тестах, особенно при работе со сложными входными данными из нескольких документов.) • Структурируйте содержание документов и метаданные с помощью XML-тегов: При использовании нескольких документов оберните каждый документ в теги <document> с подтегами <document_content> и <source> (а также другими метаданными) для большей ясности. • Подкрепляйте ответы цитатами: Для задач с длинными документами попросите Claude сначала процитировать соответствующие части документов, прежде чем выполнять поставленную задачу. Это помогает Claude отфильтровать "шум" остального содержимого документа.===