Системный промт и контекст: рамка для модели и почему она забывает середину

Короткий ответ: системный промт — это постоянная инструкция, которая действует во всех сообщениях разговора: роль, аудитория, язык, формат ответа и запреты. Задаётся один раз — в настройках аккаунта, в проекте или в сценарии автоматизации. Окно контекста — объём текста, который модель видит одновременно: системный промт, вся история чата, файлы и её собственный ответ. Когда разговор перерастает окно, ранние сообщения вытесняются, а середина длинного текста используется хуже, чем начало и конец.

Чем системный промт отличается от обычного сообщения в чате

Практическая польза от разделения одна: перестаёшь повторять одно и то же. Если в каждом запросе вы пишете «пиши для белорусского малого бизнеса, суммы в BYN, без длинных тире, без обещаний», значит, это уже правило, и ему место в системном промте.

Где системный промт задаётся: настройки, проект, сценарий в n8n

• Настройки аккаунта. В крупных чатах есть поле с постоянными инструкциями, которое действует на все новые разговоры. Сюда кладут только то, что верно всегда: язык, страна, стиль, базовые запреты.
• Проект или отдельное пространство. Внутри одного проекта своя инструкция и свои файлы. Это правильное место для рабочей рамки: «мы делаем сайты для малого бизнеса, вот прайс, вот тон, вот чего не обещаем».
• Свой ассистент под задачу. Отдельная настроенная роль с длинной инструкцией и своими материалами, которую запускают по требованию.
• Сценарий автоматизации. В n8n и подобных инструментах системное сообщение задаётся в узле модели отдельным полем, а входящие данные подставляются переменными. Это единственный вариант, где системный промт действительно неизменен: пользователь его не перепишет по ходу разговора.

Порядок приоритетов почти везде один: настройки аккаунта задают общий фон, инструкция проекта его уточняет, сообщение пользователя решает конкретную задачу. Конфликт между слоями модель разрешает не всегда предсказуемо, поэтому противоречивых правил в разных слоях лучше не держать.

Что кладут в системный промт, а что остаётся в запросе

Правило разделения простое: если строка одинакова в десяти запросах подряд, это правило. Если она меняется каждый раз, это данные.

Каркас системного промта из семи блоков

1. Роль и задача. Кто ты и что делаешь: «Ты редактор коммерческих текстов для малого бизнеса в Беларуси».
2. Аудитория. Для кого пишем и что этот человек уже знает.
3. Постоянные факты. Цены, услуги, сроки, регион, юридическая форма. Короткий блок, а не выгрузка на десять страниц.
4. Формат ответа. Структура, длина, наличие таблицы, порядок разделов.
5. Тон и язык. Простые слова, короткие предложения, суммы в BYN, только дефис.
6. Запреты. Не выдумывать факты, не называть номера статей законов, не обещать результат, не использовать штампы.
7. Поведение при нехватке данных. «Если данных не хватает, задай до пяти вопросов и не начинай писать» — самый полезный пункт из всех.

Частая ошибка — инструкция на две страницы. Чем длиннее список правил, тем хуже соблюдается каждое: правила конкурируют между собой за внимание модели и занимают то самое окно контекста. Рабочий размер — 10-20 строк, и каждая проверяема.

Что входит в окно контекста кроме вашего вопроса

Окно контекста — это объём текста, который модель обрабатывает за один раз. В него помещается больше, чем кажется пользователю.

• Системный промт целиком, при каждом сообщении заново.
• Вся история разговора — и ваши сообщения, и все прошлые ответы модели, включая те, которые вы забраковали.
• Загруженные файлы или их фрагменты. Договор на 40 страниц занимает заметную долю окна.
• Результаты подключённых инструментов: поиск в интернете, выдержки из базы знаний, ответы внешних сервисов.
• Ответ, который модель пишет прямо сейчас. Он тоже занимает место в том же окне.

Отсюда практическое следствие: каждый лишний абзац в чате конкурирует с полезным. Разговор, где вы двадцать раз просили «нет, не так, переделай», к концу состоит в основном из отвергнутых вариантов, и модель видит их наравне с вашей задачей.

Почему модель хуже помнит середину длинного разговора

Работают два разных механизма, и их путают. Первый — вытеснение: когда разговор перерос окно, самые ранние сообщения из него выпадают или сжимаются в краткий пересказ. Модель не «забыла» их, она их больше не видит, и об этом не сообщает.

Второй механизм тоньше и проявляется даже там, где всё помещается в окно. На длинном тексте модель заметно лучше опирается на его начало и конец, чем на середину: нужный фрагмент, помещённый в центр большого документа, теряется чаще, чем такой же фрагмент в первых или последних абзацах. Отсюда простые приёмы.

1. Главное — в начало и в конец. Задачу формулируйте до длинного материала и повторяйте одной строкой после него.
2. Не сваливайте документы пачкой. Один документ за раз, вопрос по нему, вывод в отдельное сообщение.
3. Просите цитату. «Приведи цитату из текста, на которой основан вывод» — лучший способ поймать, что середину не прочитали.
4. Дробите длинный файл на смысловые части и разбирайте по частям, собирая выводы отдельно.
5. Повторяйте ключевое ограничение в конце запроса, а не только в системном промте.

Пять признаков, что чат пора закрывать и начинать новый

• Модель перестала соблюдать формат, который держала первые полчаса.
• Возвращаются варианты, которые вы уже отвергли.
• Путаются версии документа: правки применяются к старой редакции.
• Ответы становятся короче и общее, будто задача потерялась.
• Тема разговора сместилась: начинали с текста, обсуждаете таблицу.

Как передать состояние в новый чат: сводка из шести пунктов

Собери итог нашего разговора для переноса в новый чат. Шесть пунктов: 1) задача одним абзацем; 2) принятые решения списком; 3) что уже отвергнуто и почему; 4) факты и цифры, которые я дал; 5) текущая версия результата целиком; 6) следующий шаг. Ничего не добавляй от себя и не улучшай формулировки.

Эта сводка вставляется первым сообщением в новый чат вместе с системным промтом. Разговор продолжается с чистым окном, где нет двадцати отвергнутых вариантов, и качество ответов возвращается к тому, каким было в начале.

Системный промт в сценарии n8n: чем он отличается от промта в чате

В автоматизации системный промт становится частью конструкции, а не удобством. Отличий три. Первое: пользователь не может его изменить, поэтому все ограничения и запреты живут именно там. Второе: истории разговора по умолчанию нет, каждый запуск начинается с нуля, и всё нужное подставляется переменными. Третье: формат ответа задаётся жёстко, потому что следующий узел сценария разбирает его автоматически, и вольная формулировка ломает всю цепочку.

Отсюда рабочее правило для сценариев: системный промт описывает роль, правила и точный формат вывода, а данные приходят в отдельном сообщении подстановкой. И обязательный пункт про поведение при нехватке данных: в чате человек переспросит сам, в сценарии переспрашивать некому, поэтому модели прямо задают, что писать, если входные данные пустые или испорчены.

Что даёт умение управлять контекстом в работе

Разница между человеком, который «пробовал нейросети», и тем, кто получает от них результат, чаще всего именно здесь. Первый пишет длинный запрос в бесконечном чате и удивляется, что качество падает к вечеру. Второй держит рамку в системном промте, короткие запросы в сообщениях, начинает новый чат по пяти признакам и переносит состояние сводкой.

Настройка рабочих рамок, библиотека повторяемых запросов и сборка сценариев, где промт становится частью автоматизации, разобраны на странице курса для бизнеса, а маршрут для того, кто собирается сделать это своей специальностью, — на странице про новую профессию. Обучение рассчитано на 12 месяцев, уроки по 30 минут, их более 150 и становится больше, тарифы 99, 169 и 699 BYN в месяц с платежом, разбитым на 12 месяцев, доступ индивидуальный. Если хочется понять, какие рамки нужны под ваши задачи, есть бесплатный разбор на 20-30 минут: там расспросят про вашу ситуацию и назовут инструменты и уроки, где это разбирается.

Частые вопросы

Что такое системный промт простыми словамиЭто постоянная инструкция, которая действует во всех сообщениях разговора: кто модель по роли, для кого пишет, каким языком, в каком формате отвечает и чего не делает никогда. Её задают один раз в настройках, в проекте или в сценарии автоматизации, а не повторяют в каждом запросе.

Чем системный промт отличается от обычного запросаСистемный промт задаёт правила и действует постоянно, обычный запрос задаёт конкретную задачу и действует один раз. В правилах живёт то, что не меняется: роль, аудитория, тон, формат, запреты. В запросе - то, что меняется: сам текст, цифры, документ, вопрос.

Почему нейросеть забывает начало разговораМодель видит не всю переписку, а окно контекста ограниченного размера. Когда разговор перерастает окно, ранние сообщения выпадают или сжимаются. Дополнительно работает известный эффект: лучше всего модель опирается на начало и конец переданного текста, а середину использует хуже.

Что входит в окно контекста кроме моего вопросаСистемный промт, вся история текущего разговора, загруженные файлы и их фрагменты, результаты поиска и подключённых инструментов, а также сам ответ, который модель сейчас пишет. Файл на сто страниц занимает окно целиком и вытесняет из него ваши прежние сообщения.

Когда нужно начинать новый чатКогда модель перестала соблюдать формат, начала повторять уже отвергнутые варианты, путает версии документа или отвечает медленнее и короче. Правильный переход - попросить сводку по шести пунктам, скопировать её в новый чат и продолжить там.