Системный промт и контекст: рамка для модели и почему она забывает середину
Системный промт задаёт модели рамку один раз, чтобы не повторять её в каждом сообщении. Разбираем, где он настраивается, что в него кладут, а что остаётся в запросе, из чего состоит окно контекста и почему в длинном разговоре модель хуже помнит середину, а не начало и конец.