Понятие
Контекстное окно
Context window
Контекстное окно — это максимальный объём текста, который нейросеть удерживает в «голове» за один разговор: ваши сообщения, её ответы и приложенные файлы. Всё, что в него не помещается, для модели как будто не существует.
Что это
Что такое контекстное окно
Контекстное окно измеряется в токенах и задаёт предел памяти на одну сессию. Внутри него модель видит всё сразу и может ссылаться на любое место; за его пределами — слепое пятно. Когда диалог разрастается и упирается в лимит, ранние сообщения вытесняются, и модель начинает забывать начало разговора. У современных моделей окно большое (сотни тысяч токенов), но оно всё равно конечно.
Отличие
Чем отличается от постоянной памяти модели
Знания, которые модель получила при обучении, зашиты в её веса и доступны всегда. Контекстное окно — это оперативная память здесь и сейчас, она обнуляется с новым чатом. Вывод: чтобы модель помнила ваш проект между сессиями, факты надо не «рассказывать» каждый раз, а класть в файлы и контекст, который подаётся заново.
Зачем сейчас
Почему это важно сейчас
Чем больше реальных задач решают через ИИ, тем чаще упираются в предел окна: большой проект или длинный диалог его переполняют, ответы плывут, токены жгутся. Поэтому управление контекстным окном стало отдельным навыком и породило контекст-инжиниринг.
Практика
Статьи, где упоминается это понятие
Платформа и сообщество, где я по шагам показываю, как поставить ИИ на рутину: контент, код, продажи, аналитика. Заходи и забирай рабочие связки, которыми пользуюсь сам.
Вступить в ИИ-офисtelegram
Канал с полезными материалами про нейросети
Разборы, новые инструменты и приёмы по ИИ — то, чем пользуюсь сам, без воды. Подпишись, чтобы не потерять.
