Архитектура
Контекстное окно (Context window)
Суть в одном предложении:
Объем оперативной памяти ИИ. Чем оно больше, тем больше файлов проекта модель помнит одновременно.
Развернутое определение
Максимальный объем информации (в токенах), который языковая модель может удерживать в оперативной памяти за один раз. При его превышении старая часть разговора безвозвратно стирается.
Пример из практики
Контекстное окно в 200 000 токенов позволяет загрузить около 500 страниц кода целиком.
Как говорят в чатах вайбкодеров
«Не забивай контекстное окно тяжелыми логами — модель начнет тупить»
Как говорит классический инженер
«Token-bounded memory capacity of an LLM session.»