컨텍스트 (Context)
별칭: context · 문맥 · 컨텍스트 윈도우
LLM 이 한 번에 읽고 답할 수 있는 입력의 양 / 범위.
컨텍스트 윈도우가 클수록 긴 문서를 한 번에 처리한다. Claude 200K~1M, GPT-4o 128K 수준.
컨텍스트(Context)는 LLM이 한 번의 요청에서 참조할 수 있는 입력의 범위다. 컨텍스트 윈도우(context window)는 그 최대 크기를 토큰 단위로 표현한다.
모델별 윈도우: Claude Opus 4.7은 1M 토큰, Claude Sonnet 4.6은 200K, GPT-4o는 128K, Gemini 1.5는 2M 토큰까지 지원한다.
더 자세히 (Wikipedia 보충)
컨텍스트 윈도우는 LLM이 한 번에 입력·출력으로 다룰 수 있는 최대 토큰 수를 의미한다. 단어가 아닌 토큰 단위로 측정되며, 모델별로 GPT-4 Turbo 약 128K, Claude 약 200K, Gemini 1.5/2.5는 1M 이상 등 차이가 크다.
다만 윈도우가 크다고 항상 더 나은 결과가 나오는 것은 아니다. Lost in the Middle 연구처럼 입력 중간에 위치한 정보는 처음·끝에 있는 정보보다 활용도가 떨어지는 경향이 있다. 긴 문서 요약·코드베이스 분석에는 큰 컨텍스트가 결정적이지만, 정보 배치 순서까지 함께 설계해야 한다.