コンテキストウィンドウとは
コンテキストウィンドウとは、大規模言語モデル（LLM）が一度の処理で読み込んで考慮できる情報量の上限のことで、通常はトークン数で表されます。
人にたとえると「一度に机の上に広げて見られる資料の量」です。机が広ければ、長い契約書や複数の資料を並べて読み比べられますが、机に載らない資料は見ることができません。LLMも同じで、コンテキストウィンドウに収まらない情報は、その回の回答に反映されません。
「コンテキスト」は文脈、「ウィンドウ」は窓や範囲を意味し、「モデルから見える文脈の範囲」という意味合いです。「コンテキスト長」と呼ばれることもあります。
仕組み・ポイント
コンテキストウィンドウには、利用者が入力した質問だけでなく、次のようなものがすべて入ります。
- システムプロンプト（AIの役割やルールの指示）
- これまでの会話履歴
- 参照させる資料（検索で取り出した文書、添付ファイルの内容など）
- ツール呼び出しの結果
- モデルが生成する回答（出力分も上限に含まれる設計が一般的）
| 観点 | 大きいコンテキストウィンドウの利点 | 注意点 |
|---|---|---|
| 長い文書 | 分割せずに丸ごと読ませられる | 入力トークンが増えて費用と時間がかかる |
| 会話 | 長いやり取りでも前の内容を覚えていられる | 古い話題に引きずられることがある |
| 複数資料の比較 | 多くの資料を同時に参照できる | 中ほどの情報が見落とされやすいと指摘されることがある |
モデルの世代が進むにつれてコンテキストウィンドウは大きくなる傾向にありますが、具体的な上限値はモデルごとに異なり、更新もされます。設計時には利用するモデルの公式情報で確認してください。
実務での使い方・具体例
システム設計では、「何をコンテキストに入れるか」を決めることが品質と費用を左右します。
たとえば架空の保険代理店が、数百ページある約款をもとに顧客の質問に答える社内ツールを作るとします。考えられる設計は二つです。
- 約款を丸ごとコンテキストに入れて毎回質問する
- 質問に関係する条文だけを検索で取り出し、それだけを入れる（RAG）
1はシンプルですが、毎回大量のトークンを送るため費用と応答時間がかさみ、約款が上限を超えればそもそも使えません。2は検索の仕組みを作る手間がかかりますが、必要な情報だけを渡せるため、費用を抑えつつ回答の根拠も示しやすくなります。文書の量、更新頻度、質問の種類によって、どちらが適しているかが変わります。
チャット型のシステムでは、会話が長くなったときに古い履歴を要約して圧縮する、一定の件数を超えたら古いものから削る、といった履歴管理の設計も必要です。
設計時に検討しておきたいチェック項目は次のとおりです。
- 1回の処理で入る情報の最大量を見積もり、上限に対して余裕があるか
- 参照資料が増えたとき（文書の追加、会話の長期化）にどう対応するか
- 入れる情報の優先順位（指示、直近の会話、参照資料のどれを残すか）を決めているか
- 上限を超えたときにエラーにするのか、自動で削るのか、利用者に知らせるのか
- 費用と応答時間が、業務上許容できる範囲に収まるか
これらを最初に決めておかないと、試作段階ではうまく動いていたのに、本番で文書や利用者が増えた途端に回答が途切れたり、費用が想定を大きく超えたりする事態が起こりがちです。とくに社内文書は時間とともに増え続けるため、「今の量」ではなく「1〜2年後の量」を想定して設計しておくと安心です。
迷ったときは、まず必要最小限の情報だけを渡す設計で試し、回答に不足が出た箇所だけ情報を足していく進め方が、費用と品質の両面で失敗しにくい方法です。
よくある誤解と注意点
- 「大きければ大きいほど良い」とは限らない：入れた情報が多いほど費用と時間が増え、関係のない情報に回答が引っ張られることもあります。
- 「一度話したことはずっと覚えている」わけではない：上限を超えた古い会話は参照されなくなります。また、会話をまたいだ記憶はシステム側で別途仕組みを作らない限り持ちません。
- 上限ぎりぎりまで使う設計は避ける：出力分の余裕がないと、回答が途中で切れることがあります。
- ファイルを添付しても全部読まれるとは限らない：サービスによっては一部だけを取り出して参照する仕組みになっています。
関連用語
- トークン（LLM）：コンテキストウィンドウの大きさを数える単位
- チャンク（チャンク分割）：長い文書を上限に収まる単位に分けること
- ベクトル検索：必要な部分だけを取り出すための検索手法
- プロンプトキャッシュ：毎回送る共通部分の処理を効率化する仕組み
- システムプロンプト：コンテキストの先頭に置かれる指示
長い文書の扱い方は「RAGとファインチューニングの使い分け」も参考になります。
Otsumuに相談できること
「社内文書が多すぎてAIに読ませきれない」「会話が長くなると回答の質が落ちる」といった悩みは、コンテキストに何を入れるかの設計を見直すことで改善できる場合があります。Otsumuは生成AIシステム開発やRAG開発で、目的に合った情報の渡し方を設計・実装しています。
30分の無料相談でお気軽にご相談ください。
執筆：Otsumu株式会社 ／ 編集日 2026.10.01