AI・開発トレンド

コンテキストウィンドウ

（こんてきすとうぃんどう／Context Window）

一言でいうと

モデルが一度に扱えるトークン数の上限で、ここに収まらない情報はモデルに届きません。入力側の上限と、1回の応答で出せる出力の上限は別に設定されているのが通例です。

初期の大規模モデルでは数千トークン程度が上限で、長い文書は分割して渡す必要がありました。2020年代に入って上限は段階的に広がり、現在の主要なモデルでは長大な文書をそのまま渡せる水準になっています。

ただし上限が広がっても、制約がなくなったわけではありません。入力が長くなるほど費用と応答時間が増え、渡した情報のどこを重視するかもモデル任せになります。国内で「入るから全部渡す」設計が行き詰まる事例が出始めたのは2023年以降です。

これは解決策ではなく制約です。モデルの構造上、一度に扱える範囲には限りがあり、その値がコンテキストウィンドウとして示されます。

この制約があるために、必要な情報だけを選んで渡す工夫が生まれました。RAG（検索して関連部分だけを渡す方式）は、その代表的な対処法です。

設計の判断に直接かかわります。社内文書を扱う仕組みでは、全文を渡すか、検索して一部だけ渡すかをここで決めます。長い会話を続ける仕組みでは、過去のやり取りをどこまで保持するかの方針が必要になります。

会話が長くなると古い部分が押し出される、という挙動の説明にもこの概念が使われます。

募集の軸にはならない語です。ただし、面接で長文の扱いをどう設計したかを聞くと、生成AIの実務経験の深さが見えます。

上限に収まるかどうかだけを見て設計する人と、費用・応答時間・精度の3点で判断する人では、運用に入ってからの差が出ます。