コンテキストウィンドウ

コンテキストウィンドウ は、1 回のリクエストにおけるモデルの作業記憶で、トークン数で測ります。そのターンでモデルが読み書きするすべて - システム指示、あなたのプロンプト、取得した文書、生成される回答 - は、この中に収まらなければなりません。

ウィンドウが大きいほど多くのコンテキスト（長い文書、より多くの取得した一節）を渡せますが、通常はコストが上がり、モデルの焦点を薄めることもあります。RAG が存在する理由の一つは、限られたウィンドウに最も関連する内容だけを収めるためです。