Lost in the Middle（ロスト・イン・ザ・ミドル）とは｜意味・読み方・Context Windowとの違い

この言葉の基本

Lost in the Middleという言葉の読み方・分野・元になった研究

Lost in the Middleという言葉の由来

言葉の元は、Nelson F. Liuらによる論文「Lost in the Middle: How Language Models Use Long Contexts」です。複数の言語モデルを対象に、multi-document question answering（複数の文書を読んで答える質問応答）とkey-value retrieval（キーに対応する値を探す課題）の2つのタスクで、関連情報の位置とモデル性能の関係が検証されました。

その結果、関連情報が入力コンテキストの先頭付近または末尾付近にある場合には比較的高い性能を示す一方、中間付近に置かれた場合に性能が低下するパターンが確認されています。

先頭付近：比較的利用しやすい場合がある ／ 中間付近：性能が低下する場合がある ／ 末尾付近：比較的利用しやすい場合がある

すべてのLLM・タスク・入力条件で同じ程度に起きるという意味ではありません。影響の大きさは、モデル、タスク、コンテキストの長さや構成などによって異なります。

Context Window・Retrievalとの違い

Context Window・Retrieval・Lost in the Middleが指すもの

Context Windowが長いことは、その範囲までテキストを入力できることを意味します。入力範囲のすべての情報を同じ性能で利用できることまでは意味しません。Lost in the Middleの研究が示しているのは、この違いです。

Retrievalで正しい情報を取得できても、LLMがその情報を入力コンテキストの中から同じ性能で利用できるとは限りません。そのため、Lost in the MiddleはRetrieval Failure（関連情報を取得できないこと）そのものではありません。

質問 → Retrievalで関連情報を取得 → 取得した情報をLLMへ渡す → LLMが回答を生成（Lost in the Middleが関わるのはこの段階）

似た言葉との関係

RAG・Chunk

RAGでは、Retrievalで取得した情報をLLMの入力コンテキストへ渡して回答を作ります。取得した複数の情報が長い入力としてまとめて渡される場合に、Lost in the Middleの知見と関わります。

BLUF

BLUF（Bottom Line Up Front）は、結論を先に示す文章構造の原則です。Lost in the Middleと並べて語られることがありますが、原研究がBLUFの効果を検証したわけではありません。

GEO対策における位置づけ

原研究が検証したのは、LLMへ与えられた入力コンテキストの中での関連情報の位置です。Webページの冒頭・中盤・末尾のどこに文章があるかを比べ、AIによる取得率や引用率を測った研究ではありません。

AI検索やRAGでは、Webページの情報が全文・同じ順序でLLMへ渡されるとは限りません。Chunkへの分割や選別などを経て、元のページとは違う形で入力されることがあります。GEOの文脈では、重要な定義や結論を長文の中に埋もれさせない情報設計を考えるときの参考知見として扱われます。

取得された情報がLLMに渡されて回答になるまでの流れは、AI検索の仕組みとはで解説しています。

よくある誤解

長文なら中央の情報はAIに読まれない

位置によって性能が変わる場合がある、という知見で、中央の情報が必ず無視されるという意味ではありません。

Context Windowが長ければ、どこに情報を置いても同じ

長い入力を扱えることと、その範囲の情報をどの位置でも同じ性能で利用できることは別です。性能はモデル、タスク、入力の長さや構成などによって異なります。

BLUFやChunkingを使えばLost in the Middleを防げる

そう保証されたものではありません。Lost in the Middleはモデル・タスク・入力条件など複数の条件と関係するため、1つの施策で解決できるものとしては扱えません。

Lost in the Middleに関連する用語

Lost in the Middleに関連する用語と、その意味

よくある質問