Ctx2Skill
どんな論文か
From Context to Skills: Can Language Models Learn from Context Skillfully? は、 長い文書や複雑なルールから、言語モデルがあとで再利用できる「自然言語のスキル」を自動で作れるかを調べた論文です。
ここでいう「文脈」は、製品ドキュメント、臨床ガイドライン、実験データ、複雑な規則体系のように、 モデルが事前学習だけでは知らない情報です。この論文は、その文脈を毎回読み直すのではなく、 「こう判断する」「この手順で進める」という再利用可能な作業知に変換することを狙っています。
たとえば、人間なら新しい製品仕様書を読んだあと、「障害切り分けはこの順番で見る」「この条件では例外扱いにする」 という作業の型を覚えます。論文が問うているのは、言語モデルも同じように、長い文脈から作業の型を取り出し、 次の未見タスクで使える形にできるのか、ということです。
単なる要約と違うのは、情報を短くすることが目的ではない点です。目的は、文脈に含まれる規則、手順、判断基準を、 推論時に差し込める自然言語のスキルとして残すことです。
名前だけ出てくる Ctx2Skill は、この論文が提案する手法名です。 「Context to Skills」、つまり「文脈からスキルへ」という意味で読めば大丈夫です。
課題と貢献
この論文が見ている課題は、長くて専門的な文脈を読んだモデルが、そこから本当に使える知識を学べるのか、という点です。 ただ検索して該当箇所を引く方法や、短く要約する方法だけでは、複雑な手順や判断基準が落ちることがあります。
さらに難しいのは、正解データや人間の注釈がないことです。コードならテスト、数学なら正解があります。 でも「このドキュメントから作ったスキルが十分か」は、自動で採点しにくい。 そこで著者らは、文脈理解を試す問題をモデル自身に作らせ、その失敗からスキルを育てる枠組みを提案します。
課題: 長い文脈を使える形にできない
文脈を入れるだけでは、規則や手順を毎回うまく取り出せるとは限りません。要約すると、逆に大事な判断基準が落ちることもあります。
課題: スキルの正しさを外から採点しにくい
文脈だけがある状況では、作ったスキルが忠実か、十分か、再利用できるかを教えてくれる外部信号がありません。
貢献: 問題を作る役と解く役を共進化させる
問題を作る役、解く役、採点する役を分け、失敗から自然言語のスキルを更新します。モデルの重みは変えません。
貢献: 途中のスキルを評価し直す
最後に作ったスキルが最良とは限らないため、途中で得られた候補を代表課題で選び直す仕組みを入れています。
手法のしくみ
この手法は、3つの役割を使います。Challenger は「文脈理解を試す問題を作る役」、 Reasoner は「現在のスキルを使って問題を解く役」、Judge は「採点基準に沿って合否を返す役」です。 英語名は論文中の役割名なので、そのまま残しています。
問題を作る
Challenger が文脈を読み、理解を試す課題と採点基準を作ります。簡単に解かれた課題は、次にもっと鋭い問題を作るための材料になります。
問題を解く
Reasoner が、文脈と現在のスキルを使って回答します。失敗した場合は、どの知識や手順が足りなかったかを診断します。
採点して更新する
Judge が採点基準ごとに合否を返します。失敗は解く側のスキル更新に、簡単すぎた課題は問題を作る側のスキル更新に使われます。
途中の候補から選び直す
Cross-Time Replay は、反復の途中でできたスキル候補を代表課題で評価し直す仕組みです。日本語で言えば「時間をまたいだ再評価」に近く、特殊な課題に寄りすぎたスキルを避けます。
中核のループ
Challenger
文脈理解を試す課題と採点基準を作る。簡単に解かれたら、次はもっと鋭い問いを作るように更新される。
Reasoner
文脈と現在のスキルを使って回答する。失敗したら、足りなかった文脈知識をスキルに反映する。
Judge
採点基準ごとに pass / fail を返す。詳しい答えを教える先生ではなく、失敗を検知する圧力として働く。
ポイント: 更新されるのはモデル本体ではなく、自然言語で書かれたスキル集です。 そのため、モデル内部を学習し直さずに、推論時の指示として差し込めます。
検証結果
評価には CL-bench という文脈学習ベンチマークを使っています。 これは、複雑な文脈を読んで、領域知識、規則、手続き、実験的な発見を扱えるかを見るための評価セットです。
GPT-4.1 という言語モデル
11.1% → 16.5%
GPT-5.1 という言語モデル
21.2% → 25.8%
評価カテゴリ
4 種類
絶対性能はまだ低いので、「これで文脈学習は解決」とは読まないほうがいいです。 ただ、自然言語のスキルを作って推論時に差し込む方向が、複数のモデルで一貫して効いている点が重要です。
限界と読みどころ
コスト: 各文脈ごとに課題生成、回答、採点、スキル更新を回すので、一回しか使わない文脈には重いです。
Judge 依存: 採点器が文脈理解の深い失敗を拾えるかは別問題です。pass / fail が正しければ強いけど、そこが揺れると危ない。
過剰適応: 自己対戦は特殊な課題へ寄りやすい。だからこそ、途中のスキル候補を選び直す仕組みが入っています。
読みどころ: この論文は、すぐ使える完成品というより、長い文脈を「保存」や「要約」で終わらせず、再利用できる作業能力へ変換する発想を見ると面白いです。
読後Q&A
何がすごいの？
正解データや人間の注釈なしに、長い文脈から使い回せるスキルを作ろうとしている点です。しかも、解く側だけでなく、問題を作る側も改善していくので、「よい課題で自分を鍛える」構造になっています。
手法をわかりやすく説明すると？
まず、問題を作る役が文脈を読んでテスト問題を作ります。次に、解く役が現在のスキルを使って答えます。採点役が合否を返し、失敗したら解く側のスキルを直し、簡単すぎたら問題を作る側を強くします。最後に、途中でできたスキル候補を評価し直して、偏りすぎていないものを選びます。
どんな実験でどんな結果だった？
CL-bench という、複雑な文脈を読んで領域知識・規則・手続き・発見を扱えるかを見る評価セットで試しています。結果は、GPT-4.1 で 11.1% から 16.5%、GPT-5.1 で 21.2% から 25.8% に改善しました。絶対値はまだ低いですが、複数モデルで一貫して上がった点がポイントです。
これは要するに検索拡張生成なの？
近いけど違います。検索拡張生成、いわゆる RAG は「検索で外部文書を取り出し、回答の根拠に使う」方法です。Ctx2Skill は、文脈から規則や手続きを取り出し、次のタスクでも使えるスキルとして保存する方向です。
どうして問題を作る役にもスキルがあるの？
Challenger はランダムに問題を出す役ではなく、文脈理解の弱点を突く課題と採点基準を作る役だからです。問いの作り方も改善対象なので、問題を作る側にもスキルがあります。
Cross-Time Replay はなぜ必要？
自己対戦は進めるほど良くなるとは限らないからです。後半のスキルは特殊な課題に寄りすぎることがあるので、過去の候補を代表課題で評価し直して選びます。
実務でそのまま使える？
そのまま導入するには重いです。ただ、エージェントの手順書やスキル文書を更新するときに、直近の失敗だけでなく代表課題で戻りテストする、という考え方はかなり使えます。
次に読むなら
Skill Retrieval Augmentation for Agentic AI
作ったスキルが増えたあと、必要なスキルをどう検索して使うかを見る論文です。Ctx2Skill の次に一番自然につながります。
AgentSPEX: An Agent Specification and Execution Language
抽出したスキルや手続きを、エージェントが実行できる仕様にどう載せるかを見る候補です。
Storage Is Not Memory
wiki や Obsidian に保存するだけでは記憶にならない、という問題意識を深掘りする論文です。
Source: arXiv:2604.27660 / From Context to Skills: Can Language Models Learn from Context Skillfully? This page is a reading aid, not a substitute for the paper.