カリフォルニア大学バークレー校（UC Berkeley）のラクシャ・A・アグラワル（Lakshya A. Agrawal）氏らの研究チームは、強化学習（RL）に頼らずテキスト空間でプロンプトやコードを自律修正する反射的最適化手法「GEPA」およびAPI「Optimize Anything」を発表しました。さくらインターネットの「高火力」などの国内計算基盤で数千GPU時間のファインチューニング予算を確保できない企業にとっても、極小の推論ログから30〜60分で実務特化エージェントを構築する道が開かれます。
スカラー値から言語へ回帰するテキスト空間強化学習の潮流
大規模言語モデル（LLM）のファインチューニングや推論時アライメントにおいて、強化学習は長らく主流の手法と見なされてきました。モデルに数万回の試行を行わせ、正誤に応じたスカラー報酬をフィードバックして重みを微小に更新する手法です。
しかし、このアプローチはエージェントの思考過程で発生したエラーログやコンパイラ出力などのテキスト情報を切り捨てています。アグラワル氏が指摘するように、環境からのリッチな副次情報を$O(1)$のスカラー報酬に圧縮してしまう設計は、計算資源の面で極めて非効率です。
こうした課題に対し、モデルの重み更新を行わずにテキスト空間でプロンプト、実行スクリプト、エージェントハーネス自体を進化させる「反射的メタ最適化」が急速に台頭しています。2025年7月にアグラワル氏らが発表した論文『GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning』は、国際会議ICLR 2026のOral発表に採択され、実務界へ浸透しました。
米国では、スタンフォード大学（Stanford University）やマサチューセッツ工科大学（MIT）、データブリックス（Databricks）の研究者らがこの動向を後押ししています。2026年2月にはプロンプトだけでなく設定ファイルやコード全般を最適化するAPI「Optimize Anything」が公開され、スノーケル（Snorkel AI）などのAIプラットフォーム企業が公開から20時間以内に自社ベンチマークへ導入しました。
以下の表は、従来の強化学習アプローチとGEPAによるテキスト空間最適化の主な特性比較です。
| 評価軸 | 従来の強化学習（GRPO等） | GEPA（Optimize Anything） |
|---|---|---|
| 最適化の対象 | モデルの重み（内部パラメータ） | プロンプト、エージェントコード、設定値 |
| フィードバック形式 | スカラー値（正誤等の単一スコア） | 実行ログ、スタックトレース、自然言語の批評 |
| 所要計算リソース | 数百〜数千GPU時間（並列クラスタ必須） | 単一APIコール数十〜数百回（30〜60分） |
| 必要データ規模 | 数千〜数万件のロールアウトデータ | 3〜数十件の詳細なトレースデータ |
| モデル間の可搬性 | なし（重み更新モデル単体に依存） | あり（上位モデルや異種モデルへ即時転移） |
アグラワル氏らの検証実験によると、アリババ（Alibaba）の「Qwen 3 8B」を用いたベンチマークにおいて、GEPAはわずか3データポイントかつ1回の振り返りラウンドだけで、グループ相対方策最適化（GRPO）が2万5000ロールアウトを要した性能向上に匹敵し、さらにその2倍に達しました。試行回数をさらに数ステップ追加した段階では、その差は再び2倍に広がっています。
参考記事: なぜ画期的なのかモデルの構造と学習法を理解する｜DeepSeek-R1が示す「推論時計算量スケーリング」への大転換…
GEPAの技術構造とパレート探索が打破した局所最適
GEPAが従来の「LLMを用いたプロンプト自己改善ループ」と決定的に異なる点は、単一の改善案に収束させず「パレートプール」を維持するアルゴリズム設計にあります。
単純な自己改善ループが陥る局所最適の壁
これまでも、LLMに自身のエラーを分析させてプロンプトを書き換えさせるプロンプト最適化手法は存在していました。しかし、単純な反射ループでは平均スコアが最も高い候補のみを次の親ノードとして選択するため、探索の早期段階で行き詰まる問題がありました。
ある評価項目で100点を取れても別の項目で0点を取った候補は、平均スコアが低いために即座に破棄されます。その結果、無難だが突出した解を出せない中間プロンプトで空回りを起こし、API予算を浪費する現象が頻発していました。
遺伝的パレート最適化（Genetic-Pareto）のメカニズム
GEPAはこの問題を、進化計算の多目的最適化手法を自然言語処理へ適用することで解決しました。アグラワル氏が実装したパレートプールは、単一のテストケースで勝った候補をすべてプール内に残す仕組みを採用しています。
[実行トレース & エラーログ] ──> [自然言語による批評生成]
│
▼
[パレートプール] 93%）
▼
[抽出されたテキストスキル（仕様・ハーネス）]
│
▼
[Claude Sonnet 4.5（上位モデル）へ注入]
│ 課題解決率: 100% 達成
└── 実行時間・消費トークン数を50%削減
この結果は、安価な軽量モデルでテキスト最適化を高速に回し、獲得した構造化スキルを最上位モデルへ配備する開発フローが成立することを示しています。
参考記事: プロンプトエンジニアリングの仕組みと実践手法｜LLMのアテンション制御から深津式・CoTまで徹底解説
自社モデル追加学習から推論トレース最適化への転換点
GEPAが示したパラダイムは、企業における生成AI活用基盤の投資配分に直接的な影響を及ぼします。
これまで多くのエンタープライズ企業は、業務特化AIを構築するために「独自コーパスによる継続事前学習やLoRAによるファインチューニング」を検討してきました。しかし、モデル自体のパラメータを更新するアプローチは、学習用GPUクラスタの調達コストだけでなく、基盤モデルのバージョンアップ時に再学習が必要となる継続的な負債を抱えます。
GEPAのアプローチは、モデル自体をブラックボックスの推論エンジンとして扱い、その周辺にあるプロンプト、外部API呼び出しハーネス、リトライロジックをテキスト空間で自動調整します。
企業の実務において極めて重要なのは、「モデルを賢くすること」ではなく「業務プロセスの制約条件を正確に遵守させること」です。アグラワル氏が指摘するように、フロンティアモデルが高性能化するほど精密な指示に従う能力が高まるため、テキスト空間で抽出された詳細な業務仕様の価値は相対的に高まります。
高価な計算リソースを確保して数万ロールアウトの強化学習を実行する前に、実際の業務トレース数十件を用いて反射的最適化ループを回すことが、コスト対効果に優れたアプローチとなります。
参考記事: LLM（大規模言語モデル）の技術的本質と企業導入｜RAG・セキュリティ・ROI評価まで徹底解説
業務トレースを資産化するための自律エージェント運用設計
GEPAおよびテキスト空間最適化の恩恵を実務に取り入れるために、開発・事業部門が着手すべき設計指針は以下の3点です。
- 実行ログとエラーメッセージの構造化パイプラインを構築する
テキスト空間最適化を機能させる前提条件は、エプシロン精度の報酬値ではなく「実用的な副次情報」の存在です。APIの呼び出し履歴、バリデーションエラー、テスト実行結果のスタックトレースを単一のログとして欠落なく収集・保存する基盤を整えます。
- プロンプトとエージェントハーネスをコード資産として分離管理する
モデルへのプロンプトやオーケストレーションコードを固定的な文字列として扱わず、外部APIから動的に書き換え可能なテキストパラメータとして疎結合に設計します。これにより、DSPyやOptimize Anythingを通じた定期的な自律更新が可能になります。
- 軽量モデルを用いたスキルの事前探索プロトコルを確立する
いきなり最高性能のフロンティアモデルで試行錯誤を回すのではなく、小規模かつ安価なモデルを用いて失敗トレースからパレート解を探索します。洗練された仕様がテキストとして固まった段階で本番用の上位モデルへ転移させることで、トークン消費コストを最小限に抑えながら高精度の自律エージェントを運用できます。
出典: BigGo Finance
出典: arXiv (arXiv:2507.19457)
出典: arXiv (arXiv:2605.19633)
出典: VentureBeat
