論文ノート3本のその後 — MIP × 機械学習、2026年10月までの進展

9月26日に、混合整数計画(MIP)と機械学習の接点にある論文ノートを3本書いた。

• FormuEvo — 数学的に等価な定式化の中から、ソルバーが速く解けるものを LLM 主導の進化探索で見つける
• Collab-Solver — SCIP の切除平面選択と分岐を、シュタッケルベルグ・ゲームとして協調学習させる
• MILP インスタンス間の距離尺度 — 学習を介さず、定式化から直接インスタンス同士の距離を定める

それから2週間あまりで何が動いたかを調べた。調べ方は付録に書いたが、要点は「3本の論文自体の更新」「3本を引用した論文」「同じ時期に出た関連論文」の3つを見たことである。

結論を先に書く。3本そのものには内容の変更はない。FormuEvo は 10 月 3 日に v2 が出たが、EMNLP 2026 採録版への体裁変更(引用形式と節番号)だけで、本文・数値・表はすべて v1 と同じだった。Collab-Solver の v3(9 月 18 日)はノートを書く前の版で、距離尺度の論文は v1 のままである。被引用も OpenAlex・Semantic Scholar のどちらで見てもまだ 0 件で、今回拾った新着論文のどれも 3 本を引用していない。

一方で周辺は動いている。9 月 29 日から 10 月 9 日の間に、3 本の問いに直接つながる論文が 5 本出た。加えて、ノートを書いた時点で見落としていた 8 月の論文が 1 本ある。この記事では、この 6 本を 3 本のノートと同じ「入口・過程・土台」の軸に並べて整理し、最後に 3 本のノートの読み方がどう変わったかをまとめる。周辺の 7 本には短く触れるにとどめる。

全体の地図

3本のノートは、MIP の求解パイプラインの異なる段を扱っていた。FormuEvo は入口(モデルをどう書くか)、Collab-Solver は過程(ソルバー内部で何を学ぶか)、距離尺度は土台(インスタンスをどう比べるか)である。今回の 6 本をその軸に置くと次のようになる。

flowchart LR
    subgraph IN["入口: 定式化"]
        FE["FormuEvo<br/>(ノート)"]
        EO["EfficientOpt"]
        FL["FLARE"]
        RM["ReMILP"]
    end
    subgraph PR["過程: ソルバー内部"]
        CS["Collab-Solver<br/>(ノート)"]
        BF["BiFE"]
        ORD["ORDO"]
    end
    subgraph BS["土台: インスタンス"]
        MD["距離尺度<br/>(ノート)"]
        OS["OptiScribe"]
        MO["Solvers Get Moody"]
    end
    EO -- "P1 を 11 モデルで定量化" --> FE
    FL -- "最適値照合に異論" --> FE
    RM -- "等価性を不変性として学習" --> FE
    RM -- "学習する距離" --> MD
    BF -- "分岐を LLM コードで" --> CS
    ORD -- "presolve も逐次依存" --> CS
    BF -. "同型の進化探索" .-> FE
    OS -- "ベンチの空白を埋める" --> MD
    OS -. "ソルバー統計を報酬に" .-> FE
    MO -- "ばらつきという新しい軸" --> MD
    MO -. "実行時間の信頼性" .-> FE
    MO -. "実行時間の信頼性" .-> CS

図:実線は同じ問いを扱う関係、点線は手法や評価の道具立てが重なる関係。矢印の先が既存のノート。

1. 入口:定式化の側

1.1 EfficientOpt — 「正しいが遅い」を 561 タスクで測る

Li ほか「Right Answers, Costly Models: The Efficiency Gap in LLM-based Optimization Modeling」(9 月 30 日)。

FormuEvo の出発点は「自然言語から MIP を生成する LLM 研究は正しさと実行可能性しか見ておらず、できる定式化は教科書的で遅い」という主張だった。ただし FormuEvo 自身がその主張を裏づけたのは、ORLM と StepORLM の 2 手法を 7 問題で走らせた結果にすぎない。この論文は同じ主張を、独立に、はるかに広い範囲で定量化している。

やったことは三段である。まず、教科書・論文・ソルバーのマニュアルから 50 の「専門家のモデリング技法」(タイトな Big-M、妥当不等式、双対化、分解など 8 家族)をカード化した(OptTips)。次に 6 つのエージェントからなる構築系(OptDachshund)で、既存ベンチマーク(MAMO、OptMATH)の問題を「ある技法が効く形」に作り替え、同じデータに対して素朴な参照実装と専門家の参照実装の両方を用意した。専門家によるレビューを経て残った 561 タスクが EfficientOpt である。評価される LLM には技法のラベルも参照実装も見せない。

11 の LLM を走らせた主結果は次の通り(表 1、Gurobi)。

• 正解率は 37.1%(Qwen 3.6 Plus)から 91.3%(Gemini 3.1 Pro)まで開く
• 正解したタスクに限ると、どの LLM も素朴な参照実装より速い(実行時間比 0.46〜0.66)が、専門家の参照実装より遅い(1.49〜2.03 倍)。モデル構築時間を含めても比は 1 を下回らない
• 遅い上位約 10% の実行が、各 LLM の総ソルバー時間の 68.4〜76.2% を占める。中央値は 23〜36 秒なのに合計は 12〜28 時間になる
• 専門家の参照実装より小さいモデルを出したのに遅かったものが 735 件中 449 件(61.1%)ある。変数と制約の数は速さの指標にならない
• 正解した実行の 17.3% は、求解よりモデル構築のほうに時間がかかる。構築時間を足すと LLM と専門家の速さの順位が入れ替わるペアが 8.6% ある

冒頭の 2 つの事例が象徴的で、技術ミックス問題では GPT-5.5 が書いた主問題の LP が 1,048 秒、専門家の双対 LP が 4.4 秒(約 236 倍)、部門再配置問題では二値の積を線形化した定式化が 3,693 秒、連続変数で周辺和を結んだ定式化が 20.8 秒(約 178 倍)である。どちらも最適値は一致する。

FormuEvo との関係で言えば、この論文は FormuEvo の課題 P1 を 11 モデル・561 タスクで裏づけたものと読める。同時に、FormuEvo が見ていない二つの軸を足している。一つはモデル構築時間で、FormuEvo の適合度は「ソルバーの実行時間」(3.2 節)と書かれており、構築時間を含むかは本文から読み取れない。定式化を「実行可能なプログラム」として進化させる以上、構築時間が伸びる方向の変異は原理的にあり得る。もう一つは裾の重さで、FormuEvo の SGM(シフト幾何平均)は裾を圧縮する指標なので、「遅い 10% が総時間の 7 割」という現象はそもそも見えにくい。

1.2 FLARE — 「最適値が一致した」は等価の証明にならない

Robbins・Lawless・Udell・Vitercik「FLARE: Verifying MILP Reformulations with LLM-Based Theorem Proving」(8 月 25 日、Stanford)。ノートを書いた時点で見落としていた。

FormuEvo のノートで私は「正しさの担保は最適値照合に依存している」と書いた。候補の定式化が正しいかどうかを、学習インスタンスで解いた目的関数値が既知の最適値と一致するかで判定しているからである。この論文はまさにその判定方式を批判の対象にしている。

主張は単純で、インスタンス単位の検査は定式化単位の等価性を保証しない。例として挙がるのは、LLM が進化させた TSP の切除平面(EvoCut の v1-EC3)が、都市数が 4 以上のインスタンスでは通るのに、3 都市では唯一の実行可能巡回路を切り落としてしまう、という事例である。生成された定式化は未知のインスタンスで再利用されるので、インスタンスをいくつ試しても足りない。

代わりに提案するのは、Lean 4 と Mathlib の上で「構成的再定式化」(Definition 4.4)を定義し、LLM エージェント(Claude Code + Lean の MCP ツール)に証明を書かせることである。構成的再定式化とは、パラメータの写像・変数の前向きと後ろ向きの写像・目的値の単調写像の 4 つ組で、すべてのインスタンスについて実行可能領域と目的値が対応することを要求する。最適解集合ではなく実行可能領域全体の対応を要求するのは、「写像先が最適であること」を証明せずに済ませるためである。

評価は自作のベンチマーク FormulationBench(20 問題・109 定式化)のうち NP 困難な 16 問題・54 ペア(等価 42、非等価 12)で行い、

• 最適値照合(Execution)の正解率 83.3%、解の写像を LLM に探させる EquivaMap が 81.5%
• FLARE は 54 ペアすべてで正解(410.6 秒、1.18 ドル/ペア)
• 定義とパラメータ写像をプロンプトに入れて推論モデルに判定だけさせる FLARE-NL も 100%(13.9 秒、0.048 ドル)

という結果である(表 1)。変換の種類別に見ると、最適値照合は「無効な切除平面の追加」と「変数の基数表現の変更」をまったく検出できていない(表 2、正解率 0%)。付録では、EvoCut が提案した 43 本の加速カットのうち 5 本が無効だったことも報告されている。

FormuEvo の定式化そのものは検証対象になっていないので、FormuEvo の結果に問題があると言えるわけではない。ただ FormuEvo は EvoCut をベースラインに使い、同じ IMO 2025 Problem 6 や JSSP を扱っている。「最適値が合った」で候補を通す以上、FLARE が示した抜け穴は FormuEvo のパイプラインにも同じ形で開いている。著者らが 7 節で提案する「FLARE-NL で素早く篩にかけ、FLARE で最終証明する」構成は、FormuEvo の修復 LLM の手前にそのまま置ける。

1.3 ReMILP — 再定式化を「不変であるべきもの」として学習する

Bouaneni ほか「Reformulation-contrastive learning for Mixed Integer Programs」(9 月 30 日、École Polytechnique LIX)。

FormuEvo と裏表の関係にある論文である。FormuEvo は「等価な定式化でもソルバー効率は桁で違う」ことを利用して速い定式化を探した。ReMILP は「等価な定式化は同じものを表している」ことを利用して、MILP の変数と制約の汎用表現を自己教師で学ぶ。

理論面の貢献がはっきりしている。すべての MILP インスタンスに対して妥当なアフィン再定式化を完全に特徴づけ(定理 4.1〜4.3)、それが二種類に分解されることを示した。

• 置換(substitution):型を保つアフィンな変数変換。整数変数のブロックは任意のユニモジュラ行列でよく、先行研究のシフトと符号付き置換より広い
• 再記述(re-description):制約系の書き換え。各制約の正の定数倍を残しつつ、既存制約の非負結合を右辺を緩めて追加する

置換は変数そのものを変えるので埋め込みは同変に、再記述は変数を変えないので不変に、というのが設計原理で、GNN(GATv2、2 層)とハイパーネットワークを対照学習で同時に訓練する。ソルバー由来のラベルは使わない。

評価では MILP-Evolve の 29,000 インスタンスで事前学習し、三つの下流タスクで比較した(ベースラインは同じ自己教師あり手法 FORGE の再実装とランダム初期化)。

• 整合性ギャップの予測(凍結):MAE 0.040 対 FORGE 0.053、ランダム 0.063(表 3)。微調整後は、最初から教師ありで訓練した場合より 16% 良い
• 二値解の予測(凍結、D-MIPLIB):正規化 KL が純整数問題で 0.887 対 0.918、混合整数問題で 0.688 対 0.755(表 2)
• 制約の活性予測:二手法の差は標準偏差の範囲内(効かなかった)

距離尺度のノートとの関係では、これは学習する距離の側の答えに見える。Maudet らは「重みを {-1, 1, その他} に離散化する」正規化で規模の違いを吸収したが、この離散化は制約を定数倍しただけで変わってしまう(私の読み)。ReMILP の埋め込みはそうした再記述に不変であるように訓練されている。Maudet らが教師あり GNN と同等圏に並んだことを思うと、不変性を設計で入れた自己教師あり表現との比較は見てみたい。

FormuEvo との整合も付けておく。ReMILP が不変性を要求する変形は、置換(LP 緩和を全単射で写す)と再記述(LP で含意される制約の追加)に限られ、どちらも LP 緩和の値を変えない(私の読み)。FormuEvo が見つけた定式化、たとえば SCF に持ち上げ済み DFJ カットを選択的に足したものは、LP 緩和を締める変形であり、変数の数を変える拡張定式化は ReMILP の枠組みの外だと脚注で明記されている。つまり両者は矛盾していない。ReMILP は「効率に関係ない違い」を消し、FormuEvo は「効率に関係ある違い」を探している。

なお AI 利用の申告として、定理 4.1〜4.3 は「まず AI が証明し、著者が検証・簡略化した」と書かれている。

1.4 周辺:正しさを最適化する側は賑わっている

同じ 2 週間に、自然言語から最適化モデルを作る「正しさ」側の論文も多く出た。EfficientOpt の指摘を踏まえると、どれも求解時間を測っていないという共通点が目につく。

• SemOPT(Zhou ほか、2609.37361、EMNLP 2026 Findings):実行は通るが意味が違う「意味エラー」を、Qwen3-4B ベースの報酬モデルと、モデリング戦略・数式・コードの三層 MCTS で直す。IndustryOR で 64.3%(Best-of-N)、複雑系 3 データセットで最強ベースライン比平均 +7.6 点(Pass@N)。正しさの検証は FormuEvo より慎重で、「目的値の一致は偶然一致で誤った定式化を正解扱いしうる」と明記し、参照定式化とのグラフ編集距離で補っている
• OPT-Zero(Jiang ほか、2609.34205):外部データなしで、1 つの LLM が問題を作る役と解く役を交互に担い、Gurobi の実行結果だけを報酬に GRPO で学習する。Qwen3-8B-Base からマクロ平均 81.6%。Gurobi で学習したモデルが CPLEX・SCIP・Pyomo でもほぼ同じ精度を保つ一方、ComplexLP では StepORLM に大差で負ける(58.6 対 77.5)
• TACIT(Bouscary ほか、2609.38434、MIT・Microsoft Research):運用中の最適化モデルの定式化を、「ユーザが上書きした解」の履歴から修復する。採用された解と棄却された解を分離するカットを MILP で探し、LLM がそれを添字付きの制約族に一般化し、補助変数つきのテンプレートも提案する。38 シナリオで完全回復率 45〜64%(LLM 単体は 20〜47%)
• OSCAR(Bu ほか、2610.00912):ラベル付きの決定例から「認証済みシミュレータ」を作り、Coder と Reviewer の LLM を安い順に昇格させる。FrontierOR の 5 問で正解率 72〜100%、コストはフロンティアのコーディングエージェント比で 3〜6 分の 1。求解時間は将来課題と明記
• AutoMIP(Gu ほか、2609.39360):コーディングエージェントに「研究方向のプール」と「状態を復元できる実験木」を持たせ、MIPLIB 2017 の Open 60 件で既知最良値の更新を狙う。18 件で全手法中最良(素の Codex は 5 件)。著者に FormuEvo と重なる名前(Zhiguang Cao)があり、ソルバーのログから次の方向を決める設計は FormuEvo の診断 LLM と役割が重なる

2. 過程:ソルバー内部の側

2.1 BiFE — 分岐規則を LLM 生成コードとして進化させる

Zhang ほか「BiFE: Search-Efficient Discovery of CPU-Only Branching Policies via LLM-based Bi-Fidelity Evolution」(9 月 29 日、中国科学院自動化研究所)。

Collab-Solver が扱った分岐変数選択を、別の道具で置き換える論文である。Collab-Solver は GNN の方策を模倣学習と強化学習で訓練し、切除平面選択と協調させた。BiFE は分岐規則を LLM が書く短いコード(Khalil らの 72 次元特徴 → スコア)として表現し、FunSearch 型の進化探索で探す。GPU を使わず CPU だけで動く規則を狙う。

要点は適合度の二段構えにある。候補を本物の B&B で評価する高忠実度 F_HF は高価すぎ、強分岐の判断を模倣できているかで測る低忠実度 F_LF は安いが分布シフトを起こす(規則が自分で作る探索軌跡は、オフラインで集めた強分岐の軌跡と違う)。そこで F_LF で集団を篩にかけ、上位(エリート)だけ F_HF で検証する。

結果(SCIP 7.0.3、DeepSeek-V4-Flash、20 インスタンス × 5 seed):

• 標準 4 ベンチマーク(CA・SC・MIS・CFL)のテストインスタンスで、CPU 手法の中で最短の求解時間。GPU で動かした GNN 方策も上回る
• 規模を大きくした転移インスタンスでは CA・MIS・CFL で首位、SC では LLM4Branch にわずかに抜かれ、両者とも SCIP 既定の RPB に届かない
• 実問題では NNV で 12.58 秒(RPB 22.96、GNN-GPU 20.55)、OTS で 306.28 秒(RPB 320.62)(表 2)
• 規則の設計にかかる時間は LLM4Branch の 3.9〜20.6 分の 1。F_LF を外すと規則の質はほぼ同じまま設計時間が 1.7〜9.2 倍になる(表 3)

F_LF だけで進化させた EoH と ReEvo が MIS と CA で大きく崩れ、散布図で F_LF と F_HF の乖離が最も大きいベンチマークと一致する、という分析が説得力を持つ。これは Collab-Solver が P1 で挙げた「配備時の食い違い」と同じ現象を、モジュール間ではなくオフラインデータと自分の軌跡の間で観測したものだと読める。

FormuEvo と並べると、LLM を交叉と突然変異の演算子にし、適合度をソルバーの実測にする骨格は同じで、向ける先が定式化か分岐規則かの違いである。FormuEvo が小さな探索予算(評価 50 候補程度)で済ませた評価コストの問題を、BiFE は安い代理指標で解いている。限界は著者自身が書く通り、見つかる規則がベンチマーク固有であることで、問題分布が変わるたびに探索をやり直す必要がある。

2.2 ORDO — presolve の実行順序も逐次依存である

Chen・Song「ORDO: Operation-level Round-aware Dynamic Ordering for MIP Presolve」(10 月 8 日)。

Collab-Solver の前提は「ソルバーのモジュールは逐次依存で、上流の決定が下流の観測を変える」だった。この論文はその前提を一段上流の presolve で実証している。presolve の原子操作は非可換で、順序を人為的にシャッフルすると裾が重く劣化する(p99 比で 1.4〜5.2 倍)一方、SCIP 既定の軌跡では順序がほぼ一意なので、この次元が学習対象になってこなかった、という指摘から始まる。

手法は presolve 計画を「設定ベクトルの最適化」から「条件付き自己回帰の系列生成」に置き換えるもので、1.6M パラメータの小さな Transformer を SCIP 既定の挙動から行動クローニングで学習し、SCIP 10.0.1 のソースにフックを入れて系列を注入する。推論は CPU で、コストは求解全体の 0.1% 未満。

結果は正直に書かれている。訓練ドメイン内では既定と差がなく、価値はゼロショット転移にある。leave-one-out と未見の NNV の 7 点で「4 加速・2 引き分け・1 失敗」、NNV では SGM 比 0.72(勝率 73.6%)、CA では 1.11 で負ける。利得は presolve 時間ではなく後続の B&B に現れる(presolve 自体は全条件で 1 秒未満)。複数系列を並走させる racing はコア時間が 3.9〜5.0 倍かかり、MVC と CFLP では「コストに見合わない」と明記している。

Collab-Solver との違いは、ORDO は分岐側を学習せず、ゲーム理論的な共同学習も RL も使わないことである。それでも「presolve の順序が B&B のコストを変える」という観測は、Collab-Solver の階層ゲームに presolve という第三のプレイヤーを足す余地を示している。FormuEvo の診断 LLM は presolve 統計を読むが、ORDO の結果は presolve 時間の短縮だけを見ても効果が読めないことを示唆する。

3. 土台:インスタンスの側

3.1 OptiScribe — 難しいインスタンスを LLM に書かせる

Singla・Pareek・Jawanpuria・Singla「Teaching LLMs to Generate Challenging MILP Instances via Solver Feedback」(9 月 29 日、IIT)。

距離尺度のノートで Maudet らが問題にしたのは「ベンチマーク集合の異質性を定量化できない」ことだった。この論文はその隣にある問題、「ちょうどよい難しさのインスタンスが公開ベンチマークにない」を扱う。変数数 111〜500 の公開インスタンス(MIPLIB、MILP-Evolve、D-MIPLIB など 8 ソース)を集めると、ほとんどが「ルートで解ける」か「ノード上限に当たる」かの二峰で、中間がない(図 2)。

手法は LLM の自己対戦だが、相手は固定した SCIP である。LLM が問題族とサイズを指定するプロンプトからインスタンスを書き、SCIP が実行可能性と「どれだけ苦労したか」を返し、それを報酬に GRPO(LoRA)で学習する。種インスタンスは使わない。報酬の設計が本論文の核心で、

• 妥当性ゲート:パース可能・実行可能・有限最適値、しかも連続変数が有界で、係数範囲が極端でなく、多数の連続変数を 1 つの二値変数に結ぶ Big-M がない
• 難しさ = 0.25 × ルートカット後のギャップ + 0.75 × log(B&B ノード数)/log(5,000)
• 要求サイズからの乖離のペナルティと、構造の多様性の項

で、読み取り位置を presolve とルートカットの後に置く。カット前に読むと、緩い Big-M で膨らんだ見かけの難しさに報酬が付くからである。実際、カット前の報酬と HiGHS で学習させたモデルは、連続変数の 67〜95% に上限を置かない緩い定式化を書くようになり、その「難しさ」は SCIP と Gurobi のルートカットで消える(4.4 節)。

結果(表 2):Gemma-4-12B を学習した OptiScribe-12B は、CFL で SCIP のノード数中央値を 1.7〜5.0 倍、Max-Cut で 1.9〜4.5 倍に上げ、カット後ギャップも 1.1〜1.7 倍になる。CFL では実行可能率も 9〜19 ポイント上がる。学習に使っていない HiGHS と Gurobi 13.0.3 で解き直しても順位は変わらない。学習したサイズより大きい 226〜500 変数でも効果が残る。多重ナップサックはどのモデルでも易しいままだった。

ソルバー調整への応用も示していて、生成した CFL インスタンス 40 件で SCIP を調整すると集約カットのルート上限を 5 ラウンドにする設定が選ばれ、平均求解時間が 16.0% 減る。Max-Cut で選んだ設定を MILP-Evolve の組合せオークション問題に持ち込むと、10 秒以内に解ける数が 14/40 から 35/40 に増え、MILP-Evolve 上で直接調整した場合と同じ設定が選ばれた。

FormuEvo と鏡写しの関係にある。FormuEvo はソルバーが速く解ける定式化を、OptiScribe はソルバーが苦労するインスタンスを探し、どちらもソルバーの内部統計(presolve、ルートの緩和、ノード数)を信号にする。そして OptiScribe が「見かけの難しさ」を排除するために報酬の読み取り位置に気を遣ったのと同じ理由で、FormuEvo の診断 LLM が読む統計も、どの段階のものかで意味が変わるはずである。距離尺度のノートとの関係では、Maudet らの距離は「生成したインスタンスが公開ベンチマークの空白を本当に埋めているか」を測る道具として使えそうだが、本論文は構造の多様性を独自の指紋で管理していて、距離の議論はない。

3.2 When Solvers Get Moody — 実行時間はどれくらい「ぶれる」のか

Adegbindin・Dietrich・Pender・Lodi「When Solvers Get Moody: Quantifying and Predicting Performance Variability in Mixed Integer Programming」(10 月 9 日、Cornell、INFORMS Journal on Optimization 投稿中)。

FormuEvo と Collab-Solver はどちらも「求解時間」を主要な評価指標にしている。この論文はその指標が seed だけでどれだけ変わるかを、MIPLIB 2017 の 1,009 インスタンスを SCIP 9.2.1 で各 100 回、うち 388 件を Gurobi 12.0.2 でも 100 回走らせて測った(4 時間制限、単一スレッド)。

冒頭の例が強烈で、neos-2624317-amur は 100 回のうち大半が 1 分以内に終わる一方、11 回は 4 時間の制限に達する。LP 反復は 1.2×10⁵ から 8.1×10⁷、ノード数は 2,837 から 3,794,640 まで開く。変えたのは seed だけである。逆の例として、当時 MIPLIB で open だった neos-5045105-creuse は 100 回のうち 2 回だけ最適性を証明でき、その 2 回も 122.77 秒と 10,424.45 秒だった。

提案する指標 WVS は、正規化時間・最終ギャップ・LP 反復・ノード数それぞれの「外れ値に鈍い変動係数」を (0.65, 0.05, 0.20, 0.10) で重み付けした和で、タイムアウトを自然に扱える。観測としては、

• ばらつきは規模や難しさと中程度にしか相関せず、小さく速いインスタンスでも大きくぶれるものがある
• SCIP と Gurobi の WVS の順位相関は 0.403 で、両方でぶれるインスタンスもあれば片方だけのものもある
• MIPLIB 2010 の変動スコアと 38 件で比べると順位相関 0.675

予測モデル(CatBoost の勾配ブースティングに裾専用の専門家を足したもの)は、静的特徴と presolve・ルート LP の情報だけから WVS を MAE 0.058、順位相関 0.65 で当てる。SHAP で効いているのはルート緩和の退化(双対値が 0 の有効制約の比率、被約費用が 0 の非基底変数の比率)と係数の反復で、規模そのものではない。

3 本のノートへの含意は直接的である。FormuEvo の適合度は Easy 100 インスタンスの SGM で、最終評価は 5 回の独立試行だが、seed 変動がこの規模だと、定式化の差とばらつきを分ける統計的な扱いが要る(FormuEvo は Wilcoxon 検定を補遺に載せており、小規模では有意にならないことを「床効果」と説明していた)。Collab-Solver が RL-B の大きな標準偏差を問題にしたのも同じ現象である。また「SCIP でぶれて Gurobi でぶれない」インスタンスがあるという観測は、FormuEvo の補遺 C.2(定式化の優劣がソルバーで変わる)と同じ方向を指す。距離尺度のノートとの関係では、WVS は定式化の近さとは別の、ソルバー挙動に基づくインスタンスの特徴量であり、「似たインスタンス」の定義にもう一つの軸を足すことになる。

3.3 周辺:解を生成する拡散モデル

Di Vito ほか「Constrained Graph Diffusion for Mixed-Integer Optimization」(8 月、10 月 5 日に v3)は、タイトルからインスタンス生成に見えるが、固定した定式化の上でパラメータだけが変わるインスタンス族の二値解を拡散モデルで生成し、連続部分を Gurobi に任せる論文である。各逆拡散ステップで実行可能集合の凸緩和へ射影するのが要点で、AC-OPF の送電切替(IEEE 500 母線)で実行不能率 0%、ギャップ 0.2%、Gurobi 比 543.8 倍速い。ただし射影演算子は問題ごとに手で設計する必要があり、下流が易しい DC-OPF では 9 母線で Gurobi より遅い。ネットワークごとに別モデルを訓練する設計は、Maudet らの「ML-MILP は均質なインスタンス集合でしか効かない」という観測を暗黙の前提にしている。

4. 3本のノートの読み方はどう変わったか

FormuEvo。主張の土台は強くなった。「LLM モデリングは正しさしか見ていない」は EfficientOpt が 11 モデルで裏づけ、同時期の正しさ側の論文 5 本がどれも求解時間を測っていないことも傍証になる。一方で、ノートに書いた「読後に残った問い」のうち二つは、答えの方向が見えた。正しさの担保については FLARE が「最適値照合では無効なカットを検出できない」と示し、形式証明という代替も出した。Easy インスタンスへの過適合と評価のばらつきについては、Moody の seed 変動と OptiScribe の「ソルバー固有の見かけの難しさ」が、進化の適合度をどう読むべきかの注意点を具体化した。

Collab-Solver。「モジュールは逐次依存で、上流が下流を変える」という前提は、ORDO が presolve で、BiFE がオフラインデータと自分の軌跡の間で、それぞれ別の形で確認した。ただし両者とも共同学習には踏み込んでおらず、Collab-Solver の階層ゲームを presolve まで広げる話はまだない。BiFE の CPU 専用コード規則は、Collab-Solver の GNN 方策とは配備先の想定が違い、同じ土俵で比べた結果もない。

距離尺度。Maudet らの「学習なしの距離」に対して、ReMILP が「不変性を設計で入れた学習する表現」を出した。両者の直接比較はまだない。OptiScribe の「公開ベンチマークは二峰で中間がない」という観測は、Maudet らがベンチマークの異質性を測りたかった動機を別の角度から支えている。Moody の WVS は、定式化の近さとは独立した特徴づけの軸である。

5. 次に見るもの

• OptiScribe のコードとモデルは「採録後に公開」。Moody のデータと ORDO の実装も出版後の公開予定で、いまは再現できない
• FormuEvo と SemOPT は EMNLP 2026 で発表される。FormuEvo の正しさ検査に FLARE 型の検証を組み込む話が出るか
• ReMILP と Maudet らの距離を同じ StrIPLIB で比べる実験は、誰かがやれば一本の論文になる
• 3 本の被引用はまだ 0 件。次に確認するときは、引用側から辿る

付録

調べ方

• 3 本の更新:arXiv API で版履歴を取得(2026-10-12 時点)。FormuEvo は v1(8/24)と v2(10/3)の HTML を取得してテキスト差分を取り、引用形式と節番号以外の差がないことを確認した
• 被引用:OpenAlex の cited_by_count と Semantic Scholar の citations API。Maudet らは Semantic Scholar がレート制限で取得できず OpenAlex のみ
• 新着:arXiv API を submittedDate 降順で、(mixed integer / MILP / integer programming)×(LLM / large language / formulation)、(mixed integer / MILP)×(branching / cutting plane / branch-and-bound / reinforcement learning / graph neural)、(mixed integer / MILP)×(similarity / instance generation / representation / benchmark / embedding)、(optimization modeling / operations research)×(LLM / language model)×(solver / formulation)、(branch-and-bound / variable selection / cut selection / presolve)×(learning / LLM / neural) の 5 通りで検索し、9 月 20 日以降の投稿または 9 月 26 日以降の更新に絞った。候補の本文は arXiv の HTML 版を読んだ
• 引用関係:新着 13 本のテキストで FormuEvo・Collab-Solver・Maudet・各 arXiv 番号を検索し、いずれも引用なしを確認した(EvoCut は BiFE・OPT-Zero・FLARE が引用)

今回取り上げた論文

上の 6 本(EfficientOpt・FLARE・ReMILP・BiFE・OptiScribe・Moody)は論文リストに積読として追加し、3 本のノートとの関係を型付きリンクで残した。