# llama.cppが文法の深い入れ子とDRYの資源消費を制限

> llama.cppの文法処理に256段の再帰上限が入り、DRYでは重複処理の削減と設定上限が追加された。4次元テンソルの量子化修正も確認する。皮膚病変の比較では診断正解率と診療終了判断の結果が異なり、閾値と評価条件を分けて読む。実装更新と研究結果を、適用範囲に沿って整理する。

Canonical URL: https://labs.eastbraver.com/digest/ai-digest-20261026
Published: 2026-10-26T06:30:00+09:00
Category: ai-digest
Tags: open-source, llm-inference, software-engineering, evaluation, safety

llama.cppの更新では、深い入れ子の文法によるスタックオーバーフローと、DRY設定の初期化に伴うCPU・メモリ消費への対策を確認する。4次元テンソルの量子化にも修正が入った。いずれも、対応する入力や設定を使う環境での更新判断に関わる。（[文法処理の修正](https://github.com/ggml-org/llama.cpp/pull/29755) / [DRYの修正](https://github.com/ggml-org/llama.cpp/pull/31035) / [量子化の修正](https://github.com/ggml-org/llama.cpp/pull/30820)）

皮膚病変の比較は、これらの実装更新とは別の話題だ。追加学習したCNNと汎用LLMでは、診断名の正解率と、治療・生検・経過観察が必要な病変を見逃さない判断で結果が異なる。モデルの順位だけでなく、何を正解とし、どの閾値で判断したかを読み分けたい。（[著者による比較報告](https://lynchlab.net/llm-skin-cancer)）

## llama.cpp b11882、文法処理の入れ子を最大256段に制限

llama.cpp b11882は、GBNF文法の括弧や選択肢が深く入れ子になった場合に、スタックを使い切ってサーバーが異常終了する問題を修正したプレリリース。10月26日02:06 JSTに公開され、実行ファイルも配布されている。（[リリース](https://github.com/ggml-org/llama.cpp/releases/tag/b11882) / [公開日時と配布物](https://api.github.com/repos/ggml-org/llama.cpp/releases/tags/b11882)）

報告者は、クライアントが送る`grammar`に極端に深い入れ子を含めると、`llama-server`が`SIGSEGV`で終了する事例を示した。報告で対象となったのは、生のGBNF文法を解釈する処理であり、JSON Schemaから文法を生成する処理とは別の問題だ。（[元の不具合報告](https://github.com/ggml-org/llama.cpp/issues/29495)）

修正は、相互に呼び出す`parse_alternates`と`parse_sequence`で深度を追跡し、括弧の入れ子を最大256段に制限する。上限を超える文法は解析失敗として扱い、サーバープロセスのクラッシュを防ぐ。対象タグの変更には、300段の入れ子を拒否する回帰テストも含まれる。（[対象版の実装差分とテスト](https://github.com/ggml-org/llama.cpp/commit/f1168ac417f1b09af0846d042a12c577b0ffc7ca) / [修正PR](https://github.com/ggml-org/llama.cpp/pull/29755)）

**EastBraverの見立て:** 外部からGBNF文法を受け取る推論サーバーでは、入力によるプロセス停止への対策として確認したい。深い文法を正当な用途で生成するシステムでは、上限超過時のエラーを呼び出し側が扱えるかも更新時の検証点となる。（[発生条件と修正](https://github.com/ggml-org/llama.cpp/pull/29755)）

- 出典: [llama.cpp](https://github.com/ggml-org/llama.cpp/releases/tag/b11882)（公式プレリリース、2026-10-26 02:06 JST）

## llama.cpp b11884、DRY設定の重複処理と資源消費を抑制

llama.cpp b11884は、DRYの区切り文字列`dry_sequence_breakers`を大量に指定した際、初期化にCPUとメモリを使いすぎる問題を修正したプレリリース。10月26日02:55 JSTに公開された。（[リリースと公開日時](https://api.github.com/repos/ggml-org/llama.cpp/releases/tags/b11884) / [修正PR](https://github.com/ggml-org/llama.cpp/pull/31035)）

修正では、重複する区切り文字列を除去し、異なる文字列の上限を64件とした。サーバーのリクエスト検査は重複を除いてから数え、上限超過を拒否する。一方、サンプラーを直接初期化する経路では、上限を超えた指定を警告付きで打ち切るため、両経路の動作は同じではない。（[対象系列の変更差分](https://github.com/ggml-org/llama.cpp/compare/b11882...b11887) / [サーバーと直接呼び出しの違い](https://github.com/ggml-org/llama.cpp/pull/31035)）

件数制限だけでなく、語彙全体を文字列へ戻す処理を初期化時の1回にまとめ、同じ文字列末尾のトークン化結果も再利用する。繰り返し計算そのものを減らす変更であり、一般的な推論速度が一律に改善するという意味ではない。（[重複計算の原因と修正](https://github.com/ggml-org/llama.cpp/pull/31035)）

**EastBraverの見立て:** DRY設定をクライアントから受け付ける環境では、異なる区切り文字列の数と、拒否された場合の扱いを確認したい。既存設定が64件を超えるなら、重複除去後の件数と必要性を見直すことが更新時の検証になる。（[件数制限と検証結果](https://github.com/ggml-org/llama.cpp/pull/31035)）

- 出典: [llama.cpp](https://github.com/ggml-org/llama.cpp/releases/tag/b11884)（公式プレリリース、2026-10-26 02:55 JST）

## 皮膚病変のCNN比較、診断正解率と診療終了判断を分けて評価

皮膚科医Magnus Lynchは10月25日付の報告で、追加学習したInception v3と、GPT-6 Astra、Claude Fable 5.1を比較した。新しく加わったのはCNNとの比較であり、LLM側の実験結果は10月11日付の先行記事でも報告済みだった。あらかじめ定めた6診断から選ぶ第一候補の正解数は、200病変のうちCNNが125件（62.5%）、GPT-6 Astraが84件（42.0%）、Claude Fable 5.1が85件（42.5%）だった。（[CNNを追加した比較報告](https://lynchlab.net/llm-skin-cancer) / [LLM実験の先行記事](https://www.drmagnuslynch.com/can-llms-diagnose-skin-cancer)）

対象はMILK10kから抽出した、病理組織検査で確定済みの200病変。治療・生検・経過観察が必要な病変と、診療を終了できる良性病変が100件ずつで、良性も生検された診断の難しい標本群だった。汎用[LLM](/guides/llm)には、皮膚科医を補助するという同一の指示と、臨床接写・ダーモスコピーの両画像を与え、年齢・部位・病歴は与えず、デフォルト設定で回答させた。CNNも両画像を採点し、ダーモスコピー画像を重くして統合した。（[評価条件](https://lynchlab.net/llm-skin-cancer#the-test) / [著者が公開した指示文と実行記録](https://d2gaqzonlm544h.cloudfront.net/skin-ai/data/llm-skin-cancer-test.zip)）

診断名の正解率と、診療を終了してよいかの判断は異なる。日光角化症も含む要対応の100病変を、要対応と判定できた数は、事前設定閾値のCNNが77件、GPT-6 Astraが97件、Claude Fable 5.1が96件だった。一方、良性100病変を診療終了と判定した数は、CNNが76件に対し、両LLMは32件と22件だった。（[同一条件の結果表](https://lynchlab.net/llm-skin-cancer#the-results-in-one-table)）

メラノーマ30件を誤って診療終了とした数は、事前設定閾値のCNNで18件、GPT-6 Astraで3件、Claude Fable 5.1で4件だった。著者は閾値を変えたCNNの別結果も併記しているため、この比較からCNN一般の優劣までは言えない。CNNの公開説明も、研究用閾値を安全な判断基準とはせず、スコアを個人に当てはまる確率として扱わないよう明記している。（[閾値別の結果](https://lynchlab.net/llm-skin-cancer#the-results-in-one-table) / [研究用閾値の限界](https://lynchlab.net/skin-ai-inception)）

著者によると、CNNでは同じ病変・患者の画像を学習・検証データから除外し、評価対象をモデルの選択や閾値設定にも使わなかった。一方、公開データであるMILK10kがLLMの学習に含まれていた可能性は残る。標本数は小さく、特に30件のメラノーマに関する結果には大きな不確実性がある。（[データ分離と比較の留保](https://lynchlab.net/llm-skin-cancer#caveats)）

200症例の集計は各モデルの初回回答を使っているが、再実行を全く調べていないわけではない。先行記事では、冒頭のメラノーマ1症例を各モデルに3回ずつ追加提示し、診断名は全6回答で同じ誤答だった一方、診療終了の判断は初回から変動したと報告している。これは全症例での再現性を検証した結果ではない。（[1症例の追加実行と変動](https://www.drmagnuslynch.com/can-llms-diagnose-skin-cancer#is-200-lesions-enough-is-one-run-enough)）

> [!CAUTION] 研究用モデルと診療判断の境界
> 公開CNNは非商用の研究・教育用であり、医療機器でも診断用でもない。皮膚がんを見逃し得るため、受診の要否を決める用途には使わないと明記されている。この実験用CNNについて、実診療での前向き検証や患者転帰の改善を示す報告ではない。（[公開モデルの用途と制約](https://lynchlab.net/skin-ai-inception)）

**EastBraverの見立て:** この比較で読むべきなのは「古いCNNがLLMより優秀」という一つの順位ではない。診断名の正解、要対応病変の見逃し、良性病変への過剰な対応は別の評価軸であり、閾値でも結果が変わる。対象集団と判断条件をそろえてから、何を優先する評価なのかを確かめたい。（[比較結果と限界](https://lynchlab.net/llm-skin-cancer)）

- 出典: [Magnus Lynch / Lynch Lab](https://lynchlab.net/llm-skin-cancer)（著者による比較報告、原文表示日2026-10-25。公開時刻・タイムゾーンは未記載）

## ほかの確認済みの更新

- **llama.cpp b11883、4次元テンソルの量子化を修正**：10月26日02:26 JST公開のプレリリースでは、行数計算で第4次元の`ne[3]`を考慮せず、量子化後のサイズ不一致で停止する不具合を修正した。MoEのエキスパート用テンソルの識別も、形状から名前に基づく判定へ変更している。4次元テンソルや該当する量子化形式を扱う場合に確認したい。（[公開日時](https://api.github.com/repos/ggml-org/llama.cpp/releases/tags/b11883) / [実装変更と修正前後の記録](https://github.com/ggml-org/llama.cpp/pull/30820)）
