メインコンテンツへスキップ

Fresh AI updates

llama.cppが文法の深い入れ子とDRYの資源消費を制限

llama.cppの文法処理に256段の再帰上限が入り、DRYでは重複処理の削減と設定上限が追加された。4次元テンソルの量子化修正も確認する。皮膚病変の比較では診断正解率と診療終了判断の結果が異なり、閾値と評価条件を分けて読む。実装更新と研究結果を、適用範囲に沿って整理する。

約8分
llama.cppが文法の深い入れ子とDRYの資源消費を制限

llama.cppの更新では、深い入れ子の文法によるスタックオーバーフローと、DRY設定の初期化に伴うCPU・メモリ消費への対策を確認する。4次元テンソルの量子化にも修正が入った。いずれも、対応する入力や設定を使う環境での更新判断に関わる。(文法処理の修正 / DRYの修正 / 量子化の修正)

皮膚病変の比較は、これらの実装更新とは別の話題だ。追加学習したCNNと汎用LLMでは、診断名の正解率と、治療・生検・経過観察が必要な病変を見逃さない判断で結果が異なる。モデルの順位だけでなく、何を正解とし、どの閾値で判断したかを読み分けたい。(著者による比較報告)

llama.cpp b11882、文法処理の入れ子を最大256段に制限

llama.cpp b11882は、GBNF文法の括弧や選択肢が深く入れ子になった場合に、スタックを使い切ってサーバーが異常終了する問題を修正したプレリリース。10月26日02:06 JSTに公開され、実行ファイルも配布されている。(リリース / 公開日時と配布物)

報告者は、クライアントが送るgrammarに極端に深い入れ子を含めると、llama-serverがSIGSEGVで終了する事例を示した。報告で対象となったのは、生のGBNF文法を解釈する処理であり、JSON Schemaから文法を生成する処理とは別の問題だ。(元の不具合報告)

修正は、相互に呼び出すparse_alternatesとparse_sequenceで深度を追跡し、括弧の入れ子を最大256段に制限する。上限を超える文法は解析失敗として扱い、サーバープロセスのクラッシュを防ぐ。対象タグの変更には、300段の入れ子を拒否する回帰テストも含まれる。(対象版の実装差分とテスト / 修正PR)

EastBraverの見立て: 外部からGBNF文法を受け取る推論サーバーでは、入力によるプロセス停止への対策として確認したい。深い文法を正当な用途で生成するシステムでは、上限超過時のエラーを呼び出し側が扱えるかも更新時の検証点となる。(発生条件と修正)

  • 出典: llama.cpp(公式プレリリース、2026-10-26 02:06 JST)

llama.cpp b11884、DRY設定の重複処理と資源消費を抑制

llama.cpp b11884は、DRYの区切り文字列dry_sequence_breakersを大量に指定した際、初期化にCPUとメモリを使いすぎる問題を修正したプレリリース。10月26日02:55 JSTに公開された。(リリースと公開日時 / 修正PR)

修正では、重複する区切り文字列を除去し、異なる文字列の上限を64件とした。サーバーのリクエスト検査は重複を除いてから数え、上限超過を拒否する。一方、サンプラーを直接初期化する経路では、上限を超えた指定を警告付きで打ち切るため、両経路の動作は同じではない。(対象系列の変更差分 / サーバーと直接呼び出しの違い)

件数制限だけでなく、語彙全体を文字列へ戻す処理を初期化時の1回にまとめ、同じ文字列末尾のトークン化結果も再利用する。繰り返し計算そのものを減らす変更であり、一般的な推論速度が一律に改善するという意味ではない。(重複計算の原因と修正)

EastBraverの見立て: DRY設定をクライアントから受け付ける環境では、異なる区切り文字列の数と、拒否された場合の扱いを確認したい。既存設定が64件を超えるなら、重複除去後の件数と必要性を見直すことが更新時の検証になる。(件数制限と検証結果)

  • 出典: llama.cpp(公式プレリリース、2026-10-26 02:55 JST)

皮膚病変のCNN比較、診断正解率と診療終了判断を分けて評価

皮膚科医Magnus Lynchは10月25日付の報告で、追加学習したInception v3と、GPT-6 Astra、Claude Fable 5.1を比較した。新しく加わったのはCNNとの比較であり、LLM側の実験結果は10月11日付の先行記事でも報告済みだった。あらかじめ定めた6診断から選ぶ第一候補の正解数は、200病変のうちCNNが125件(62.5%)、GPT-6 Astraが84件(42.0%)、Claude Fable 5.1が85件(42.5%)だった。(CNNを追加した比較報告 / LLM実験の先行記事)

対象はMILK10kから抽出した、病理組織検査で確定済みの200病変。治療・生検・経過観察が必要な病変と、診療を終了できる良性病変が100件ずつで、良性も生検された診断の難しい標本群だった。汎用LLMには、皮膚科医を補助するという同一の指示と、臨床接写・ダーモスコピーの両画像を与え、年齢・部位・病歴は与えず、デフォルト設定で回答させた。CNNも両画像を採点し、ダーモスコピー画像を重くして統合した。(評価条件 / 著者が公開した指示文と実行記録)

診断名の正解率と、診療を終了してよいかの判断は異なる。日光角化症も含む要対応の100病変を、要対応と判定できた数は、事前設定閾値のCNNが77件、GPT-6 Astraが97件、Claude Fable 5.1が96件だった。一方、良性100病変を診療終了と判定した数は、CNNが76件に対し、両LLMは32件と22件だった。(同一条件の結果表)

メラノーマ30件を誤って診療終了とした数は、事前設定閾値のCNNで18件、GPT-6 Astraで3件、Claude Fable 5.1で4件だった。著者は閾値を変えたCNNの別結果も併記しているため、この比較からCNN一般の優劣までは言えない。CNNの公開説明も、研究用閾値を安全な判断基準とはせず、スコアを個人に当てはまる確率として扱わないよう明記している。(閾値別の結果 / 研究用閾値の限界)

著者によると、CNNでは同じ病変・患者の画像を学習・検証データから除外し、評価対象をモデルの選択や閾値設定にも使わなかった。一方、公開データであるMILK10kがLLMの学習に含まれていた可能性は残る。標本数は小さく、特に30件のメラノーマに関する結果には大きな不確実性がある。(データ分離と比較の留保)

200症例の集計は各モデルの初回回答を使っているが、再実行を全く調べていないわけではない。先行記事では、冒頭のメラノーマ1症例を各モデルに3回ずつ追加提示し、診断名は全6回答で同じ誤答だった一方、診療終了の判断は初回から変動したと報告している。これは全症例での再現性を検証した結果ではない。(1症例の追加実行と変動)

EastBraverの見立て: この比較で読むべきなのは「古いCNNがLLMより優秀」という一つの順位ではない。診断名の正解、要対応病変の見逃し、良性病変への過剰な対応は別の評価軸であり、閾値でも結果が変わる。対象集団と判断条件をそろえてから、何を優先する評価なのかを確かめたい。(比較結果と限界)

  • 出典: Magnus Lynch / Lynch Lab(著者による比較報告、原文表示日2026-10-25。公開時刻・タイムゾーンは未記載)

ほかの確認済みの更新

  • llama.cpp b11883、4次元テンソルの量子化を修正:10月26日02:26 JST公開のプレリリースでは、行数計算で第4次元のne[3]を考慮せず、量子化後のサイズ不一致で停止する不具合を修正した。MoEのエキスパート用テンソルの識別も、形状から名前に基づく判定へ変更している。4次元テンソルや該当する量子化形式を扱う場合に確認したい。(公開日時 / 実装変更と修正前後の記録)

Written by

柿添貴士(TakashiKakizoe) profile photo

柿添貴士(TakashiKakizoe)

Webエンジニア/テックリード

Fukuoka, Japan

  • PHP
  • Laravel
  • Next.js
  • AWS
  • Cloudflare
  • AI Agent