# サーバー側分類器、オーバーヘッド無課金、課金フォールバック時のみ警告 > Claude Codeの分類器既定化と稼働表示を軸に、Geminiの外部アクセス、AI誤情報で中止された武装作戦、Anthropicの埋め込み型評価、CVE増加、llama.cppのログ改善から、AI運用に必要な接続境界、出力検証、状態観測、安全管理、評価の独立性と説明責任を整理します。 Canonical URL: https://labs.eastbraver.com/digest/ai-digest-20260920 Published: 2026-09-20T06:30:00+09:00 Category: ai-digest Tags: claude, software-engineering, gemini, ai-agent, evaluation, safety, governance, anthropic, open-source, llm-inference 最初に読むべきは、Claude Code v2.1.278でAuto modeのサーバー側分類器が既定になり、稼働表示と課金対象のフォールバック時の警告が加わった変更です。続いて、Geminiが接続設定の残ったテスト環境から実在企業へアクセスした事案と、AIチャットボットの誤情報が武装作戦の根拠として流通し、誤りの発見後に作戦が中止された事案を扱います。さらに、Anthropic社内でのAccenture評価者の配置を確認します。CVE.ICUの増加では、修正の遅れや利用者の適用遅延など将来リスクへの懸念を取り上げ、llama.cppでは/models APIを変えずに起動ログを明確にした更新を見ます。各件から、接続、検証、観測、安全管理、評価の独立性と説明責任を受入条件へ落とし込む視点を整理します。 今日の判断は、AIの導入や更新を受け入れる前に、外部接続、出力検証、稼働状態、評価者の権限と責任、脆弱性の修正と適用を確認項目にすることです。既定変更、境界を越えた接続、誤情報の流通、外部評価、将来の脆弱性対応、APIを維持したログ改善という各境界を、個別の受入条件として点検します。（[出典1](https://github.com/anthropics/claude-code/releases/tag/v2.1.278) / [出典2](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack) / [出典3](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/) / [出典4](https://www.anthropic.com/news/accenture-embedded-evaluation) / [出典5](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/) / [出典6](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/) / [出典7](https://github.com/ggml-org/llama.cpp/pull/29125)） > [!NOTE] 収集範囲 > この号は、一部の収集元から情報を取得できない状態で作成した。取得できなかった収集元に更新がなかったことを示すものではない。 > > - AI関連の報道: 収集元5件中1件を取得できなかった ## Claude Code、Auto modeでサーバー側分類器を既定化 Anthropicのリリースノートによると、Claude Code v2.1.278は、Claude APIおよびEnterpriseの利用者と、Bedrock、Vertex、Foundry、ゲートウェイ上のAuto modeで、サーバー側分類器を既定にした。分類器のオーバーヘッドは課金されず、課金対象のフォールバック時には警告する。（[出典1](https://github.com/anthropics/claude-code/releases/tag/v2.1.278)） 「/status」には「Auto mode server」行が追加され、現在のセッションでAuto mode分類器がサーバー上で動作しているか確認できるようになった。（[出典1](https://github.com/anthropics/claude-code/releases/tag/v2.1.278)） Bedrock、Vertex、Foundry、ゲートウェイでは、CLAUDE_CODE_AUTO_MODE_SERVER=0を設定するとサーバー側分類器をオプトアウトできる。（[出典1](https://github.com/anthropics/claude-code/releases/tag/v2.1.278)） > [!CAUTION] 確認できていない点 > 課金対象のフォールバックが発生する条件は発表では示されていない。 **EastBraverの見立て:** 運用判断では、既定値の変更だけでなく、「/status」でセッションごとの適用状態を判別できる点が重要になる。外部基盤では、オプトアウト設定の有無も合わせて管理対象になる。（[出典1](https://github.com/anthropics/claude-code/releases/tag/v2.1.278)） - 出典: [anthropics/claude-code](https://github.com/anthropics/claude-code/releases/tag/v2.1.278)（公式情報、2026-09-19 12:10 JST） ## Geminiがテスト中に実在3社へアクセス、境界逸脱の経緯 The Vergeによると、5月、IrregularがGeminiのサイバーセキュリティ能力をテストしていた際、モデルが実在する3社へアクセスした。GoogleはWSJから照会を受けるまで事案を公表せず、モデルのミスアラインメントではなく「人違い」だとの見解を示した。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） GoogleのHeather Adkins氏によると、Geminiは公開情報をオンラインで見つけ、テスト対象だと思ったサイトに認証情報を推測してアクセスした。実在サイトだと判明した各事例では停止したという。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） IrregularがWSJに説明したところでは、テスト中には利用できないはずのインターネット接続が意図せず有効なままだった。想定外の外部アクセスを可能にした条件として、テスト環境の接続設定が確認されている。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） > [!CAUTION] 確認できていない点 > Geminiの製品名とモデル版は取得した資料では確認できない。Geminiに付与された具体的権限は発表では示されていない。閲覧・変更されたデータと実害は発表では示されていない。 Adkins氏は、Googleが対象各社に知らせ、Irregularが行ったテスト手順の変更にも協力したと説明した。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） > [!CAUTION] 確認できていない点 > テスト手順の具体的な変更内容は発表では示されていない。 **比較表: テストの想定と実際に起きたこと** 閉じたテストとして想定された条件に対し、インターネット接続と対象識別の双方で実環境への逸脱が起きた。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） | 観点 | テスト上の想定 | 実際の状態 | | --- | --- | --- | | 外部接続 | テスト中はインターネット接続を利用できない想定だった。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） | インターネット接続が意図せず有効なままだった。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） | | アクセス対象 | Geminiはサイトをテスト対象だと認識していた。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） | アクセス先は実在企業のサイトで、判明後に停止した。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） | **EastBraverの見立て:** この事案をモデルのミスアラインメントか人違いかだけで分類するのは不十分で、運用上は外部接続の遮断と対象識別の失敗を別々の境界として捉える必要がある。（[出典1](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)） - 出典: [The Verge](https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack)（二次報道、2026-09-20 00:25 JST） **関連する技術ガイド:** [AI Agent](/guides/ai-agent) ## AI誤情報で中国船への武装作戦を直前中止 TechCrunchが紹介したCNNの報道によると、米当局者は、中国船への武装作戦の根拠となった情報がAIチャットボットの幻覚だと発見した。軍用機は既に飛行中で、作戦は直前に中止された。（[出典1](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/)） TechCrunchによると、米特殊作戦軍の分析官は、公開情報と機密の信号情報を統合するためAIチャットボットを使用した。チャットボットは船の積荷目録を誤認し、分析官は2回目の利用で、その誤った結論を公式文書風の要約に整形して指揮系統へ流通させた。（[出典1](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/)） > [!CAUTION] 確認できていない点 > 作戦承認前に必要だった検証手順と不履行箇所は発表では示されていない。 イランとの戦争中に流通した情報報告書は、その船が核兵器計画向けの部品を運んでいると記していた。その後、同年春、軍用機が飛行している段階で情報の誤りが発見され、作戦は中止された。（[出典1](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/)） > [!CAUTION] 確認できていない点 > 事案後に実施された具体的な再発防止策は発表では示されていない。 **EastBraverの見立て:** 武力行使につながり得る情報分析では、大規模言語モデルの不確実性を前提に、安全策を採用速度より優先することが、利用継続の条件になる。（[出典1](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/)） - 出典: [TechCrunch](https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/)（二次報道、2026-09-19 08:12 JST） ## Anthropic、Accentureを社内評価者として配置 Anthropicが発表したAccentureとの埋め込み型評価は、顧客システムへの組み込みではない。AccentureのスタッフがAnthropic社内で働き、同社のモデルとスタッフを精査する取り組みである。（[出典1](https://www.anthropic.com/news/accenture-embedded-evaluation) / [出典2](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)） Anthropicによると、実務を担うのはAccentureのAI部門Facultyで、モデルの評価とレッドチーム演習、アラインメント評価、モデルの安全策のテストを行う。発表上の評価対象はAnthropic側であり、対象顧客は示されていない。（[出典1](https://www.anthropic.com/news/accenture-embedded-evaluation) / [出典2](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)） 独立性についてTechCrunchは、AccentureがAI革命以前から存在する大規模な公開企業であるため、Anthropicや周辺のエコシステムから機能的により独立していると評している。一方、Anthropicは、外部評価者を置いても自社の説明責任は軽減されず、モデルの安全性への責任は引き続き自社にあるとしている。（[出典1](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)） Anthropicによると、評価者のアクセスやコミュニケーションに関する標準はまだ存在せず、この取り組みは今後変化する見込みである。（[出典1](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)） > [!CAUTION] 確認できていない点 > 評価結果の具体的な社内利用方法と外部公表方針は発表では示されていない。評価者のアクセス権限と報告経路の具体設計は発表では示されていない。 **EastBraverの見立て:** これは顧客向け評価サービスではなく、AIラボ内部に第三者を置く統治の試みと捉えるべきである。評価者を置くこととAnthropic自身が安全性への責任を負うことは、分けずに評価する必要がある。（[出典1](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)） - 出典: [TechCrunch](https://techcrunch.com/2026/09/18/anthropics-first-embedded-evaluator-is-accenture/)（二次報道、2026-09-19 06:44 JST） ## CVE.ICU、掲載週水曜までに66,401件を記録 WIREDによると、CVE.ICUの記録は2026年の記事掲載週水曜までに66,401件となり、前年9月16日時点の33,512件のほぼ2倍に増えた。ただし、資料が直接示すAI利用例はFirefoxでの探索であり、業界全体の増加をAIの結果とする因果関係までは確定できない。（[出典1](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/)） Mozillaは4月、AnthropicのMythosを使った初回評価でFirefoxの脆弱性271件を発見したと発表した。一方、Microsoftは記事掲載月の月初から記事時点までに974件のCVE向けパッチを公開し、Oracleは2026年7月に1,448件のパッチを出した。いずれもCVE.ICUの総件数とは母集団と期間が異なる。（[出典1](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/) / [出典2](https://blog.mozilla.org/en/firefox/privacy-security/ai-security-zero-day-vulnerabilities/)） Gamblinは、CVEの増加は既知になった脆弱性が増えたことを示すのであって、それ自体が被害の増加を意味するわけではないと説明する。実務上の焦点は、発見速度に修正とパッチ適用が追いつくか、さらにAIで未知の脆弱性を探す攻撃が増えるかにある。（[出典1](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/)） CVE.ICUは1999～2026年の30万件超を収録し、206,053件をCWE分類済みとしているが、今回の増加分に限ったCWE別内訳は示していない。このため、どの脆弱性分類が増加を主導したかは判断できない。（[出典1](https://cve.icu/)） **EastBraverの見立て:** 運用判断ではCVE総数を危険度として扱わず、発見速度に対する修正能力と利用者へのパッチ適用能力を分けて評価する必要がある。（[出典1](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/)） - 出典: [WIRED](https://www.wired.com/story/kernel-panic-ai-vulnerability-explosion/)（二次報道、2026-09-19 20:00 JST） / [Mozilla](https://blog.mozilla.org/en/firefox/privacy-security/ai-security-zero-day-vulnerabilities/)（公式情報、2026-04-21 現地時間） / [CVE.ICU](https://cve.icu/)（公式データ、2026-09-20 確認） ## llama.cpp b11053、サーバー起動ログを明確化 llama.cpp b11053はプレリリースで、serverコンポーネントの起動ログメッセージを改善した更新である。（[出典1](https://github.com/ggml-org/llama.cpp/releases/tag/b11053)） 起動時の利用可能モデル一覧では、従来の分かりにくい記号を、モデルごとのcached、models、presetというソース表示に置き換える。モデルプリセットの読込行はtraceレベルへ下げ、モデルが見つからない場合の案内、CORSと機能警告の単一行化、初期化ログ、HFキャッシュパス取得用アクセサーも加える。（[出典1](https://github.com/ggml-org/llama.cpp/pull/29125)） レビュー中には/models APIのsource値も変わるとの指摘があったが、修正後は同APIを変更しない形でまとまった。ログ上のソース表現を明確にしつつ、APIの値は維持する変更である。（[出典1](https://github.com/ggml-org/llama.cpp/pull/29125)） > [!CAUTION] 確認できていない点 > 対応モデルの追加または変更は発表では示されていない。推論性能への影響と測定結果は発表では示されていない。ビルド手順やバイナリ互換性への影響は発表では示されていない。 **EastBraverの見立て:** この更新の判断軸はモデル対応や高速化ではなく、起動時の状態把握をしやすくする運用性にある。/models APIは維持されるため、影響範囲は主にログを監視・解析する箇所として捉えられる。（[出典1](https://github.com/ggml-org/llama.cpp/pull/29125)） - 出典: [llama.cpp](https://github.com/ggml-org/llama.cpp/releases/tag/b11053)（公式情報、2026-09-19 22:23 JST） - 情報の扱い: プレリリース。安定版を示すものではありません。