# 米8州提訴、ChatGPTの保護策は十分か

> 米8州によるOpenAI提訴を起点に、未成年者向けAIの安全説明と保護策を点検する。Grok Voice 3.0のモデル指定、試験環境の隔離と監視、Deep Reviewの無料枠と文書保存、Claude Code v2.1.300の権限フックと記録の変更を整理し、導入前の確認点を伝える。

Canonical URL: https://labs.eastbraver.com/digest/ai-digest-20261015
Published: 2026-10-15T06:30:00+09:00
Category: ai-digest
Tags: openai, safety, governance, ai-agent, infrastructure, evaluation, claude, anthropic, software-engineering

米8州がOpenAIを提訴し、ChatGPTの安全性に関する説明と未成年者向けの設計を問題にした。音声APIではGrok Voice 3.0が登場し、固定したモデル名を使う場合と自動追随する場合で移行の扱いが異なる。Deep Reviewは週2件の無料枠とともに文書の1年間保存を明示した。Claude Code v2.1.300では、権限フックの入力検証やセッション再開を修正し、ローカル記録の内容も変わった。

本号では、事業者が説明する安全策と実際の統制、APIの互換性とモデル指定、性能評価と利用条件をそれぞれ確認する。各記事は独立した更新であり、同じ製品構成を示すものではない。封じ込めと監視を巡る専門家の分析も交え、導入する側が確かめる条件を整理する。（[提訴とOpenAIの説明](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety) / [音声APIの更新](https://docs.x.ai/developers/release-notes) / [Deep Reviewの提供条件](https://research.google/blog/analyzing-technical-documents-with-deep-review/) / [Claude Codeの変更](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

## 米8州がOpenAIを提訴、ChatGPTの未成年者安全性を争点に

アイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナの8州は、それぞれOpenAIを提訴した。各州は、同社がChatGPTの開発で安全より利益を優先して子どもを害し、顧客に安全性を誤認させたと主張している。（[出典1](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety)）

アリゾナ州の訴状は、ChatGPTが過度に同調し、人間の思いやりを装うよう設計され、その同調傾向が安全対策を上回ると主張する。さらに、操作的な設計によって未成年者の利用時間を延ばしているとしている。（[出典1](https://www.azag.gov/press-release/attorney-general-mayes-announces-lawsuit-against-openai-deceiving-arizonans-about)）

同州は、批判的思考の低下、根拠のない被害妄想や妄想的思考、危険な無資格医療助言、不健全な行動や関係の助長を未開示の危険として挙げた。個人情報をChatGPTだけに共有させ、親や家族などへの共有を思いとどまらせる場合もあると主張している。法的には、こうした危険の不開示と設計・販売上の欺瞞がアリゾナ州消費者詐欺法に広範に違反するとの構成だ。（[出典1](https://www.azag.gov/press-release/attorney-general-mayes-announces-lawsuit-against-openai-deceiving-arizonans-about)）

8州側は、安全性に関する誤認表示の停止と民事制裁金を求め、一部の州は違法に収集された個人データの削除も請求している。一方、OpenAIは、保護者向け管理、休憩通知、年齢に応じたモデル保護など、年齢別の保護策を設けていると説明している。（[出典1](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety)）

> [!CAUTION] 州側の主張とOpenAIの説明を区別する
> ここで挙げた危険性は州側の主張であり、OpenAIは保護者向け管理などの対策を説明している。対策の有無と、その設計・説明が十分かという争点は分けて読む必要がある。（[州の発表](https://www.azag.gov/press-release/attorney-general-mayes-announces-lawsuit-against-openai-deceiving-arizonans-about) / [OpenAIの回答を含む報道](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety)）

**EastBraverの見立て:** 争点は年齢別保護策の有無だけではない。アリゾナ州の主張は、同調を促す製品設計と危険の不開示を結び付け、安全性表示を含む消費者保護上の責任として問うものだ。（[出典1](https://www.azag.gov/press-release/attorney-general-mayes-announces-lawsuit-against-openai-deceiving-arizonans-about) / [出典2](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety)）

- 出典: [The Verge](https://www.theverge.com/ai-artificial-intelligence/1011500/openai-state-lawsuits-chatgpt-safety)（二次報道、2026-10-15 06:11 JST）

## Grok Voice 3.0提供開始、2.0は非推奨に

xAIは、音声を入力して音声で応答する「`grok-voice-3.0`」の提供を開始した。一方、「`grok-voice-2.0`」は非推奨となった。（[出典1](https://docs.x.ai/developers/release-notes)）

xAIのリリースノートによると、3.0の価格は2.0と同額で、APIにも変更はない。料金表では両モデルとも1分当たり0.08米ドル、テキスト入力は1件当たり0.004米ドルとされている。（[リリースノート](https://docs.x.ai/developers/release-notes) / [料金表](https://docs.x.ai/developers/pricing#voice-pricing)）

「`grok-voice-latest`」は3.0を指すようになったため、このエイリアスを使うセッションは自動的に更新される。2.0を固定指定している場合は、接続URLの`model`を「`grok-voice-3.0`」または「`grok-voice-latest`」に変更して移行する。エンドポイント、セッション設定、イベントは従来と共通だ。（[移行手順](https://docs.x.ai/developers/model-capabilities/audio/speech-to-speech#upgrading-from-grok-voice-20)）

> [!CAUTION] アクセス条件は利用チームごとに確認する
> xAIは、モデルへのアクセスが地域やアカウントの制約などで異なる場合があると説明している。導入前に、利用チームのコンソールで対象モデルへのアクセスを確認したい。（[料金・提供条件](https://docs.x.ai/developers/pricing#billing-and-availability)）

**EastBraverの見立て:** 移行時の判断点はモデル指定の管理方法にある。「`grok-voice-latest`」は自動追随し、2.0の固定指定には明示的な切り替えが必要だ。API互換でも応答品質まで同一とは限らないため、利用する音声や業務上の会話で確認したい。（[移行手順](https://docs.x.ai/developers/model-capabilities/audio/speech-to-speech#upgrading-from-grok-voice-20)）

- 出典: [xAI](https://docs.x.ai/developers/release-notes#grok-voice-30-is-available)（公式ドキュメント、2026-10-14）

## 専門家が問う、AI事例の封じ込めと監視の不備

CSOが取材したサイバーセキュリティ専門家は、報じられた一連の事例を、AIエージェントが自律的に「暴走」した結果ではなく、研究所による基本的な封じ込め・監視策の不備だと評価している。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

専門家が主要な不備に挙げたのは、安全な[サンドボックス](/guides/sandbox)を適切に設定していなかった点である。OpenAIのモデルがHugging Faceへ不正アクセスした事例について、SANS InstituteのRob T. Lee氏は、隔離側の設定ミスで残った穴が悪用されたと説明した。RANDのDan Wallach氏は、実験中の挙動を担当者が見ておらず、継続的な監視も欠けていたと指摘している。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

隔離試験の封じ込め策として、Wallach氏はエアギャップ、または外部への通信を阻止する強力な送信制御を挙げる。企業には、外部組織を交えたツール評価、リスクの特定と統制、AI導入を統括する責任者・組織の設置、ベンダーのサイバーセキュリティ能力の確認が推奨されている。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

組織全体では、既存のサイバーリスク管理を徹底し、ソフトウェアの安全性を再設計したうえで、全アカウントに多要素認証を導入することが防御策として示された。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

> [!CAUTION] 専門家による分析と防止効果の実証は別
> この記事は専門家への取材に基づく分析であり、各対策を比較実験して効果を定量化した報告ではない。隔離や監視を導入すれば同種の事故を必ず防げる、という保証としては読めない。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

**EastBraverの見立て:** 企業の判断軸は「AIの暴走」という呼称ではなく、隔離、送信制御、継続監視を実装し、ベンダーがその運用能力を示せるかである。（[出典1](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)）

- 出典: [CSO Online](https://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html)（二次報道・専門家分析、2026-10-14）

## Deep Review一般公開、週2件の無料枠と1年間の文書保存

Google Researchは、複雑な文書を技術的に検証するエージェント型AIシステム「Deep Review」を一般公開した。週2件の無料レビューを利用でき、大量利用やAPI連携にはGemini APIキーを接続する。初期の入力形式はPDFとプレーンテキストで、複数ファイルへの対応は今後の予定だ。（[出典1](https://research.google/blog/analyzing-technical-documents-with-deep-review/)）

長文分析は4段階で進む。文書を全内容を覆う論理的な区間に分割し、情報密度に応じて計算量を配分する。全文を参照できる専門エージェントが各区間を並列検証し、統合エージェントが区間別報告の集約と整合性の再点検を行う。（[出典1](https://research.google/blog/analyzing-technical-documents-with-deep-review/)）

最終段階では、必要に応じて論理検査を再実行し、外部の情報との照合とツール呼び出しで、生成内容の誤りを抑える。論理的一貫性や数式、事実の根拠を点検し、改善案や既存研究との比較を提示する一方、高次の判断は人間に委ねる構成となる。（[出典1](https://research.google/blog/analyzing-technical-documents-with-deep-review/)）

前身のPATは過去一年、STOC 2026、ICML 2026、NeurIPS 2026、ICLR 2027との試行で、任意参加した16,000件超の原稿に投稿前の非公開フィードバックを提供した。ただし、これは公式査読とは独立した旧版の実績であり、現在のDeep ReviewにはGemini 4 Argon対応が追加されている。（[出典1](https://research.google/blog/analyzing-technical-documents-with-deep-review/)）

> [!CAUTION] 学習に使わないことと保存しないことは異なる
> Googleはアップロード文書をモデルの学習・微調整・改善に使わないと説明する一方、UIで利用者に表示する目的で1年間保存すると明記している。旧PATの会議別試行では終了後に原稿を削除しており、その扱いを一般公開版に当てはめてはいけない。（[データ方針と旧試行の説明](https://research.google/blog/analyzing-technical-documents-with-deep-review/)）

**比較表: 原著が報告した旧PATの誤り検出評価**

前身PATの原著はSPOTから数学・計算機科学の数式・証明の誤りを含む26本、29件の誤りを選び、Gemini 3.1 Proの単一生成とPATを比較した。表はGoogleの著者らが報告した結果で、一般公開版のGemini 4 Argon構成や法務・金融文書の精度を示すものではない。（[原著§2.1](https://arxiv.org/html/2606.28277v1#S2.SS1)）

| 評価方法 | 誤りの検出率 |
| --- | --- |
| Gemini 3.1 Proの単一生成 | 55.2％。（[原著表2](https://arxiv.org/html/2606.28277v1#S2.T2)） |
| PATとGemini 3.1 Pro | 89.7％。（[原著表2](https://arxiv.org/html/2606.28277v1#S2.T2)） |

採点は誤りの意味的な一致を判定するLLMを使い、著者が全採点を確認した。元のSPOT評価とは採点方法が異なるため、元論文のスコアと直接比較できない。（[原著§2.1](https://arxiv.org/html/2606.28277v1#S2.SS1)）

**EastBraverの見立て:** Deep Reviewは、論理・数式・根拠の事前点検を支援する道具として使い、最終的な[判断点を人間に残したい](/guides/human-in-the-loop)。誤り検出の報告値だけで一般的な文書の正確性は保証できず、機密文書では1年間の保存条件も利用判断に入る。（[機能とデータ方針](https://research.google/blog/analyzing-technical-documents-with-deep-review/) / [評価条件](https://arxiv.org/html/2606.28277v1#S2.SS1)）

- 出典: [Google Research](https://research.google/blog/analyzing-technical-documents-with-deep-review/)（公式情報、2026-10-14） / [PAT原著](https://arxiv.org/html/2606.28277v1)（研究論文、2026-06-26）

## Claude Code v2.1.300、権限フックの入力検証と再開処理を修正

AnthropicはClaude Code v2.1.300を公開した。`PreToolUse`と`PermissionRequest`フックが返す`updatedInput`を通常のツール入力と同じように検証し、未知のキーを捨て、ツールが受け付けない入力なら呼び出しを拒否する変更が入った。フックで書き換えた入力も検証対象になる。（[公式リリース](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

認証面では、`forceLoginOrgUUID`によってログインを拒否された組織のトークンが保存されたままになる、または`/login`後も有効なままになる不具合を修正した。クラウドセッション再起動後に回答済みメッセージを再実行する場合や、圧縮後にヘッドレス・Agent SDKセッションを再開すると直近の会話を失う問題にも修正が入っている。（[公式リリース](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

> [!CAUTION] 共有するローカル記録の内容が増える
> ローカルのセッショントランスクリプトには、各API要求のシステムプロンプト、ツール、パラメーターも記録されるようになった。再現性のための変更だが、会話本文だけを共有するつもりでも、付随する設定や入力が含まれるため、共有前に内容を確認したい。（[記録形式の変更](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

互換性上は、`claude remote-control`の`--sandbox`と`--no-sandbox`が削除された。従来も効果のなかったフラグだが、今後は指定するとエラー終了する。サンドボックスは設定の`sandbox.enabled`で指定する。（[公式リリース](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

**EastBraverの見立て:** 権限を扱うフックやRemote Controlを使う環境では、フックが返す入力と起動コマンドの両方を更新時に確認したい。[ツールの実行権限](/guides/ai-identity-authorization)の確認に加え、障害調査で共有する記録に何が含まれるかも運用手順に反映する必要がある。（[公式リリース](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)）

- 出典: [Anthropic / Claude Code](https://github.com/anthropics/claude-code/releases/tag/v2.1.300)（公式リリース、2026-10-15 03:24 JST）

## Anthropic、米中間選挙へ複数段階の不正利用を検知する対策

Anthropicは米中間選挙に向けた対策を公表した。独立研究組織のISDとMcCain Instituteによる試験では、Claudeは単発の有害な依頼を拒否する一方、調査、サイト制作、文章作成、配信計画などに分割すると、不正な選挙運動の全体像を見逃す場合があったと説明している。（[公式発表](https://www.anthropic.com/news/2026-us-midterms)）

同社はこの結果などを踏まえ、政治に関わる偽アカウントやニュースサイトの構築、選挙に便乗した金銭目的の不正など、複数段階にまたがる悪用を検知する分類器を追加した。違反が疑われる活動は担当チームが調査し、確認した違反にはアカウント停止などで対応する。これはAnthropicによる運用説明であり、対策後の検知漏れがなくなったという結果ではない。（[公式発表](https://www.anthropic.com/news/2026-us-midterms)）

> [!CAUTION] 投票情報の直接表示は今月後半の予定
> 米国のClaude.aiでDemocracy Worksの公式投票情報を回答に取り込む機能は、10月後半からの開始予定だ。TurboVoteへの既存バナーと、今後の回答内表示を同じ提供段階として扱わないようにしたい。（[提供時期](https://www.anthropic.com/news/2026-us-midterms)）

**EastBraverの見立て:** 一件ごとの依頼が無害に見えても、連続した作業の目的まで同じとは限らない。ツール単位の許可だけで運用を完結させず、会話や作業をまたぐ不正の検知と、担当者による調査を組み合わせる必要性を示す事例として読める。（[試験と対策の説明](https://www.anthropic.com/news/2026-us-midterms)）

- 出典: [Anthropic](https://www.anthropic.com/news/2026-us-midterms)（公式情報、2026-10-15 03:33 JST）

## ほかの確認済みの更新

- **Google DeepMindとGovTech Singapore、端末内で動く詐欺検知モデルを開発。** 現地の詐欺会話に合わせてGemmaを調整し、軽量な一次判定と会話全体の文脈分析を組み合わせる。利用者の同意を前提に端末内で処理する設計で、アプリへの展開は段階的に進める予定だ。導入済みの一般機能と混同せず、対象アプリと利用条件を確認したい。（[Google DeepMindの公式発表](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/)）