# 生成AIとは — 基盤モデルがコンテンツを生成する仕組みと限界

> 生成AIが作るのは、学習データと入力をもとにした候補です。AI・機械学習・基盤モデル・LLMとの違いと、Webシステムでの責任範囲を分けて考えます。

Canonical URL: https://labs.eastbraver.com/guides/generative-ai
Published: 2026-07-01
Updated: 2026-07-24
Category: field-guide
Tags: llm-inference, frontier-model, safety

生成AIは、入力された指示やデータをもとに、文章・画像・音声・動画・コードといった新しいコンテンツを生成するAIシステムです。

文章も画像もコードも作れる。何でもできるように見えるぶん、どこまでを生成AIと呼ぶのか分かりづらい気がします。

ここでいう「生成」は、何もないところから事実を見つける、という話ではありません。学習データのパターンと、利用時に渡した入力をもとに出力を組み立てています。

自然な文章や精密な画像が返ってきても、中身まで正しいとは限りません。**生成できることと、事実・権限・業務ルールを保証できることは別**です。

## まずは近い言葉を分けて考える

まず、近い言葉を同じ意味で使わないところから始めます。

| 用語 | 主な意味 | 生成AIとの関係 |
| --- | --- | --- |
| AI | 認識・予測・推論・生成などを機械で扱う広い領域 | 生成AIを含む |
| 機械学習 | データから規則や表現を学習する手法 | 生成AIの構築に使われる |
| Deep Learning | 多層のNeural Networkを使う機械学習 | 現在の生成モデルの基盤になることが多い |
| Foundation Model | 広いデータで学習し、複数用途へ適応できるモデル | 生成AIの中核として使われる場合がある |
| LLM | 言語を主に扱う大規模モデル | 文章・コード生成に使われる |
| 生成AIアプリケーション | モデル、UI、検索、Tool、Policyを組み合わせた製品 | 生成モデルをシステムとして利用する |

[Foundation Modelに関する論文](https://arxiv.org/abs/2108.07258)では、広いデータで学習し、さまざまな下流タスクへ適応するモデルを Foundation Model として整理しています。すべての Foundation Model が文章生成を中心にしているわけではないので、生成AIとまったく同じ意味ではありません。

[LLM](/guides/llm)は、生成AIを実現するモデルのひとつです。画像生成モデルや音声生成モデルまで含めると、生成AIのほうが広い分類になります。

## モデルが返すのは確率的に選ばれた候補

生成モデルは、データベースから正解をひとつ取り出しているわけではありません。学習した分布をもとに、次の Token や画像表現の候補を作ります。

[GPT-3の論文](https://arxiv.org/abs/2005.14165)が示したように、言語モデルは Instruction や少数の例を入力に含めることで、追加学習を行わずに複数のタスクへ適応できます。ただ、指示に従えることと、返ってきた内容が正しいことは別の話です。

### Generative AIの生成と検証

Foundation modelはTraining dataで形成され、実行時のPromptとContextに応じてGenerated outputを返します。Application validationが出力を検査してからUserまたはExternal systemへ渡すため、Model出力をそのまま実行結果にしません。

- Training dataからFoundation modelを構築します。
- PromptとContextをModelへ渡してGenerated outputを得ます。
- Applicationが出力を検証し、UserまたはExternal systemへ渡します。

*Training dataとPromptから生成しApplicationで検証する流れ*

だから、生成AIを組み込むなら、モデルの出力後に Validation や Policy を置きます。モデルの返答を、そのまま業務データとして確定させたくないためです。

## Webシステムではモデルの外側まで設計する

Webエンジニアが組み込むのは、モデル単体ではありません。

- 利用者から入力を受け取るUI
- [PromptとInstruction](/guides/prompt-and-instruction)
- 会話履歴や検索結果を含むContext
- Model API への Request と Response
- 出力の Schema validation
- 認証・認可・監査ログ
- 誤りや拒否を扱うFallback
- 品質・費用・レイテンシの評価

同じモデルを使っても、この外側の作り方で安全性と使い勝手は大きく変わります。「どのモデルを採用するか」だけ決めても、製品として必要な設計はほとんど終わっていません。

## いつものWebリスクに生成AI固有のリスクが増える

[NIST AI 600-1](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)では、生成AIのリスクとして Confabulation・情報セキュリティ・プライバシー・知的財産・Human-AI Configuration などが整理されています。

生成AIを入れても、いつもの Web セキュリティが消えるわけではありません。入力検証・認証・認可・秘密情報管理・依存先障害への対応は、そのまま残ります。そこへ、もっともらしい誤情報・[Prompt Injection](/guides/prompt-injection)・学習データや入力データの扱い・モデル更新による出力変化が加わります。

## よくある誤解を切り分ける

### 生成AIはインターネットを検索して答えている

モデル単体が、Request のたびに Web を検索しているとは限りません。検索できるサービスでは、外部検索や Tool をアプリケーション側で組み合わせています。

### 生成された内容は学習データのコピーである

生成は通常、入力と学習したパターンをもとに行われます。ただし、記憶した表現の再現や、著作権・個人情報・ライセンスの問題が消えるわけではありません。利用する前に、用途と提供者の条件を確認しておきたいです。

### 文章が自然なら内容も正しい

自然さと事実性は別の評価軸です。根拠が必要なら、参照元を取得して出典を表示し、重要な判断は外部データや人間でも確認します。

### 生成AIを導入すればAI Agentになる

一度の入力に対して出力を返すだけでも、生成AIです。[AI Agent](/guides/ai-agent)は、目標に応じて [Tool](/guides/tool) を選び、結果を見ながら処理を続ける実行ループまで含みます。

## EastBraver Labsでは正解を返す部品として扱わない

EastBraver Labsでは、生成AIを **確率的な候補を作る部品** として扱います。正解を返してくれる前提には置きません。

曖昧な入力を解釈したり、文章の下書きを作ったり、候補を整理したりするところでは使います。反対に、金額計算・権限判定・データ整合性・取り消せない更新は、コードと Policy で確定させます。ここはモデル任せにしません。

モデルの性能だけで、採用を決めることはありません。対象業務の評価セットで、品質・レイテンシ・費用・失敗したときの影響を比較します。

間違いを検知できて、影響を狭くできる構成を選びます。

## 関連記事

- [AI Agent 時代に、エンジニアは何を設計する人になるのか](/blog/ai-development-20260706)
- [低コストAIモデル競争が加速](/digest/ai-digest-20260701)
- [モデル運用の選択肢が広がる](/digest/ai-digest-20260707)

## 検証範囲

- 一次情報: 公式ドキュメント / 研究論文 / 設計面からの分析
- ローカル検証: 概念を整理するGuideなので、コードは動かしていません
- 実運用: 本番運用の実績については、このGuideでは触れていません

## 変更履歴

- 2026-07-24: Mermaid図にテキスト等価物を追加
- 2026-07-15: 検証範囲を追加し本文表現と判断基準を更新
- 2026-07-01: 初版公開