生成AIは、入力された指示やデータをもとに、文章・画像・音声・動画・コードといった新しいコンテンツを生成するAIシステムです。
文章も画像もコードも作れる。何でもできるように見えるぶん、どこまでを生成AIと呼ぶのか分かりづらい気がします。
ここでいう「生成」は、何もないところから事実を見つける、という話ではありません。学習データのパターンと、利用時に渡した入力をもとに出力を組み立てています。
自然な文章や精密な画像が返ってきても、中身まで正しいとは限りません。生成できることと、事実・権限・業務ルールを保証できることは別です。
まずは近い言葉を分けて考える
まず、近い言葉を同じ意味で使わないところから始めます。
| 用語 | 主な意味 | 生成AIとの関係 |
|---|---|---|
| AI | 認識・予測・推論・生成などを機械で扱う広い領域 | 生成AIを含む |
| 機械学習 | データから規則や表現を学習する手法 | 生成AIの構築に使われる |
| Deep Learning | 多層のNeural Networkを使う機械学習 | 現在の生成モデルの基盤になることが多い |
| Foundation Model | 広いデータで学習し、複数用途へ適応できるモデル | 生成AIの中核として使われる場合がある |
| LLM | 言語を主に扱う大規模モデル | 文章・コード生成に使われる |
| 生成AIアプリケーション | モデル、UI、検索、Tool、Policyを組み合わせた製品 | 生成モデルをシステムとして利用する |
Foundation Modelに関する論文では、広いデータで学習し、さまざまな下流タスクへ適応するモデルを Foundation Model として整理しています。すべての Foundation Model が文章生成を中心にしているわけではないので、生成AIとまったく同じ意味ではありません。
LLMは、生成AIを実現するモデルのひとつです。画像生成モデルや音声生成モデルまで含めると、生成AIのほうが広い分類になります。
モデルが返すのは確率的に選ばれた候補
生成モデルは、データベースから正解をひとつ取り出しているわけではありません。学習した分布をもとに、次の Token や画像表現の候補を作ります。
GPT-3の論文が示したように、言語モデルは Instruction や少数の例を入力に含めることで、追加学習を行わずに複数のタスクへ適応できます。ただ、指示に従えることと、返ってきた内容が正しいことは別の話です。
Foundation modelはTraining dataで形成され、実行時のPromptとContextに応じてGenerated outputを返します。Application validationが出力を検査してからUserまたはExternal systemへ渡すため、Model出力をそのまま実行結果にしません。
- Training dataからFoundation modelを構築します。
- PromptとContextをModelへ渡してGenerated outputを得ます。
- Applicationが出力を検証し、UserまたはExternal systemへ渡します。
だから、生成AIを組み込むなら、モデルの出力後に Validation や Policy を置きます。モデルの返答を、そのまま業務データとして確定させたくないためです。
Webシステムではモデルの外側まで設計する
Webエンジニアが組み込むのは、モデル単体ではありません。
- 利用者から入力を受け取るUI
- PromptとInstruction
- 会話履歴や検索結果を含むContext
- Model API への Request と Response
- 出力の Schema validation
- 認証・認可・監査ログ
- 誤りや拒否を扱うFallback
- 品質・費用・レイテンシの評価
同じモデルを使っても、この外側の作り方で安全性と使い勝手は大きく変わります。「どのモデルを採用するか」だけ決めても、製品として必要な設計はほとんど終わっていません。
いつものWebリスクに生成AI固有のリスクが増える
NIST AI 600-1では、生成AIのリスクとして Confabulation・情報セキュリティ・プライバシー・知的財産・Human-AI Configuration などが整理されています。
生成AIを入れても、いつもの Web セキュリティが消えるわけではありません。入力検証・認証・認可・秘密情報管理・依存先障害への対応は、そのまま残ります。そこへ、もっともらしい誤情報・Prompt Injection・学習データや入力データの扱い・モデル更新による出力変化が加わります。
よくある誤解を切り分ける
生成AIはインターネットを検索して答えている
モデル単体が、Request のたびに Web を検索しているとは限りません。検索できるサービスでは、外部検索や Tool をアプリケーション側で組み合わせています。
生成された内容は学習データのコピーである
生成は通常、入力と学習したパターンをもとに行われます。ただし、記憶した表現の再現や、著作権・個人情報・ライセンスの問題が消えるわけではありません。利用する前に、用途と提供者の条件を確認しておきたいです。
文章が自然なら内容も正しい
自然さと事実性は別の評価軸です。根拠が必要なら、参照元を取得して出典を表示し、重要な判断は外部データや人間でも確認します。
生成AIを導入すればAI Agentになる
一度の入力に対して出力を返すだけでも、生成AIです。AI Agentは、目標に応じて Tool を選び、結果を見ながら処理を続ける実行ループまで含みます。
EastBraver Labsでは正解を返す部品として扱わない
EastBraver Labsでは、生成AIを 確率的な候補を作る部品 として扱います。正解を返してくれる前提には置きません。
曖昧な入力を解釈したり、文章の下書きを作ったり、候補を整理したりするところでは使います。反対に、金額計算・権限判定・データ整合性・取り消せない更新は、コードと Policy で確定させます。ここはモデル任せにしません。
モデルの性能だけで、採用を決めることはありません。対象業務の評価セットで、品質・レイテンシ・費用・失敗したときの影響を比較します。
間違いを検知できて、影響を狭くできる構成を選びます。