AI事業者ガイドライン第1.2版の変更点

1. イントロダクション

総務省・経済産業省の「AI事業者ガイドライン」が、第1.1版から第1.2版に改定されました。

今回の改定は、単なる文言修正や参照リンクの更新にとどまりません。全体としては、生成AIの利用一般を念頭に置いた説明から一歩進み、AIエージェント、フィジカルAI、RAG、API連携、外部システム操作、AIガバナンスの実践事例など、より実装・運用に近い論点が追加・整理されています。

特に重要な変更点は、次のとおりです。

• AI法、政府・自治体向けAI関連ガイドラインなど、国内制度・政策動向が反映された
• 「学習」「推論」「AIエージェント」「フィジカルAI」など、AIの利用実態に合わせた用語整理が追加された
• AIエージェントやフィジカルAIによる便益・リスク、AIシステム・サービス例が追加された
• RAG、ガードレール、プロンプトの安全設計、ログの記録・管理など、実務上の管理項目が具体化された
• AI開発者・AI提供者・AI利用者の主体区分について、事後学習、API、RAG、コード生成AIなどを踏まえた整理が進んだ
• 活用の手引き（案）やチャットボットなど、ガイドラインを実務で使いやすくするための補助資料・ツールが用意された
• 企業事例が、リスク分析、組織体制、内部統制、GRCツール、ISO/IEC 42001認証など、より運用寄りの内容に更新された

もっとも、第1.2版の改定を読むうえでは、過度に単純化しないことも重要です。

AI事業者ガイドラインは、非拘束的なソフトローであり、リスクベースアプローチを前提としています。つまり、利用目的、想定されるリスク、AIシステムへの関与の仕方に応じて、必要な管理策を検討することが基本です。

その意味で第1.2版は、全事業者に同じ対応を求める文書というより、自社のAI活用を棚卸しし、AIが接続するシステム・データ・権限・外部APIを把握したうえで、リスクの高い箇所から管理を具体化するための参照文書と位置づけるのが適切です。

2. AI事業者ガイドラインとは

AI事業者ガイドラインは、AIを開発・提供・利用する事業者が、安全安心なAI活用を進めるために参照するガイドラインです。

従来、総務省は「AI開発ガイドライン」や「AI利活用ガイドライン」を、経済産業省は「AI原則実践のためのガバナンス・ガイドライン」を策定していました。AI事業者ガイドラインは、これらを統合・見直し、2024年4月に策定されたものです。

特徴は、法律のように細かな行為義務を定めるのではなく、事業者が自主的にAIガバナンスを構築するための方向性を示している点です。AI技術は変化が速く、利用形態も多様であるため、一律のルールではなく、リスクの大きさに応じて必要な対策を選ぶリスクベースアプローチが重視されています。

対象となる主体は、次の3つです。

主体	概要
AI開発者	AIモデル、アルゴリズム、データ処理、AIシステム基盤などを開発する事業者
AI提供者	AIシステムをアプリケーション、製品、既存システム、業務プロセス等に組み込み、AIシステム・サービスとして提供する事業者
AI利用者	事業活動においてAIシステム・サービスを利用する事業者

同じ企業が複数の立場を兼ねることもあります。たとえば、外部の生成AI APIを使って自社サービスを構築し、それを顧客に提供する企業は、AI利用者であると同時にAI提供者にもなり得ます。自社でモデル調整やAIシステム開発まで行う場合には、AI開発者としての側面も生じ得ます。

また、ガイドラインでは、AI開発者・AI提供者・AI利用者が共通して意識すべき指針として、「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」「アカウンタビリティ」「教育・リテラシー」「公正競争確保」「イノベーション」の10項目が整理されています。

3. 第1.1版から第1.2版への主な変更点

3.1 国内制度・政策動向の反映

第1.2版では、AIに関する国内制度・政策動向が反映されています。

本文では、「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）の公布・施行や、同法第13条に基づく「人工知能関連技術の研究開発及び活用の適正性確保に関する指針」が追記されています。また、デジタル庁の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」や、総務省の「自治体におけるAI活用・導入ガイドブック」も参照されています。

これにより、AI事業者ガイドラインは、単独の自主ガイドラインというより、AI法、AI基本計画、政府調達、自治体利用、AIセキュリティなどの周辺文書と接続される位置づけが強まりました。

3.2 用語・データ概念の整理

第1.2版では、「学習」と「推論」の説明が追加されました。

「学習」は、データを用いてAIモデルのパラメータを決定または改善するプロセスとして整理されています。ここには、事前学習だけでなく、特定用途に適応させるための事後学習も含まれます。

一方、「推論」は、学習済みモデルに未知のデータを与え、予測・分類・生成などの出力を得るプロセスとして整理されています。推論では、ユーザーが入力するプロンプトやセンサからの取得データに加え、RAGなどを介して外部知識を補完した情報も用いられます。

この整理により、自社のAI活用が「学習」「事後学習」「推論」「RAGを用いた情報補完」のどこに当たるのかを説明しやすくなりました。AIガバナンス上は、どのデータを、どの段階で、誰が管理しているのかを切り分けることが重要になります。

3.3 AIエージェント・フィジカルAIへの対応

第1.2版で最も目立つ変更の一つが、AIエージェントとフィジカルAIへの対応です。

本文では、AIエージェントが「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」として整理されています。また、フィジカルAIは、センサ等を通じて物理環境の情報を取り込み、AIモデルによる処理を経て、アクチュエータ等を介して現実世界に働きかけるシステムとして説明されています。

別添では、AIシステム・サービス例も拡充されています。従来の採用AI、無人コンビニ、がん診断AI、不良品検知AI、対話型AI社内導入などに加えて、社内ナレッジ検索支援AI、プログラミング支援AI、売上予測AI、AIエージェント作成サービス、旅行先提案・予約AIエージェント、営業・CS支援AIエージェント、自動運転システム、自律移動ロボットなどが追加されています。

これにより、AIのリスクは「AIが誤った回答をする」だけではなく、「AIが誤った判断にもとづいて外部システムを操作する」「AIが人間の意図しない注文・予約・送信を行う」「AIが物理環境に働きかけ、人の身体・財産に影響を与える」といった方向に広がっていることが示されています。

3.4 便益・リスクの記載が更新された

第1.2版では、リスクだけでなく便益の記載も更新されています。

AIエージェントについては、複数システムと連携しながら自律的に行動することにより、調整、分析、意思決定、タスク実行などの業務効率化が期待されています。フィジカルAIについては、物理環境での自律的行動による、労働力不足の補完、安全性向上、介護・生活支援等の便益が追加されています。

一方、リスク例も実務に近い形で更新されています。AIエージェントでは、自律的な行動により人間が意図しない操作を行うリスクが挙げられています。マルチモーダルAIでは、顔写真、音声、画像、映像などの情報を扱うことによるプライバシー侵害・情報漏洩リスクが重要になります。フィジカルAIでは、物理的な動作による身体・財産・環境への影響が問題になります。

また、ハルシネーション、AIへの過度依存、フィルターバブル、金銭的損失、資格等の侵害なども更新されています。特に、法律・医療など資格や業法が関係する領域では、生成AIの出力が無資格業務や不適切な助言に近づく可能性があるため、利用範囲や人間の確認体制を明確にする必要があります。

3.5 主体区分の整理：RAG、API、事後学習

第1.2版では、AI開発者・AI提供者・AI利用者の役割分担も具体化されています。

AI開発者については、AIモデル・システムの開発だけでなく、実運用後も、ドメイン知識の拡充、環境変化への対応、人間の意図や価値観に沿った行動を実現するための調整、すなわち事後学習を通じて性能を維持・改善する役割が追記されました。

また、API、コード生成AI、AIエージェント作成サービスなど、複数の主体が関与する例も整理されています。更新概要資料では、API仕様の定義等はAI開発者、APIコールの実装処理はAI提供者が担うものとして整理されています。また、RAGの導入はAI提供者の役割として整理されています。

ここで注意すべきなのは、「RAGを使えば必ずAI開発者になる」と読まないことです。RAGは、推論時に外部知識を補完する仕組みとして整理されています。したがって、RAGそのものは、モデルのパラメータを更新する学習とは異なる論点です。

ただし、RAGを組み込んだサービスを顧客に提供する場合には、AI提供者として、参照データの選定、前処理、チャンク化、ベクトルデータベース構築、アクセス制御、ログ管理などを適切に設計する必要があります。重要なのは、技術名だけで主体区分を決めるのではなく、自社がモデル、データ、アプリケーション、外部連携、運用のどこに責任を持っているかを確認することです。

3.6 ユーザビリティ改善と企業事例の更新

第1.2版に関連して、「AI事業者ガイドライン活用の手引き（案）」とチャットボットが用意されています。

活用の手引き（案）は、AIガバナンスの構築・実践をこれから始める方向けに、ガイドラインを活用する前提、最初に着手するとよいこと、実践時の参照方法や活用例を示すものです。チャットボットは、AI開発者・AI提供者・AI利用者が、自分の主体や確認したい事項に応じて、必要な情報へアクセスしやすくするための補助ツールです。

また、別添ではAIガバナンスの取組事例も更新・追加されています。NEC、東芝、富士通、ソフトバンク、NTT DATAの既存コラムが更新され、IBMとAmazon Web Servicesの事例が新規追加されました。

特に、リスク分析の体制・進め方、AI利用拡大に応じた組織体制の強化、ルール見直し、GRCツール、ISO/IEC 42001認証など、実装・運用に近い記述が厚くなっています。これは、AIガバナンスが理念やポリシー策定にとどまらず、実際の管理プロセスや組織運営に落ちてきていることを示しています。

4. 第1.2版を踏まえた実務上の重要ポイント

ここからは、公式の変更点そのものではなく、第1.2版を実務で読む際のポイントを整理します。

4.1 まずAI活用の棚卸を行う

第1.2版を実務に落とす第一歩は、自社のAI活用を棚卸しすることです。

少なくとも、次の点は確認しておく必要があります。

• どの業務・システムでAIを利用しているか
• 自社はAI開発者・AI提供者・AI利用者のどれに該当するか
• AIが参照するデータは何か
• AIが呼び出せる外部APIやツールは何か
• AIが実行できる操作は何か
• 顧客、従業員、業務外利用者にどのような影響があるか
• ログ、説明責任、インシデント対応の流れが決まっているか

特にAIエージェントやRAGを利用している場合は、AIがどのデータにアクセスし、どの権限で、どのシステムを操作できるのかを明確にすることが重要です。

4.2 人間の関与は「一律」ではなく「リスクに応じて」設計する

第1.2版では、人間の判断を介在させる仕組みが重視されています。ただし、すべてのAI利用に同じ水準のHuman-in-the-Loopを求めるものではありません。

社内文書の要約と、顧客宛メールの自動送信、決済、契約締結、ロボットの物理操作では、必要な管理水準は異なります。重要なのは、AIにどの操作を許可するか、どの操作は人間承認を必要とするか、どの操作はそもそも許可しないかを、業務影響とリスクに応じて設計することです。

形式的に承認ボタンを置くだけでは不十分です。人間が実効的に判断するためには、AIが参照したデータ、提案内容、操作結果、影響範囲、例外時の対応が分かる必要があります。

4.3 従来のセキュリティ対策に加え、AI特有の観点を確認する

第1.2版では、AIセキュリティ関連の記載も更新されています。ただし、「AIセキュリティは情報セキュリティとは別物」と言い切るより、従来のセキュリティ対策に加えて、AIモデル、データ、推論、RAG、ツール連携に関する観点を確認する、と捉える方が正確です。

たとえば、モデルポイズニング、回避攻撃、モデル抽出、訓練データに関する情報漏洩、RAGで参照するデータの取扱い、AIエージェントのツール権限、ログ管理などは、従来型の情報セキュリティだけでは見落としやすい論点です。

既存のISMSや情報セキュリティ管理体制に、AI固有の攻撃面や運用上の留意点を追加していくことが現実的な対応になります。

4.4 すべてを一律に実施するのではなく、優先順位をつける

第1.2版の追加項目を、全社一律のチェックリストとして扱うべきではありません。

社内文書の要約に限定した低リスク用途と、顧客向けAIエージェントが外部システムを操作する用途では、必要な管理水準は大きく異なります。前者に過剰な管理を課せばAI活用が進まず、後者に軽い管理しか課さなければ重大なインシデントにつながります。

第1.2版は、対応項目を増やすための資料というより、自社のAI利用を棚卸しし、リスクの大きい箇所から優先的にガバナンスを設計するための参照資料として使うべきです。

5. まとめ

AI事業者ガイドライン第1.2版は、AI活用の現実が大きく変化していることを反映した改定です。

第1.1版の時点でも、生成AIのリスクやAIガバナンスの重要性は示されていました。しかし第1.2版では、AIエージェント、フィジカルAI、RAG、外部システム連携、事後学習、AIセキュリティ、活用支援ツール、企業の実践事例などが追加・更新され、より実務に近い内容になっています。

企業に求められるのは、ガイドラインを形式的に読むことではありません。自社のAI活用の実態を把握し、どのリスクが重要で、どの対策を優先すべきかを判断することです。

AIが業務システム、顧客接点、外部API、物理環境にまで接続されるようになるほど、AIガバナンスはAI部門だけの話ではなくなります。経営、法務、情報セキュリティ、開発、事業部門、リスク管理部門が連携し、AIの便益とリスクを同時に管理する体制を整えることが、第1.2版以降の重要テーマになるでしょう。

同じカテゴリーの記事