第6回先進的AI利活用アドバイザリーボード

最終更新日:

概要

本委員会の概要は、先進的AI利活用アドバイザリーボードをご覧ください。

開催情報

日時：
令和8年（2026年）9月29日（火）11時00分から13時00分まで
場所：
庁議室・オンライン

議事次第

  • 1. 開会
  • 2. 議事
    • 1. 各府省庁生成AIシステム定期報告概要
    • 2. 第2回ワーキング・グループ実施報告
    • 3. 第3回ワーキング・グループ実施報告
    • 4. 我が国及び諸外国における生成AIに係る動向
    • 5. 柴山構成員からのご説明
    • 6. 行政の進化と革新のための生成AIの調達・利活用に係るガイドライン充実に向けた検討事項案
  • 3. 閉会

資料

参考資料

議事要旨

冒頭、塩崎デジタル副大臣から、AIの急速な発達に伴う社会や行政の在り方が大きな転換点を迎える中、AIの力を行政の進化と国民サービスの向上につなげていく指針となる本会議の重要性について発言があった。

（1）各府省庁生成AIシステム定期報告概要

事務局から、各府省庁による生成AIの利活用状況の分析結果について資料1により報告した。

質疑および意見

出席者の主な質疑、意見などは、以下のとおり。

  • 吉永構成員： 資料1の7ページにも記載されているとおり、政策シミュレーションのシナリオ作成などにAIを活用するようになってきている。AIの自律性や自動性が高まるほどリスクも増大するため、今後の動向を注視していく必要がある。
    • 事務局： 生成AIを使用した政策のシナリオの検討事例については、原則として、Human in the Loopのアプローチを取ったうえで行われている。現状確認しているほかのAIエージェントの利用事例においても、人間が判断、確認することが前提とされている。引き続き、利活用とリスクとのバランスを考慮しながら進める必要がある。
  • 吉永構成員： 資料1の4ページに記載されている自律型AIエージェントを常用段階で利活用している案件について、プログラムテストの実施などに利用しているという理解でよいか。具体的な用途を伺いたい。
    • 事務局： 自律型AIエージェントの実施用途については、例えば資料1の9ページでご紹介しているが、プログラムテストに限らず、情報収集や分析などの複数のタスクを連携して実行するケースもある。
  • 生田目構成員： 資料1については、定期的に更新いただいていることに感謝する。傾向として見られるのは、単一府省庁全体での利用や、複数府省庁を横断した利用が、少数ながら増加している。この傾向は自然な流れだと考えている。資料1の6ページに記載があったチャットボットについても、利用者からの問い合わせが一元的に集約されるようになれば、各府省庁には、幅広い問い合わせに対応できる体制が必要となる。このため、統合的かつ網羅的なガバナンスの体制を構築するとともに、しっかりとモニタリングしていく必要がある。また、顧客がAIエージェントを利用して、商品やサービスなどを選択するケースが広がる中、各事業者がAIエージェントによる選択を踏まえて顧客体験を最適化する「AI optimization」の取組が始まっている。こうした環境の変化を踏まえ、チャットボットの活用の在り方を注視していく必要がある。シンガポールでは、政府公式の行政情報案内用AIチャットボットサービスである「chat.gov.sg」のベータ版が展開され、全ての省庁への問い合わせが一元的に集約されている。今後、日本政府において同様のサービスを検討する場合には、各府省庁間や政府全体として、どのように一体性を確保するかを議論する必要がある。

（2）先進的AI利活用アドバイザリーボード第2回ワーキング・グループ実施報告

事務局および構成員から、第2回ワーキング・グループの実施概要について資料2により報告し、構成員から質疑および意見があった。

（3）先進的AI利活用アドバイザリーボード第3回ワーキング・グループ実施報告

事務局および構成員から、第3回ワーキング・グループの実施概要について資料3により報告した。

質疑および意見

出席者の主な質疑、意見などは、以下のとおり。

  • 吉永構成員： 資料3の6ページ「論点② 業務での利活用・展開の拡大について」において、「個人のプロファイリングをしてはいけないということだが、行政でもクリアランスに関する業務は増加している」との記載がある。米国では、2000年代初頭に米連邦取引委員会（FTC）がビッグデータについてレポートを公表しており、不利益または差別的な取扱いが生じた場合、その後もプロファイリングが継続するおそれがあると指摘されている。この点については、慎重に検討する必要がある。
    • 事務局： プロファイリングについては、例えば情報管理部局に属する職員などの個人を調査することはあり得るが、源内などでプロファイリングを行うべきかどうかについては、議論の余地があるところ。オンプレミス型や、各府省庁独自に構築したシステムを利用する場合が一般的と考えられ、業務の性質などに応じた使い分けが必要であると考えている。
  • 生田目構成員： プロセスの可視化については、現段階では適切なガバナンスが講じられていると考えている。
  • 鳥澤構成員： AIエージェントについては、ガバナンス、技術、データの境界が曖昧になっていくと考えている。この議論には、AIエージェントの技術に精通した方に参画してもらうことが望ましい。最先端のツールの利用を調達要件とすることも含め、技術動向を十分に踏まえて検討を進める必要がある。

（4）我が国および諸外国における生成AIに係る動向

事務局から、我が国および諸外国における生成AIに係る動向について資料4により報告した。

質疑および意見

出席者の主な質疑、意見などは、以下のとおり。

  • 生田目構成員： 資料4の18ページ「AI導入効果別に見たAIの利用用途」における業務効率化と価値創出の議論について、効率化のみを追求すると、組織が偏った方向に進む可能性がある。価値創出も同様に重要であることを、共通認識とする必要がある。
    • 事務局： 個々のタスクレベルでの効率化の積み重ねも重要だが、その先の組織全体での生産性を向上させることが重要であると考えている。生成AIの利用により、個々のプロセスが効率化されても、かえって組織全体が非効率になっているようではいけない。生成AIの活用により空いたリソースを有効に活用し、職員をより付加価値の高い業務に再配置することが今後の取組において必要になってくる。引き続き課題として検討していく。
    • 生田目構成員： 最終的には各府省庁において組織能力をどのように向上させるかが重要になってくる。自社においても、「AIへの投資は人への投資」という考え方に基づいて取り組んでいる。行政としても、同様の考え方で取り組んでいるものと理解した。

塩崎デジタル副大臣から、ご退席にあたり、児童相談所におけるAI活用をはじめ、行政の様々な取組へのAI活用を検討することは有意義であり、技術進展の速さを踏まえ、政府におけるAI利活用・開発のサイクルの在り方についても検討が必要である旨の発言があった。

（5）柴山構成員からのご説明

柴山構成員から、JDLAのAIガバナンス認証制度C認証について資料5により報告した。

質疑および意見

出席者の主な質疑、意見などは、以下のとおり。

  • 北村構成員： ISO/IEC42001とC認証は相反するものではない。AIモデル、データ、利用環境などの変化を検知し、判断や更新の再同期をどれだけ早く行うことができるかが重要であり、私はこれを「Resync」と呼んでいる。柴山構成員がご指摘のとおり、エコシステムやサプライチェーンを横断し、さらに国をまたぐ場合は対応が一層困難となる。自身も、「Minimum Viable Collaboration Mechanism：最小限で実行可能な協働メカニズム（MVCoM）」という軽量フレームワークを提唱しているが、認証取得にとどまらず、再同期の観点からC認証をどのように活用していくかが課題となってくる。
    • 柴山構成員： C認証の取得を最終段階とするのではなく、ISO/IEC 42001など、その先の取組につながるものと考えている。同期の在り方についても今後の課題であり、制度間の整合性や、サプライチェーン全体の対応について引き続き検討していきたい。
  • 佐久間構成員： 体制の整備に苦戦する事業者も多い中、C認証はAIガバナンスの取組に着手する際のベースラインとして位置づけられるものと理解した。第5回先進的AI利活用アドバイザリーボードで紹介した「AIガバナンスナビ」も含め、その先にISO/IEC42001のような組織的なガバナンス認証へ発展していく構造になると考えている。
  • 永沼構成員： ご説明にもあったとおり、特に民間企業ではルール整備に重点が置かれがちであるが、AIガバナンスにおいては運用まで落とし込むことが重要であり、資料5の4ページに記載されているC認証の認証基準の4点目「リスク対応」がその中核になると考える。2～3か月という比較的短期間で迅速に立ち上げるというコンセプトは今後も浸透していくと考えている。一方で、サプライチェーン全体をカバーし、様々な組織に普及させていくうえで、C認証の1～4をすべてカバーするにはそれなりに労力を使う。認証取得後、「リスク対応」で定めた事項を更新する際に、何らかの形で認証のプロセスにかけるのか、自己申請をするのかなど、どのような確認プロセスを想定しているのか伺いたい。
    • 柴山構成員： 前提として、認証基準3「リスクアセスメント」、4「リスク対応」については企業ごとに内容が変わってくる。同じAIを使っていても、リスクに対する考え方や対応などは、各社のリスクに対する姿勢によって変わってくると考える。そのため、個別のリスクを詳細に審査するのではなく、リスクアセスメントやリスク対応の機能が適切に運用されているか、不合理ではないかという観点で審査していく想定である。また、各社において定期的なリスクアセスメントやリスク対応の見直しが行われる想定である。技術の発展を踏まえ、制度上2年ごとの更新を予定しているが、具体的な更新審査の方法については今後も引き続き検討していく。
    • 永沼構成員： 更新のプロセスについては引き続き検討していくものと理解した。

（6）行政の進化と革新のための生成AIの調達・利活用に係るガイドライン充実に向けた検討事項案

事務局から、ガイドライン充実に向けた検討事項案について資料6により報告した。

質疑および意見

出席者の主な質疑、意見などは、以下のとおり。

  • 北村構成員： 全体を通じた観点として、既存ガバナンスのリファクタリングが必要になってくると考えている。現在は、人間が規定を読んで判断することを前提としているが、今後AIエージェントが判断・実行を行っていくことを踏まえると、人間が規定を読み対応するガバナンスから、AIが解釈・実行できるガバナンスへ転換していく必要がある。製造のエコシステムや多層的なサプライチェーンにおける日本の経験と実績は、国際的にプレゼンスを発揮していけるような強みになると考えている。一段高いレイヤーからガバナンスを検討していく必要があると考えるが、いかがか。
    • 事務局： ガバナンスの在り方についてはご指摘のとおりである。AIエージェントの自律性や、タスクの不可逆性および実行による影響度なども踏まえたリスクベースのガバナンスの在り方が必要になると考えており、引き続き検討していく。
    • 事務局： 人が担うべき役割とAIエージェントが担うべき役割を区別していくことが必要になってくる。行政職員がどのようにガバナンスを構築していくのかも大きく変化することが想定される。AIエージェントに全て任せるのではなく、Human in the LoopやHuman in the Leadなどの考え方も含め、自民党のデジタル社会推進本部などでの議論も踏まえながら検討を進めていく。
    • 北村構成員： 既存のガバナンスに追加的な対応を重ねると、ガバナンスの負債が蓄積するおそれがあるため、引き続き検討をお願いしたい。
  • 北村構成員： AIエージェントは付与された権限を逸脱することや、目標を上書きすることなど、意図しない行動をとる可能性がある。キルスイッチの必要性について説明があったが、どこまで止まるか、誰が止めるかを定めておかなければ、実際の運用時に判断が困難になる可能性がある。このような運用を始めるにあたっては、何らかの統制手段を整備する必要がある。現時点で共有可能な検討内容を伺いたい。
    • 事務局： キルスイッチはAIエージェントの統制に関わる論点である。業界で事実上の運用として進みつつある、MCPなどのゲートウェイを一元管理し、必要に応じて遮断が可能になるような仕組みが基準となると考えている。そのうえで、運用面での判断基準については、人による確認に加え、動的な稼働状況のモニタリングを行い、リスクの兆候が確認された場合に一時停止して様子を見る、という運用方法も考えられる。停止後の復旧手続きなどは、可用性が高いシステムを運用する場合に必要な機能と考えている。一方で、各府省庁における生成AIの利活用状況を見ると、現時点で高度な自律性を有するAIの利活用事例は限定的であり、必要性を踏まえて導入を検討したい。
    • 門林座長： AIエージェントの自律性については、自ら推論を進める馬力の高いフロンティアモデルが登場している。このようなモデルを、人間のプロンプトに従って動く従来型のエージェントと同一の枠組みで議論することは、国際的にも懸念すべき事項である。「Chain of thought」による思考過程の把握可能性も重要な論点である。Claude Mythosなどの「Looped Transformer」型のモデルにおいては、思考が追えないリスクがある。精度向上と観測可能性低下のバランスは、国際的な議論となっている。行政文書の作成などにAIエージェントを活用する場合も、自律化・自動化の程度を区別して議論する必要がある。キルスイッチの議論は、フロンティアAIの議論にも関係する論点である。
    • 北村構成員： AIエージェントとエージェンティックAIの定義についてはOECDが一つの考え方を示している。AI事業者ガイドラインでも定義しているが非常に広い概念であり、本会合での定義を明確にしなければ異なる意味で解釈されるリスクもある。
  • 吉永構成員： 資料の14ページ「検討事項案Ⅱ AIエージェントの対象拡充に伴う特有の対応事項の強化」における「②要機密情報の漏えいリスク」に関連して、情報の機密性にもレベルがある。各府省庁で、機密情報を適切に管理できているかを確認するとともに、情報区分（Classification）の在り方を改めて見直す必要があると考えている。日本における情報区分は諸外国と比較して粗いとの指摘もある。機密性の高い情報については、AIエージェントにアクセスさせないという判断も必要である。
    • 事務局： 情報の区分は、政府機関などのサイバーセキュリティ対策のための統一基準にて定めており、デジタル庁が定めているガイドラインでは、機密性2以下の情報を対象にしている。ただ、実際には、機密性2情報の中でも機微度には差がある。外交情報を扱う際の留意事項を定めるなど、機密性2情報の中でも扱いを考慮すべき事項については、検討事項案のユースケースに応じた具体的な事例として盛り込んでいくことを想定している。情報の区分については、既存のルールのとおり各府省庁で具体的に定める情報セキュリティ基準に基づいて遵守していくこととしており、今後も各府省庁において適切に対応していただく必要がある。
    • 北村構成員： AIエージェントを利用する場合であっても、機密性2情報の組み合わせでより機密性の高い情報が漏えいしないよう、システム面での対策が講じられていると理解している。
  • 永沼構成員： 経団連においても、会員企業を含めて議論を進めていくところである。現時点で示されている論点に対して、4点申し上げたい。1点目は、AIエージェントに関するガバナンスについて、詳細はこれから検討されるという認識だが、AIエージェントの特性を踏まえ、運用の実現性を考慮した検討が必要である。検討事項案では、AIエージェントにIDを付与し、使用ツールやMCPサーバなどを一覧化した上で管理プロセスを設計すると記載されているが、AIエージェントの特性上、それらを継続的に把握・管理できるのかという論点がある。管理項目として詳細な要件を示すのではなく、運用面で現実的な検討を行うべきという考え方もある。また、責任分界や契約の形態についても議論が必要である。AIエージェントが非決定的に動作し、外部からの攻撃を受ける可能性があるため、事業者による結果の保証が難しくなる。契約チェックシートにおける完成義務に係る取決め事項をAIエージェントに拡張する場合は、事業者に求める取決め事項に加えて、発注者と事業者の責任分界を明確にする必要がある。2点目は、コスト管理についてである。利用状況の把握や利用上限の設定などに主眼が置かれているように見受けられるが、今後は契約上のリスク配分についても整理が必要である。従来の固定価格を維持するのか、従量制などの形態を選択肢として検討するのかについて議論する必要がある。3点目は、リスクベースのアプローチの徹底である。AIエージェントのサプライチェーンにおけるリスク監査については、リスクに応じて対象範囲を検討していく必要があると考えている。外部ツールや基盤モデルなど、事業者の直接的な管理が及ばない部分まで責任を求める場合、実現可能性に課題がある。また、高リスク判定の定義を一定程度充実させることが重要である。定義が曖昧な場合、過剰かつ過度に保守的なリスク管理となり、利活用促進を阻害する可能性がある。4点目、標準と認証の扱いについて、以前から申し上げているとおり、認証で代替可能な部分については柔軟に考えるべきである。一方で、ISO/IEC 42001は取得・維持の負担が大きく、ほかの認証制度についても一定のコストを要する。将来、入札の参加要件になる場合には、スタートアップや中小企業への影響、日本における認証取得の状況も考慮し、導入時期や内容について十分な議論と配慮が必要である。また、標準プロトコルへの準拠を求める場合、技術変化が速いことからロックインを招く可能性もあるため、一定の相互運用性を確保するためのルールの在り方について議論する必要がある。以上4点について、今後詳細な議論を進めていきたい。レジリエンスや規制の在り方については国際的にも議論が進んでおり、米国ではトランプ大統領がAIのリーダーを招いて議論したとの報道もある。経団連の会員企業を含む民間からの意見も踏まえながら、議論を進めていきたい。
    • 事務局： 1点目のガバナンスと3点目のリスクベースアプローチの観点について、AIエージェントといってもその範囲は広く、全てのAIエージェントに対してID付与やサンドボックスを求めることは想定していない。必須のリスク対応事項を共通事項としつつ、自律性や権限などを踏まえ、個々のリスクに応じた対応が必要であると整理している。契約や責任の分界については、まだ十分に議論が進んでいない部分もある。参照となる事例などがあれば、ご紹介いただきたい。4点目の認証制度の取扱いについては、一意に特定の資格や認証を求めるものではなく、参照基準として活用することを想定している。本ガイドラインにおいては、一定の認証取得を義務付けることは想定しておらず、取得している場合には調達時のチェックを簡略化できる仕組みを検討している。このような仕組みであれば、必ずしもスタートアップの負担になるものではないと考えている。A2AやMCPについてはデファクトのスタンダードになりつつある部分もあるため、一つの参照基準としつつも、過度に依存しないことが重要だと考えている。ロックインの回避をどのように担保するかは、今後もご知見を頂きながら検討してまいりたい。
  • 生田目構成員： AIのガバナンスについては、AIエージェントを踏まえると判断が難しいという観点がある。一方で、稼働継続を判断した後に脆弱性が顕在化した場合には、アカウンタビリティの重要性が高まる。リスクが大きくないと判断した場合であっても、結果的にはその判断が誤っているようなケースもあり得るため、企業や府省庁の判断については、一定の証跡を残す必要がある。
    • 門林座長： Human in the Loop、Human on the Loopなどの考え方があるが、安全な運用を実現するためには、飛行機の操縦などと同様に一定の専門性が必要である。Human on the Loopを担える行政官をどのように確保するかが、今後の重要な議論となる。
  • 柴山構成員： 25ページ「検討事項案Ⅲ その他全体的な利便性の向上等」における「各府省庁からの要望① 知的財産権等関連の対策追加」について、画像や声の確認手段に関する方針に異論はない。一方で、著作権と異なり、人の声や顔の類似性の判断は主観的な要素を多く含み、多くの確認を要するという課題がある。資料4の「肖像、声等の無断利用による民事責任の在り方に関する検討会」の資料でも言及されていたとおり、類似している場合であっても、ただちに責任が生じるものではない。責任の成立範囲や判断の慎重性を踏まえて検討いただきたい。
  • 佐久間構成員： 1点目に、13ページ「検討事項案Ⅱ AIエージェントの対象拡充に伴う特有の対応事項の強化」における「AIエージェントにおけるリスクの考え方」に関して、実際の運用を想定した際に、判断の単位が曖昧になるケースが想定される。例えば、最終成果物の妥当性は人間が判断していても、ツールの実行やデータベースへの書き込みをする場合に、データへのアノテーションをAIが自動的に行っている場合、アノテーションにバイアスが無いかは、最終出力結果を見ても分からない。自動化バイアスなどもあり、人間がAIのレビューを適切にできない場合もある。人間がAIのレビューを行う際の、判断についてのプラクティスとして、どうすれば適切に判断したといえるかを継続的に検討していく必要がある。この視点は承認疲れの観点にも同様に妥当する。プロセスの中で、どの程度人間の承認を求めるかは状況に応じてリスクベースで判断すべきことであり、そのラインを実例も踏まえて考えていく必要がある。たとえば、源内についての議論でもあったとおり、処分性のある行為やプロファイリングにあたる行為などは特にセンシティブになる分野。加えて、AIエージェントの自律性の段階を定義する試みも世の中では進んでいる。リスク判定そのものは、現在のリスク判定ロジックで十分だと思うが、AIエージェントを実装した際の自律性の度合いに、どのようなパターンやオプションがあるかを注記として記載してもよいと考えている。2点目に知的財産などの観点について、動画や音声の場合にどの程度類似度があるかを確認する方法は様々なオプションが存在するため、記載できる範囲で記載するということだと考える。知的財産権の侵害の回避は、民間でも様々な取組が進んでおり、ベストプラクティスも蓄積しつつある。社内向けの内部ルールで、入出力のデータに応じた対応事項をマトリクスで整理しているものや、オープンソースコードと一致する提案であればブロックするツールなど、自動で類似度を判定するツールを活用する例も出てきている。こうした民間のプラクティスも事例として紹介することができると良いと考えた。
  • 岡田構成員： 全体として賛同する。31ページ「検討事項案Ⅲ その他全体的な利便性の向上等」と関係するが、2026年6月OpenAIのAIモデルが、オーストラリアの政府機関のウェブサイトに許可されていない方法でアクセスした事例の報道が最近あった。我が国日本として絶対やってはならないこととしては、意図せず他国のシステムやWebサイトに侵入、ハッキングしてしまうということかもしれない。悪意の有無にかかわらず、国際的なレピュテーションを落としてしまう可能性がある。保有するデータを守る方向が中心の議論となっているが、ガイドラインに入れるかどうかは別として、海外に向けてやってはならないことを整理し、またそのような事項を考える重要性についてCAIOに周知していく等が重要になってくるのではないかと考えている。
    • 門林座長： 複数のAIエージェントを100体ほど同時に動かすと、DDoS攻撃のような事態を引き起こす可能性もある。ガイドラインよりは注意喚起といったレベルになるかもしれない。
    • 事務局： 資料6の13ページに記載しているアライメントの議論とも関わってくる。岡田構成員が指摘される事例については、現時点では、商用化されていないフロンティアモデルにおいて発生が報告されていると認識している。商用のモデルにおいても同様のリスクがあるということであれば、対策を具体化していく必要がある。現時点では、各ベンダーがそれぞれに改善に取り組んでいる認識だが、その中で参考にできる情報や、予防措置の参考情報として今後実用的に活用できるようになれば考慮していくことが、予期せぬ動作に対する全般的な予防措置になり得る。業界でも取組が始まっている部分であり、動向を注視しつつ、そういった動向を何らか調達仕様書に取り込めるレベルになるのが理想ではある。知的財産権についても、確認方法については、民間の事例や、法務省の肖像、声等の無断利用による民事責任の在り方に関する検討会も踏まえながら検討していく。Human in the Loop等の職員の判断の在り方についても、AIエージェント使用に際して、全てに承認を求めないとしたときに、Human on the Loopをどのように確保していくかということが、今回の検討事項の1つとなる。現行のガイドラインはNormativeであるため、参考となる情報については、どちらかというとベストプラクティスの提供のような取扱いになっていくとも想像されるが、何をベストプラクティスとして示すべきかについても、継続的な検討が必要である。最初からすべてを備えるのは難しいため、今後内容が整ってきた段階で示していくことも場合によっては必要になると考えている。

閉会

  • 門林座長： これをもって本日の議論を終了とする。

以上