テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）

デジタル庁では、デジタル社会の実現に向けた重点計画（令和4年6月7日閣議決定）を踏まえ、AIの実態と動向を把握し、リスクと必要な対応策を特定したうえで、官民における適切な活用の検討を進めています。

昨今の生成AIなどの技術革新により、さまざまな利点を得られるようになってきており、政府でも、このような技術の動向を見極めつつ、関係省庁における生成AIの業務利用について第10回デジタル社会推進会議幹事会・書面開催等の議論を重ねてきました。また、2023年12月より生成AIの適切な利活用に向けた技術検証を実施し、その結果※を公開しました。
※技術検証結果の詳細は、2023年度デジタル庁・行政における生成AIの適切な利活用に向けた技術検証を実施しましたをご覧ください。

これまでの議論の経緯や検証結果を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」として公開します。実際に行政サービス等で生成AIを利活用する際に想定されうるリスクとその対応策についての技術的なレポートをまとめております。
現時点では、α版のため内容に不十分な点がありますが、生成AI利活用時のリスクや対策に関する議論の参考としてご活用ください。α版において不足している記述や不正確な表現がありましたらご意見・ご要望よりご連絡ください。今後、正式版としての公開に向け、定期的に内容の拡充・改善を図ります。

公開の背景

生成AIを用いる際、行政業務における指針として広島AIプロセス（総務省）やAI事業者ガイドラインがあります。これらの指針を踏まえ、「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」では、生成AIの中でもテキスト生成AIとその利活用に焦点を当て、政府調達において考慮する点について、より具体的なリスクと対策を記載しています。

テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）の特徴

テキスト生成AIのサービス開発者と提供者を対象

生成AIにはテキストだけでなく、画像や音声、動画を生成できるものもあります。実際の業務でやりとりする情報の多くはテキスト情報であること、デジタル庁においてテキスト情報以外の生成AIの活用については検証段階であることから、生成AIの中でもテキスト生成AIのみに焦点を当てています。
また、主に生成AIを利活用するためのシステム開発に関する業務に従事する担当者に活用いただくことを想定し、基盤モデル開発者のリスク（学習データのサプライチェーンや権利問題に関するリスク等）やサービス利用者のリスク（ディープフェイクに関するリスク等）に関する内容は含まれていません。

テキスト生成AIの利用形態、想定ユースケースや工程による分類

利用形態（特定のサービスに組み込まれた状態や、大規模言語モデルを利用するためのWeb API形式等）やユースケースごとにテキスト生成AIの想定されるリスクは変わります。α版では利用形態・ユースケースの違いを意識し、デジタル・ガバメント推進標準ガイドライン実践ガイドブックで定義されている工程に応じたリスクや留意点を挙げています。

検証により判明したリスクや留意点を可能な限り記載

検証を進めていく中で発見した想定リスクについては可能な限り記載をしています。今後、更新を重ね、「テキスト生成AI利活用におけるリスクへの対策ガイドブック」の正式版としての公開を目指します。

「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」の対象読者

政府情報システムへの生成AI導入に関わる行政職員を想定しています。「デジタル・ガバメント推進標準ガイドライン実践ガイドブック」や「AI事業者ガイドライン（第1.0版）」と併せてご活用ください。
また、行政職員以外でも、自社サービスや業務改善のためにテキスト生成AIの導入検討をされている方は、生成AIの利活用の際に考えられるリスクや対策を検討するための参考としてご活用ください。

「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」の構成

本文（前半6章）と発展的内容を含んだ付録（後半3章）で構成しています。

位置付けとロードマップ

2024年度内を目標に、デジタル社会推進標準ガイドラインへの編入を検討予定です。

資料のダウンロード

テキスト生成AI利活用時のリスク軽減のための対策ガイドブック（α版）（PDF／1,742KB）（2024年6月10日更新）

更新内容

2024年5月29日　初版公開
2024年5月30日　誤記等の軽微な修正
2024年6月10日　誤記等の軽微な修正