01 / SAFETY & RELIABILITY
AIの安全性と信頼性の確保
AIが業務、行政サービス、生活インフラへ深く入り込むほど、「正しく動くこと」だけでなく、異常時に安全に止められること、原因を検証できることが重要になります。日本AI審議会では、AIの誤判断・誤作動、想定外の自律行動、権限逸脱、外部サービスとの連携事故などを想定し、導入前から運用後までの安全設計を審議します。
- AIエージェントの実行権限・金銭権限・外部操作権限の管理
- 停止条件、緊急停止、復旧・ロールバック手順の標準化
- 判断根拠・操作履歴・証跡の保存と事故後検証
- 性能評価だけでは測れない社会的な安全性・信頼性の評価
審議テーマ一覧へ戻る ↑
02 / GOVERNANCE
AIガバナンスとルール整備
AIの利用を広げるには、誰が指示し、誰が承認し、誰が最終責任を負うのかを明確にする必要があります。特にAIが人に代わって業務を実行する時代には、従来の情報システム管理だけでは不十分です。組織内の権限設計、人間による監督、第三者アクセス、監査可能性を含む実務的なルールを検討します。
- AIに与えてよい権限と、人間の承認が必要な行為の線引き
- 第三者アクセス、外部AI・外部ベンダー利用時の管理基準
- 意思決定と実行履歴を追跡できる証跡・監査設計
- 重大事故時の報告、停止、再開、責任分界のルール
審議テーマ一覧へ戻る ↑
03 / PRIVACY & DATA
プライバシーとデータ保護
AIは大量のデータを扱うため、個人情報、顧客情報、企業秘密、研究情報などをどこまで入力・連携してよいかが重要な論点になります。利便性だけを優先せず、データの取得から利用、保存、共有、削除までを一連の管理対象として捉え、安全なデータ活用の基準を検討します。
- 個人情報・機密情報をAIへ入力する際の基準と禁止事項
- API、クラウド、外部サービス、コネクタ接続時の安全管理
- アクセス権限、保存期間、削除、再利用に関する管理
- 利用者への説明、同意、透明性を確保するための表示・運用
審議テーマ一覧へ戻る ↑
04 / PEOPLE & SOCIETY
AIと雇用・教育・社会の共生
AIの普及は、仕事を単純に「奪う・奪わない」という問題だけではなく、人間の役割、必要な能力、教育のあり方そのものを変えていきます。働く人、子供たち、高齢者、地域社会など、立場によって生じる機会とリスクの差を見ながら、誰も取り残さないAI社会を考えます。
- AIによって変化する職務・雇用と、人材の再教育・能力開発
- 子供・学生・教職員に必要なAIリテラシーと教育環境
- 高齢者や地域を含むデジタル格差への対応
- AIに任せる判断と、人が担い続けるべき判断の整理
審議テーマ一覧へ戻る ↑
05 / INCIDENT, LIABILITY & INSURANCE
AI事故・責任・保険のあり方
AIが実際の業務を動かすほど、誤送信、誤発注、情報漏洩、金銭事故、権限逸脱など、現実の損害につながる事故への備えが欠かせません。事故を完全にゼロにする前提ではなく、「起きた時に被害を抑え、責任を明確にし、再発防止へつなげる」仕組みを検討します。
- 利用企業、開発者、提供事業者、利用者の責任分界
- AI事故の分類、報告、証拠保全、原因究明の共通基準
- 損害補償・保険商品・補償スキームの可能性
- 事故情報を社会全体で学習資産へ変える再発防止の仕組み
審議テーマ一覧へ戻る ↑
06 / INTERNATIONAL & ETHICS
AIの国際協調と倫理
AIは国境を越えて提供・利用されるため、日本国内だけの議論では十分ではありません。海外の制度、企業、大学、研究機関、国際的な標準化の動向を継続的に参照しながら、日本の社会・文化・産業に適した考え方を整理し、世界との対話へつなげます。
- 海外のAI制度・ガイドライン・標準化動向との整合性
- 公平性、透明性、人権、差別防止など倫理上の論点
- 海外AI企業・大学・研究機関等との共同研究・意見交換
- 日本で得られた実証・事故・制度設計の知見を国際社会へ発信
審議テーマ一覧へ戻る ↑