AI安全性に係る国際会合への参画、及び高性能なAIシステムの利用に係るガイド等の開発事業
内閣府（科学技術・イノベーション推進事務局 人工知能政策推進室）の事業。令和7年度当初予算 0円、令和8年度概算要求 6.8億円。
事業の目的
我が国のAI安全性の知見のハブであるAISIが、海外AISI等のAI安全性に係る専門機関との間で最新のAIシステムの開発・利用に係る課題の把握や最新知見等の共有を行うことを支援しつつ、これらの結果も踏まえてAIエージェントやフィジカルAIの開発・利用におけるセキュリティ確保に向けた技術調査・分析を行う。さらに、これに基づく国際的に整合が取れた各種分野におけるガイドの作成や検証ツールの開発を行うことで、最新のAIシステムの開発・利用による予期せぬAIリスクの抑制を図り、AIイノベーションの促進を図る。
事業の概要
1）米国・英国・カナダ・EU等が参画するAISI国際ネットワークを通じて、日本AISIが、AIエージェントやフィジカルAIを含む最新のAIシステムの開発・利用におけるセキュリティ確保に係る検討に参画し、最新の知見の共有や対策の方向性のすり合わせを行うことを支援する。
2）上記の結果も踏まえつつ、関係府省庁、国研・研究開発法人、大学等の機関や、地方自治体、民間企業等と協力しながら、様々な分野におけるAIエージェントが連動して動作するシステム、フィジカルAI等におけるセキュリティ確保のための技術調査・分析を実施する。
3）また、上記の調査結果等に基づき、各種産業分野等における最新のAIシステムの開発・利用に係るガイドの作成、及び当該ガイドに基づくAIシステムに係る安全性検証を行うためのツールを開発する。
現状・課題
米中を中心に、自律動作・継続学習を行う「AIエージェント」や、ロボット等に搭載された、いわゆる「フィジカルAI」等の開発が急激に進展しており、今後、これらの高性能・最新のAIシステムの利用に伴い、従来の情報漏洩や偽・誤情報の拡散に加えて、AIの自律動作や継続学習に伴う原因究明が困難な事象の発生の危険性が大きく増大することが予想される。
また、今般成立したAI法に基づき、国際的な規範の策定への参画や指針の整備、国際的動向等の社会経済情勢の変化への勘案が求められており、AI戦略本部の事務局である内閣府が主導して、「AIエージェント」や「フィジカルAI」等の最新のAIシステムの開発・利用における潜在的な課題への対応についても、海外AISI等のAI安全性に係る専門機関とも協力しながら対応を行っていくことが不可欠である。
予算の推移
| 令和3年度 | 令和4年度 | 令和5年度 | 令和6年度 | 令和7年度 | 令和8年度要求 |
|---|---|---|---|---|---|
| — | — | — | — | 0円 | 6.8億円 |
当初予算。
このテーマに入っています
同じ施策の事業
政策：２１ 科学技術・イノベーション政策
施策：２６ 科学技術・イノベーション基本計画の策定・推進
- 戦略的イノベーション創造プログラム（エネルギー分野、次世代インフラ分野及び地域資源分野） 280億円
- 科学技術イノベーション創造推進費（健康・医療分野） 175億円
- 研究開発とSociety5.0との橋渡しプログラム（BRIDGE） 100億円
- 安全・安心に関するシンクタンク機能の構築・運営 3.5億円
- 科学技術・イノベーション基本計画に係る調査等 1.7億円
- 途上国等における STI for SDGs の推進 1.3億円
- 原子力の国際協力及び各省庁連携の推進 0.93億円
- 大学支援フォーラムPEAKS 0.56億円
- 科学技術システム改革の推進 0.52億円
- 政府のイノベーション化の促進に係る調査・分析 0.45億円
根拠法令・関係する計画
- 人工知能関連技術の研究開発及び活用の推進に関する法律 第十七条
- 内閣府設置法 第四十条の四
- 新しい資本主義のグランドデザイン及び実行計画2025年改訂版
- 経済財政運営と改革の基本方針2025
- 統合イノベーション戦略2025
比較・検索できる画面で見る レビューシート原本（行政事業レビュー見える化サイト）
出典：行政事業レビュー見える化サイト 令和7年度版のレビューシート（事業番号 21790）を加工。