Fiscast
トップ総務省生成AI等を活用したサイバーセキュリティ対策強化

一般会計事業番号 20297担当 総務省 サイバーセキュリティ統括官室開始 2024

生成AI等を活用したサイバーセキュリティ対策強化

総務省（サイバーセキュリティ統括官室）の事業。令和7年度当初予算 0円、令和8年度概算要求 0円。

令和7年度 当初予算0円
令和8年度 概算要求—
令和6年度 執行額0円
支出先0者

事業の目的

あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。

他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。

こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。

事業の概要

上記目的を達成するため、以下の取組を実施する。

①生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について、国内外の事例調査を行い、脅威と対策を洗い出す。複数のAIモデル、AIモデルを含んだAIシステムを用いて、それらの対策の有効性を検証・整理し、チェックリスト化を行う。検証・実証結果を元に、セキュリティ分野におけるAIの安全かつ効果的な開発･提供に向けたガイドラインの策定や、 最新情報の発信・普及啓発を実施する。

②AIの安全性確保において主導的な役割を担い、米国政府などから資金拠出を受ける非営利団体MITREを始め、複数の専門機関と連携を深めるため、国立研究開発法人情報通信研究機構（NICT）サイバーセキュリティ研究所の研究拠点を北米に設立し、これら専門機関との共同研究事業を推進する。

③様々な情報源を自動的に収集し、特定のキーワードの出現数等を特徴量として学習したAIを用いて我が国へのサイバー脅威情報に該当するかを判定するとともに、過去のサイバー脅威情報とサイバー攻撃実績との照合結果を学習したAIを用いて当該脅威情報の重要度を判定する。必要な情報を抽出し、グローバル・データベースを構築する。

④我が国の通信分野等の重要インフラ分野におけるサイバーセキュリティ対策強化のため、生成AI等を効果的に活用し、通信情報を用いた攻撃インフラ分析の精緻化・迅速化を図るとともに、当該分析結果等を踏まえた対処オペレーション業務の高度化を図るための技術的な検証を行う。

現状・課題

①サイバー攻撃関連の通信は年々増加しており、さらに生成AIの出現等によりAIがサイバーセキュリティ分野に与える負の影響が顕在化しつつあることを踏まえ、生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について事例調査し、負の影響を回避・低減するための対策を検討する必要がある。

②AIの安全性を巡って国際的に意識が高まる中で、海外の複数の専門機関と連携を図る必要がある。

③サイバー攻撃が質・量ともに増大し、さらに攻撃者側のAI活用も懸念される中、世界中のサイバー脅威情報の広範な収集や迅速な分析をする必要がある。

④電気通信事業者が自網内の通信トラフィックに係るデータを収集・蓄積・分析し、大規模サイバー攻撃等を実施するためにIoT機器に攻撃指令を出す指令元のサーバ（「Command & Controlサーバ」、略して「C&Cサーバ」という。）の検知等に取り組んでいるところ、C&Cサーバの多くは生存期間が短いこと等を踏まえ、分析の更なる精緻化・迅速化や対策の高度化に資する情報の充実等を図る必要がある。

予算の推移

令和3年度令和4年度令和5年度令和6年度令和7年度令和8年度要求
———0円0円—

当初予算。

関係する会議

事業の担当課・室が事務局を務める会議体（つなぎ方）。

このテーマに入っています

同じ施策の事業

政策：Ⅴ 情報通信（ＩＣＴ政策）
施策：１ 情報通信技術の研究開発・標準化の推進

根拠法令・関係する計画

比較・検索できる画面で見る レビューシート原本（行政事業レビュー見える化サイト）

出典：行政事業レビュー見える化サイト 令和7年度版のレビューシート（事業番号 20297）を加工。