政策・標準2026年11月19日(木)

日本の AI 安全性評価はエージェントへ、自律動作とセキュリティをどう検証するか

日本 AISI は 7 月、AI エージェント固有の評価観点を追加。11 月の政府会議や産業界の議論も、AI とサイバーセキュリティの双方に注目しています。

01

本文

モデルの評価からエージェントの行動へ

日本の AI セーフティ・インスティテュート(AISI)は 2026 年 7 月 7 日、「AI セーフティに関する評価観点ガイド」第 1.20 版を公表しました。AI エージェントの普及を踏まえ、「自律的な挙動」「外部環境との相互作用」の二つの固有の評価観点を追加し、「観測と制御」に関する評価を示しています。開発・提供事業者向けの参考ガイドであり、新たに施行された法律や強制認証ではありません。

11 月は攻撃の速度と防御力が焦点に

日本政府は 11 月 6 日の第 2 回サイバーセキュリティ関係閣僚会議で緊急対策パッケージを決定し、AI 時代の攻撃、基本対策、情報分析、対応体制を取り上げました。東京都のサイバーセキュリティポータルでも概要を整理しています。また、11 月 26 日開催予定の Frontria シンポジウムは、AI 安全性評価、AI を使った攻撃と防御を議題に掲げ、日本 AISI 副所長による JAI-Trust の紹介を予定しています。これは開催前のプログラムであり、実際の講演内容ではありません。

調達・導入時に確認したいこと

エージェントが外部ツールを呼び出し、データにアクセスし、人に代わって作業できる場合、企業はツール、アカウント権限、データ、ネットワークの境界を明確にする必要があります。想定外の動作を記録、一時停止、人による確認、中止ができるか、実際の利用シナリオで検証します。システム変更時にも評価を見直し、委託先との責任分担を定めます。これらはガイドを踏まえた TWISA の実務提案であり、AISI が定めた一律の調達要件ではありません。

台湾と日本の協業に向けて

台湾のセキュリティ事業者にとって、AI 安全性評価、エージェントのレッドチーム、本人・ツールの認可、行動監視、調査記録は、日本企業との協議の出発点になります。具体的な商機は顧客のニーズ、協業条件、正式な調達情報に基づいて判断する必要があり、ガイドそのものは入札や市場参入の証明ではありません。日中両言語で検証シナリオ、責任分担、検証可能な結果を整理すると協業に役立ちます。

参考資料