AIエージェント事故の記録と指針づくりを民間と国が進める、セキュリティ担当者の判断材料が増える

SOURCESこの記事がまとめた発表

[1] 経済産業省が新設した「事業者におけるAIエージェントの安全な利活用に関するサブワー キンググループ」委員に代表の徳永が就任しAIエージェントのセキュリティガイドライン策定に参画

Polaris.AI株式会社 ／ 掲載 2026.09.24
発表を見る

画像：FlashLabs株式会社の発表資料より（PR TIMES）

[2] OrcaRouter、AIエージェント事故354件を収録したオープンデータベースを公開

FlashLabs株式会社 ／ 掲載 2026.09.24
発表を見る

画像：発表資料より（PR TIMES）

[3] プレス発表「情報セキュリティ白書2026 サイバー防御新時代：諸刃の進化に備えよ」PDF版の公開

掲載 2026.09.30
発表を見る

画像：FlashLabs株式会社の発表資料より（PR TIMES）

[4] OrcaRouter、AIエージェント事案の収録数が9月に75件で月別最多に ─ オープンデータベースを更新

FlashLabs株式会社 ／ 掲載 2026.09.30
発表を見る

AIエージェント事案データベースの収録件数

Orca AI Incident Archiveは、Continuum AIが継続的に更新し、実世界で起きたAIエージェントのセキュリティ事案を発生月ごとに整理したオープンデータベースです。収録件数を読むときに押さえる点は、以下の通りです。

• 月別最多となった9月の収録数
• 実害の有無で分けた9月の内訳

データベースはFlashLabsが日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」で公開され、データ一式はCC BY 4.0ライセンスでGitHubに置かれています。件数の伸びと記録の種別は別の問いに答える情報のため、見出しを分けて確認します。

月別最多となった9月の収録数

Orca AI Incident Archiveでは、2026年9月の収録数が75件となり、月別で過去最多になりました。これまでの最多は2026年6月の31件で、FlashLabsは9月の収録数をその約2.4倍にあたると説明しています。^[4]

公開直後と更新後の集計を比べた主な数値は、以下の通りです。

データベースでは、調査の進展により過去の月の件数が追加されることがあり、今回の更新でも9月分が前回の集計から増えています。そのため、社内の報告資料に件数を引用するときは、集計の時点を併記しておくと読み違いを防げます。^[2]

実害の有無で分けた9月の内訳

9月に収録された75件では、実際の事故として記録されたのは29件で、残る46件は被害が発生した記録ではありません。FlashLabsは、種別や確度を分けずに合算すると「AI事故が月に75件」といった数字が実態を伴わずに独り歩きすると指摘しました。^[4]

9月分の記録を種別と実害の有無で分けた内訳は、以下の通りです。

各記録は内容より先に、実害の有無とAIの関与の裏付け、記録の種別の3点を示す構造をとっています。たとえば、ジェイルブレイク（AIの安全上の制限を回避する手口）と攻撃の成功、攻撃の成功と実害は、それぞれ別の項目として記録されます。^[2]

情報源の確度は4段階で分類され、9月分は61件が一次情報源を持つグレードAでした。確度は事案の深刻さではなく情報源の質を示す指標で、グレードDは誤りではなく当事者の見解が分かれている記録という位置付けです。

AIエージェント事案に多い攻撃タイプ

Orca AI Incident Archiveの各記録には、12分類の攻撃タイプが1つ以上付けられています。1つの記録に複数のタイプが付くため、タイプ別の件数の合計は収録数を上回ります。^[2]

9月23日時点の収録354件について、攻撃タイプ別の件数は以下の通りです。

件数の上位には、規制当局やベンダーの動きに加えて、認証情報の悪用やエージェント自身が攻撃側に回る手口が並びました。9月分に限ると、ガバナンスと政策と武器としてのエージェントが18件ずつで、評価環境からの逸脱が15件と続きます。^[4]

MCPとツールチェーンやサンドボックス脱出のように、エージェントに与えた接続先や実行環境が攻撃の対象になった事案も記録されています。社内でエージェントにツール接続やコード実行を許可している場合は、該当するタイプの記録をWebページで絞り込んで確認できる仕組みです。

AIエージェントの安全利用を巡る国内政策

国内では2026年9月、AIエージェントを含むAIの安全確保をめぐって、国の検討体制と公的機関の白書に関する発表がありました。扱う内容は、以下の通りです。

• 経産省サブWGが示すガイドラインの方向性
• IPA情報セキュリティ白書2026が示すAIの論点

ガイドラインは発表時点では策定前の段階にあり、白書はAI全般とサイバー防御の関係を扱う資料です。性格が異なるため、自社の統制方針のどこに当てはめるかを分けて読む必要があります。

経産省サブWGが示すガイドラインの方向性

経済産業省は、産業サイバーセキュリティ研究会のワーキンググループ内に「事業者におけるAIエージェントの安全な利活用に関するサブワーキンググループ」を新設しました。サブワーキンググループは、AIエージェントを利用する企業が実務で参照できる「AIエージェントセキュリティガイドライン」の策定に向けて、検討・分析・助言を行う場です。^[1]

経済産業省は令和8年度「産業サイバーセキュリティ対策の強化に向けた環境整備事業」の一環としてガイドラインの策定を予定しており、検討の方向性は以下の通りです。

• AIエージェントの特徴やリスク
• 自律性と行動範囲に応じた統制レベル
• AIガバナンス・セキュリティ対策

委員には学術界や法曹界、政府機関、産業界の有識者が参画し、Polaris.AIの代表取締役CEOである徳永優也氏も産業界の一員として就任しました。徳永氏は、AIエージェントに任せる業務と与える権限の範囲、異常を検知して止める方法まで含めた設計が求められるとコメントしています。

統制レベルを自律性と行動範囲に応じて分けるという方向性は、エージェントごとに許可する操作の幅を社内で棚卸しするときの軸として使えます。ただし、発表時点では具体的な区分の内容は示されておらず、確認できるのはガイドラインの公表後です。

IPA情報セキュリティ白書2026が示すAIの論点

情報処理推進機構（IPA）は2026年9月30日、「情報セキュリティ白書2026 サイバー防御新時代、諸刃の進化に備えよ」のPDF版を公開しました。発表時点では、書籍版を10月19日に刊行する予定としています。^[3]

白書は、2025年12月に閣議決定された「サイバーセキュリティ戦略」がAIに関する方針を三つの観点で整理したことを解説しており、観点は以下の通りです。

• AIに係る安全性確保
• AIを悪用したサイバー攻撃への対処
• AIを活用したサイバーセキュリティ確保

三つの観点は、AIそのものの安全性と、攻撃側と防御側の双方でAIが使われる状況を分けて扱っています。白書で着目すべき事象とされた項目のうち、AIやサプライチェーンに関わる主なものは以下の通りです。

白書は、サプライチェーン全体の事業継続が改めて問われたとして、中小企業の対策水準を高めるSCS評価制度やサイバーセキュリティお助け隊サービス（新類型）の制度構築を取り上げています。取引先を含めた対策を確かめる立場の担当者にとって、制度の動きを追う手がかりになる内容です。

AIエージェントの事故に備える社内の確認観点

AIエージェントの導入や運用を見直すときは、事案の件数を読む観点と、統制の範囲を決める観点を分けて整理すると判断がぶれにくくなります。たとえば、事故の件数が増えたという情報と、自社のエージェントにどこまで権限を与えるかという判断は、別々の根拠で確かめる必要があります。

セキュリティ担当者が確認したい観点と手がかりは、以下の通りです。^[1][2][3][4]

事案の件数は更新のたびに変わりますが、種別や実害の有無を分けて読めば、自社で優先して見直す接続や権限を絞り込めます。また、経済産業省のガイドラインは発表時点では策定前のため、公表後に統制レベルの区分を自社の権限設計と突き合わせる作業が残ります。