株式会社RainForestは、AI Agentの判断・根拠・実行を監査する純国産Security for AI基盤「Senda-Argus」の技術プレビューとして、AI Agent向けログ収集ライブラリ「Senda-Argus Hooks」をGitHubで公開しました。
Senda-Argusが解決するAI Agent時代のセキュリティ課題
生成AIの活用は、チャット利用からRAGによる社内データ参照、MCPによる外部Tool連携へと広がっています。さらにAI Agentによる自律的な判断・実行へと進化が進んでいます。その一方で、「AI AgentがなぜそのToolを選び、実際に何を実行したのか」を監査・検証する仕組みが課題となっていました。
セキュリティ市場では、LLMがなぜ特定のToolを選択したのかが分からない、RAGでどの社内文書が参照されたのか追跡しづらいといった課題が顕在化しています。Agent decisionと実際のTool Callの整合性を確認しづらい点に加えて、prompt・RAG contextの保存に伴う機密情報の取り扱いも課題でした。
Senda-Argusは、こうした課題に対しAI Agentの「判断」「根拠」「実行」を横断的に記録・解析するSecurity for AI基盤を目指しています。
Senda-Argus Hooksの主な特徴
Senda-Argus Hooksは、LLMがTool選択時に返すtask_summary(タスク理解)、reason_summary(選択理由)、selected_tool(選択したTool)などの情報を取得します。これにより、「Toolが呼ばれた」事実だけではなく、「LLMが何を理解し、なぜそのToolを選んだのか」を監査可能です。
LLMが選択したToolはAgent decisionとして記録されました。実際のMCP Tool Callとも突合されます。
RAG context本文はdefaultでは保存せず、query_hashやcontext_hash、result_hashなどのHASHとmetadataを中心に記録しました。LLM promptやMCP resultなどの本文系データも同様にdefaultでは保存しない設計です。一方で、監査・再現性確認に必要なmessages_hashやarguments_hashなどのHASHはdefaultで記録します。
主な特徴は、以下の通りです。
- LLMのTool選択理由の記録
- Agent decisionと実MCP Tool Callの突合
- RAG参照根拠のPrivacy-Safeな追跡
- prompt・context・result本文のdefault OFF
- MCP・RAG・LLMを横断したpurpose_idの生成
MCP URLやTool名、capability、RAG data sourceなどの情報からpurpose_idを生成しています。これによって、AI Agentが「何の目的で、どのデータソースやToolにアクセスしたのか」を追跡できます。
従来のAI Observabilityは、prompt・response・token・latencyといった実行ログの確認に重点を置いてきました。これに対し、Senda-Argus HooksはLLM判断やRAG根拠、Agent decisionとMCP実行の整合性確認を重視しています。
Senda-Argus Hooks概要
| 項目 | 詳細 |
|---|---|
| 会社名 | 株式会社RainForest |
| 事業内容 | AI for Security、脅威インテリジェンス、AI Agent / MCP関連技術の研究開発 |
| ツール名 | Senda-Argus Hooks |
| 位置付け | Senda-ArgusのCollector機能 |
| 公開先 | GitHub |
| 主な記録対象 | Tool選択理由・RAG参照根拠・Agent decisionとMCP実行の整合性 |
| 本文保存方針 | prompt・RAG context・MCP resultはdefault非保存 |
| 今後の連携予定 | Senda-Argus API/DB・Diff Engine・分析UI |
trends編集部の一言
AI Agentが「なぜそのToolを選んだのか」を本文非保存で追跡できる設計は、セキュリティ領域以外の立場から見てもインパクトがあったと言えます。業界全体としては、複数のAI Agentやツール連携を組み合わせて使う場面が増えており、判断根拠を後から確認できないまま運用されるケースがしばしば見受けられました。マーケティング業界の文脈に置き換えると、HASHベースで根拠を追跡しつつ本文を保存しない仕組みは、業界横断で語られてきた機密情報管理の課題に対する一つの解として読み取れます。
生成AIの活用範囲が自律的な判断・実行へと広がるほど、ログの「量」だけではなく「何を保存し、何を保存しないか」という設計思想が問われます。マーケティング業界の動向としても、顧客データや社内ナレッジを参照するAI活用が進む中で、Privacy-Safeな監査設計は業界全体で注目しておく価値がある観点です。
References
- ^ PR TIMES. 「AI Agentの“判断から実行まで”を監査する純国産Security for AI基盤、「Senda-Argus」技術プレビューを公開 | 株式会社レインフォレストのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000024.000089968.html, (参照 26-07-01).
