AIエージェントを安全に業務へ適用するための「AI品質維持サイクル」技術を開発

AIに任せる業務内容の条件策定から評価・改善までを支援し、重要業務へのAI適用を促進

　日立は、社会インフラや産業分野など、停止や誤判断の影響が大きい業務にAIエージェント*1を適用する際に「どの業務を、どの条件で、どこまで任せられるか」の判断を支援する「AI品質維持サイクル」技術を開発しました。

　近年、AIエージェントの活用は、情報検索や提案にとどまらず、業務の実行を担う段階へと広がっています。一方、重要業務への適用にあたっては、AIモデルの精度だけでは十分ではなく、実行内容の妥当性評価、業務手順の遵守、異常時の対応、人とAIの役割分担まで含めて設計・評価することが必要となります。今回、日立は、AIに任せる条件を実際の業務手順や運用条件に即して設計するとともに、AIエージェントが業務システムと連携して処理を進める前に、手順からの逸脱といった実行内容の妥当性を検証し、状況に応じて内容の見直しや利用者への確認、停止などを行う仕組みを開発しました。これにより、単純な許可か停止かではなく、業務継続性に配慮しながら安全性を確保する運用を支援します。さらに、運用結果を継続的に評価して改善を重ねることで、業務への影響や運用上のリスクも踏まえて、AIに任せる範囲を継続的に適正化できるようにします。今後、日立は、設備保守やIT運用などでプロトタイプ検証を進め、AIで社会インフラを革新する次世代ソリューション群である「HMAX by Hitachi」を支える技術へと発展させ、ミッションクリティカルな業務へのAI適用拡大に貢献していきます。 

*1：利用者から与えられた目的に応じて、情報収集や計画立案、判断、実行を自律的に行うAIシステム

　近年、労働力不足や業務の複雑化を背景に、AIエージェントを活用して現場業務の実行や判断を支援する期待が高まっています。特に社会インフラや産業分野では、熟練者の知見を生かしながら業務の安定運用を維持することが重要であり、AIの活用はその有効な手段の一つです。一方で、停止や誤判断の影響が大きい業務では、AIモデルの性能評価だけでは適用可否を判断することが難しく、業務手順、運用条件、人とAIの役割分担を踏まえて適用範囲を定める必要がありました。さらに、実運用で得られた結果を継続的な改善に反映する仕組みも十分ではなく、AI活用を拡大しにくいことが課題でした。

　そこで日立は、重要業務へのAI適用範囲を判断しやすくするため、業務運用の観点からAIに任せる条件を定め、実行内容の妥当性確認と運用結果の評価・改善を一体で支援する「AI品質維持サイクル」技術を開発しました。技術の特長は以下の通りです。

1. AIに任せる条件を定義する業務観点での品質評価
   　AIエージェントの出力精度だけでなく、業務手順や証跡、運用ログ、後続業務への影響、責任分担などの業務観点をもとに、AIに任せる業務範囲や利用条件を定義します。これにより、業務への影響や運用上のリスクを踏まえながら、AI適用の妥当性を評価し、その判断根拠を説明可能にします。
2. 業務的制約の遵守を支援する実行時制御
   　AIエージェントがシステムや外部ツールを利用する際、その内容が業務手順に沿っているかを実行前に検証します。さらに、リスクに応じて利用者への確認や実行内容の見直し、停止などを段階的に行うことで、手順遵守と業務継続性の両立を支援します。
3. OT×IT知見に基づくAI品質維持・運用
   　日立が培ってきたOT現場の業務手順や設備・保守に関する知見と、IT基盤上のAIエージェント運用管理技術を組み合わせることで、AI品質の設計から実行時制御、運用知識の蓄積、評価・改善までを一体的に支援します。これにより、実運用で得られた知見を次の判断に活用しながら、AIに任せられる範囲を継続的に見直し、改善することができます。 

　今後、日立は、設備保守やIT運用などでユースケースを通じて検証を進めます。業務ごとに求められるAI品質指標や必要な証跡・運用条件の具体化を図ります。将来的にはHMAX AI Operations*2の一部として必要性に基づき順次機能を提供することを見据えるなど、「HMAX」において、AIエージェントに任せられる業務範囲を段階的に拡大する基盤技術として発展させていきます。なお、本成果の一部は、2026年7月に開催されたIEEE World Congress on Servicesで発表しました*3。

*2：HMAX AI Operations：AIエージェントの運用管理を一体的に支援する日立のエンタープライズ向けプラットフォーム

*3：Hitoshi Yabusaki, "Verifier-Grounded Runtime Mediation for LLM Agent Procedural Compliance", Symposium on the Science of Security and Privacy Engineering (SSE), 2026 IEEE World Congress on SERVICES, 2026.

関連情報

日立の研究開発ウェブサイト

照会先

株式会社日立製作所 研究開発グループ

問い合わせフォームへ