株式会社AcompanyとNECは、NECが開発する生成AI「cotomi(コトミ)」をConfidential Computing(以下CC)環境上で推論実行する技術実証に成功しました。
cotomiのCC環境運用に向けた実証の背景
NECが開発するcotomiは、高い日本語性能を持つ生成AIです。金融や製造、公共など、高度な専門業務への活用を通じて、業務の高度化に貢献しています。
こうした領域の顧客からは、「プロンプトや機密ファイルをクラウド事業者にも見せたくない」「自社でファインチューニングしたモデルを安全に運用したい」という要望が強く寄せられてきました。CCとの組み合わせによる実用性の検証が急務となっていたことが、今回の実証の出発点です。
CCは、AIとセキュリティの組み合わせにおいて、世界的な注目を集めています。AppleはApple IntelligenceにおいてCCを活用してプロンプトを保護し、GoogleもGoogle Distributed Cloud(GDC)上でGeminiモデル自体のコードや重みを不正アクセスや改ざんから保護するなど、AI処理とCCを組み合わせる取り組みは潮流となりつつあります。一方で、CC有効化時の性能影響を懸念する声も根強く、実モデルを用いた定量的な検証が求められていました。
cotomiをCC環境で動作させた実証の概要と結果
本実証では、株式会社AcompanyがCC技術およびCC上でのLLM推論環境の提供・検証を担い、NECが生成AIモデル「cotomi」を提供しました。具体的には、AMD SEV-SNP(CPU側TEE)とNVIDIA Confidential Computing(GPU側TEE)の双方を有効化したCVM(Confidential Virtual Machine)上でcotomiを動作させ、CC無効時との比較で推論性能(スループット・レイテンシ)を測定しています。
検証で確認された主な結果は、以下の通りです。
- CC機能を有効化した状態でcotomiの推論が問題なく動作
- CCの有無による速度への影響は最大約10%程度の速度低下にとどまる
- NVIDIAが公式に公表するCC環境でのLLM推論性能データと整合
この結果は、特異な性能劣化のない順当な結果であり、CC適用による性能影響が生成AIの実用において十分に許容できる水準であることを示しています。
日本語性能に優れた国産LLMであるcotomiをCC環境で運用することは、データの処理・保管を国内に閉じたまま高度なAI活用を実現するという観点からも意義のある成果です。
cotomi実証の今後の展望と両社コメント
今回の成果により、医療や金融、製造など機密データを日常的に扱う業務での生成AI活用が広がります。
さらに、ファインチューニング済みモデルや商用モデルの知的財産保護という課題への対応も現実的になりました。AIモデルを顧客のオンプレミス環境へ安全に提供するユースケースなど、これまでセキュリティ要件から生成AIの導入が難しかった領域においても、CCを前提とした安全なAI活用が現実的な選択肢となります。
日本電気株式会社のAIプラットフォームサービス統括部長・吉川 彰一氏は、「CC環境下でも実用に耐えうる性能が確認できたことは、高度なガバナンスが求められる領域におけるお客さまのAX(AIトランスフォーメーション)推進の後押しともなる成果」と述べています。
株式会社Acompanyの取締役CRDO・近藤 岳晴氏は、「CPU・GPU双方のTEEを有効化した状態でも性能影響が最大約10%程度にとどまることを定量的に示せたことは大きな前進」とし、「秘密を守れるAI」の実現に向けてパートナーとの取り組みを続ける方針を示しました。
株式会社Acompanyの概要と事業内容
| 項目 | 詳細 |
|---|---|
| 社名 | 株式会社Acompany |
| 代表者 | 代表取締役CEO 高橋亮祐氏 |
| 所在地 | 愛知県名古屋市中区栄二丁目1番1号 日土地名古屋ビル7階 |
| 設立 | 2018年6月 |
| 事業内容 | 秘密計算に関連した製品・技術と、機密データ活用に関するコンサルティングサービスの提供 |
trends編集部の一言
CCの有効化による速度影響が最大約10%程度にとどまるという定量データは、セキュリティと実用性のトレードオフを議論してきた業界全体に対して、一つの基準線を提示する結果です。企業向け生成AI市場では、顧客データや戦略情報をAIに入力することへの社内承認が下りにくい場面が広く見られており、「処理内容をクラウド事業者からも保護できる」という前提の有無が導入判断のしやすさを大きく左右する構造は、業界横断の課題として語られてきたテーマです。
業界全体としては、国産LLMをCC環境で実用水準のまま動かせることが定量的に確認された点は、経済安全保障の文脈でも注目される動きと捉えられます。データを国内で完結させながら高度なAI活用を実現したい組織が増えるなか、今回の実証結果は業界動向を考える上でも示唆を含む成果といえるのではないでしょうか。
References
- ^ PR TIMES. 「Acompany、NECの生成AI「cotomi」をConfidential Computing環境で動作させる技術実証に成功 | 株式会社Acompanyのプレスリリース」. https://prtimes.jp/main/html/rd/p/000000134.000046917.html, (参照 26-06-25).
ITやプログラミングに関するコラム
【CSS】notで複数の件を除外する方法
【Git】remote設定を変更する方法
【VBA】コメントアウトを設定する方法
x86とx64の違いを分かりやすく解説
マークダウンで改行する方法
CapsLockキーを解除する方法
GitLabとGitHubの違いを解説
Linuxで環境変数を確認する方法
UbuntuのIPアドレスを確認する方法
パソコンのメモリの目安を用途別に選ぶ方法
ITやプログラミングに関するニュース
VercelがAI GatewayにSeedream 5.0 Proを追加、AI SDKのモデル指定で画像生成と編集が可能に
AWSがAmazon LocationのPlaces APIを強化、住所表記の指定と移動手段別の検索が可能に
VercelがトレースにTree・Waterfallビューを追加、ログ画面で処理の階層と所要時間を確認可能に
Googleがエージェント評価の再考を提唱、難易度を情報量で測るDiscovery Benchを解説
Google CloudがCloud Runサンドボックスを公開プレビューで提供、サービスヘルスは一般提供に
Google Cloud EMEAが英国金融の重要第三者に指定、イングランド銀行・PRA・FCAの直接監督下に
AWS DMS Schema ConversionがSQL Serverのオフライン変換に対応、ソースDBへ接続せずスキーマを変換可能に
EC2 G7インスタンスが米国東部(バージニア北部)で利用可能に、G6比でAI推論性能が最大4.6倍
SageMaker HyperPodが継続プロビジョニングでのAMIベース構成に対応、S3のスクリプト管理なしでSlurmクラスターを作成可能に
AWSがEMR on EKSでSparkトラブルシューティングエージェントに対応、失敗ジョブの原因分析を自然言語で依頼可能に
