NABLAS株式会社は、総務省「偽・誤情報対策のための技術開発・実証事業（令和7年度）」において、AI生成音声によるなりすまし対策を目的とした「電話音声フェイク検知システム」の技術開発・実証を完了しました。
NABLASが指摘する生成AI音声なりすましの社会問題化
生成AIの急速な普及により、高精度な画像や映像、音声を誰もが容易に生成できる環境が整いました。その一方で、こうした技術の悪用による「偽・誤情報」の拡散や「特殊詐欺」の発生が、国内外で深刻な社会問題となっています。
特に、生成AIを使ったフェイク音声による「なりすまし電話」は、従来の詐欺手法よりも巧妙かつリアルであり、被害者が偽物と気づかないままに被害を受けるケースが急増しています。SNSや動画共有サイトを通じて拡散される偽画像や偽映像も、政治や経済、災害対応などの分野において、誤った判断や混乱を招くリスクを孕んでいます。生成AIの悪用による社会不安の高まりを受け、偽・誤情報を見破り情報の信頼性を守る技術の開発や社会実装が求められています。
NABLAS株式会社の電話音声フェイク検知システム実証内容
本実証の背景には、生成AIの悪用によるフェイク音声詐欺の急増という課題があります。電話音声フェイク検知の実証では、通話中の相手の音声をリアルタイムで解析し、AI生成音声の可能性を判定して利用者に通知するアプリを開発しました。
実際の通信網を用いた実網検証を実施し、電話回線特有の音声圧縮やエコーキャンセル処理などが介在する実インフラ環境下での検知性能を測定しました。この検証を通じて、実際の電話サービスへフェイク検知エンジンを適用する際の技術的ポイントが明確になっています。
偽・誤情報対策の実証では、長野県伊那市と連携し、自治体の実務フローに合わせた検証を行いました。実際の自治体による情報発信とSNS等での拡散、および虚偽投稿の発生を仮定した検証を実施し、電子透かしや証明書の埋め込み処理によるファイルサイズの軽量化を確認しました。
SNS拡散後でも発信者の真正性が把握できることも検証で明らかになっています。伊那市からのフィードバックを反映させることで、システムは実用可能なレベルへと改善されました。
電話音声フェイク検知システム概要
| 項目 | 詳細 |
|---|---|
| 提供企業 | NABLAS株式会社（東京都文京区本郷6-17-9 本郷綱ビル1F） |
| 代表者 | 代表取締役 所長 中山 浩太郎氏 |
| 設立 | 2017年3月 |
| 共同コンソーシアム | NTT東日本株式会社 |
| 事業名 | 総務省「偽・誤情報対策のための技術開発・実証事業（令和7年度）」 |
| 主な実証内容 | 通話中AI生成音声のリアルタイム・低遅延検知、自治体連携による偽・誤情報対策 |
| 連携自治体 | 長野県伊那市 |
| 成果公開先 | 総務省Webサイト（「13 NABLAS株式会社」の欄） |
| URL | https://nablas.com |
今後の展望と実証パートナー募集
NABLAS株式会社は今後、実環境で得られたデータや運用上の課題をもとに、あらゆる環境へ適応可能なモデルの実装を進めます。複数の検知手法を組み合わせた、より強力なフェイク検知体制を構築し、日々巧妙になる最新の生成AIにも柔軟に対応できる検知基盤へと繋げていく方針です。
あわせて、共同実証パートナーの募集を開始しています。対象となる組織や企業は次の通りです。
- 自治体・都道府県警察
- 銀行・証券会社
- 通信事業者・オンライン会議システム提供企業
生成AIによる音声を用いたなりすまし電話や投資詐欺の被害防止、特定人物を装った詐欺への対策など、実業務における課題解決に向けた連携に関心のある組織や団体、企業が対象となります。
trends編集部の一言
通話中にAI生成音声をリアルタイムで検知するシステムを、実際の通信網を使った実網検証まで進めた点は、社会実装を見据えた動きとして位置づけられます。業界全体としては、生成AIを活用したフェイク音声の悪用が急増するなか、検知技術の社会実装はまだ黎明期にある段階です。今回のような総務省事業での実証は、標準化に向けた先行事例として読み取れるでしょう。
マーケティングの現場でも、AIで生成した音声や映像を広告やコンテンツに活用する動きが広がっています。こうした技術が検知側に導入されれば、今後は「AIが作ったかどうか」が受け手に可視化される時代が来るかもしれません。コンテンツの真正性をどう担保するかは、マーケティング業界の動向としても早めに議論しておく価値がある論点です。
References
- ^ PR TIMES. 「NABLAS、総務省事業において生成AIの「なりすまし電話」検知、偽・誤情報対策技術を開発 〜特殊詐欺や金融犯罪をリアルタイムに防ぐ〜 | NABLAS株式会社のプレスリリース」. https://prtimes.jp/main/html/rd/p/000000125.000038634.html, (参照 26-05-21).
