単価は98％下がったのに AI の支出は増える、だから最上位モデルは要所にだけ使う

登壇したのは、Google Cloud AI 技術統括本部の2人だ。AI 技術部長の長谷部光治氏と、フォワード・デプロイド・エンジニア（FDE）の Akdemir Arda 氏である。FDE は、顧客の現場に入り込み、AI を実際の業務に組み込むところまで伴走するエンジニアだ。

前半は長谷部氏が経営と基盤の戦略を、後半は Akdemir 氏が、コストを約7割削減した現場の事例を話す構成だ。

Google Cloud AI 技術部長の長谷部光治氏

PoC は成功、でも採算が合わない

長谷部氏はまず、多くの企業が抱える悩みから切り出した。現場では、PoC（小さく試す段階）では成功したのに採算が合わず、全社展開の手前で止まる、という悩みが急増しているという。

そこで世界中で注目されているのが、この日のテーマ「Tokenomics」だ。一言で言えば、AI の原価・採算管理である。トークンとは、AI が文章を読み書きするときの細かな単位で、AI の利用料は、多くの場合このトークンの量で決まる。

Google Cloud の Day 1 基調講演では、企業が AI のトークンに使う費用は1社あたり年間平均5.2億円、という調査が紹介された。何も手を打たなければ、44％増えるという。要因に挙がったのは、エージェントの「ループ」と、「タスクとモデルのミスマッチ」だ。このセッションは、その2つへの答えに聞こえた。

いま起きている最大の変化は、AI が質問に答える存在から、仕事をやり切る存在に変わったことだという。では、AI が自分で考えて動くようになると、裏側で何が起きるのか。AI の燃料にあたるトークンの消費量が、桁違いに跳ね上がる。これまでのソフトウェアは、たとえば SaaS なら「社員1人あたり月額いくら」と、コストを予測できた。

ところが AI エージェントになると、計画し、実行し、確かめるというループが、何十回も回る。たった一つの仕事を頼んだだけでも、チャットの10倍から25倍、あるいはそれ以上のトークンを使う。Google Cloud でも、過去1年で1兆トークン以上を処理した顧客が約500社に達したという。

エージェントの裏側では、従来の10〜25倍のトークンが使われる

年間1兆トークン。しかもそれを使う会社が500社もある。桁の大きさに、思わず耳を疑った。

そうは言っても、トークンの単価は下がっているのではないか。たしかに、AI が答えを出すための単価は2024年と比べて98％下がった。だがスライドは、「安くなるから安心」は誤解だと言い切る。エージェントの自律的なループが広がることで、トークンの消費量は2030年までに24倍になるという（出典はゴールドマン・サックスの予測など）。最初から Tokenomics を設計に組み込んでおこう、というのが長谷部氏の結論だった。

では、この設計をせずにエージェントを全社に広げると、何が起きるのか。全社展開が止まる現場では、必ず2つの問題が起きているという。1つ目は、「従量課金の爆発」だ。月曜の朝に出社したら、エージェントが週末じゅう裏で動き続けていて、週末だけで予算の数倍を使い果たしていた。そんな「週末の請求ショック」が、実際に起きているという。ブレーキのない車に、財務部門や経営陣はゴーサインを出さない。2つ目は、「エージェントの乱立」だ。部門ごとにばらばらに AI やプラットフォームと契約し、予算も、データの管理も、誰が何を使えるかという管理も、ブラックボックスになる。

「ブレーキのない車」の話で思い出したのが、アクセンチュアのニュースだ。同社は2026年10月1日から、社員が使う Claude（Anthropic の AI）の会社負担を1人月額29ドルまでとした、と報じられた。超える分は、各プロジェクトの予算に付け替える。もっとも、アクセンチュアは「毎月の利用に厳格な上限を設けたという報道は正しくない」としている。利用を禁じたのではなく、誰の予算で払うかをはっきりさせた、と読むのが正確だろう（24/7 Wall St.、Forbes）。

長谷部氏が示した3つの柱

では、この壁をどう越えるのか。長谷部氏は3つの柱を示した。第1の柱は、モデルの適材適所だ。いまの AI モデルには、はっきりした4つの階級があるという。

• フロンティア：最高峰の推論と計画を担う。単価はこれを基準（1倍）とする
• パレートフロンティア：実際に仕事を回すループの主力。単価は5分の1から10分の1
• スケール：大量の処理を、とても速く安くこなす。単価は20分の1から50分の1
• オープンウェイト：中身が公開され、自社の環境で動かせるモデル

新モデルが次々登場する時代、モデルは「スナップショット」

長谷部氏は、いま一番賢いと言われるモデルも、3か月後にどうなっているかは誰にも分からない、正直自分にも分からない、と語った。だから、モデルは「今この時点のスナップショット」にすぎないと考えて、使い分ける。

このスライドは、とても勉強になった。筆者自身、つい一番賢いフロンティアモデルを使いがちだ。メールの下書きや議事録の要約に、毎回最高峰の頭脳を呼ぶ必要はない。

「安いモデルを使うと、仕事の質が落ちるのではないか」という声もよく聞くという。ポイントは、エージェントの仕事を分解することだ。全体の計画や最終チェックといった、本当に賢さが要る仕事は2〜3割。残りの7〜8割は、検索やコードの生成、確認を繰り返す「実働ループ」だという（Google Cloud の FDE が手がけた案件での典型的な比率）。長谷部氏は、人の会社にたとえた。資料探しから集計まで、すべてを役員にやらせる会社はない。方針を決めるところは部長が担い、実務は仕事の速い優秀な社員に任せる。AI も同じだ。

第2の柱は、オープンなエージェント基盤だ。UI（業務の入り口）、ハーネス（実行役）、モデル（AI の頭脳）の3つを固定しない。そのうえで、業務の手順や判断基準を書き出した「業務スキル（SKILL.md）」などを、オープンな標準の形で社内に持っておく。社員が使う画面も、社内の資産も作り直さず、裏側のモデルだけを置き換えられる。

基調講演では、Google Cloud 執行役員の寳野雄太氏が「単利」と「複利」の話をした。AI への支出を使い捨てにせず、組織に積み上がる「複利」へ変えようという。その中心には、自社の業務のやり方をまとめた「Skills」がある。業務スキル（SKILL.md）とは、まさにその Skills を文書にしたものだ。モデルを選ぶことより、何を社内に残すかを決める方が大事になる。

第3の柱は、財務や経理といった管理部門が最も気にする、予算と契約の仕組みだ。AI FinOps と呼ぶ。FinOps とは、クラウドの費用を、財務と現場と IT が一緒に見て管理する考え方のことだ。合言葉は「見る、止める、まとめる」。どの部署がいくら使い、どれだけ成果を出したのかを見る。予算の上限を決め、ループの暴走や急増を検知したら自動的に止める。そして、モデルごとに別々の契約を結んで枠を余らせる「掛け捨て」をやめ、1つの契約・請求の枠にまとめる。

モデルが3か月で入れ替わるなら、モデルごとに年間契約を結ぶと、乗り換えたとたんに枠が無駄になる。技術の話に見えて、実は購買と契約の話だ。

後半：FDE が見せた実装の現場

後半を担当したのは、Google Cloud で FDE を務める Akdemir 氏だ。Smart Gateway という仕組みと、2つの本番の事例で示すという。

Google Cloud の FDE、Akdemir Arda 氏

Akdemir 氏はまず、Tokenomics の代表的なやり方として「ルーティング」を示した。AI への依頼ごとに難しさを判定し、品質を満たせる、もっとも適したモデルへ自動で振り分けることだ。基調講演でも寳野氏は、AI のコストを抑える手段としてルーティングを挙げていた。これを企業全体で実装したのが、Smart Gateway だという。

どのツールからでも、つなぎ先の URL を1つ変えるだけで使える。依頼ごとの難しさを1秒未満で判定し、最適なモデルへと振り分ける。

どの呼び出しも、Smart Gateway が最適なモデルへ自動で振り分ける

この Smart Gateway は、とても素敵だ。入り口で仕事の難しさを見分け、ちょうどよいモデルに回してくれる。筆者のようについフロンティアを選んでしまう人にとって、仕組みの方で適材適所を引き受けてくれるのはありがたい。

チャット画面では、モデルの設定を「Auto」にしておき、やり取りのたびにモデルを切り替える。スライドの例はこうだ。

シンプルだが、面白い。難しい比較検討の直後でも、「表にして」と頼めば高速モデルに戻る。

経営層からは必ず「本当に価値が出ているのか」と聞かれる、と Akdemir 氏は言う。そこで作ったのが、経営層向けの AI ROI Dashboard（投資対効果を示す画面）だ。見るべきなのはトークンの量ではなく、業務への効果だという。デモの画面（サンプルデータ）では、30日間で削減できた作業時間を、AI が9,599時間と判定していた。人件費を1時間80ドルとすると、その価値は約77万ドル。AI の費用は4,862ドルだった。もっとも、「削減できた作業時間」は AI が自動で判定した推計だ。

では、この仕組みは製品として誰でも使えるのか。Akdemir 氏は「市販のルーターをそのまま入れればいいのでは？と思われるかもしれません」と切り出した。多くのルーターは、文字数やキーワードといった単純なルールで判断する。賢い製品もあるが、汎用なので、その会社の業務は知らない。そこで FDE が顧客のエンジニアと一緒に、その会社の業務の基準に合わせてゲートウェイを専用に設計しているという。

なるほど、と膝を打った。筆者は講演を聞きながら、「Google Cloud を使わずに同じことをしたら、どれくらい苦労するのか」が気になっていた。振り分けの仕組みそのものは、実はそれほど難しくない。難しいのは、「その会社にとって、どの仕事が難しく、どこで失敗すると痛いのか」を見極めることだ。それは製品の箱には入っていない。

こうして顧客と一緒に作り込んだ結果が、2つの本番の事例だ。1社目は、大手 IT・通信企業の全社チャットと社内ナレッジの業務だ。同じ社内ベンチマークで比べると、すべてを最上位モデルで処理した場合の総コストは76.17ドル。Smart Gateway で振り分けると、22.66〜25.32ドル（67〜70％減）まで下がった。品質は、最上位モデルだけで処理した場合の98.9％を保っている。

そして Akdemir 氏が「一番お伝えしたい」と強調したのが、この数字だ。最上位モデルが本当に必要だったやり取りは、全体のわずか1％だった。

社内ベンチマークで総コスト67〜70％減、最上位が要ったのは1％

1％。この数字には驚いた。筆者が普段ついフロンティアを選んでいる仕事のほとんども、実はそこまでの頭脳を必要としていないのかもしれない。

2社目は、大手自動車メーカーのコーディングエージェントだ。計画、判断、レビューのうち、あらかじめ決めた難しい仕事だけを最上位モデルへ。実装やサブエージェント（作業を手分けする補助のエージェント）の処理は、すべて Gemini 3.8 Flash が担う。同等の品質を保ったまま、その部分のコストを約60％下げたという。まずは自分たちのデータで評価するところから、気軽に相談してほしい。Akdemir 氏はそう結んだ。

取材を終えて

正直に言えば、事前には「ノンエンジニアの自分には難しいかもしれない」と構えていた。だが聞き終えてみると、これは技術の話である以上に、お金と組織の話だった。AI のコストを下げる鍵も、結局は業務を知る人の判断にある。

基調講演で寳野氏は「AI のコストは今増えてもいいんです。逆に今増やして複利にしないといけない」と言い切った。一見、逆の話に聞こえる。だが、投資が資産として残るなら、そのコストは許容されるということだろう。筆者なら、最上位でなくてよい仕事はルーティングで安く回し、浮いた分を、業務のやり方を Skills として積み上げる方に回す。

もう一つ、ダッシュボードの数字から気づいたことがある。AI の費用約4,900ドルに対し、人の作業時間の価値は約77万ドル。桁が違うのは人の時間の方だ。時給の高い人が、安く働く AI の出力の確認に張り付いていたら、どれだけトークンを節約しても採算は合わない。

筆者なりに、身近なところからできることをまとめておく。

• AI に頼む仕事を、計画や判断と、作業に分けてみる
• 部署ごとに、誰がいくら使っているかを見えるようにし、上限を決めておく
• 契約をモデルごとにばらばらに結ばない
• 業務の手順や判断の基準を文書にして会社に残す。モデルは乗り換える前提で

モデルは3か月で「スナップショット」になる。だが、自社の仕事を分解し、どこに賢さが要るのかを見極める目は、乗り換えても残る。Tokenomics とは、AI の家計簿であると同時に、自社の仕事を知るための鏡なのだと思う。

開催概要

出典：Agentic AI Summit '26 Fall 公式ページ