フルイド コンピューティングを支えるGoogle Cloudの4構成と選び方

フルイド コンピューティングのリソース オプション

例えば、プライベートLLMの推論をA4 VM（a4-highgpu-8g）のNVIDIA B200 GPUで実行する場合、そのGPUを本当に使えるかが課題です。リソースにアクセスする方法は、以下の通りです。^[1]

Flex Start VMは、必要なアクセラレータ ノードがすべてそろうまでワークロードをキューに入れ、まとめてプロビジョニングして最大7日間プリエンプト不可で実行します。カレンダー モードでは1～90日前にアクセラレータ容量を予約でき、開始時間と終了時間が保証されます。Google Cloudは、カレンダー モードをスケジュールされた事前トレーニングの実行やベンチマークに最適としています。^[1]

将来の予約は、将来の特定の日付から、指定したゾーンで確約されたハードウェアへのアクセスを保証します。フレックス予約では、短期契約によって、複数年のロックインなしで希少なアクセラレータ ノードを確保できます。^[1]

GKEのComputeClassesでは、マルチファミリー フォールバック リストを定義できます。プライマリ プールがリージョンの制約に直面すると、クラスタは代替アクセラレータ タイプのプロビジョニングを自動で試行します。Spot VMは、フォールト トレラントなチェックポイント付きバッチジョブ向けに、余剰コンピューティングを大幅な割引価格で提供します。^[1]

図1　予約とVMで選ぶリソース オプション

フルイド コンピューティングを支えるネットワーク構成

Google Cloudのネットワーキング オプションは、さまざまなアクセラレータ タイプをサポートしています。コンポーネントはアクセラレータの選択で異なり、対応関係は以下の通りです。^[1]

標準ネットワーキング

標準ネットワーキングでは、ノードがGoogle Virtual NIC（gVNIC）と標準のTCP / IPを使い、プライマリVPCネットワーク経由で通信します。Google Cloudのコンピューティング環境間で移植しやすく、標準のVPCルーティングとネットワーク ポリシーを使います。^[1]

高速GPUネットワーキング

GPUDirect-TCPX（4つの専用VPC）とGPUDirect-TCPXO（8つの専用VPC）は、カスタムのオフロード エンジンを使います。ネイティブのRDMAハードウェアなしで、標準のイーサネット上に高スループットのマルチレールGPU通信を実現します。^[1]

RoCEv2は、専用のゾーン ネットワーク プロファイルに接続された専用のRDMA VPC上で動作します。VMインスタンス（A3 Ultra、A4、A4X）はZONE-vpc-roce、ベアメタル インスタンス（A4X Maxなど）はZONE-vpc-roce-metalを使います。^[1]

図2　高速GPUネットワーキングの方式と専用VPC

TPUネットワーキング

Cloud TPU v6e（Trillium）とTPU7xには、ネイティブのマルチNICアーキテクチャが導入されました。ワーカーノードは標準のKubernetes管理トラフィックをプライマリVPCに分け、TPUデータとクロススライス通信にはセカンダリの専用VPCを使います。^[1]

図3　TPU v6e以降のマルチNIC構成

Cloud RunのダイレクトVPC下り

ダイレクトVPC下りは1分未満でIPを割り当て、サーバーレス コンテナをプライベートVPCネットワークに直接バインドします。公共のインターネットやレガシー コネクタVMなしで、内部データレイクやデータベース、プライベートAPIへセキュアかつ低レイテンシでアクセスできます。^[1]

図4　Cloud RunのダイレクトVPC下り

フルイド コンピューティングのネットワーク設定

Google Cloudは、フルイド コンピューティングを使う場合、ワークロードの性能が最適化される設計に合わせてネットワーク設定を調整できるとしています。RoCEv2のスタックは、Cluster Toolkitの自動化されたブループリントでデプロイできます。^[1]

Cluster Toolkit

RDMA VPCやMTUチューニング、DRAドライバを含むRoCEv2のスタック全体は、Cluster Toolkitの自動化されたブループリントでデプロイできます。GPUDirect-TCPX / TCPXOのマルチVPCトポロジも、事前構築済みのブループリントなどでデプロイできます。^[1]

GKE マネージド DRANET

RoCEv2対象のGPUやTPUネットワーキング対象のTPUをGKEにデプロイする場合は、GKE マネージド DRANETで追加のネットワークを自動的にプロビジョニングできます。GPUにはRDMAネットワーク インターフェースをマッピングするドライバ、TPUには通信用のドライバを割り当てられます。これらは標準のKubernetesリソース クレームでPodに直接割り当てられます。^[1]

GKE Dataplane V2を使うGKE Standardクラスタの作成コマンドは以下の通りです。^[2]

gcloud container clusters create CLUSTER_NAME \
    --enable-dataplane-v2 \
    --region=CONTROL_PLANE_LOCATION \
    --project=PROJECT_ID \
    --cluster-version=CLUSTER_VERSION

公式資料からの抜粋：GKE マネージド DRANET を使用してネットワーク リソースを割り当てる（クラスタを作成する）。対象版・範囲：GKEドキュメント（2026年10月4日取得時点）。^[2]

上記のコードでは、--enable-dataplane-v2でGKE Dataplane V2を有効にしています。CLUSTER_VERSIONには、1.34.1-gke.1829001以降を指定します。^[2]

GKE DRANETを使うには、まずGPUまたはTPUのノードプールでドライバを有効にします。次にResourceClaimTemplateでDeviceClassと割り当てモードを指定し、Pod仕様のresourceClaimsから参照します。^[2]

図5　GKE DRANETでネットワークデバイスを要求する流れ

フルイド コンピューティングのネットワークの選び方

編集部では、使うアクセラレータとワークロードの種類を手がかりに、ネットワーク構成を選ぶことをおすすめします。分散データの前処理やパイプライン ステージの分離、独立した推論レプリカ、コンピュータ ビジョンは、標準ネットワーキングがサポートするワークロードです。^[1]

分散トレーニングとマルチノード推論には、膨大なパラメータ交換と集団通信を処理する特殊なマルチレール ネットワーク ファブリックが必要です。個々のTPUスライスを超えてスケールするモデルでは、Cloud TPUマルチスライスがJupiterデータセンター ネットワークで複数のICIメッシュを接続します。^[1]

図6　ワークロード別のネットワーク構成の目安

ComputeClassesのフォールバックで代替のアクセラレータへ切り替わると、使うネットワーク構成も変わる場合があります。例えば、A4 VMはRoCEv2、A3 High VMとA3 Mega VMはGPUDirect-TCPX / TCPXOの対象です。編集部では、フォールバック先の構成で必要なネットワークも事前に確かめることをおすすめします。^[1]

フルイド コンピューティングの選択肢の条件

編集部では、利用前にRDMA ネットワーク プロファイルとカレンダー モード、Cloud Run GPUの条件を確かめることをおすすめします。条件は以下の通りです。^[3][4][5]

図7　利用前に確かめる条件

RDMA ネットワーク プロファイル

RDMA ネットワーク プロファイルは、一部のゾーンでのみ使用できます。RoCE VPCネットワークがサポートするのは、A3 Ultra、A4、A4Xマシンシリーズでのみ使えるMRDMA NICだけです。^[3]

VMのRDMA以外のNICは、通常のVPCネットワークに接続します。ベアメタル インスタンスは、別のZONE-vpc-roce-metalプロファイルを使います。^[1][3]

図8　RoCE VPCを使うVMのNICの接続先

承認後のカレンダー モード予約の条件

Google Cloudがリクエストを承認した場合、カレンダー モードの将来の予約リクエストは作成後にキャンセルや削除、変更ができません。容量を使うかどうかに関係なく、リクエストした容量の料金はリクエストの開始時に支払います。^[4]

Cloud Run GPUのリージョン

確認日時点で、Cloud Run GPUサービスがサポートするアジアのリージョンは、RTX PRO 6000がシンガポールとデリー、L4がシンガポールとムンバイ（完全招待制）です。東京と大阪のリージョンは、どちらの一覧にも含まれていません。^[1][5]