OrcaRouter、1.5TB超の大規模LLM「GLM-5.3」を1台のMacで実行できる「GLM-5.3-MLX」を公開

公開：2026年8月31日

CodeCampが提供するDX人材育成が可能なプログラミングやITが学べる公開講座

この記事はプレスリリースです

本記事は、PR TIMESに掲載された企業・団体等のプレスリリースを原文のまま転載しています。記事内容は発表時点の情報です。

発表元: FlashLabs株式会社
原文: PR TIMESで元のプレスリリースを読む
配信日時: 2026年8月31日 14時30分
転載日: 2026年9月1日

発表内容については発表元へ、当サイト上の訂正・削除については、当サイトのお問い合わせフォームにご連絡ください。

転載

プレスリリース本文

約743BパラメータのオープンウェイトAIモデルを約79%小型化。512GBメモリ搭載Macでのローカル実行を実現

FlashLabs株式会社（本社：東京都千代田区、代表取締役：細井洋一、以下「FlashLabs」）は、米国のAI研究機関Continuum AIが開発し、当社が日本市場向けに独占提供するAI推論ゲートウェイ「OrcaRouter」において、Z.ai社のオープンウェイトLLM「GLM-5.3」（総パラメータ約743B・アクティブ40B・1Mトークンコンテキスト）をApple Silicon向けに最適化したMLX量子化版「GLM-5.3-MLX」を公開したことをお知らせします。本モデルはHugging Face上で公開されています。

主なポイント

「Flash版」「蒸留版」ではない、フルモデル「GLM-5.3」（総パラメータ約743B・アクティブ40B）をApple Silicon向けに最適化
開発元独自の量子化手法「OrcaSAQ」により、FP8時点の約1.51TBから2-bit版で約322GBへ、約79%小型化
2-bit版で約**80.2%**の精度を維持（開発元検証）
2-bit〜6-bitの4バリアントを提供。512GBメモリ搭載Mac（M3 Ultra）では2-bit〜4-bitをローカル実行可能
6-bit版はFP8に対しコサイン類似度0.9997以上。6-bit実行は2台の512GB Macを接続する分散構成（mlx.distributed）または8×H200で対応
Hugging Face上で公開。GGUF版はUnslothからも提供。APIではフル精度のまま利用可能

開発の背景

大規模言語モデル（LLM）のローカル実行は、データを外部に送信せずに済むこと、レイテンシーが低いことなどから、開発者や企業の関心が高まっています。一方で、最先端のオープンウェイトモデルは動作に数百GB規模のメモリを必要とすることが一般的で、多くの開発者が日常的に使うデバイスでの実行は困難でした。

この課題に対してOrcaRouterは、モデルを圧縮しながら性能を保つ量子化技術の開発を進めており、その成果のひとつが独自量子化手法「OrcaSAQ」（Orca Sensitivity-Aware Quantization）です。キャリブレーション用データを必要とせず、モデルの構造に応じて精度保持に重要なテンソルを高精度に保つ混合精度量子化方式で、性能とメモリ使用量のバランスを高水準で両立します。2026年8月28日には、同手法により「GLM-5.3-Flash」（総パラメータ320B）のApple Silicon向けMLX版を公開しており、今回の「GLM-5.3-MLX」はフルモデルへの展開となります。

GLM-5.3-MLXについて

「GLM-5.3」は、Z.ai社のフラッグシップとなるオープンウェイトLLMです。総パラメータ約743B・アクティブ40BのMoE（Mixture of Experts）構成で、1Mトークン（100万トークン）のコンテキストに対応します。「GLM-5.3-MLX」は、このフルモデルをApple Silicon向けに最適化したネイティブMLX版で、OrcaSAQにより「2-bit」「3-bit」「4-bit」「6-bit」の4バリアントを提供します。もっとも圧縮率の高い2-bit版では、FP8時点の約1.51TBから約322GB（約79%削減）まで小型化しつつ、約80.2%の精度を維持するという検証結果が得られています。

実行環境については、512GBメモリを搭載するMac（M3 Ultra）では、2-bit・3-bitは快適に、4-bitはフィットする構成でローカル実行できます。最上位の6-bit版は、2台の512GB Macをmlx.distributedで接続する分散実行、または8基のNVIDIA H200で実行する構成を想定しています。なお、8-bit版は提供していません。6-bit版がFP8に対しコサイン類似度0.9997以上を達成しており、8-bit化するとエキスパートウェイトがFP8のソースウェイトより大きくなるためです。

本モデルはHugging Face（orcarouter/GLM-5.3-MLX）で公開されており、量子化の強度を用途と実行環境に応じて選択できます。また、UnslothによるGGUF版も提供されており、llama.cppなどGGUF対応の実行環境でも利用できます。ローカル実行が難しい環境では、OrcaRouterのAPIからGLM-5.3のモデルページ経由でフル精度のまま利用可能です。

今後の展望

OrcaRouterは今後も、大規模モデルを身近なデバイスで活用できるようにする量子化技術の研究開発と、モデルカタログの拡充を進めてまいります。

OrcaRouterについて

OrcaRouterは、米国のAI研究機関Continuum AIが開発し、FlashLabs株式会社が日本市場向けに独占提供するAI推論ゲートウェイです。OpenAI互換のAPIを備え、Anthropic、OpenAI、Google Gemini、DeepSeek、Grok、Qwenなど200以上のLLM・生成AIモデルを単一のゲートウェイから利用できます。直近では、GPT-5.6、Claude Opus 5、Gemini 3.6 Flash、Grok 4.6、Muse Spark 1.2など、各社の最新モデルが公開後まもなくカタログに追加されています。OrcaRouterのAIモデル一覧からすべてのモデルを確認できます。