ブラウザベンダーのOperaは2024年6月7日、オンデバイスAIの性能を測定する業界初のベンチマークツール「devicetest.ai」を公開した。このツールは、ユーザーのデバイスがローカルでAIモデルを実行する準備ができているかどうかをテストするもので、Opera Developerの最新版で利用可能だ。^[1]

devicetest.aiは、ダウンロードしたLLM（大規模言語モデル）を使って一連のチェックを実行し、トークン毎秒（TPS）、初回トークン生成までの遅延（FTL）、モデル読み込み時間（MLT）などの指標に基づいてデバイスのAI対応状況を判定する。テストにはBasic、Standard、Advancedの3つのプロファイルが用意され、それぞれが異なるリソース要件のLLMに対応している。

テスト結果は「AI Ready」「AI Functional」「Not AI Ready」の3段階で色分け表示され、詳細なベンチマークスコアも確認できる。また、結果はCSV形式でダウンロードしたり、専用のリンクを通じて他のユーザーと共有することも可能だ。Operaは今回のリリースについて、オンデバイスAIの普及に向けた重要な一歩だと位置づけている。

ブラウザ上でのLLM実行に向けたOperaの取り組みが本格化

Operaは以前からAIをブラウザに統合する構想を掲げており、2023年8月にはデバイス上でLLMを動かすことのできる初のブラウザとしてOpera Oneをリリースしていた。devicetest.aiの提供開始は、こうした同社の取り組みがさらに加速していることを示している。

ローカルでのLLM実行には、プライバシー保護やレスポンス速度の向上などのメリットがある一方で、モデルの規模や複雑さ次第ではデバイスのリソースを大量に消費するというデメリットもある。Operaのベンチマークツールは、ユーザーがこのトレードオフを適切に判断する助けになるだろう。

同社はdevicetest.aiについて、カジュアルユーザーからエンスージアスト、研究者まであらゆる層のニーズに応えられるツールだと説明している。今後のアップデートで対象プラットフォームの拡大や機能強化が進めば、ブラウザベースのオンデバイスAIに対する理解はさらに深まっていくに違いない。

おすすめのPython研修一覧

Python研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Python研修の一覧を見る

おすすめのDX研修一覧

DX研修を提供しているおすすめの企業・法人を一覧で掲載しております。

DX研修の一覧を見る

おすすめのJava研修一覧

Java研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Java研修の一覧を見る

おすすめのJavaScript研修一覧

JavaScript研修を提供しているおすすめの企業・法人を一覧で掲載しております。

JavaScript研修の一覧を見る

trends編集部「K」の一言

Operaが公開したdevicetest.aiは、ブラウザにおけるオンデバイスAIの可能性を探る上で重要な意味を持つツールだと言えるだろう。これまでWebブラウザはクラウドのリソースを活用することで進化を遂げてきたが、ローカルでのAI処理が現実のものとなれば、より自律的でプライベートなブラウジング体験の実現に近づくことになる。

devicetest.aiの特徴は、単にベンチマークを取るだけでなく、ユーザーのデバイスに最適なLLMプロファイルを提示してくれる点にある。これにより、AIの活用に不慣れな層でも自身のニーズに合ったモデルを選択しやすくなるはずだ。また、テスト結果の共有機能は、オンデバイスAIのパフォーマンスに関するコミュニティの知見を広げる効果も期待できる。

一方で、ブラウザがデバイス上のリソースを積極的に利用するようになれば、バッテリー消費や発熱など新たな課題への対処も必要になってくるだろう。Operaにはベンチマークツールの改良と並行して、AIのローカル実行におけるベストプラクティスを確立していくことが求められる。Web標準への対応など、業界を巻き込んだ取り組みへと発展させることも重要だ。

devicetest.aiは、従来のWebブラウザの常識を覆すイノベーションの萌芽と言えるかもしれない。Operaは今後、このツールで得られた知見を自社ブラウザに反映させていくと見られるが、それが業界全体に与えるインパクトにも注目したい。オンデバイスAIは、次世代のブラウジングを体現する鍵となるテクノロジーになり得るのではないだろうか。