大規模言語モデル（LLM）を高速で実行できる「Groq」。これまでの生成AI サービスの中でも返答スピードが突出しておりSNSで注目を集めています。
Groq 速すぎる マジで1秒で返ってくる なにこれhttps://t.co/KMwYEm3zkL pic.twitter.com/1V9BScEnIX
— Kyo (@kyo_takano) February 19, 2024
また、Groqはアカウント登録をせず無料で利用できる手軽さも特徴。早速筆者も使ってみました。この記事では、Groqの特徴や使い方、日本語対応の有無について解説します。
Groqとは
Groqはアメリカ・マウンテンビューに拠点を置くテクノロジー企業です。人工知能（AI）や機械学習、高性能コンピューティング分野に特化した技術開発を行っています。
特に、大規模言語モデル（LLM）の処理において、GPUに依存する従来の手法に代わる新しいアプローチも提供しています。
その一環として、GPUとは異なるLPU推論エンジン（Language Processing Unit）と呼ばれるシステムを用いたサービス「Groq」をリリースしています。
GroqがMetaの最新LLM「LLaMA 3」に対応
2024年4月18日にMetaがリリースしたLLM「LLaMA 3」がGroqで利用できるようになりました。
Llama 3はGemini Pro 1.5やClaude 3 Sonnetを上回る性能を有しています。高性能でありながらも無料で使えるオープンソースということから、SNSでも話題となっています。
【⚡️速報：MetaがLlama 3をリリース】
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 18, 2024
オープンソースのLLMでこの性能は凄い。
Gemini Pro 1.5やClaude 3 Sonnetより高精度のLLM。
現状は8Bと70Bの２つのモデルが公開。
因みに、Claude Opusにも匹敵する400B+モデルもトレーニング中。
Llama 3は無料でMeta… pic.twitter.com/UPmx5zolYC
GroqでLlama 3が使えるようになったことで、高速かつ高品質なテキストを出力することが可能。今後ユーザーが増加することが考えられます。
Groqが開発したLPUの特徴
Groqが開発したLPU推論エンジンは、LLMなどの複雑で数の多い計算処理を効率的に処理することに特化しているのが特徴。従来のGPUを使った処理と比較して最大10倍の速度でLLMを実行できるとされています。
groqが爆速すぎてやばい。
— AI部_タク (@AIbujpn) February 19, 2024
オープンソースLLMのMixtralとLlamaを意味わからんくらい爆速で使える。https://t.co/3U2hInVGuu pic.twitter.com/YxRpUAjO6J
GroqにはMetaの「Llama 2 70B」やMistral AIの「Mixtral 8x7B」といったLLMが搭載されていますが、その処理速度の速さに驚く声がSNSでも多数見られます。
また、Groqは使い勝手のよいシンプルな操作画面も魅力。テキスト入力とクリックだけで簡単に操作でき、高いエネルギー効率を実現しています。
Groqは日本語に対応しているのか
Groqは日本語に対応していますが、実際に使ってみたところクオリティが高いとは言えない出力結果でした。
AIサービスのGroqが早いという話なので試してみたら、片言の日本語みたいな回答が来た。
— しおじい (@siwon_g) February 20, 2024
英単語が混じるのならわかるけど、なんでローマ字なんだろう？ pic.twitter.com/bfAHfPN6ye
上記のコメントにもある通り、日本語のプロンプトに関して部分的に英語で回答したり回答内容が不十分だったりすることもありました。そのため、日本語の性能に関してはChatGPTやCopilotのほうが優れている可能性があります。
GroqのLLMに「」
Groqの使い方
Groqは公式サイトにアクセスするだけでアカウント登録せずに利用できます。
Groq公式サイト：https://groq.com/
Groqより
上記がGroqのトップ画面です。プロンプトを入力するチャット欄だけのシンプルなデザインを採用しており、操作性に優れているのが特徴。左上にある「▼」をクリックすると利用するLLMを選択できます。
Groqの品質をテストするために、ChatGPTのGPT-3.5モデルと同じプロンプトを入力して出力結果を比較してみました。
双方に「初心者におすすめのプログラミング言語を教えてください。」という文章を入力した際の出力結果は下記の通りです。
Groqより
Groqの出力結果
Pythonは、初心者におすすめのプログラミング言語です。以下は、その理由です。
1. 易しい文法：Pythonの文法は、他のプログラミング言語に比べて非常にシンプルです。新しいプログラマーにとって、易しい文法は、学習の速度を上げるのに役立ちます。
2. 強力なライブラリー：Pythonには、数百の強力なライブラリーがあります。初心者にとって、これらのライブラリーは、プログラミングの基礎を学ぶのに役立ちます。
3. 大きなコミュニティ：Pythonコミュニティは、非常に大きく、活発です。初心者にとって、このコミュニティは、学習のための資源となります。
4. 問題解決の能力：Pythonは、問題解決の能力が高いです。初心者にとって、この能力は、プログラミングの基礎を学ぶのに役立ちます。
5. Web開発：Pythonは、Web開発にも使われます。初心者にとって、Web開発は、プログラミングの基礎を学ぶのに役立つ方法です。
6. データ科学：Pythonは、データ科学にも使われます。初心者にとって、データ科学は、プログラミングの基礎を学ぶのに役立つ方法です。
7. ゲーム開発：Pythonは、ゲーム開発にも使われます。初心者にとって、ゲーム開発は、プログラミングの基礎を学ぶのに役立つ方法です。
8. 教育的資源：Pythonには、初心者向けの教育的資源が多くあります。初心者にとって、これらの資源は、学習のための重要なツールです。
私たちは、Pythonを初心者にお勧めのプログラミング言語として強く推奨します。
ChatGPT GPT-3.5の出力結果
初心者におすすめのプログラミング言語は、以下のようなものがあります。
Python: Pythonはシンプルで読みやすい文法を持ち、幅広い用途に利用されています。データ解析、ウェブ開発、機械学習、自然言語処理など、さまざまな分野で活躍しています。初心者にとっても学習しやすい言語の一つです。
JavaScript: ウェブ開発における必須の言語であり、ブラウザ上で動的なコンテンツを作成するために使用されます。HTMLやCSSと組み合わせてウェブサイトを作成することができます。また、Node.jsを使うことでサーバーサイドの開発も行えます。
Scratch: ブロックベースのプログラミング言語で、プログラミングの基本的な概念を理解するのに最適です。特に子ども向けに設計されており、視覚的なプログラミング手法を通じてコーディングの基礎を学ぶことができます。
Java: Javaはオブジェクト指向プログラミングの概念を学ぶのに適しています。企業アプリケーション、Androidアプリ開発など、さまざまな領域で使用されています。
これらの言語は、初心者にとって学習しやすく、将来的にも役立つスキルを身につけることができます。興味や目的に応じて選択してみてください。
文章の自然さや情報量など、さまざまな点でChatGPT GPT-3.5の方が優れているように感じます。また、出力速度に関してはGroqの方が圧倒的に速いという結果でした。
Groqを日本語で使ってみた結果はイマイチでしたらが、英語だとどうなのでしょうか。次は「HTMLでヘッダー・メイン欄・フッターを使った簡単なWebサイトを作ってください。」という指示をGroqとChatGPTへ指示して比較してみます。その結果が下記の通りです。
システムプロンプトを活用してみる
Groqより
Groqの画面右上にある設定リンクをクリックすると「SYS Prompt」（システムプロンプト）という欄が表示されます。システムプロンプトとはLLMの処理に関する条件をあらかじめプロンプトで指定できる機能です。
Groqより
「あなたは日本語の指示や疑問に関する最適な答えを提供するアシスタントです。回答はすべて日本語で行ってください。」
上記のシステムプロンプトを指定し、出力結果がよくなるのか再度確かめてみました。
前回と同じく「初心者にお勧めのプログラミング言語について教えて下さい」というプロンプトを実行した結果が下記の通りです。
Pythonが最適です。
Pythonは、高レベルのプログラミング言語であり、新しいプログラマーにとって非常に適しています。簡単な文法と優しい読みやすさで、すぐにコーディングを始めることができます。また、Pythonは広範なライブラリーとモジュールを持っていますが、これらを使用することで、すぐに実用的なプログラムを作成することができます。
また、Pythonは、数々の分野で使用されています。データサイエンス、機械学習、Web開発、自然言語処理など、幅広い分野で利用されています。そのため、Pythonを学ぶことで、将来のキャリアアップの機会が増えることになります。
さらに、Pythonコミュニティは非常にアクティブであり、多くのリソースやチュートリアル、ドキュメントがあります。新しいプログラマーが学習するのに適した環境です。
以上のように、Pythonは初心者にとって最適なプログラミング言語であり、簡単に学習でき、将来のキャリアアップにもつながりやすいです。
以前よりよくなっていますね。システムプロンプトを使うことで出力結果の制度を上げることは可能なようです。
Groqの評判をSNSで集めてみた
私だけの所感だと偏りが生じる可能性もあるので、Groqを使ってみたコメントをX（旧Twitter）から複数ピックアップしました。
実際に試してみた結果はこちら。
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) February 20, 2024
爆速。
ただ、精度にはまだ難あり。
APIも解放しており、スピード命のプロダクトには相性良さそう。 pic.twitter.com/a0EogxJrH2
あと Llama 2 70B はシステムプロンプトでここまで入れても日本語喋ってくれなくてダメ（Flutter Web は全部 Canvas 描画なせいで Google 翻訳が使えないのもさらにダメ） pic.twitter.com/nSHbKAoMtl
— Torishima / INTP (@izutorishima) February 20, 2024
https://t.co/Q4YKXQ3woK すごすぎる（何度か試して ふーん）と思ってたが，用途を思いつき始めるとすごすぎる． これはすごい． grokと見間違えててごめんよ．
— 落合陽一 Yoichi OCHIAI (@ochyai) February 21, 2024
出力精度はまだ発展途上ですが、システムプロンプトを使うことで多少改善できることや、使い方次第ではかなり便利だといことがわかります。
特に、LLMへ理想の答えを出してもらう技術であるプロンプトエンジニアリングに精通している落合陽一氏（@ochyai）がどのような用途で使って凄いと評価しているのかはかなり気になりますね。
ライターのヒトコト
Groqについて調べて使ってみた感想として、精度の問題はGroqだけでなく採用しているLLMにも関係があるのではないかと思いました。
Groqは現在、「Llama 2 70B」や「Mixtral 8x7B」というオープンソースのLLMを採用しています。これにGPTやGeminiなどのLLMを採用すると、高性能かつ高速に処理できるのではないかと。
とはいえ、GPTやGeminiなどのLLMはオープンソースではないのが欠点ですね。
GroqはあくまでもLLMを高速で利用できるシステムなので、出力結果の制度は採用しているLLMによって変わるのかもしれないなと感じました。
ほかにも思うところや意見がありましたら気軽にコメントしてくださいね！
※上記コンテンツの内容やソースコードはAIで確認・デバッグしておりますが、間違いやエラー、脆弱性などがある場合は、コメントよりご報告いただけますと幸いです。
ITやプログラミングに関するコラム
-
AI機能付きGoogle Chrome拡張機能10選｜業務の効率化に役立つツールを紹介 -
【Python】オブジェクト(object)の中身を確認する方法を解説 -
【Python】NaNの代入とチェック方法を簡単に解説 -
【Python】リスト(list)展開の基礎やforループ、内包表記などを解説 -
DXに関する社内研修の重要性とは？研修の役割や選び方を解説
