【LLaMA 3対応】高速で生成AIを実行できるGroq（グロック）を使ってみた。特徴や日本語対応の有無について解説

公開：2024年2月23日更新：2024年4月24日

だーだい

フリーランスWebライター兼Web製作者。Webライターとしてガジェットメディアやプログラミングに関する記事を執筆する傍ら、LP制作とWordPressの改修案件もこなしつつ、活動しています。 profile

大規模言語モデル（LLM）を高速で実行できる「Groq」。これまでの生成AI サービスの中でも返答スピードが突出しておりSNSで注目を集めています。

Groq 速すぎるマジで1秒で返ってくるなにこれhttps://t.co/KMwYEm3zkL pic.twitter.com/1V9BScEnIX
— Kyo (@kyo_takano) February 19, 2024

また、Groqはアカウント登録をせず無料で利用できる手軽さも特徴。早速筆者も使ってみました。この記事では、Groqの特徴や使い方、日本語対応の有無について解説します。

Groqとは
GroqがMetaの最新LLM「LLaMA 3」に対応
Groqが開発したLPUの特徴
Groqは日本語に対応しているのか
Groqの使い方
システムプロンプトを活用してみる
Groqの評判をSNSで集めてみた
ライターのヒトコト

Groqとは

Groqはアメリカ・マウンテンビューに拠点を置くテクノロジー企業です。人工知能（AI）や機械学習、高性能コンピューティング分野に特化した技術開発を行っています。

特に、大規模言語モデル（LLM）の処理において、GPUに依存する従来の手法に代わる新しいアプローチも提供しています。

その一環として、GPUとは異なるLPU推論エンジン（Language Processing Unit）と呼ばれるシステムを用いたサービス「Groq」をリリースしています。

Python基礎・実践(Django)

企業・法人向けのPython研修では、基礎から応用まで体系的に学べます。

Python研修の詳細

DX社員研修

企業・法人向けのDX研修では、実務に繋がるリスキリングでITレベルを向上させます。

DX研修の詳細

Javaエンジニア育成研修

企業・法人向けのJavaエンジニア育成研修では、Javaの基礎から応用まで確実に習得できます。

Java研修の詳細

新卒・新入社員向け研修

企業・法人に新入社員・新卒社員に向けたプログラミング研修を提供しています。

新入社員研修の詳細

コードキャンプのIT研修を全て見る

GroqがMetaの最新LLM「LLaMA 3」に対応

2024年4月18日にMetaがリリースしたLLM「LLaMA 3」がGroqで利用できるようになりました。

Metaが最新の大規模言語モデル「Llama 3」を発表

Llama 3はGemini Pro 1.5やClaude 3 Sonnetを上回る性能を有しています。高性能でありながらも無料で使えるオープンソースということから、SNSでも話題となっています。

【⚡️速報：MetaがLlama 3をリリース】

オープンソースのLLMでこの性能は凄い。
Gemini Pro 1.5やClaude 3 Sonnetより高精度のLLM。

現状は8Bと70Bの２つのモデルが公開。
因みに、Claude Opusにも匹敵する400B+モデルもトレーニング中。

Llama 3は無料でMeta… pic.twitter.com/UPmx5zolYC
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) April 18, 2024

GroqでLlama 3が使えるようになったことで、高速かつ高品質なテキストを出力することが可能。今後ユーザーが増加することが考えられます。

Groqが開発したLPUの特徴

Groqが開発したLPU推論エンジンは、LLMなどの複雑で数の多い計算処理を効率的に処理することに特化しているのが特徴。従来のGPUを使った処理と比較して最大10倍の速度でLLMを実行できるとされています。

groqが爆速すぎてやばい。
オープンソースLLMのMixtralとLlamaを意味わからんくらい爆速で使える。https://t.co/3U2hInVGuu pic.twitter.com/YxRpUAjO6J
— AI部_タク (@AIbujpn) February 19, 2024

GroqにはMetaの「Llama 2 70B」やMistral AIの「Mixtral 8x7B」といったLLMが搭載されていますが、その処理速度の速さに驚く声がSNSでも多数見られます。

また、Groqは使い勝手のよいシンプルな操作画面も魅力。テキスト入力とクリックだけで簡単に操作でき、高いエネルギー効率を実現しています。

Groqは日本語に対応しているのか

Groqは日本語に対応していますが、実際に使ってみたところクオリティが高いとは言えない出力結果でした。

AIサービスのGroqが早いという話なので試してみたら、片言の日本語みたいな回答が来た。
英単語が混じるのならわかるけど、なんでローマ字なんだろう？ pic.twitter.com/bfAHfPN6ye
— しおじい (@siwon_g) February 20, 2024

上記のコメントにもある通り、日本語のプロンプトに関して部分的に英語で回答したり回答内容が不十分だったりすることもありました。そのため、日本語の性能に関してはChatGPTやCopilotのほうが優れている可能性があります。

おすすめのPython研修一覧

Python研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Python研修の一覧を見る

おすすめのDX研修一覧

DX研修を提供しているおすすめの企業・法人を一覧で掲載しております。

DX研修の一覧を見る

おすすめのJava研修一覧

Java研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Java研修の一覧を見る

おすすめのJavaScript研修一覧

JavaScript研修を提供しているおすすめの企業・法人を一覧で掲載しております。

JavaScript研修の一覧を見る

GroqのLLMに「」

Groqの使い方

Groqは公式サイトにアクセスするだけでアカウント登録せずに利用できます。

Groq公式サイト：https://groq.com/

Groqより

上記がGroqのトップ画面です。プロンプトを入力するチャット欄だけのシンプルなデザインを採用しており、操作性に優れているのが特徴。左上にある「▼」をクリックすると利用するLLMを選択できます。

Groqの品質をテストするために、ChatGPTのGPT-3.5モデルと同じプロンプトを入力して出力結果を比較してみました。

双方に「初心者におすすめのプログラミング言語を教えてください。」という文章を入力した際の出力結果は下記の通りです。

Groqより

Groqの出力結果

Pythonは、初心者におすすめのプログラミング言語です。以下は、その理由です。

1. 易しい文法：Pythonの文法は、他のプログラミング言語に比べて非常にシンプルです。新しいプログラマーにとって、易しい文法は、学習の速度を上げるのに役立ちます。
2. 強力なライブラリー：Pythonには、数百の強力なライブラリーがあります。初心者にとって、これらのライブラリーは、プログラミングの基礎を学ぶのに役立ちます。
3. 大きなコミュニティ：Pythonコミュニティは、非常に大きく、活発です。初心者にとって、このコミュニティは、学習のための資源となります。
4. 問題解決の能力：Pythonは、問題解決の能力が高いです。初心者にとって、この能力は、プログラミングの基礎を学ぶのに役立ちます。
5. Web開発：Pythonは、Web開発にも使われます。初心者にとって、Web開発は、プログラミングの基礎を学ぶのに役立つ方法です。
6. データ科学：Pythonは、データ科学にも使われます。初心者にとって、データ科学は、プログラミングの基礎を学ぶのに役立つ方法です。
7. ゲーム開発：Pythonは、ゲーム開発にも使われます。初心者にとって、ゲーム開発は、プログラミングの基礎を学ぶのに役立つ方法です。
8. 教育的資源：Pythonには、初心者向けの教育的資源が多くあります。初心者にとって、これらの資源は、学習のための重要なツールです。

私たちは、Pythonを初心者にお勧めのプログラミング言語として強く推奨します。

ChatGPT GPT-3.5の出力結果

初心者におすすめのプログラミング言語は、以下のようなものがあります。
Python: Pythonはシンプルで読みやすい文法を持ち、幅広い用途に利用されています。データ解析、ウェブ開発、機械学習、自然言語処理など、さまざまな分野で活躍しています。初心者にとっても学習しやすい言語の一つです。
JavaScript: ウェブ開発における必須の言語であり、ブラウザ上で動的なコンテンツを作成するために使用されます。HTMLやCSSと組み合わせてウェブサイトを作成することができます。また、Node.jsを使うことでサーバーサイドの開発も行えます。
Scratch: ブロックベースのプログラミング言語で、プログラミングの基本的な概念を理解するのに最適です。特に子ども向けに設計されており、視覚的なプログラミング手法を通じてコーディングの基礎を学ぶことができます。
Java: Javaはオブジェクト指向プログラミングの概念を学ぶのに適しています。企業アプリケーション、Androidアプリ開発など、さまざまな領域で使用されています。
これらの言語は、初心者にとって学習しやすく、将来的にも役立つスキルを身につけることができます。興味や目的に応じて選択してみてください。

文章の自然さや情報量など、さまざまな点でChatGPT GPT-3.5の方が優れているように感じます。また、出力速度に関してはGroqの方が圧倒的に速いという結果でした。

Groqを日本語で使ってみた結果はイマイチでしたらが、英語だとどうなのでしょうか。次は「HTMLでヘッダー・メイン欄・フッターを使った簡単なWebサイトを作ってください。」という指示をGroqとChatGPTへ指示して比較してみます。その結果が下記の通りです。

システムプロンプトを活用してみる

Groqより

Groqの画面右上にある設定リンクをクリックすると「SYS Prompt」（システムプロンプト）という欄が表示されます。システムプロンプトとはLLMの処理に関する条件をあらかじめプロンプトで指定できる機能です。

Groqより

「あなたは日本語の指示や疑問に関する最適な答えを提供するアシスタントです。回答はすべて日本語で行ってください。」

上記のシステムプロンプトを指定し、出力結果がよくなるのか再度確かめてみました。

前回と同じく「初心者にお勧めのプログラミング言語について教えて下さい」というプロンプトを実行した結果が下記の通りです。

Pythonが最適です。
Pythonは、高レベルのプログラミング言語であり、新しいプログラマーにとって非常に適しています。簡単な文法と優しい読みやすさで、すぐにコーディングを始めることができます。また、Pythonは広範なライブラリーとモジュールを持っていますが、これらを使用することで、すぐに実用的なプログラムを作成することができます。
また、Pythonは、数々の分野で使用されています。データサイエンス、機械学習、Web開発、自然言語処理など、幅広い分野で利用されています。そのため、Pythonを学ぶことで、将来のキャリアアップの機会が増えることになります。
さらに、Pythonコミュニティは非常にアクティブであり、多くのリソースやチュートリアル、ドキュメントがあります。新しいプログラマーが学習するのに適した環境です。
以上のように、Pythonは初心者にとって最適なプログラミング言語であり、簡単に学習でき、将来のキャリアアップにもつながりやすいです。

以前よりよくなっていますね。システムプロンプトを使うことで出力結果の制度を上げることは可能なようです。

Groqの評判をSNSで集めてみた

私だけの所感だと偏りが生じる可能性もあるので、Groqを使ってみたコメントをX（旧Twitter）から複数ピックアップしました。

実際に試してみた結果はこちら。
爆速。
ただ、精度にはまだ難あり。
APIも解放しており、スピード命のプロダクトには相性良さそう。 pic.twitter.com/a0EogxJrH2
— チャエン | 重要AIニュースを毎日発信⚡️ (@masahirochaen) February 20, 2024

あと Llama 2 70B はシステムプロンプトでここまで入れても日本語喋ってくれなくてダメ（Flutter Web は全部 Canvas 描画なせいで Google 翻訳が使えないのもさらにダメ） pic.twitter.com/nSHbKAoMtl
— Torishima / INTP (@izutorishima) February 20, 2024