【LLaMA 3対応】高速で生成AIを実行できるGroq(グロック)を使ってみた。特徴や日本語対応の有無について解説

【LLaMA 3対応】高速で生成AIを実行できるGroq(グロック)を使ってみた。特徴や日本語対応の有無について解説

公開: 更新:
だーだい
フリーランスWebライター兼Web製作者。Webライターとしてガジェットメディアやプログラミングに関する記事を執筆する傍ら、LP制作とWordPressの改修案件もこなしつつ、活動しています。 profile

大規模言語モデル(LLM)を高速で実行できる「Groq」。これまでの生成AI サービスの中でも返答スピードが突出しておりSNSで注目を集めています。

また、Groqはアカウント登録をせず無料で利用できる手軽さも特徴。早速筆者も使ってみました。この記事では、Groqの特徴や使い方、日本語対応の有無について解説します。



Groqとは

Groqはアメリカ・マウンテンビューに拠点を置くテクノロジー企業です。人工知能(AI)や機械学習、高性能コンピューティング分野に特化した技術開発を行っています。

特に、大規模言語モデル(LLM)の処理において、GPUに依存する従来の手法に代わる新しいアプローチも提供しています。

その一環として、GPUとは異なるLPU推論エンジン(Language Processing Unit)と呼ばれるシステムを用いたサービス「Groq」をリリースしています。


Python基礎・実践(Django)

企業・法人向けのPython研修では、基礎から応用まで体系的に学べます。

Python研修の詳細

DX社員研修

企業・法人向けのDX研修では、実務に繋がるリスキリングでITレベルを向上させます。

DX研修の詳細

Javaエンジニア育成研修

企業・法人向けのJavaエンジニア育成研修では、Javaの基礎から応用まで確実に習得できます。

Java研修の詳細

新卒・新入社員向け研修

企業・法人に新入社員・新卒社員に向けたプログラミング研修を提供しています。

新入社員研修の詳細

コードキャンプのIT研修を全て見る

GroqがMetaの最新LLM「LLaMA 3」に対応

2024年4月18日にMetaがリリースしたLLM「LLaMA 3」がGroqで利用できるようになりました。

Metaが最新の大規模言語モデル「Llama 3」を発表
Metaが最新の大規模言語モデル「Llama 3」を発表

Llama 3はGemini Pro 1.5やClaude 3 Sonnetを上回る性能を有しています。高性能でありながらも無料で使えるオープンソースということから、SNSでも話題となっています。

GroqでLlama 3が使えるようになったことで、高速かつ高品質なテキストを出力することが可能。今後ユーザーが増加することが考えられます。

Groqが開発したLPUの特徴

Groqが開発したLPU推論エンジンは、LLMなどの複雑で数の多い計算処理を効率的に処理することに特化しているのが特徴。従来のGPUを使った処理と比較して最大10倍の速度でLLMを実行できるとされています。

GroqにはMetaの「Llama 2 70B」やMistral AIの「Mixtral 8x7B」といったLLMが搭載されていますが、その処理速度の速さに驚く声がSNSでも多数見られます。

また、Groqは使い勝手のよいシンプルな操作画面も魅力。テキスト入力とクリックだけで簡単に操作でき、高いエネルギー効率を実現しています。

Groqは日本語に対応しているのか

Groqは日本語に対応していますが、実際に使ってみたところクオリティが高いとは言えない出力結果でした。

上記のコメントにもある通り、日本語のプロンプトに関して部分的に英語で回答したり回答内容が不十分だったりすることもありました。そのため、日本語の性能に関してはChatGPTやCopilotのほうが優れている可能性があります。

おすすめのPython研修一覧

Python研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Python研修の一覧を見る

おすすめのDX研修一覧

DX研修を提供しているおすすめの企業・法人を一覧で掲載しております。

DX研修の一覧を見る

おすすめのJava研修一覧

Java研修を提供しているおすすめの企業・法人を一覧で掲載しております。

Java研修の一覧を見る

おすすめのJavaScript研修一覧

JavaScript研修を提供しているおすすめの企業・法人を一覧で掲載しております。

JavaScript研修の一覧を見る

GroqのLLMに「」

Groqの使い方

Groqは公式サイトにアクセスするだけでアカウント登録せずに利用できます。

Groq公式サイト:https://groq.com/

Groqの特徴と使い方、日本語対応の有無などを解説1

Groqより

上記がGroqのトップ画面です。プロンプトを入力するチャット欄だけのシンプルなデザインを採用しており、操作性に優れているのが特徴。左上にある「▼」をクリックすると利用するLLMを選択できます。

Groqの品質をテストするために、ChatGPTのGPT-3.5モデルと同じプロンプトを入力して出力結果を比較してみました。

双方に「初心者におすすめのプログラミング言語を教えてください。」という文章を入力した際の出力結果は下記の通りです。

Groqの使い方と特徴、日本語対応の有無について解説2

Groqより

Groqの出力結果

Pythonは、初心者におすすめのプログラミング言語です。以下は、その理由です。

1. 易しい文法:Pythonの文法は、他のプログラミング言語に比べて非常にシンプルです。新しいプログラマーにとって、易しい文法は、学習の速度を上げるのに役立ちます。
2. 強力なライブラリー:Pythonには、数百の強力なライブラリーがあります。初心者にとって、これらのライブラリーは、プログラミングの基礎を学ぶのに役立ちます。
3. 大きなコミュニティ:Pythonコミュニティは、非常に大きく、活発です。初心者にとって、このコミュニティは、学習のための資源となります。
4. 問題解決の能力:Pythonは、問題解決の能力が高いです。初心者にとって、この能力は、プログラミングの基礎を学ぶのに役立ちます。
5. Web開発:Pythonは、Web開発にも使われます。初心者にとって、Web開発は、プログラミングの基礎を学ぶのに役立つ方法です。
6. データ科学:Pythonは、データ科学にも使われます。初心者にとって、データ科学は、プログラミングの基礎を学ぶのに役立つ方法です。
7. ゲーム開発:Pythonは、ゲーム開発にも使われます。初心者にとって、ゲーム開発は、プログラミングの基礎を学ぶのに役立つ方法です。
8. 教育的資源:Pythonには、初心者向けの教育的資源が多くあります。初心者にとって、これらの資源は、学習のための重要なツールです。

私たちは、Pythonを初心者にお勧めのプログラミング言語として強く推奨します。

ChatGPT GPT-3.5の出力結果

初心者におすすめのプログラミング言語は、以下のようなものがあります。
Python: Pythonはシンプルで読みやすい文法を持ち、幅広い用途に利用されています。データ解析、ウェブ開発、機械学習、自然言語処理など、さまざまな分野で活躍しています。初心者にとっても学習しやすい言語の一つです。
JavaScript: ウェブ開発における必須の言語であり、ブラウザ上で動的なコンテンツを作成するために使用されます。HTMLCSSと組み合わせてウェブサイトを作成することができます。また、Node.jsを使うことでサーバーサイドの開発も行えます。
Scratch: ブロックベースのプログラミング言語で、プログラミングの基本的な概念を理解するのに最適です。特に子ども向けに設計されており、視覚的なプログラミング手法を通じてコーディングの基礎を学ぶことができます。
Java: Javaはオブジェクト指向プログラミングの概念を学ぶのに適しています。企業アプリケーション、Androidアプリ開発など、さまざまな領域で使用されています。
これらの言語は、初心者にとって学習しやすく、将来的にも役立つスキルを身につけることができます。興味や目的に応じて選択してみてください。

文章の自然さや情報量など、さまざまな点でChatGPT GPT-3.5の方が優れているように感じます。また、出力速度に関してはGroqの方が圧倒的に速いという結果でした。

Groqを日本語で使ってみた結果はイマイチでしたらが、英語だとどうなのでしょうか。次は「HTMLでヘッダー・メイン欄・フッターを使った簡単なWebサイトを作ってください。」という指示をGroqとChatGPTへ指示して比較してみます。その結果が下記の通りです。

システムプロンプトを活用してみる

Groqでシステムプロンプトを使う方法

Groqより

Groqの画面右上にある設定リンクをクリックすると「SYS Prompt」(システムプロンプト)という欄が表示されます。システムプロンプトとはLLMの処理に関する条件をあらかじめプロンプトで指定できる機能です。

Groqでシステムプロンプトを使う方法1

Groqより

「あなたは日本語の指示や疑問に関する最適な答えを提供するアシスタントです。回答はすべて日本語で行ってください。」

上記のシステムプロンプトを指定し、出力結果がよくなるのか再度確かめてみました。

前回と同じく「初心者にお勧めのプログラミング言語について教えて下さい」というプロンプトを実行した結果が下記の通りです。

Pythonが最適です。
Pythonは、高レベルのプログラミング言語であり、新しいプログラマーにとって非常に適しています。簡単な文法と優しい読みやすさで、すぐにコーディングを始めることができます。また、Pythonは広範なライブラリーとモジュールを持っていますが、これらを使用することで、すぐに実用的なプログラムを作成することができます。
また、Pythonは、数々の分野で使用されています。データサイエンス、機械学習、Web開発、自然言語処理など、幅広い分野で利用されています。そのため、Pythonを学ぶことで、将来のキャリアアップの機会が増えることになります。
さらに、Pythonコミュニティは非常にアクティブであり、多くのリソースやチュートリアル、ドキュメントがあります。新しいプログラマーが学習するのに適した環境です。
以上のように、Pythonは初心者にとって最適なプログラミング言語であり、簡単に学習でき、将来のキャリアアップにもつながりやすいです。

以前よりよくなっていますね。システムプロンプトを使うことで出力結果の制度を上げることは可能なようです。

Groqの評判をSNSで集めてみた

私だけの所感だと偏りが生じる可能性もあるので、Groqを使ってみたコメントをX(旧Twitter)から複数ピックアップしました。

出力精度はまだ発展途上ですが、システムプロンプトを使うことで多少改善できることや、使い方次第ではかなり便利だといことがわかります。

特に、LLMへ理想の答えを出してもらう技術であるプロンプトエンジニアリングに精通している落合陽一氏(@ochyai)がどのような用途で使って凄いと評価しているのかはかなり気になりますね。

ライターのヒトコト

Groqについて調べて使ってみた感想として、精度の問題はGroqだけでなく採用しているLLMにも関係があるのではないかと思いました。

Groqは現在、「Llama 2 70B」や「Mixtral 8x7B」というオープンソースのLLMを採用しています。これにGPTやGeminiなどのLLMを採用すると、高性能かつ高速に処理できるのではないかと。

とはいえ、GPTやGeminiなどのLLMはオープンソースではないのが欠点ですね。

GroqはあくまでもLLMを高速で利用できるシステムなので、出力結果の制度は採用しているLLMによって変わるのかもしれないなと感じました。

ほかにも思うところや意見がありましたら気軽にコメントしてくださいね!

※上記コンテンツの内容やソースコードはAIで確認・デバッグしておりますが、間違いやエラー、脆弱性などがある場合は、コメントよりご報告いただけますと幸いです。

ITやプログラミングに関するコラム


ITやプログラミングに関するニュース

ブログに戻る

コメントを残す

コメントは公開前に承認される必要があることにご注意ください。

コードキャンプIT・プログラミング研修事例/現場により近いところにデジタルを根付かせるDX基礎講座研修|株式会社ブリヂストン - ITやプログラミングを知って学べるコネクトメディア コードキャンプIT・プログラミング研修事例/業務の効率化・DX推進に向けたIT人材育成への第一歩|株式会社カナエ - ITやプログラミングを知って学べるコネクトメディア 企業・法人向けのIT・プログラミング研修 - ITやプログラミングを知って学べるコネクトメディア 中途採用者向けのIT・プログラミング研修 - IT・プログラミングを知って学べるコネクトメディア

新着記事

対象者別で探す

子供(小学生・中学生・高校生)向け
プログラミング教室検索する

子供(小学生・中学生・高校生)がロボットやプログラミング言語を学ぶことができるオフラインからオンラインスクールを検索、比較することが可能です。

子供(小学生・中学生・高校生)
プログラミング教室検索する

ITやプログラムなどの
最新情報を検索する

日々、新しいITやプログラミング言語の情報が流れていきますが、特定の情報を時系列でニュースやコラムを確認することができます。

ITやプログラムなどの
最新情報を検索する