Nvidiaのライバル？革新的AIチップを開発するGroqについて解説してみた
ฝัง
- เผยแพร่เมื่อ 23 ก.ค. 2024
- こんにちは、にゃんたです。
今回は、革新的なLPUというチップを開発しているGroqという会社について解説しました。
いずれは、言語モデルがこの生成速度で出力されるようになりそうで驚きです😆
---------------------------------------------------------------------------
LINE公式で限定コンテンツ配布中！
▼登録はこちらから行えます▼
liff.line.me/2004040861-3Jvq4bAG
今ならキーワード「プロンプト」と入力すると
ChatGPTとClaudeのプロンプトまとめた無料プレゼントをお渡ししています！
その他TH-camでは話せなかった内容も配信していきます！
---------------------------------------------------------------------------
00:00 オープニング
00:58 Groqとは？
07:53 嬉しいポイント
08:37 公式のデモビデオ
10:25 Groqを使ってみよう
11:49 エンディング
■デモページ
groq.com/
■API申込ページ
wow.groq.com/groq-lpu-inferen...
■Udemy
ChatGPTAPIの使い方講座も作成しているので興味があれば是非！(クーポン発行してます！)
linktr.ee/nyanta_youtuber
■X, インスタグラム
/ vtuber_nyanta
/ vtuber_nyanta
■note
note.com/nyanta123
■言語モデル関連のおすすめ書籍
[書籍]大規模言語モデルは新たな知能か――ChatGPTが変えた世界
amzn.to/3YhtYCk
[紹介動画]一流研究者による大規模言語モデルの解説がわかりやすい
• 一流研究者による大規模言語モデルの解説がわか...
■にゃんた愛用のガジェット達
HHKBのキーボード(タイピングが心地よい！)
amzn.to/3VHE4Nd
パームレスト(外出時もタイピングの位置が安定する)
amzn.to/3Rtcz7G
マウス(手の負荷が下がる！)
amzn.to/3KI72q7
iiyamaモニター(ChatGPT用にディスプレイが必要･･･！)
amzn.to/3VpljNd
モニターアーム(コスパ良かった！)
amzn.to/4bZMTaJ
■連絡先(全て返信できないかもしれません！)
vtuber.nyanta@gmail.com
※上記製品リンクURLはAmazonアソシエイトのリンクを使用しています。
---------------------------------------------------------------------------
■楽曲提供
フリーBGM DOVA-SYNDROME : dova-s.jp/
効果音ラボ : soundeffect-lab.info/
■編集
にゃんた妻
一言：デモ動画を見たとき、私もアナウンサーさんと全く同じ反応をしてました😀
---------------------------------------------------------------------------
#AI #生成AI #python #プログラミング #chatgpt #groq
すんごぉ😮
これ本当に爆速なんだよなぁ
AI専用チップが普及した未来を一足先に見せてくれている感じ
言語モデルがこの速度で普及する未来楽しみですね！
しゅごい
サム・アルトマンは中東で今7兆ドルを集めて、新しいチップを作ろうとしているんでしょ・・・約1000兆円を集めようとする発想が自体スゴイね
Poeの中にあるLLama2-70bとLlama-2-70b-Groqと本家のGroqのLLama2ー70bをやってみたけど、３つとも速度同じなんだけど・・・Poeがそもそも早いのかな？
1000兆円ってスケールがでかいですね･･･😲
資金に比例していい製品ができるってわけでもないと思うけど。富の偏在によってこういう話が増えていきそう
最近A800欲しいなぁと
アメリカ報道で孫正義さんが１５兆 サム・アルトマンが１０００兆円の資金調達してAIチップ開発企業を立ち上げる報道ありましたがこの企業買えば捗りそう
そうなんですね！
是非OpenAIと協業して爆速GPT4誕生させてほしいですね😆
イーロンのほうもこのLPUなるものも、異星の客の造語からネーミングを引いてるんでしょうね
groqの創業者の方がとある小説に由来していると言っていたのですが
異性の客という小説からなんですね！😲
nvidiaが強いのはハードではなくむしろソフトなんだよな
CUDAやDLSSは凄い
でも、技術はあるがそのせいで殿様商売だなぁ.......
使いこなされてる、にゃんた様に尊敬 脱帽でございます。すいません若輩で申し訳ございません。（ーｍー）
groq は上場されておりますでしょうか？ にゃんた様へ
groqは私が調べたところだと
まだ上場していないみたいですね😫
にゃんた様は、とても解説力も高く、優しいご回答、とても優秀な方でございます! >.
この速度ならcotomoにgpt４使えそうよね。費用問題はあるけど
cotomoスゴイらしいですね！
いずれはgpt4レベルのものが搭載されると考えたら
AIと会話しながら過ごすようになりそうですね🤔
にゃんた様へ。ありがとうございます。m(__)m これは産業革命かもでございます。m(__)m 笑顔
コメントありがとうございます！
LPUは革命的ですよね！😆
お年寄りにCotomoで会話させた時に気付いた違和感はこちらが話している時に相槌が無いところですね
「はい」「はい、はい」「うんうんうん」「あー」「なるほど」「ふむ」「へえ～」「ほう」「ほうほう」
みたいなのを入力者の発話の区切りにかぶせるように出力すれば応答速度は気にならないかも。
逆に相槌が無ければ1msで即答してくれたとしてもロボっぽいんじゃないかと
激安のAI専用PCIカード出てきたら紹介してください。
ありがとうございます！
ハードウェアあまり詳しくないのですが、
良さそうなのが出てきたら勉強して紹介してみます！🙇♂️
コールセンターとか事務の仕事も無くせそう
Letter prosser unitjじゃ無いと電気を食う‼️😮
AIブームでNPUの進化が凄いことになってる。従来の10倍100倍とか平気で言いよる。
これだけ差がついてるとLLMそのものの回答差って誤差でしかないなぁ
ジョナサン・ロスさんってアルファベットとは今どんな関係なんやろ
これはそう遠くない未来人間は要らなくなりますね
現時点でIQ100の知能を月3000円で使える。10年後にはIQ1000くらいの知能が電卓サイズで100均に売られてる。そんな世界で人はどうなれば良いのか。
ありがとうございます。
API登録なしで使えています。あれ？
API使えるのですか😲
APIキーとかは無しでってことですかね！
あえてさえぎった質問スタイルに対して、
「あぁー、」みたいな合いの手付きでレスポンスしてるの、びっくり。
エヌビディアの一人天下もそんなに長くはなさそう。
いずれ、言語AI、画像AI、動画AI、物理アクションエーアイとかが
色んな会社から生えてきて、
でもって、大脳的統合前頭葉AIとかも
セットで販売されたりなんかして……。
あ、あと、個人別性格シミュレートエーアイもいるなぁ。
それこあれ場どんな悪人もチャットで善人面して
どんな相手もコロコロ騙せるぞっ！……😱
会話のテンポが人間っぽいですよね😱
エヌビディアよりグロックの株買います？
グロックが上場していれば買っていましたね😆
GROQは仮想通貨のみでユニスワップってアプリでイーサリアムとかから変換すれば持てるみたいですね、早く上場して欲しいですね
アナウンサーのようにテキスト入力ではなく会話で行うにはどうすればいいのですか？
すみません、これはgroqのサイトではできなくて
音声認識と読み上げは別の技術を組み合わせているのかな？と思います🤔
このサービス、イーロン・マスクのAIだと勘違いしてた……
紛らわしいですよね🤔
速いですけど、まだ日本語に対応しきれてない？というか、英語交じりな読みづらい文章で回答されました。もっとちゃんと対応してくればいいかなと思いました。日本語選択とか言語の選択設定とかあるのかな？
ありがとうございます！
Groqで使えるモデル(llama2, mixtral)が、まだ日本語に最適化されていないんですよね‥！
現状日本語選択はできないので、プロンプトに
「日本語で回答してください」と入れるしかなさそうですね🥲
@@aivtuber2866 そうなんですね。分かりました。ありがとうございます。
会社の名前？
派遣会社じゃないのか？