ขนาดวิดีโอ: 1280 X 720853 X 480640 X 360
แสดงแผงควบคุมโปรแกรมเล่น
เล่นอัตโนมัติ
เล่นใหม่
RAGの構築も多種多様。MoEと同様、複数種類で db構築すれば漏れはへりますが計算・メモリコストはやはり難点。LLM+RAGの持つ知識と、扱う人の知識、どちらのほうが優位かによっても作り方は変わってきますね。(専門的な内容だと、たいがい後者が優位)学術論文や最新ワードが頻繁に更新される業種だと意外と n-gramが強いので、n-gramのクエリバリエーションを生成する軽量LLMというスタイルもオススメです。
実際にサービスにすること考えたら、コストは非常に大事ですよね！ただでさえGPU代がバカにならなのでn-gramって久しぶりに聞きましたけど、確かに使えそうですね😳
自分では、データを整備したくない。質があまり高くない、構造化されてない断片データが多い会社って多いと思うんですよね。データやデータベースの整備が簡単にできないものかなあ。グラフデータベースを使ってみたいです。
日本の企業ってそんな企業しか無さそうな気もしますね😇一から作り直すのが早そう、、、ナレッジグラフってどうやって作るんですかね🤔良い実装があれば良いですけど
RAGの構築も多種多様。MoEと同様、複数種類で db構築すれば漏れはへりますが計算・メモリコストはやはり難点。
LLM+RAGの持つ知識と、扱う人の知識、どちらのほうが優位かによっても作り方は変わってきますね。
(専門的な内容だと、たいがい後者が優位)
学術論文や最新ワードが頻繁に更新される業種だと意外と n-gramが強いので、n-gramのクエリバリエーションを生成する軽量LLMというスタイルもオススメです。
実際にサービスにすること考えたら、コストは非常に大事ですよね！ただでさえGPU代がバカにならなので
n-gramって久しぶりに聞きましたけど、確かに使えそうですね😳
自分では、データを整備したくない。質があまり高くない、構造化されてない断片データが多い会社って多いと思うんですよね。データやデータベースの整備が簡単にできないものかなあ。グラフデータベースを使ってみたいです。
日本の企業ってそんな企業しか無さそうな気もしますね😇
一から作り直すのが早そう、、、
ナレッジグラフってどうやって作るんですかね🤔良い実装があれば良いですけど