NVIDIAの「Project DIGITS」で、2000億パラメータレベルのLLMをローカルで活用可能に。しかも値段は3000ドル…!これは独自のLLM開発・活用の革命がきそう

แชร์
ฝัง
  • เผยแพร่เมื่อ 26 ม.ค. 2025

ความคิดเห็น • 6

  • @northsouth575
    @northsouth575 13 วันที่ผ่านมา +1

    あと1世代進んだら、4000億パラメーターそのまま1台で実行できるとかありそう
    その頃にはLLMが8000億とか言ってそうですがw
    この世代でも問題はどのくらいの速度で実行できるか気になりますね
    実行できる(早いとは言ってない)

    • @iketomo_work
      @iketomo_work  9 วันที่ผ่านมา

      ワクワクですね!

  • @phono2
    @phono2 14 วันที่ผ่านมา +1

    RTX5090がメモリ足りなくてがっかりしてたのでこれ、私買います。会社にもおきます。ローカルで動かせるというのが極めて強い。そして安い。ゲームチェンジャーなマシンだ。apple vision proよりインパパクトでかい。仕事が完全に変わる予感がします。何台並列接続できるかわからないけどdeepseekのv3とかも動かせたら、ね。夢しかないですよね。difyを横に置いたミニpcで動かして推論はこの子みたいな。最高じゃないか。。H1000とかと比べたら本当にもう、安い。安すぎる。

    • @iketomo_work
      @iketomo_work  9 วันที่ผ่านมา

      まさに!非常に楽しみですね!

    • @9999-g7z
      @9999-g7z 22 ชั่วโมงที่ผ่านมา

      これ買ってローカルAIエージェント環境作りたくなってくる