Llama 3.3 70B in 5 Minutes

แชร์
ฝัง
  • เผยแพร่เมื่อ 13 ธ.ค. 2024

ความคิดเห็น • 28

  • @sjkba
    @sjkba 6 วันที่ผ่านมา +25

    Straight to the point, I like it. What is the environment you are using to get artifacts on an open source model?

  • @jaysonp9426
    @jaysonp9426 6 วันที่ผ่านมา +5

    New sub, no bs. Just news. Ty!

  • @qweekorpsqweekorps2726
    @qweekorpsqweekorps2726 5 วันที่ผ่านมา +3

    What do you use for screen recording? The quality is amazing!

  • @girishthegreat
    @girishthegreat 6 วันที่ผ่านมา +2

    Can run locally on MacBook M4Max 64 GB

    • @404UnknownError
      @404UnknownError 6 วันที่ผ่านมา

      Not sure but try with something like LM studio or else

  • @fontenbleau
    @fontenbleau 6 วันที่ผ่านมา +1

    You can run it easily locally with 128Gb RAM (70B in Q8 usually takes 90Gb), but original Llama is always too censored to the level of "database", there can't be any glimpse of intellect. Chinese already on the same level but censored even weirdly-Qwen 32B decline to instruct Llama installation.

    • @rassular
      @rassular 6 วันที่ผ่านมา

      Llama can be 100% uncensored, you just need the right system prompt.

  • @fontenbleau
    @fontenbleau 6 วันที่ผ่านมา +2

    Your channel is new to me and was recommended by algorithm. I don't see any reviews of chinese models or really open source ones like Intellect1 first non-corporate one. I see most videos here are corporate commercial marketing stuff.

  • @cynorsense
    @cynorsense 4 วันที่ผ่านมา

    Hey can you make a video where we can use OLLAMA on a free GPU on cloud ?

  • @GamesGVG
    @GamesGVG 6 วันที่ผ่านมา

    can you tell me how is your mouse movement so clean and smooth?

    • @Dark_Souls_3
      @Dark_Souls_3 6 วันที่ผ่านมา +1

      Probably just a low DPI (sensitivity) so he moves his hand a lot to get a little distance

    • @GamesGVG
      @GamesGVG 6 วันที่ผ่านมา

      @@Dark_Souls_3 looks like screen studio

  • @poshsims4016
    @poshsims4016 6 วันที่ผ่านมา

    Fireworksai & Groq need to add it

  • @RebrandSoon0000
    @RebrandSoon0000 6 วันที่ผ่านมา

    Great insight on the new model for sure. My GTX 1080 6GB VRAM should be okay with it. What was the name of the app/site you were using to make a mockup react app?

  • @relexelumna5360
    @relexelumna5360 6 วันที่ผ่านมา

    Knowledge cut off Dec 2023 is what makes me disappointed. Thought of download but cancel. Meta is filthy rich it can generously give us latest information like Oct 2024 but dont 😢

  • @chatgpt_onteIegram
    @chatgpt_onteIegram 4 วันที่ผ่านมา +2

    please drink some water

  • @Z-add
    @Z-add 6 วันที่ผ่านมา +1

    When is elon releasing his llm model?

  • @reaperdev9857
    @reaperdev9857 6 วันที่ผ่านมา +1

    First

    • @siddhubhai2508
      @siddhubhai2508 6 วันที่ผ่านมา +2

      Huh, common Indian trait.

  • @realhamza2001
    @realhamza2001 6 วันที่ผ่านมา +2

    I know this is unrelated but give the Quran a read, also have a good day :)

    • @icykenny92
      @icykenny92 6 วันที่ผ่านมา

      I did 1 / 10. The guy that has within the Quran is a psychopath!

    • @XHackManiacX
      @XHackManiacX 6 วันที่ผ่านมา +3

      And the bible too. We can always use more atheists :)

    • @bonchitogovindodas3333
      @bonchitogovindodas3333 5 วันที่ผ่านมา +1

      ​@@XHackManiacXcompletely unrelated, but the Dune too..