拼接8个7B模型超越ChatGPT, 大语言模型也能多核?｜开源免费｜Mixtral 8 x 7B 模型｜Mistral 7B｜本地运行｜评测｜在线体验

[@雷撅天]

感谢分享
播主这个视频的声音有点像另外一个油管播主 狙击手麦克 😅

[@voiceover-jack]

谢谢分享

[@tonyw8321]

挺不错的视频，介绍的很详细

[@tonyw8321]

现在各种模型实在是太多了。有点太鱼龙混杂，希望都冷静一下。。慢一点

[@j.8690]

Hi. do you have a mind to translate english version

[@account001account00]

大佬，登录为什么会被阻止？

[@account001account00]

大佬，登录为什么会被阻止

[@onlyhuman028]

请教，有个地方没听懂。3;22 您说“堆内存占用大，需要依赖LMS，但是又要下载到本地，如何理解？

[@onlyhuman028]

另外，它的使用场景是什么呢？在国内的话。

[@ai-gold-rush]

如果按照传统模式，得消耗几十G的显存。你得要2张24G的4090才能跑起来。而LMStudio他们用的技术是Llama Cpp，可以转变一下，放内存里就能跑。所以MacBook 64G内存就能很流畅的跑起来。但会有损失，Q6损失比较小。可以接受

[@ai-gold-rush]

如果你连不到OpenAI的 APi，就可以打开这个，当免费的GPT 3.5 api 使用呀

[@yapeng5138]

手头上没有大内存的win电脑，直接换40系显卡代价太大了，想试试堆叠内存，换个64g内存试一试，所以想请教一下会不会因为苹果的gpu和内存是共享的才能跑起来很流畅，而同样的64g内存windows主机 其实效果是远不如Macbook64g内存的呢？尤其是如果windows主机gpu没有那么好的情况下。@@ai-gold-rush

[@guangchen872]

666