硬體規格字面上的數字可以取代|應用上會碰到Jensen Huang設下的軟體護城河cuDNN, tensor-rt, pyTorch, tensorflow core~FYI. m2max 96G and i7 RTX3090 user(this is why that i still need a win PC). BTW 感謝分析apple notebook影片,始終是看您影片進行產品判斷依據。比a爹的內容多很多有用的資訊..
VRAM is good but not everything for AI... there is also Terra Operations Per Seconds (TOPS) where key and as far as I know M4max only has 38 TOPS and a 4080 RTX has 780 TOPS. If you want to play with AI wait for Nvidia's project DIGITS.
👉目前排名第一的 AI 影片剪輯軟體: bit.ly/3CUfP7n
需要指出训练,尤其是pre-training是data center scale的。
如果是fine-tuning,比如LoRA,bottleneck也主要是throughput,通常也需要多张GPU进行训练。
Unified memory主要的优势是在inference,也就是locally可以就跑一些较大的模型,例如llama-13B。
llama-13b叫做什么优势,我现在本地跑 llama-90B...
Thank you, & I appreciate your knowledge!
Thanks for your support 😃
除了玩AI,用大内存的MAX训练深度学习模型也是非常方便且可能省钱的。随着常用的机器学习库对MLX框架的支持越来越好,跑一些对运算速度要求不高,但显存需求高的训练任务(比如需要超过24G显存),就可以在MAX笔电上直接跑,而不必租用带超过V100显卡的云电脑。
雖然我不是很懂,但從顯卡切入的觀點很有趣,也引發其他觀眾在下面分享觀點,覺得收穫良多!
我想參加!
大家認為 15 萬台幣($5,000)的Macbook Pro,可以取代 139 萬台幣($45,000)的 Nvidia H100,做一些輕量級的 AI 訓練嗎?請懂的朋友一定留言告訴我。
硬體規格字面上的數字可以取代|應用上會碰到Jensen Huang設下的軟體護城河cuDNN, tensor-rt, pyTorch, tensorflow core~FYI. m2max 96G and i7 RTX3090 user(this is why that i still need a win PC). BTW 感謝分析apple notebook影片,始終是看您影片進行產品判斷依據。比a爹的內容多很多有用的資訊..
不行,速度慢太多了。
不行 可以run
没用过最新款的,但是旧款跑ai并不能达到理论上的显存容量,16gb只能分配一半,也就是8gb,不知道是不是我的设置问题。如果这是正常情况,那我猜测64gb可分配给显卡的只有32gb😅
显然不可能啊 如果可以的话 h100还卖个p了。不说苹果 高通也可以开发类似的芯片了。反正又不考虑散热问题。😂
VRAM is good but not everything for AI... there is also Terra Operations Per Seconds (TOPS) where key and as far as I know M4max only has 38 TOPS and a 4080 RTX has 780 TOPS. If you want to play with AI wait for Nvidia's project DIGITS.
謝謝!
謝謝支持😃
我想參加
感謝彼得森的詳細解說,彼得森的影片一直是我重要的參考來源,非常感謝!
超棒的分析,非常專業!我想參加!❤
感謝彼得森這麼深入的解析M4家族
覺得很有用。
我想參加
謝謝彼得森的分享,漲知識了!
我想參加
感謝開箱分享,我想參加
謝謝彼得森的分享,學到很多!
我想參加
謝謝彼得森解說分析,我想參加
很好的解說,我想參加👍
謝謝彼得森的分享,我想參加!
我想參加
我實在好奇PCHOME到底銷了多少張H100
我想參加,天啊,上次才許願看能不能有這樣的比較就出現了 太感謝惹。
一個是HBM3記憶體 時脈最高 2TB/s, 一個apple silicon 記憶體官方最高時脈273GB/s 確定可以只看容量對比價格?我記得我小時候記憶體1MB台幣1000元呢。
@@cloverhsc hbm除了成本不好看,待机等低负载场景下发热和能耗也较高。Mac过去也采用过Vega显卡,4gb独立显存Vega20的15寸MacBook最低就去到大概3900美元了
要考量的面向很多啦,容量決定了能跑多大的AI模型,能跑了才有快慢的比較,需求不同的群體CP數值沒法直接對比。
@@yinchen7835 對面的極客灣都還要跑AI 的 Benchmark 做對比讓你知道對比『4090』 差距在哪。但是某人拿一個頂規的卡不跟觀眾講差別在哪裡(乾~差很大好嗎!)然後用模糊、資訊不對等的方式捧 Apple 我個人無法接受~還是那句話變成粉是距離了解最遠的路。
我要參加。清楚的性能比較,很適合做購買前的參考資訊
你在每個細節上的用心,我都能感受到!希望你繼續分享更多內容,我想參加!
取代不了nvidia的gpu,现在火的大语言模型需要的上千个h100 gpu协同训练,单个gpu太大用处
我想參加
非常用心的評測,而且每次聽彼得森的敘述都非常清楚,感謝🙏
我想参加
彼得森的节目真是越来越有水准了,谢谢彼得森。
就算到了M4也還是比上不足,比下有餘,因為模型的參數量又高了好幾的量級,於是依舊大模型純推論堪用,小模型訓練好玩,中模型訓練勉強,大模型能微調就不錯了,真要搞還得要Studio加上TB5組建運算叢集看能不能摸上邊
相較之下,nVidia GPU這方面自然照舊斷貨秒殺
我想參加!之前買新的ipad 就發現彼得森的影片,真的很讚 !
感謝分享,等待台灣開賣!
我想參加
我想參加,我覺得以筆電來說,如果分別放上M4 Max 和H100,M4Max功耗控制一定比較好,所以如果需要,筆電M4Max,桌機H100。當然是建立在經濟允許的情況下
我想參加!!感謝這麼清楚的分享~
我想參加~為不同面向的族群做解說,真的太細心了!
实用性==0
那些需要用到24g以上vram的人用数据训练模型,这是什么?一般是工作。所以工作上只要你的公司是正规的基本没不会允许你用自己的电脑干活。所以这样的个人购买场景不成立。 如果是个人爱好,生活加兴趣那一般人都会买pro,所以性能也比不上4080的笔电
我想參加,彼特森好帥,沒測風扇噪音?
謝謝彼得森 我想參加!
我想參加
彼得森的分析真的是太專業了...!!
謝謝彼得森的分享 我想參加
感謝彼得森那麼深入詳細的測試m4系列芯片的性能、CP值 對我選擇mac電腦非常有用,我想參加
我想參加!
講解的真的很好,整體上讓我很具體知道哪個產品更適合我,讓我們花錢買到更適合的產品!謝謝彼得森!
我想參加! 感謝彼得森的講解
我想參加
影片剪輯軟體
好像很厲害
謝謝彼得森,我想參加
非常專業的分析評論👍
我想參加!!
我想參加
謝謝彼得森每次都能很深入剖析蘋果產品,那個剪輯軟體感覺也是cp值很高的軟體。又吸收到一些新的資訊了,確實也有考慮在M4 PRO 跟MAX之間做選擇,謝謝這麼用心的製作每一支影片
彼得森,人帥,工作又認真、專業,點讚👍
感謝詳細分析,我想參加!
感謝彼得森精闢的分析 我想參加😊
我想參加!感謝彼得森的影片,每次都能讓我更清楚需要哪種設備~
謝謝彼得森的分享!學到很多!感覺M晶片圍牆內差距並沒有太大。
針對自己的預算需要,性價比最高的即是最好的選擇。
我想參加!
我要參加,感謝分享
感謝分享🎉🎉🎉🎉我想參加😂😂
我想參加, 順便回答 16:20, training / finetune 速度是不可能跟 NV GPU 拼的, 這個初代 pytorch for mac GPU 剛 porting 出來的時候就發現, 但因為 RAM 夠大, MLX 團隊 porting model 速度幾乎是任何熱門 model 當天就有 mac 版可以玩, C/P 值明顯高, 很明顯的例子 大一點的 LLM model (>32G) 在一般 NV 遊戲卡根本 load 不起來, 這時候喊得再怎麼快也是輸 MAC GPU 的
我想參加 請問這些電腦之後是會出售嗎?
,非常專業!我想參加
用flux模型生成1024*1024的图片,我的m3 pro大概6分钟一张,4090大概十几秒,h100应该更快吧。如果生成视频的模型估计m4没法玩了。
想請教您是用什麼軟體,因為我用Comfy Ui 常會出現報錯
@@ianlin1580 我用的draw things
@@ianlin1580 draw things
想要玩flux可能還是要加高預算買M4 Ultra版的Mac Studio才會比較好用
@@steven7488 那看看cogvideox,h100要90秒,M4 ultra的算力出视频的时间可能会长得不可接受吧
我想參加,感謝彼得森的分析
非常感謝彼得森的分析,我想參加
精闢的分析,我想參加!
我想參加,感謝彼得森用心評價。
我想參加
感謝 彼得森 的分享,這些價格對我來說都是天價,我還是適合 Mac Mini ~~
我想參加,謝謝彼得森的講解
我想參加🎉謝謝彼得森
謝謝分享,我想參加
我想參加,還是買mac mini來串接比較好
我想參加 , 很棒的介紹.
會好想知如果 Mac Mini M4 Pro Vs MacBookpro M4 Max 會有怎樣分別呢?
我想參加, 蘋果最厲害的是w數控制的很好 , 系統優化很好, 相信做到這部分應該沒有問題
最近自己有很多写代码和读文章的需求,不过不太想割舍游戏,跟着视频分析下来,发现竟然情况比我想象的要好很多,amazing
以及,我想參加😊
我想參加!
謝謝彼得森的詳細解說,非常深入解析M4的效能
讓我更加了解macbook pro M4 pro、M4 max和Nvdia顯示卡之間的差距
專業的分析,我想參加!
我想參加!還在研究哪些需求使用iPad mini會好用
我想參加,謝謝彼得森
我想參加
雖然 H100 客群對企業,MBP 對個人,芯片架構和軟體生態也不一樣
但對於個人或小團隊想要訓練自己的LLM而言,統一記憶體夠大確實能讓MBP和CP值沾上邊,應該說能讓越來越多人有能力自己搞大模型的訓練吧
我想參加。感謝詳細的評比。
我想參加,最近也在看Mac跟pc的差異,這集比較的超用心❤
謝謝彼得森的開箱,我想參加
我想參加
接下來該考慮要買車還是買顯卡了
謝謝彼得森的分享,我想參加。
謝謝分享我想參加
我想參加
上個月才打算購置一部MacMini M2,沒想這個月推出的MacMini M4 入門直接16g起,真的太香了🤤
謝謝彼得森的解說,你是我看過解說的最簡潔明瞭的youtuber了,看了這期影片後感覺應該會換一台Macbook Mx來試試。
因為我是最近在做資料搜集時才認識你的,所以我想問之前有相關的影片是做如何選擇Macbook跟Windows手提電腦的嗎?或者是有觀眾能給我一些參考嗎?如果我錯過了之前彼得森有做過類似主題的影片實在不好意思。主要是最近正在考慮更換一台,主要是工作用的手提電腦,謝謝。
喜歡專業有條有理的解說,很有步調的比較。我想參加。
我想參加,謝謝彼得森的測試分析!
支持這種評測!我想參加!!
好讚的分析 我想參加!
我想參加
我好奇喔如果是工程的話會不會適合這個電腦
我想參加
感謝彼得森提供兩者差異說明。
能夠清楚知道該怎麼選擇!
我想參加!彼得森分析真好!讓我更清楚蘋果商品
回覆
感謝精闢分析,我想參加!超想用透過最新Mac mini來做AI模型訓練!👍
感謝彼得森分享😊😊我想參加 mac mini 聯合測評😊
謝謝用心,當然用AI處理後的聲音好啊!
很棒的解析 我想參加
我想參加,內容非常清楚! 筆電居然可以跑AI!?
我想參加
希望有機會能測試看看,MAC的效果
java 網頁開發,macbook pro m4夠用嗎?
夠用的喔!
超酷的資訊謝謝~我想參加
我想參加,謝謝分享😊
我想參加
非常喜歡彼得森專業分析的影片
我想參加,用例子解釋真的很易懂,加油加油
我想參加!正在考慮要買M4 Pro or M4 Max !
感謝您的分享,【我想參加】。
我想参加,感谢彼得森分享!