【人工智能】Tenstorrent能否挑战HBM市场垄断地位 | 硅仙人Jim Keller | DRAM | Blackwell GPU | Groq | 3D DRAM | Neo半导体

[@ccbill2852]

Great sharing thanks

[@setmefree3108]

谢谢大飞每天的精心制作

[@ericchang9568]

Transformer 推理是受限 KV Cache，除非模型突破，HBM是短期內唯一解。

[@trainlooper]

HBM = have better money ...... RAM生產廠表示....... 🤑

[@bestpartners]

这个解释的好🤣

[@paipaiwei9602]

解释的毫无违和感😂

[@zxwxz]

關鍵還是在集群GPU的連接問題，不然老黃幹嘛裝這麼多NV link，跟本問題就不是在單張gpu效能，而且老黃應該在core中還保留一堆原始圖形處理單元，目的還要搞onmiverse 做虛擬物理引擎給機器人做訓練，根本不是純粹AI這麼單純的問題

[@tcvsie18]

不追求運行時間短的話，解決方法很多。要時間短只能走晶片，硬體解決。HBM是目前最佳方案

[@marvinma6887]

高产🎉🎉🎉

[@jeremylin976]

英偉達能賺多久HBM就能賺多久，替代方案感覺上過於理想化，一切都要等它推出才能知道。

[@verypleasantguy]

TensTorrent 只是其中一个敢跳出 “GPU + HBM” 框框的挑战者，后面还有更多挑战者出现，推出更多更加精彩的 offerings ！

[@Zhichaodeng2023]

近存計算？存內計算？存算一体？

[@zhongjeff6283]

对于AI运算来说HBM的价值远高于GPU

[@sujasper7881]

抢个沙发

[@yuanzj5004]

谢谢！

[@bestpartners]

感谢支持(^🙏^)

[@大條楊]

說得好像GB100一百多萬的價錢，HBM就佔了60%一樣

[@Blue-pd3dv]

硅仙人可还行😂

[@zohar6006]

看看DRAM的歷史
只要廠商一直搞下去，成本遲早被打下來
當HBM成本低到某種程度後想故意繞開可能反而顯得沒必要

[@verypleasantguy]

中国已经有国产的第一代 HBM。虽然中国在 HBM 还是落后世界三代的差距，但，given time，中国还是会赶上的

[@verypleasantguy]

@@samtsou 你要讲什么，讲吧 ！时间会证明一切 ！

[@Acamas-ul3kg]

為什麼自己不去開發類似HBM的架構，再交由台積電代工(當然台積電並沒有記憶技術 有的都是很LOW)，不過就是生產，我想還是可以克服的，就像台積電並不沒有Discrete技術，旦憑借合作，短短半年就突破，比原廠還要高良率，因為本人就是那個project leader.

[@bestpartners]

🤣

[@motizuki1275]

那你挺loser的，干不过韩国

[@hiucollo2402]

Thank you 大 飞 ☘ 😄 ✍ 😇 🀄 😃 ☕ 😁 🌸 😀 🧧

[@mengmeng4312]

世界苦英伟达久矣

[@chiyunghsieh]

龜仙人🫡🫡

[@jeffreytsai2240]

看到用三星就覺得不妙

[@motizuki1275]

😂😂😂loser

[@jeffreytsai2240]

@@gc1959 跟你的屁一樣不妙

[@keycool9284]

咋舌不是炸舌头。

[@II-fz3vl]

可以不用一家的GPU 卻繞不開三家的HBM...
這邏輯是不是錯亂了

[@1110-d3r]

🎉🎉🎉❤❤❤

[@JeffL-d9o]