Large power demand derived from AI training and inferencing will definitely affect power supply in the country and probably will be under governance by the local government. If that is not happen, the large laid off of both office worker and blue collar after AI revolution will also lead to government interference in the market.
时间轴来咯（视频中嘉宾介绍有个typo，重新汇总一下本期视频的采访嘉宾：John Yue，Inference.ai创始人兼首席执行官www.inference.ai/ ；徐熠兴（Ethan），微软能源战略部资深项目经理；项江，瀚海聚能CEO），你会看到：
00:00 - 01:31 AGI的尽头是能源？巨头拉响能源大战
01:32 - 05:04 AI训练与推理：信息处理的能量成本
05:05 - 09:05 万卡数据中心：芯片与散热堆砌的吞电巨兽
09:06 - 12:23 能源短缺：美国落后基建与飙升的需求
12:24 - 14:41 千亿投资：微软与OpenAI布局吉瓦级超算中心
14:42 - 18:31 优化方案：芯片能效与液冷技术
18:31 - 21:04 现实瓶颈：芯片短缺与激烈竞争
21:05 - 26:04 终极方案：巨头布局可控核聚变
26:05 - 29:57 环境挑战：碳中和成本翻倍？
近期有诈骗团伙冒充账号，我们没有抖音或Tiktok个人账号，也不会以任何方式推荐任何投资或要求任何方式转账，请各位谨慎
要是我老婆就好了
😅😅
有留意新出的光芯嗎？電力只需gpu的十分之一
太好看了 謝謝❤ 我邊看邊感慨 這麼好的節目是可以免費看的嗎 太謝謝了
😊😊❤❤
可以打赏❤
个人目光所及，内容想你所想，无敌的全面。大赞！👍
🌹 谢谢支持 😊
报导一如往常高质专业。赞！
非常棒的一集， 启发性高和干货满满。加油！
節目做的很好 很專業 讚👍
支持茜茜 视频太棒了🎉 下回能不能出个视频介绍一下 电力行业的一些主要的player 以及他们的商业模式
陈茜，这期做得非常棒，背后一定做了很多功课。加油！ Matt
Thanks Matt! 🙏
绝对是YT上最满的专业频道
人类互相打来打去,一味的竞争和发展,人们生活究竟需要的是什么? 这些真的是我们生存所必要的吗? 背水一战, 这一战我们为何而打, 又是否真的能打赢.
非常專業的頻道
这就是军备竞赛，你有核武器，我不能没有。Ai在效率上带来的提升是跨时代的，就像工业革命开始了就回不去了。本质上我觉得能源应该之只是阵痛，新的技术出现一定会伴着新的需求，这反而倒逼那些行业的快速发展，最后这些还是会造福大家的，我可能比较乐观点，哈哈哈。就像工业革命虽然给世界带来了很多的问题，不过物质端也解决了很多问题。但人的心灵问题其实又被放大了，人被原子化，齿轮化，商业化。ai出现我觉得最大的问题是，可能在未来一段时间里面，人连作为螺丝钉的价值都没有了，那时人将要面临更加恐怖的内在世界的拷问。
不要开源，一旦开源，某国又说遥遥领先了！
@@mingfan8320 墙国特色，b站上一堆蠢货还在那吹超高压呢，甚至还会讲中国技术先进，不带美国玩
無節制的 AI 算力競爭，最後會將人給淘汰掉了，只留下少數人類精英存活與AI 共生。
大量魯蛇的出現會製造社會不穩定，社會矛盾擴大才是最麻煩的問題
所以需要VR了 进去自己玩吧 完美解决
專業的報導和講解。
干货满满的一期。。。很棒！
每一期都制作精良，内容满满
很有价值的报道，揭开很多被忽视的潜在危机
這和當年國内那些小水電挖比特幣的礦場是一模一樣的概念，都是非常簡單又需要巨大計算能力的活計，適合中國西南地區和西北地區，想想看僅西北電網的綠電發電能力就相當於整個美國發電能力的一半，電價便宜到爆
东数西算，球数中算。
@@wohetang 中國電網連接的發電功率大概是美國的四倍，年發電量大概是美國的兩倍+，除偏僻地區的孤立小電站外是一個可以統一調度的中國+東南亞連通的洲域大網，而且發電和輸電硬件還在快速增加，例如現在有25座核電站同時在建...真是地球上最可怕的存在，另外中國公司也在巴西複製一個中國電網的小號版本：主幹由±800KV輸電綫連接的統一大電網，美洲公司也許可以去巴西建數據中心。
中國電建宣😎
好老派的想法，核能其實是最安全的電力來源
沒用,人家不賣芯片給你,不要錢的電都沒用
@@yy98833 去看看華爲升騰，還有幾家做AI晶片和圖形晶片的中國公司，他們在賣什麽？當然比NVDA最好產品的差一點點，但資產，更便宜甚至耗電效率更高，足敷使用。
現在和美國幾大公司在玩囤積NVDA芯片拉高整個AI產業價格的把戲，而中國幾大公司現在正在打AI服務價格戰，就這幾天從中國公司獲得相同算力的AI云服務做AI模型訓練，做LLM或者類似ChatGPT的服務，只需要美國公司要價的0.2%，震驚不震驚？意外不意外？
真的非常專業👍
好节目，赞👍
AI已经不是技术竞争了，而是资源争夺，本质是资本竞争，最后不管哪家公司赢，普通人都是输。
大实话
谢谢茜茜分享，视频太棒了 😆下回能不能出个视频介绍一下 电力行业的一些主要的player 以及整个市场格局
滿滿技術點，謝謝
那就让马斯克，把太空太阳能发电站发到太空，然后在平流层搞一个浮动的飞艇的AI计算机，可以接受发电站的微波电能，还有用星链做传输数据。
给陈妹妹点赞，非常优异的节目。。😊🌹
有广度，有深度，赞👍。可惜人类不会停下脚步，人类也终会吃下恶果。
沒事 地球有他運行的命運 人類出現的時間佔據目前地球運行的年份根本不足掛齒
反正終究會到下一個新紀元
好好享受當下才是最棒的
未来绝对是核能和绿能，这是不容置疑的，更看好核能，稳定供能，中美现在都在发展小型核电站即smr，未来数据中心旁边就会有一个smr（小型模块化核反应堆）
耗費這麼多的資金與能源甚至犧牲環境保護 最終只是讓AI做到跟人類差不多的思考與對話能力 而最終很可能也只是為我們帶來更多的失業與貧富不均 想想人類只要幾片麵包或幾個便當 就能維持一整天的算力 就能做到我們希望AI能做到的事情 我們真該思考怎樣做 才是對地球與人類真正有益的事情
你也可以思考人類的出現對於地球運行的年份才多久，或許這些事情根本不足以掛齒
真知灼見，AI消耗的巨量電力，跟人類一顆大腦僅僅只要20w就能運作(一個燈泡還得60w呢！)
完全就不是一個世界
耗費大量能源，造成人類極端貧富不均，真的是很糟糕~
可惜，我們一般人只能眼睜睜看著巨頭們搶走電力卻無能為力
Google現在的用水主要是因為他們在搞evaporative cooling來給data center裡面的空氣降溫，接下來用liquid cooling的話除非是用cold plate + 水對氣的方案，否則如果用immersion 或是水對水的方案的話，很有可能反而能夠去掉或減少中間這層evaporative cooling，用水很可能是減少的
喜歡你的節目，
清潔能源、環保♻️、碳中和等等，最終解決方法，核聚變生電
建議學Frankenstein (科學怪人)，採集天雷發電。
核聚变太远了，目前最好的方式就是太阳能和锂电存储，这方面中国占尽优势
我只能推了! 高質量影片
中低溫廢熱是可回收的
現在氣對氣 氣對流體散熱
熱能回收約46%
在機房設計之初就可以建置
由於server是不移動的
特別適合散熱及廢熱技術實施
廢熱又可以轉成電力（熱能轉機械能再轉電能 會有三重損耗 熱轉電 轉化率為25%）
AI比起電動車更是國運之爭，軍備競賽的目的不是花多少錢走多遠，而是在拉開與對手的相對距離
關注了 加油喔🎉❤
講得好！🎉🎉🎉
keep up the good video making!!
把AI 數據中心建設在環繞地球的太空站 ,既解決了能耗問題 又解決了散熱問題 網絡傳輸有星鏈 ,看來這個還得馬斯克來,只有他有這個能力統一這些力量做出來.
helion不需要烧开水驱动涡轮发电，可以小型分布化。具有跨时代的意义，不仅仅可以用于发电🎉
不少熱水也繞不過熱機……
供電要由光的遞應素毫米位元構建，主機需先建置眼球接收幅射波的反離子降壓差能源，就免去傳統電力的限制！
人類正在建立自己的 Akashic records (阿卡夏記錄)
要省電 , 就要統一做 , 所有的訓練國家統一做 , 一年做一次. 免費的推理只有一套 , 特殊推理使用者付費. 這樣可以暫時省電, 一直等到電網升級時 , 再開放給市場自由競爭 . 要不然就要等光子計算成熟了, 可能耗電量會省一點.
本期報導雖然沒有很顯著的亮點 , 但在議題的各方面的完善性是非常高的 , 值得嘉獎與鼓勵 .
一条与AI有关的产业链清晰的铺在了大家面前 👍
很专业!
刚刚才发现此视频，觉得对孩子很有启发意义
AI 在為人類帶來便利之前就會先造成人類的......人口降低, 尤其是從各方面來說, AI 進步增加能源損耗, 沒AI之前不需要這麼超額的電耗, 沒AI之前沒有這麼多的競爭, 沒AI之前兵器的進化不會這麼迅速, 沒AI之前不會有這麼多的人失業, 沒AI之前地球可能不會這麼熱, 有了AI之後這一切將大為改變, 人類的便利與滅亡, 哪個會先到呢?
视频真厉害 已订阅
謝謝你❤
本視頻漏掉談到Attention mechanism在AI能源耗電中的作用，簡單來說，Attention mechanism可以讓模型有能力在處理序列資料時，專注於重要的部分，從而提高性能。然而，這也意味著模型需要額外的計算來計算注意力權重，這就增加了能源消耗。
感谢补充！
還輯閉環@@TheValley101
看起來核聚變真成了最佳解，希望Helion Energy 可以成功
把握最新資訊，節目做得很好，能否介紹幾家美國電力公司🎉❤
AI产生的问题让AI自己来解决
谢谢分享！
如果是中產及之上，那你應該投資能源與AI類股；如果是之下，那你該開始參與反AI的社會運動，或是無條件基本收入的倡議當中，等到AI升級完實體生產工具、資源分配又沒改善，那你的後代一定完蛋，所以最後我的建議是不要生育。
第一，用GPU(图形图像处理器)来进行AI计算，本身就是一个错误，或者说，只是一个取巧的办法。英伟达做的，就是不断地提高GPU中的晶体管数量，来提高其AI算力，这条路线是错的，走不长的。应该为AI计算专门开发出一个APU，其晶体管数量比GPU低几个数量级，但是其AI算力却比GPU高几个数量级。一句话，就是拿它来做AI计算，其效率极高。第二，可以把AI计算中心，建设于类似三峡水库的水底下。一是可以利用三峡的发电，有充足的电力供应。二是可以利用长江的自然水流，来冷却计算中心的设备，无需额外耗电来冷却。第三，可控核聚变，据大多数核专家的看法，那是50年后的事情。2028年绝无可能做出来，估计这只是一个资本圈钱的骗局，我们要脑子清楚一点，不能跟风。
硅谷有一家上市公司代碼GSIT就是你所講的APU開發者，目前股價在$3～$10美圓中間徘徊，依照當今的科技發展速度可能10年就能達到市場普及，量產也許能很快超越英偉達。
@@annwellintongton 至少中国不能走英伟达的路，否则就只能永远跟在人家屁股后面。中国一定要开发出自己的APU，用28纳米的制程做成的芯片，其性能还超过英伟达的A100。
Apu都在做。但是首先是没有软件生态适配。其次单颗apu能力再强也受reticle size限制，所以未来一定是计算单元的集群共享内存。这方面英伟达做的最领先。
你覺得你有比他們聰明嗎，還是被中共搞傻了？
Nvidia GPU 配有CUDA 软件架构。特别适合大规模矩阵计算。 AI 的训练 主要是矩阵运算。用GPU做AI是很自然不过的事😂
沒想到，AI產業的能耗如此驚人！
在能源來源及環境保護的兩大困境中，高科技AI如何才能突破，達到所謂碳中和的目標呢？
依據經驗，通常先讓科技業盈利，然後才會有突破這兩點困境的機會出現。
很簡單，核能。
@@tommymairo8964 核能，只能作為短期的發電運用，因為地球核燃料也是很有限的。若能開發出核融合或核聚變，那麼地球的能源就能夠無虞了！
可惜了，要不是摩根這大畜作死抽走了特斯拉開發無限能源的銀根，地球今日或許早已經開始使用地球自轉發電的電力了。
AI蕊片增加温室效應, 與人類減碳大方向背道而馳, 最有希望的解決方法應該是量子蕊片吧,
量子芯片目前耗能更高，维持量子态的能力与设施都是惊人的昂贵
Biological computing和Organoid intelligence 才是最佳解
戴森球计划，启动
多謝！
駭客任務把人類當成AI機械大軍的電池，已經預言AI發展最終必然得面對的問題
多谢 🙏
美女，满满的干货，感谢。
這碳稅得好好的算，用力的抽，溫室效應不能因為ai的發展而更差。
依舊是高質量的一集👍👍👍
视频没提到的一个技术细节。做同样的事情，Python代码的耗电量是C++的72-76倍。单单这一点就很可怕了。
將Data Center 送上太空軌道或月球上如何 ？
用核能供電，用真空環境冷卻，就不用考慮大氣溫室效應的問題了，不是嗎？
想法很棒
真空只能靠熱輻射 散熱效果極差
月球表面接近真空，它的溫差變化極大
如果散熱不好，又如何解釋？
@@CanseeYou-rw6rc 熱力傳導三個方式，熱輻射、熱對流、熱傳導
空冷屬熱對流方式，太空由於真空幾乎沒有導熱介質只能靠熱輻射。
在太空中，熱量的傳播比在地球上要難很多，國際太空站在散熱方面可是煞費苦心，熱輻射散熱的方式需要有足夠的溫差效果才會好。國際太空站散熱還需要用熱泵把熱量集中在大面積的散熱版上才能有比較好的熱輻射效果呢。
月球溫差較大的原因，主要是月球沒有大量液態水，以及大氣層。
其實不用扯到月球，想想你的保溫杯夾層為什麼要抽真空就知道了。
@@CanseeYou-rw6rc 溫差大是因為沒水跟大氣
太空散熱是個大課題，太空站散熱需要靠熱泵把熱能集中在一處靠熱輻射的方式散出去，在太空散熱非常不易。
不用扯到月球，就想想你保溫杯夾層為何要抽真空就好了，小學自然課提到，熱力傳導三途徑，熱輻射、熱傳導、熱對流
抽了真空就少了熱傳導、熱對流兩個途徑，熱量傳遞變得更困難，所以有更好的保溫效果。
当我看到ai数据中心的需求的时候满脑子都想到了挖矿🤣🤣简直一模一样
挖礦甚至自己起電廠🤣
之前觉得这小姑娘这么熟悉，今天再看，突然想起来，原来是财经频道的记者，经常出现在新加坡的连线....哈哈
你这一说我好像也有印象了
茜姐之前是CNBC亚太区的主持人，会作为特约评论员和财经频道连线 😊
你和那位说金融的姐姐有的一比❤😂
那个姐姐
講個天馬行空的
會不會到最後發現要發展超強AI
需要一個不止一個地球的能量
（例如ai要算出在火星殖民的需求及所有可能性需要半個地球的能量
人類到時就可能開啟爭奪能量大戰）
太棒了！
看完之後，更加堅定持有英偉達，台積電😅
专业！！
那應該要找比gpu更省電的技術，cim是最佳解嗎？
谢谢 不能光靠电网 数据中心要配套Megapack 之类的储能装置
解答了我对巴菲特要投资Alberta的原因了
突然就對AI無感了，感覺它要到達真正對社會產生淨正面貢獻的時日還差得遠
非常棒
2024年想发财就去买电力股票，去美股买！工业电费将上涨📈，这是民主国家，不会因为工业发展而牺牲民生居民！所以工业电费将上涨，至于不民主国家，你就想好了，民生电费绝对会涨📈
哈哈哈哈，这样也能强行民主，真有你的
駭客任務在幾十年前就已經揭示AI的電力如何而來？
我觉得是时候大力研发动力推进技术，走出大气圈，进入太阳圈，建造戴森环！！！
如果未來真的發生能源短缺 , "能源回收"便會有爆發性的發展
但凡有点常识的计算也知道不可能生成一张图片会耗掉一个手机的电量生成一张图片只需要4090几秒钟的功耗几秒钟的4090只相当于300瓦或400瓦小时的六十分之一手机的电量是5500mAh但是怎么算也不可能是一台手机可能是五十分之一的手机电量吧
数据引用来源是Hugging Face 和卡内基梅隆大学的一个论文研究，感兴趣可以搜搜～
www.technologyreview.com/2023/12/01/1084189/making-an-image-with-generative-ai-uses-as-much-energy-as-charging-your-phone/amp/
@@TheValley101 这文章还没被peer review过，里面的数据和结论都是存疑的。比如文章里image generation的能耗平均是2.9，但是标准差是3.3，怎么计算的能耗且不说，但看这个数字，这显然是不够统计显著的…
好看爱看多发，已三连
其实，我们对AI发展的需求没有这么紧迫，慢点就慢点吧，也留下一些我们就业的空间
5nm,3nm,2nm,1nm 越小能耗越少 他们需要越做越小
它們產生的熱能會否摧毀地球生態!是否應該放在月球或離地球遠點的太空?
哈！我也是這麼寫的，不知道您早寫出來了，是啊，去月球人類又多了一個理由。
ai现在还处在初级阶段，带来的经济效益还远不及成本消耗，不知道积累以后能不能能带来多大的经济效益来覆盖能耗，不知道有木有人能预测和估计。
碳中和很重要，如果环境再这样恶劣下去，资源一定会变少的，比如粮食和水
可以打造太空数据中心，直接太阳能取电，训练
我是来看👀茜茜的😂
美国有好几家公司在研究集装箱大小的核电站，据说快商用了，今后每家公司办公楼放几个像柴油发动机那样的集装箱就可以了
Oklo就是其中一个，刚刚完成ipo上市
Very informative and great Data for my stock trading.
However, boring.
博主关于能耗的计算是电路损耗，不是功能性消耗，正确的计算是电压乘以电流才是正确的算法
物理课不过关而已
Transistor 大陸叫晶体管，台灣叫電晶體。
Ai伺服器耗電100%，下一秒就變耗電10%，再下一秒又變耗電100%，當今供電系統都無法跟上Ai伺服器耗電變化，無法調節。
覺得很簡單，只要每台Ai伺服器都配上大型UPS不斷電系統，就算停電數天也能正常運作，因為電力透過UPS不斷電系統再給Ai伺服器，所以耗電不管什麼時候都是固定的，缺點成本會大幅提升。
ups是零间断和整波系统不是储电发电资源 ups本身也需要挂电池和电源的 ai server和随便哪个DC都标配ups的 人家缺水 你说换个水瓢😂
專業
好像AI 的一個大標桿 是比同行、他國快一點，一個永無止境的目標。代價又是隨之而漲，能不能請AI先算一算，值嗎？
感謝您和團隊的製作，考慮到方方面面，多謝!
有時間、興趣做其他領域，如新聞或小說的介紹等等? 不要讓我們等太久!
投資客表示 :值 股價繼續漲😂
AI写一行字就需要读完一套百科全书，写两行就的读两次，那这么不耗电呢？不过如果AI能代替其他的工作比如一个作家不需要在游网做research, 不需要开车到处找参考资料，不必花长时间做PowerPoint；这些省下来的能元可能可以低消一些AI的耗电量。
最喜歡茜茜姐了！
Thanks!
Large power demand derived from AI training and inferencing will definitely affect power supply in the country and probably will be under governance by the local government. If that is not happen, the large laid off of both office worker and blue collar after AI revolution will also lead to government interference in the market.