万卡集群的AI数据中心,到底是如何运作的?

แชร์
ฝัง
  • เผยแพร่เมื่อ 22 พ.ย. 2024

ความคิดเห็น • 118

  • @TheValley101
    @TheValley101  22 วันที่ผ่านมา +10

    时间轴来咯🌹(欢迎订阅我们旗下的同名播客栏目哟 👉th-cam.com/channels/hnNjLyx_5rk_iDPQ2BQDQA.html ):
    00:00 - 04:04 数据中心基础设施的挑战与机遇
    04:05 - 07:49 冷却系统的重要性与原理
    07:50 - 10:34 数据中心为何如此耗水?
    10:35 - 15:13 冷却系统的经济账
    15:14 - 16:22 数据中心升级瓶颈在哪?
    16:23 - 18:48 供电系统面临的挑战
    18:49 - 20:49 设备一体化与效率提升
    20:50 - 25:20 数据中心走向了“预制化”的道路

  • @takeiteasydragon
    @takeiteasydragon 22 วันที่ผ่านมา +13

    I absolutely love content like this! Not only do we, the viewers, gain a wealth of technical knowledge and insights, but the featured companies also get a well-deserved spotlight. It’s a win-win, making for an incredibly informative and engaging show. Keep up the fantastic work - this is the kind of quality content we need more of on TH-cam!

  • @黃俊榕-r1d
    @黃俊榕-r1d 22 วันที่ผ่านมา +3

    感謝陳茜跟團隊的分享
    原來數據中心的後勤那麼重要!!

  • @ericho1556
    @ericho1556 22 วันที่ผ่านมา +7

    干货满满 对于数据中心的市场需求定制化设计和水资源散热远离有更多了解了。感谢你准备的内容分享!

  • @murkitan_wow
    @murkitan_wow 22 วันที่ผ่านมา +3

    10:01 “推理” 在一般机械学习和LLM的语境里,应该写作 inference,不是reasoning。 reasoning放在LLM的use case里是模型给自己的答案怎么解释,而不是告诉用户答案。完全不一样的意思。

  • @NoNameToHave
    @NoNameToHave 22 วันที่ผ่านมา +12

    发音是 象变,不是 香变。另外老旧数据中心升级主要靠卡!这期说的这些挖矿的最清楚。

    • @Fen_Diary
      @Fen_Diary 22 วันที่ผ่านมา

      我也听到这个了😂

    • @peterma594
      @peterma594 22 วันที่ผ่านมา

      相变?

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา

      挖矿需要的数据中心技术和AI万卡集群根本不是一样概念好嘛。。

    • @NoNameToHave
      @NoNameToHave 21 วันที่ผ่านมา

      @@hedgebunny0415 水电厂附近的矿场了解一下?

  • @tyrant001dx
    @tyrant001dx 22 วันที่ผ่านมา +15

    科技劉亦菲👽

  • @foreversummer1633
    @foreversummer1633 7 วันที่ผ่านมา

    数据中心相关知识庞大、复杂且专业,能讲述到这个程度真的很难得👍。不过少量内容维谛的广告感略强,可以再弱化一点😊

  • @centechken1
    @centechken1 22 วันที่ผ่านมา +1

    No matter what you’re talking about, I love it! 🤞

  • @ptv3096
    @ptv3096 19 วันที่ผ่านมา +1

    记得前几年在一个科幻小说里看到数据中心建立在几个地处海洋寒流上的孤岛上,洋流穿过被掏空安置服务器的岛体,在不使用水泵的情况下自发完成冷却水的流动,岛上建立有核电站为数据中心供电,所有数据不需要海底电缆,而是通过星链进行传输。为节约电力稳压和冷却分布系统,四组服务器按照田字排列,山下两组共8台共同一套电力,冷却,数据传输系统。这样8组服务器加完整的电力冷却数据传输系统为一个数据库单元。遇到问题可以停止一个单元进行更换。哦对了,那是我自己前几年写的小说😂

  • @Su6y3503
    @Su6y3503 22 วันที่ผ่านมา

    真的研發出常溫超導體真的就是奇異點的到來❤

  • @sy-ft9fd
    @sy-ft9fd 11 วันที่ผ่านมา

    和空调一样,无论制热和制冷,都是需要使用能量去强化热量的运输速度。
    想要利用散发的热量发电,则与主动冷却这个过程的原理相悖,必须在一个被动散热远远强于所需散热能力的地方。比如南北极,原理上是可以建设散热电能回收站,通过电磁转换减缓散热过程发电。但是这种方案的建设成本和维护成本极高,运营风险也高,远超过电能回收价值,目前并不现实。
    常规条件下受制于地理条件和机房工作温度,和室外温度相差不过10°的废水废气发电几乎没有再利用价值。

  • @fireyecat
    @fireyecat 2 วันที่ผ่านมา

    热量也是一种能源。数据中心产生的热量也是一种能源。
    这种热能为什么不考虑储能和再利用。

  • @GREATLFG
    @GREATLFG 22 วันที่ผ่านมา +3

    最不愿意买的的就是维蒂。上个项目低压系统给我们带来很大的问题。宁可买施耐德,ABB的。

    • @firstime
      @firstime 14 วันที่ผ่านมา

      股票代码是多少

  • @lane0938171181
    @lane0938171181 22 วันที่ผ่านมา +1

    多謝費心整理報導 感謝 收穫良多

  • @hanhan-it5dp
    @hanhan-it5dp 22 วันที่ผ่านมา +24

    说了这么多,其实有个简单的方法,现在的火力电厂就有一个巨大的冷却系统,这个冷却系统会自己制造清洁的水,一般叫做去离子水,可以用去离子水去直接与芯片接触冷却芯片。然后会有一个热交换器,这个热交换器管侧是热的去离子水,而壳侧是普通的冷却水。去离子水由于是在内部循环,一般损耗量很低。而冷却水都是直接抽取外部河流中的水或者是海水。所以火电厂一般都建立在河边或者海边。

    • @hanhan-it5dp
      @hanhan-it5dp 22 วันที่ผ่านมา +5

      另外,如果数据中心更大的话,或者是一个数据中心群,那就可以建立自备电厂。现在的铝厂都是有自备电厂的,自备电厂的电更便宜。而且自备电厂还备有冷却系统。这样一举两得,有了自备电厂既可以给数据中心供电,又可以将自备电厂的冷却系统分出一部分来给数据中心用。最后说一句,我是在电厂实际做过运营的

    • @tkrdg7885
      @tkrdg7885 22 วันที่ผ่านมา +2

      建在 阿拉斯加 ,至少冬天散热。。。。。。

    • @jinxu2246
      @jinxu2246 22 วันที่ผ่านมา +2

      建海边还有一个隐藏的好处,之后数据库旁边肯定是要建核电站的,万一核电站出事就和日本一样核废水直接排海里

    • @Lin-qu9vf
      @Lin-qu9vf 22 วันที่ผ่านมา

      ​@@jinxu2246牆國人還是多喝自己排出強百倍的核廢水吧!🎉

    • @hanhan-it5dp
      @hanhan-it5dp 22 วันที่ผ่านมา +1

      @@jinxu2246 这个我觉得数据中心旁边建核电厂可能有点危险,核电厂厂区及周围都是有微量核辐射的,把数据中心建立在核辐射的环境里是存在危险的。

  • @RayKong88
    @RayKong88 22 วันที่ผ่านมา

    专业,深度,即时

  • @jackhmlin
    @jackhmlin 22 วันที่ผ่านมา +2

    我想這期影片可以給我們高雄市長先補習專業知識🙏

  • @zhipingchen9415
    @zhipingchen9415 22 วันที่ผ่านมา

    冷却系统不能做成封闭系统吗?冷却液初级和次级都是封闭的,通过热交换器传热。几十层的大厦能用来给空调用,就不知道能不能做大。

  • @jerryyen30
    @jerryyen30 22 วันที่ผ่านมา +3

    液冷難道不能回收再利用嗎?如果回收變成更大量的水使用,那就使用更大量的水吧!量更大但可回收,不就可循環使用了嗎?

    • @tkrdg7885
      @tkrdg7885 22 วันที่ผ่านมา +1

      倒推的话,马斯克和他的工程师,应该会想到,火箭🚀散热,特斯拉 电池散热,他们是 行家

    • @jerryyen30
      @jerryyen30 22 วันที่ผ่านมา

      @ 火箭幹嘛散熱???

    • @pengyuecai553
      @pengyuecai553 22 วันที่ผ่านมา

      回收冷却需要用占地面积巨大的冷却塔,如果要真正少水,要用三倍体积的风冷塔,这种东西只可能出现在中国大西北,目前也就大西北大规模用,欧美一个是地方贵,另外也基建不起来这么大的建筑。

    • @kellywilliam6726
      @kellywilliam6726 8 วันที่ผ่านมา

      ​@@pengyuecai553基建不起来?中国人怎么会有这种奇怪的自信。

    • @pengyuecai553
      @pengyuecai553 7 วันที่ผ่านมา

      @@kellywilliam6726 那么你说欧美现在有什么非常好的基建项目了。

  • @nickvfx
    @nickvfx 22 วันที่ผ่านมา

    供暖需要消耗很多能源,散热又消耗很多能源,那能否结合一下呢?

  • @Yma413
    @Yma413 22 วันที่ผ่านมา

    感謝分享🙏,長知識了❤

  • @sy-ft9fd
    @sy-ft9fd 22 วันที่ผ่านมา +1

    我公司有在国内做维谛的代理

  • @LeinMarley
    @LeinMarley 22 วันที่ผ่านมา

    一如既往的好内容! 我需要一些建议: 我有一个SafePal钱包,里面有USDT,并且我有恢复短语. (alarm fetch churn bridge exercise tape speak race clerk couch crater letter). 我该如何将它们转移到Binance?

  • @TSLA99T
    @TSLA99T 22 วันที่ผ่านมา +2

    硅谷101赞赞赞!

  • @superdigua
    @superdigua 22 วันที่ผ่านมา

    功耗波动呢?

  • @孙大圣-w6m
    @孙大圣-w6m 22 วันที่ผ่านมา +3

    环保人士有那功夫不如去洛杉矶市中心打扫打扫卫生

    • @NoYoAble
      @NoYoAble 22 วันที่ผ่านมา

      没关系过了几十年就自然分解成废城了😅

  • @海鸥不是鸟
    @海鸥不是鸟 22 วันที่ผ่านมา +3

    来中国东北,冬天直接给我们供暖了

    • @nobody_0619
      @nobody_0619 22 วันที่ผ่านมา

      夏天会热吗?

  • @KAI-el4ld
    @KAI-el4ld 22 วันที่ผ่านมา

    能不能把数据中心搬到船上,然后把船开南极去呢?或者去北欧开数据中心.

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา

      你这脑洞有点大

    • @springyang2531
      @springyang2531 21 วันที่ผ่านมา

      开船,怎么联网,无线带宽不够。的确有很多数据中心建在北极附近~

    • @intelbot
      @intelbot 16 วันที่ผ่านมา

      可以开在冥王星上。

  • @ciao7483
    @ciao7483 8 วันที่ผ่านมา

    好喜欢倩倩

  • @henry9071
    @henry9071 22 วันที่ผ่านมา

    这期是广子?😆

  • @liujingjie
    @liujingjie 22 วันที่ผ่านมา +1

    北极建个数据中心不得解决?

    • @pengyuecai553
      @pengyuecai553 22 วันที่ผ่านมา +1

      光纤你搞?

  • @pinyichang4680
    @pinyichang4680 22 วันที่ผ่านมา

    謝謝

  • @joostfu
    @joostfu 22 วันที่ผ่านมา +1

    专业

  • @shawnbai743
    @shawnbai743 19 วันที่ผ่านมา

    主播很漂亮!

  • @Vision_Future.2024
    @Vision_Future.2024 22 วันที่ผ่านมา +1

    智能化管理也是个差异化

  • @bolzhang
    @bolzhang 21 วันที่ผ่านมา

    股票代码?

  • @币圈复盘
    @币圈复盘 20 วันที่ผ่านมา

    还得是芯片的提升了,

  • @ibizachen9465
    @ibizachen9465 22 วันที่ผ่านมา

    月球數據中心怎麼樣 蠻涼的

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา

      哈哈 要不要先解决一下登月的问题 😂

    • @springyang2531
      @springyang2531 21 วันที่ผ่านมา

      月球冷得时候很冷,热得时候也很热~

    • @springyang2531
      @springyang2531 21 วันที่ผ่านมา

      要解决的问题是散热,注意散字,周围环境再冷,但是热传导率太低也不行,没有大量空气或者液体流动带走热量,周围再冷,热量也散不出去!

  • @Vision_Future.2024
    @Vision_Future.2024 22 วันที่ผ่านมา

    这集算是个数据中心基础设施科普,没有深入讨论为什么GPU数据中心建设要求更高,对供电,散热,能耗管理更难?
    GPU运营的特点,特别是对电网的能耗波动和冲击影响。

    • @TheValley101
      @TheValley101  22 วันที่ผ่านมา +1

      之前的这期讲过啦:th-cam.com/video/6vNxFPRdrgs/w-d-xo.htmlsi=ohkocfmb5kYgj_HH

  • @fenix20075
    @fenix20075 17 วันที่ผ่านมา

    無論是冷卻還是電力,都指向了海洋吧?海底蓋數據中心,海面掛潮汐海流發電機

  • @tankman6452
    @tankman6452 2 วันที่ผ่านมา

    搞个超导体AI太空数据中心

  • @ericzhou3716
    @ericzhou3716 21 วันที่ผ่านมา

    这个问题在搞比特币那帮矿工那早解决了,找到冰岛那些冷的地方,或是需要供热的地方,比如中国北方东三省,直接冬天供暖就解决了。

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา +1

      挖币的那群人用的什么卡?万卡集群的AI data center用的什么卡?前者根本不需要liquid cooling技术好吗,还早就解决了。。。

  • @HardyDimension
    @HardyDimension 21 วันที่ผ่านมา

    所以現在這些大公司都在其他國家建起數據中心,利用他國的水電和地方。
    之前這些各大公司提倡環保,綠化,AI已出現之後就…😅😅

    • @TheValley101
      @TheValley101  20 วันที่ผ่านมา +1

      我们之前《AI电力争夺战》那期视频里提到过,AI时代的数据和服务器太重要了,已经提升到了“战略资产”,所以现在把服务器放置在他国的想法,还是需要谨慎考虑的

    • @HardyDimension
      @HardyDimension 20 วันที่ผ่านมา

      @TheValley101 嗯,有看了那一期。今年他們已經至少跟幾個亞洲國家確定了會在當地建立數據中心了。有的也已經開始動工了。只是看到會有不少問題的衍生...

  • @wuyg719
    @wuyg719 22 วันที่ผ่านมา +3

    其实这个数据中心散热很容易解决,在中国搞了一个东数西算,在美国可以搞南数北算,把数据中心建在加拿大,那里电费便宜,气候寒冷,土地便宜,水源充足,数据中心的热量可以给居民和暖棚供暖,可以极大地降低运营成本

    • @pengyuecai553
      @pengyuecai553 22 วันที่ผ่านมา

      之前北欧好像有一个挖矿项目,废气给居民供暖。

    • @mnjik5798
      @mnjik5798 22 วันที่ผ่านมา

      美国不是中国,上面想干就能干的

    • @davidmok6756
      @davidmok6756 22 วันที่ผ่านมา

      阿拉斯加应该也行

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา

      难道不是应该把数据中心建在距离客户更近的地方吗?数据安全怎么解决?

    • @xiaominsong
      @xiaominsong 21 วันที่ผ่านมา

      数据传输和网络的压力就大了。都是综合考虑的。

  • @NoYoAble
    @NoYoAble 22 วันที่ผ่านมา

    AI真的会让世界变得更美好吗?
    我看到的是为了AI消耗的能源和不断上升的气温。

  • @ongchinhin7677
    @ongchinhin7677 21 วันที่ผ่านมา

    建设在北极就是24/7/365自然冷了

    • @coronayi3922
      @coronayi3922 8 วันที่ผ่านมา

      好主意,那么电呢

  • @khengyang1988
    @khengyang1988 22 วันที่ผ่านมา

    好深奥,😂看不明白😂

  • @Vision_Future.2024
    @Vision_Future.2024 22 วันที่ผ่านมา

    以前的艾默生

  • @pevik3565
    @pevik3565 20 วันที่ผ่านมา

    恰饭视频

  • @sshanrs
    @sshanrs 21 วันที่ผ่านมา

    建在南极啊

    • @springyang2531
      @springyang2531 21 วันที่ผ่านมา

      你嫌南极的冰化得不够快么?南极是大陆,陆地上的冰化了比北极的浮冰化了后果严重得多,浮冰化了海平面没变化,陆地冰化了海平面可要上升的啊~

  • @Aurora2024-wif
    @Aurora2024-wif 19 วันที่ผ่านมา

    AI強???AI強SM超微就不會雷了...完旦了...

  • @Hans17991
    @Hans17991 22 วันที่ผ่านมา

    搬到南极北极

  • @attranssion
    @attranssion 22 วันที่ผ่านมา

    这女的真性感。

  • @胡宸溍-g7w
    @胡宸溍-g7w 22 วันที่ผ่านมา +1

    有沒有訓練可能不知道,可能只像比特幣挖礦機一樣做了很多運算而已。
    如同要移居火星一樣,以為有沖天炮一樣的火箭就可以移居火星。
    美國後來會放棄移民月球的計畫跟本不是火箭的問題,而是當時的科學家研究了幾千項科技,最後還是很難組合,現在騙子每天直播火箭準備就可以套資金玩,或許只能說媒體鼓吹照成偽科學的人太多。

  • @無名氏-l1c
    @無名氏-l1c 22 วันที่ผ่านมา

    當挖礦有了資本投資be like:

  • @youtan9070
    @youtan9070 22 วันที่ผ่านมา

    放北极。

  • @dinoyu9349
    @dinoyu9349 17 วันที่ผ่านมา

    美人

  • @Garnacho1029
    @Garnacho1029 22 วันที่ผ่านมา +2

    連一個讀音也要計較,那你的生活是痛苦的!

    • @watsonwoo6723
      @watsonwoo6723 22 วันที่ผ่านมา +1

      吹毛求疵的小心眼真烦人😅

    • @hedgebunny0415
      @hedgebunny0415 21 วันที่ผ่านมา +1

      评论区那两个懂王 看着就恼火

  • @9B17
    @9B17 22 วันที่ผ่านมา

    美女牙齒很雪白

  • @Pompeo63
    @Pompeo63 22 วันที่ผ่านมา

    成都走出去的美女

  • @cherrysun7054
    @cherrysun7054 22 วันที่ผ่านมา +4

    相(Xiang, 四声)变

  • @王振興-b4j
    @王振興-b4j 15 วันที่ผ่านมา

    消耗電力是真的但說耗水卻是假的,浸末式水冷在台灣已研發成功,而且是重複可用水根本每有水汙染問題,我不知道這個訊息是不是有認真調查過。台灣企業廣達.雙鴻.技嘉.奇鋐多家企業都有研發,甚至可以在裡面養魚。我對這支影片所說會對地球發生的問題存疑。

    • @TheValley101
      @TheValley101  15 วันที่ผ่านมา

      @@王振興-b4j 视频中有说明,浸没式液冷用的比较少,因为现在GPU的液冷大多不适配。对于耗水的新闻和数据,可以google权威新闻哈,很多。