万卡集群的AI数据中心,到底是如何运作的?

แชร์
ฝัง
  • เผยแพร่เมื่อ 25 ธ.ค. 2024

ความคิดเห็น • 124

  • @TheValley101
    @TheValley101  หลายเดือนก่อน +10

    时间轴来咯🌹(欢迎订阅我们旗下的同名播客栏目哟 👉th-cam.com/channels/hnNjLyx_5rk_iDPQ2BQDQA.html ):
    00:00 - 04:04 数据中心基础设施的挑战与机遇
    04:05 - 07:49 冷却系统的重要性与原理
    07:50 - 10:34 数据中心为何如此耗水?
    10:35 - 15:13 冷却系统的经济账
    15:14 - 16:22 数据中心升级瓶颈在哪?
    16:23 - 18:48 供电系统面临的挑战
    18:49 - 20:49 设备一体化与效率提升
    20:50 - 25:20 数据中心走向了“预制化”的道路

  • @takeiteasydragon
    @takeiteasydragon หลายเดือนก่อน +13

    I absolutely love content like this! Not only do we, the viewers, gain a wealth of technical knowledge and insights, but the featured companies also get a well-deserved spotlight. It’s a win-win, making for an incredibly informative and engaging show. Keep up the fantastic work - this is the kind of quality content we need more of on TH-cam!

  • @ericho1556
    @ericho1556 หลายเดือนก่อน +7

    干货满满 对于数据中心的市场需求定制化设计和水资源散热远离有更多了解了。感谢你准备的内容分享!

  • @黃俊榕-r1d
    @黃俊榕-r1d หลายเดือนก่อน +3

    感謝陳茜跟團隊的分享
    原來數據中心的後勤那麼重要!!

  • @murkitan_wow
    @murkitan_wow หลายเดือนก่อน +3

    10:01 “推理” 在一般机械学习和LLM的语境里,应该写作 inference,不是reasoning。 reasoning放在LLM的use case里是模型给自己的答案怎么解释,而不是告诉用户答案。完全不一样的意思。

  • @centechken1
    @centechken1 หลายเดือนก่อน +1

    No matter what you’re talking about, I love it! 🤞

  • @NoNameToHave
    @NoNameToHave หลายเดือนก่อน +12

    发音是 象变,不是 香变。另外老旧数据中心升级主要靠卡!这期说的这些挖矿的最清楚。

    • @diary7788
      @diary7788 หลายเดือนก่อน

      我也听到这个了😂

    • @peterma594
      @peterma594 หลายเดือนก่อน

      相变?

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน

      挖矿需要的数据中心技术和AI万卡集群根本不是一样概念好嘛。。

    • @NoNameToHave
      @NoNameToHave หลายเดือนก่อน

      @@hedgebunny0415 水电厂附近的矿场了解一下?

  • @hanhan-it5dp
    @hanhan-it5dp หลายเดือนก่อน +24

    说了这么多,其实有个简单的方法,现在的火力电厂就有一个巨大的冷却系统,这个冷却系统会自己制造清洁的水,一般叫做去离子水,可以用去离子水去直接与芯片接触冷却芯片。然后会有一个热交换器,这个热交换器管侧是热的去离子水,而壳侧是普通的冷却水。去离子水由于是在内部循环,一般损耗量很低。而冷却水都是直接抽取外部河流中的水或者是海水。所以火电厂一般都建立在河边或者海边。

    • @hanhan-it5dp
      @hanhan-it5dp หลายเดือนก่อน +5

      另外,如果数据中心更大的话,或者是一个数据中心群,那就可以建立自备电厂。现在的铝厂都是有自备电厂的,自备电厂的电更便宜。而且自备电厂还备有冷却系统。这样一举两得,有了自备电厂既可以给数据中心供电,又可以将自备电厂的冷却系统分出一部分来给数据中心用。最后说一句,我是在电厂实际做过运营的

    • @tkrdg7885
      @tkrdg7885 หลายเดือนก่อน +2

      建在 阿拉斯加 ,至少冬天散热。。。。。。

    • @jinxu2246
      @jinxu2246 หลายเดือนก่อน +2

      建海边还有一个隐藏的好处,之后数据库旁边肯定是要建核电站的,万一核电站出事就和日本一样核废水直接排海里

    • @Lin-qu9vf
      @Lin-qu9vf หลายเดือนก่อน

      ​@@jinxu2246牆國人還是多喝自己排出強百倍的核廢水吧!🎉

    • @hanhan-it5dp
      @hanhan-it5dp หลายเดือนก่อน +1

      @@jinxu2246 这个我觉得数据中心旁边建核电厂可能有点危险,核电厂厂区及周围都是有微量核辐射的,把数据中心建立在核辐射的环境里是存在危险的。

  • @RayKong88
    @RayKong88 หลายเดือนก่อน

    专业,深度,即时

  • @ptv3096
    @ptv3096 หลายเดือนก่อน +1

    记得前几年在一个科幻小说里看到数据中心建立在几个地处海洋寒流上的孤岛上,洋流穿过被掏空安置服务器的岛体,在不使用水泵的情况下自发完成冷却水的流动,岛上建立有核电站为数据中心供电,所有数据不需要海底电缆,而是通过星链进行传输。为节约电力稳压和冷却分布系统,四组服务器按照田字排列,山下两组共8台共同一套电力,冷却,数据传输系统。这样8组服务器加完整的电力冷却数据传输系统为一个数据库单元。遇到问题可以停止一个单元进行更换。哦对了,那是我自己前几年写的小说😂

  • @lane0938171181
    @lane0938171181 หลายเดือนก่อน +1

    多謝費心整理報導 感謝 收穫良多

  • @Yma413
    @Yma413 หลายเดือนก่อน

    感謝分享🙏,長知識了❤

  • @sy-ft9fd
    @sy-ft9fd หลายเดือนก่อน

    和空调一样,无论制热和制冷,都是需要使用能量去强化热量的运输速度。
    想要利用散发的热量发电,则与主动冷却这个过程的原理相悖,必须在一个被动散热远远强于所需散热能力的地方。比如南北极,原理上是可以建设散热电能回收站,通过电磁转换减缓散热过程发电。但是这种方案的建设成本和维护成本极高,运营风险也高,远超过电能回收价值,目前并不现实。
    常规条件下受制于地理条件和机房工作温度,和室外温度相差不过10°的废水废气发电几乎没有再利用价值。

  • @ubcTech
    @ubcTech 16 วันที่ผ่านมา

    有沒有考慮過在高緯度寒冷之地或甚至南極安裝AI中心? 寒冷的天候是否能減少水的消耗?

  • @foreversummer1633
    @foreversummer1633 หลายเดือนก่อน

    数据中心相关知识庞大、复杂且专业,能讲述到这个程度真的很难得👍。不过少量内容维谛的广告感略强,可以再弱化一点😊

  • @TSLA99T
    @TSLA99T หลายเดือนก่อน +2

    硅谷101赞赞赞!

  • @Su6y3503
    @Su6y3503 หลายเดือนก่อน

    真的研發出常溫超導體真的就是奇異點的到來❤

  • @tyrant001dx
    @tyrant001dx หลายเดือนก่อน +15

    科技劉亦菲👽

  • @fireyecat
    @fireyecat หลายเดือนก่อน

    热量也是一种能源。数据中心产生的热量也是一种能源。
    这种热能为什么不考虑储能和再利用。

  • @Innoodrr
    @Innoodrr หลายเดือนก่อน

    謝謝

  • @GREATLFG
    @GREATLFG หลายเดือนก่อน +3

    最不愿意买的的就是维蒂。上个项目低压系统给我们带来很大的问题。宁可买施耐德,ABB的。

    • @firstime
      @firstime หลายเดือนก่อน

      股票代码是多少

    • @科学无极限
      @科学无极限 หลายเดือนก่อน

      是,它是天朝的第五纵队

  • @joostfu
    @joostfu หลายเดือนก่อน +1

    专业

  • @zhipingchen9415
    @zhipingchen9415 หลายเดือนก่อน

    冷却系统不能做成封闭系统吗?冷却液初级和次级都是封闭的,通过热交换器传热。几十层的大厦能用来给空调用,就不知道能不能做大。

  • @TALKTALK-yz1dd
    @TALKTALK-yz1dd 12 วันที่ผ่านมา

    学习了,数据中心建一个巨型的芯片,可以到加拿大吧,占地,用水,用电,环境低温,还有安全都不成问题。

  • @jerryyen30
    @jerryyen30 หลายเดือนก่อน +3

    液冷難道不能回收再利用嗎?如果回收變成更大量的水使用,那就使用更大量的水吧!量更大但可回收,不就可循環使用了嗎?

    • @tkrdg7885
      @tkrdg7885 หลายเดือนก่อน +1

      倒推的话,马斯克和他的工程师,应该会想到,火箭🚀散热,特斯拉 电池散热,他们是 行家

    • @jerryyen30
      @jerryyen30 หลายเดือนก่อน

      @ 火箭幹嘛散熱???

    • @pengyuecai553
      @pengyuecai553 หลายเดือนก่อน

      回收冷却需要用占地面积巨大的冷却塔,如果要真正少水,要用三倍体积的风冷塔,这种东西只可能出现在中国大西北,目前也就大西北大规模用,欧美一个是地方贵,另外也基建不起来这么大的建筑。

    • @kellywilliam6726
      @kellywilliam6726 หลายเดือนก่อน

      ​@@pengyuecai553基建不起来?中国人怎么会有这种奇怪的自信。

    • @pengyuecai553
      @pengyuecai553 หลายเดือนก่อน

      @@kellywilliam6726 那么你说欧美现在有什么非常好的基建项目了。

  • @nickvfx
    @nickvfx หลายเดือนก่อน

    供暖需要消耗很多能源,散热又消耗很多能源,那能否结合一下呢?

  • @jackhmlin
    @jackhmlin หลายเดือนก่อน +2

    我想這期影片可以給我們高雄市長先補習專業知識🙏

  • @ciao7483
    @ciao7483 หลายเดือนก่อน

    好喜欢倩倩

  • @sy-ft9fd
    @sy-ft9fd หลายเดือนก่อน +1

    我公司有在国内做维谛的代理

  • @superdigua
    @superdigua หลายเดือนก่อน

    功耗波动呢?

  • @Vision_Future.2024
    @Vision_Future.2024 หลายเดือนก่อน

    这集算是个数据中心基础设施科普,没有深入讨论为什么GPU数据中心建设要求更高,对供电,散热,能耗管理更难?
    GPU运营的特点,特别是对电网的能耗波动和冲击影响。

    • @TheValley101
      @TheValley101  หลายเดือนก่อน +2

      之前的这期讲过啦:th-cam.com/video/6vNxFPRdrgs/w-d-xo.htmlsi=ohkocfmb5kYgj_HH

  • @KAI-el4ld
    @KAI-el4ld หลายเดือนก่อน

    能不能把数据中心搬到船上,然后把船开南极去呢?或者去北欧开数据中心.

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน

      你这脑洞有点大

    • @springyang2531
      @springyang2531 หลายเดือนก่อน

      开船,怎么联网,无线带宽不够。的确有很多数据中心建在北极附近~

    • @intelbot
      @intelbot หลายเดือนก่อน

      可以开在冥王星上。

  • @孙大圣-w6m
    @孙大圣-w6m หลายเดือนก่อน +3

    环保人士有那功夫不如去洛杉矶市中心打扫打扫卫生

    • @NoYoAble
      @NoYoAble หลายเดือนก่อน

      没关系过了几十年就自然分解成废城了😅

  • @liujingjie
    @liujingjie หลายเดือนก่อน +1

    北极建个数据中心不得解决?

    • @pengyuecai553
      @pengyuecai553 หลายเดือนก่อน +1

      光纤你搞?

  • @henry9071
    @henry9071 หลายเดือนก่อน

    这期是广子?😆

  • @海鸥不是鸟
    @海鸥不是鸟 หลายเดือนก่อน +3

    来中国东北,冬天直接给我们供暖了

    • @nobody_0619
      @nobody_0619 หลายเดือนก่อน

      夏天会热吗?

  • @wuyg719
    @wuyg719 หลายเดือนก่อน +3

    其实这个数据中心散热很容易解决,在中国搞了一个东数西算,在美国可以搞南数北算,把数据中心建在加拿大,那里电费便宜,气候寒冷,土地便宜,水源充足,数据中心的热量可以给居民和暖棚供暖,可以极大地降低运营成本

    • @pengyuecai553
      @pengyuecai553 หลายเดือนก่อน

      之前北欧好像有一个挖矿项目,废气给居民供暖。

    • @mnjik5798
      @mnjik5798 หลายเดือนก่อน

      美国不是中国,上面想干就能干的

    • @davidmok6756
      @davidmok6756 หลายเดือนก่อน

      阿拉斯加应该也行

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน

      难道不是应该把数据中心建在距离客户更近的地方吗?数据安全怎么解决?

    • @xiaominsong
      @xiaominsong หลายเดือนก่อน

      数据传输和网络的压力就大了。都是综合考虑的。

  • @carloscao6383
    @carloscao6383 6 วันที่ผ่านมา

    提个建议 你们找来的采访嘉宾应该要多谈谈技术而不是打广告,这期节目除了那个女嘉宾谈技术外,其它两男的说的全是广告,和节目内容不符吧

  • @shawnbai743
    @shawnbai743 หลายเดือนก่อน

    主播很漂亮!

  • @seandixon8897
    @seandixon8897 หลายเดือนก่อน

    可以搬來Alberta Canada ya, 不缺水不缺電,還可以送搭石頭和木材😂

  • @bolzhang
    @bolzhang หลายเดือนก่อน

    股票代码?

  • @币圈翻身哥
    @币圈翻身哥 หลายเดือนก่อน

    还得是芯片的提升了,

  • @LeinMarley
    @LeinMarley หลายเดือนก่อน

    一如既往的好内容! 我需要一些建议: 我有一个SafePal钱包,里面有USDT,并且我有恢复短语. (alarm fetch churn bridge exercise tape speak race clerk couch crater letter). 我该如何将它们转移到Binance?

  • @Vision_Future.2024
    @Vision_Future.2024 หลายเดือนก่อน +1

    智能化管理也是个差异化

  • @ibizachen9465
    @ibizachen9465 หลายเดือนก่อน

    月球數據中心怎麼樣 蠻涼的

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน

      哈哈 要不要先解决一下登月的问题 😂

    • @springyang2531
      @springyang2531 หลายเดือนก่อน

      月球冷得时候很冷,热得时候也很热~

    • @springyang2531
      @springyang2531 หลายเดือนก่อน

      要解决的问题是散热,注意散字,周围环境再冷,但是热传导率太低也不行,没有大量空气或者液体流动带走热量,周围再冷,热量也散不出去!

  • @HardyDimension
    @HardyDimension หลายเดือนก่อน

    所以現在這些大公司都在其他國家建起數據中心,利用他國的水電和地方。
    之前這些各大公司提倡環保,綠化,AI已出現之後就…😅😅

    • @TheValley101
      @TheValley101  หลายเดือนก่อน +1

      我们之前《AI电力争夺战》那期视频里提到过,AI时代的数据和服务器太重要了,已经提升到了“战略资产”,所以现在把服务器放置在他国的想法,还是需要谨慎考虑的

    • @HardyDimension
      @HardyDimension หลายเดือนก่อน

      @TheValley101 嗯,有看了那一期。今年他們已經至少跟幾個亞洲國家確定了會在當地建立數據中心了。有的也已經開始動工了。只是看到會有不少問題的衍生...

  • @tankman6452
    @tankman6452 หลายเดือนก่อน

    搞个超导体AI太空数据中心

  • @ericzhou3716
    @ericzhou3716 หลายเดือนก่อน

    这个问题在搞比特币那帮矿工那早解决了,找到冰岛那些冷的地方,或是需要供热的地方,比如中国北方东三省,直接冬天供暖就解决了。

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน +1

      挖币的那群人用的什么卡?万卡集群的AI data center用的什么卡?前者根本不需要liquid cooling技术好吗,还早就解决了。。。

  • @ongchinhin7677
    @ongchinhin7677 หลายเดือนก่อน

    建设在北极就是24/7/365自然冷了

    • @coronayi3922
      @coronayi3922 หลายเดือนก่อน

      好主意,那么电呢

  • @fenix20075
    @fenix20075 หลายเดือนก่อน

    無論是冷卻還是電力,都指向了海洋吧?海底蓋數據中心,海面掛潮汐海流發電機

  • @NoYoAble
    @NoYoAble หลายเดือนก่อน

    AI真的会让世界变得更美好吗?
    我看到的是为了AI消耗的能源和不断上升的气温。

  • @khengyang1988
    @khengyang1988 หลายเดือนก่อน

    好深奥,😂看不明白😂

  • @sshanrs
    @sshanrs หลายเดือนก่อน

    建在南极啊

    • @springyang2531
      @springyang2531 หลายเดือนก่อน

      你嫌南极的冰化得不够快么?南极是大陆,陆地上的冰化了比北极的浮冰化了后果严重得多,浮冰化了海平面没变化,陆地冰化了海平面可要上升的啊~

  • @Vision_Future.2024
    @Vision_Future.2024 หลายเดือนก่อน

    以前的艾默生

  • @SkyLin9527Huang
    @SkyLin9527Huang 24 วันที่ผ่านมา

    原來是廣告!!

  • @pevik3565
    @pevik3565 หลายเดือนก่อน

    恰饭视频

  • @Aurora2024-wif
    @Aurora2024-wif หลายเดือนก่อน

    AI強???AI強SM超微就不會雷了...完旦了...

  • @Hans17991
    @Hans17991 หลายเดือนก่อน

    搬到南极北极

  • @attranssion
    @attranssion หลายเดือนก่อน

    这女的真性感。

  • @胡宸溍-g7w
    @胡宸溍-g7w หลายเดือนก่อน +1

    有沒有訓練可能不知道,可能只像比特幣挖礦機一樣做了很多運算而已。
    如同要移居火星一樣,以為有沖天炮一樣的火箭就可以移居火星。
    美國後來會放棄移民月球的計畫跟本不是火箭的問題,而是當時的科學家研究了幾千項科技,最後還是很難組合,現在騙子每天直播火箭準備就可以套資金玩,或許只能說媒體鼓吹照成偽科學的人太多。

  • @dinoyu9349
    @dinoyu9349 หลายเดือนก่อน

    美人

  • @youtan9070
    @youtan9070 หลายเดือนก่อน

    放北极。

  • @無名氏-l1c
    @無名氏-l1c หลายเดือนก่อน

    當挖礦有了資本投資be like:

  • @Garnacho1029
    @Garnacho1029 หลายเดือนก่อน +2

    連一個讀音也要計較,那你的生活是痛苦的!

    • @watsonwoo6723
      @watsonwoo6723 หลายเดือนก่อน +1

      吹毛求疵的小心眼真烦人😅

    • @hedgebunny0415
      @hedgebunny0415 หลายเดือนก่อน +1

      评论区那两个懂王 看着就恼火

  • @Pompeo63
    @Pompeo63 หลายเดือนก่อน

    成都走出去的美女

  • @9B17
    @9B17 หลายเดือนก่อน

    美女牙齒很雪白

  • @cherrysun7054
    @cherrysun7054 หลายเดือนก่อน +4

    相(Xiang, 四声)变

  • @王振興-b4j
    @王振興-b4j หลายเดือนก่อน

    消耗電力是真的但說耗水卻是假的,浸末式水冷在台灣已研發成功,而且是重複可用水根本每有水汙染問題,我不知道這個訊息是不是有認真調查過。台灣企業廣達.雙鴻.技嘉.奇鋐多家企業都有研發,甚至可以在裡面養魚。我對這支影片所說會對地球發生的問題存疑。

    • @TheValley101
      @TheValley101  หลายเดือนก่อน

      @@王振興-b4j 视频中有说明,浸没式液冷用的比较少,因为现在GPU的液冷大多不适配。对于耗水的新闻和数据,可以google权威新闻哈,很多。