英伟达NCCL集合通信库技术剖析

แชร์
ฝัง
  • เผยแพร่เมื่อ 12 ม.ค. 2025

ความคิดเห็น • 3

  • @mattyangtw
    @mattyangtw 19 วันที่ผ่านมา

    感謝分享

  • @Soda-v6p
    @Soda-v6p 4 หลายเดือนก่อน

    讲的真棒

  • @ZOMI666
    @ZOMI666  4 หลายเดือนก่อน +1

    大模型相关的材料免费分享在：github.com/chenzomi12/AIFoundation

ต่อไป
เล่นอัตโนมัติ
NCCL通信算法与网络拓扑啥关系？ #大模型 #集合通信 #NCCL11:58NCCL通信算法与网络拓扑啥关系？ #大模型 #集合通信 #NCCL
NCCL通信算法与网络拓扑啥关系？ #大模型 #集合通信 #NCCLZOMI酱
มุมมอง 228
推荐技术迎来 E2E 大变革时代！#大模型 #生成式推荐 #推荐系统27:07推荐技术迎来 E2E 大变革时代！#大模型 #生成式推荐 #推荐系统
推荐技术迎来 E2E 大变革时代！#大模型 #生成式推荐 #推荐系统ZOMI酱
มุมมอง 497
【硬件科普】IP地址是什么东西？IPV6和IPV4有什么区别？公网IP和私有IP又是什么？10:39【硬件科普】IP地址是什么东西？IPV6和IPV4有什么区别？公网IP和私有IP又是什么？
【硬件科普】IP地址是什么东西？IPV6和IPV4有什么区别？公网IP和私有IP又是什么？硬件茶谈
มุมมอง 125K
Bloxfruits player after Dragon update🐲| Doge Gaming00:21Bloxfruits player after Dragon update🐲| Doge Gaming
Bloxfruits player after Dragon update🐲| Doge GamingDoge Gaming
มุมมอง 1.3M
The White Lotus Season 3 | Official Teaser | Max01:34The White Lotus Season 3 | Official Teaser | Max
The White Lotus Season 3 | Official Teaser | MaxMax
มุมมอง 1.3M
Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบ2:45:44Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบ
Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบBay Riffer
มุมมอง 167K
ไฮไลท์ ฟุตบอล ASEAN MITSUBISHI ELECTRIC CUP 2024 : สิงคโปร์ พบ ไทย09:54ไฮไลท์ ฟุตบอล ASEAN MITSUBISHI ELECTRIC CUP 2024 : สิงคโปร์ พบ ไทย
ไฮไลท์ ฟุตบอล ASEAN MITSUBISHI ELECTRIC CUP 2024 : สิงคโปร์ พบ ไทยTrueVisionsOfficial
มุมมอง 1.2M
从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)1:45:12从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)
从编解码和词嵌入开始，一步一步理解Transformer，注意力机制(Attention)的本质是卷积神经网络(CNN)王木头学科学
มุมมอง 105K
【人工智能】DeepSeek V3 53页技术报告快速解读 | 性能表现卓越 | 架构创新 | MLA | MoE架构 | DualPipe | 预训练 | 超参数设置 | MTP | 后训练12:44【人工智能】DeepSeek V3 53页技术报告快速解读 | 性能表现卓越 | 架构创新 | MLA | MoE架构 | DualPipe | 预训练 | 超参数设置 | MTP | 后训练
【人工智能】DeepSeek V3 53页技术报告快速解读 | 性能表现卓越 | 架构创新 | MLA | MoE架构 | DualPipe | 预训练 | 超参数设置 | MTP | 后训练最佳拍档
มุมมอง 56K
NCCL/HCCL 的基础 MPI 通信介绍！#大模型 #集合通信 #MPI13:29NCCL/HCCL 的基础 MPI 通信介绍！#大模型 #集合通信 #MPI
NCCL/HCCL 的基础 MPI 通信介绍！#大模型 #集合通信 #MPIZOMI酱
มุมมอง 290
从零开始学习大语言模型（一）20:13从零开始学习大语言模型（一）
从零开始学习大语言模型（一）林亦LYi
มุมมอง 242K
危险的富贵：赵薇的难言之隐42:49危险的富贵：赵薇的难言之隐
危险的富贵：赵薇的难言之隐二爷故事
มุมมอง 985K
OpenAI o1大模型炸了，数学逻辑推导能力堪比博士！#OpenAI29:00OpenAI o1大模型炸了，数学逻辑推导能力堪比博士！#OpenAI
OpenAI o1大模型炸了，数学逻辑推导能力堪比博士！#OpenAIZOMI酱
มุมมอง 1.1K
XCCL网络建模了解对大模型通信的影响 #大模型 #集合通信 #NCCL11:50XCCL网络建模了解对大模型通信的影响 #大模型 #集合通信 #NCCL
XCCL网络建模了解对大模型通信的影响 #大模型 #集合通信 #NCCLZOMI酱
มุมมอง 174
业界集合通信库XCCL大串烧(基本介绍)下篇 #大模型 #集合通信 #NCCL10:44业界集合通信库XCCL大串烧(基本介绍)下篇 #大模型 #集合通信 #NCCL
业界集合通信库XCCL大串烧(基本介绍)下篇 #大模型 #集合通信 #NCCLZOMI酱
มุมมอง 188
哪种家庭网络路由模式适合我？单臂路由和旁路由有何不同？单臂路由还是旁路由？18:19哪种家庭网络路由模式适合我？单臂路由和旁路由有何不同？单臂路由还是旁路由？
哪种家庭网络路由模式适合我？单臂路由和旁路由有何不同？单臂路由还是旁路由？jack stone
มุมมอง 279K
ผู้หญิงแต่งงานกับขอทาน แต่กลับถูกดูหมิ่น ในที่สุดชายขเทานก็เผยตัวตย#ละครหวานๆ#ชอบ2:00:01ผู้หญิงแต่งงานกับขอทาน แต่กลับถูกดูหมิ่น ในที่สุดชายขเทานก็เผยตัวตย#ละครหวานๆ#ชอบ
ผู้หญิงแต่งงานกับขอทาน แต่กลับถูกดูหมิ่น ในที่สุดชายขเทานก็เผยตัวตย#ละครหวานๆ#ชอบChaiyo sweet TV
มุมมอง 304K
마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funny00:14마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funny
마시멜로우 버섯 만들기🍄😂Making marshmallow mushrooms#funnyByungari 병아리언니
มุมมอง 4.5M
ถ้าม้าโดนแกล้งที่โรงเรียน ม้าจะฟ้องครูว่าอะไร #แต้มเซน #การ์ตูน #tamzen #ตลก #shortvideo #การ์ตูน00:29ถ้าม้าโดนแกล้งที่โรงเรียน ม้าจะฟ้องครูว่าอะไร #แต้มเซน #การ์ตูน #tamzen #ตลก #shortvideo #การ์ตูน
ถ้าม้าโดนแกล้งที่โรงเรียน ม้าจะฟ้องครูว่าอะไร #แต้มเซน #การ์ตูน #tamzen #ตลก #shortvideo #การ์ตูนTAMZEN
มุมมอง 19K
หนูกับเต้ รัก ”พี่อู๋จูน“ นะ58:23หนูกับเต้ รัก ”พี่อู๋จูน“ นะ
หนูกับเต้ รัก ”พี่อู๋จูน“ นะหนูม่วง คำหลู่
มุมมอง 536K
🎄✨ Puff is saving Christmas again with his incredible baking skills! #PuffTheBaker #thatlittlepuff00:42🎄✨ Puff is saving Christmas again with his incredible baking skills! #PuffTheBaker #thatlittlepuff
🎄✨ Puff is saving Christmas again with his incredible baking skills! #PuffTheBaker #thatlittlepuffThat Little Puff
มุมมอง 21M
Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบ2:45:44Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบ
Scum Rangers LIVE-021 ขุนให้อ้วน ฟาร์มให้เงียบBay Riffer
มุมมอง 167K
Oren helps Durple escape Pinki in a way you wouldn't expect00:48Oren helps Durple escape Pinki in a way you wouldn't expect
Oren helps Durple escape Pinki in a way you wouldn't expectSlime Cat
มุมมอง 774K
🔴LIVE โหนกระแส ศึกชิงมรดก 500 ล้าน ทายาทฟ้องเด็กรับใช้ปลอมลายเซ็น2:13:31🔴LIVE โหนกระแส ศึกชิงมรดก 500 ล้าน ทายาทฟ้องเด็กรับใช้ปลอมลายเซ็น
🔴LIVE โหนกระแส ศึกชิงมรดก 500 ล้าน ทายาทฟ้องเด็กรับใช้ปลอมลายเซ็นโหนกระแส [Hone-Krasae] official
มุมมอง 960K