我查閱其他資料,結合影片與網路文件,整理重點如下: 起源: 1. 在分散式系統中,單一節點的伺服器同時處理計算、儲存、網路多種工作,成為效能瓶頸,因此提出 Pool 的概念,分割計算與儲存。 2. 傳統數據中心以擅長指令集計算的 CPU 為設計基礎,但他並不擅長平行運算與網路控制、無法提供高頻寬低延遲,導致系統管理複雜度增加。 方案: 著眼在以 CPU 為中心的數據中心架構下提升網路傳輸吞吐量、降低延遲,從硬體層面開始支援虛擬化與雲端化的計算、儲存、與網路。 nVIDIA 提出 DPU (Data Processing Unit) 加速網路資料的作業前後處理 (pre- and Post-processing of data on the networking side) Intel 提出以 FPGA 為基礎的 NIC 的 IPU (Infrustructure Processing Unit),也在 2022 加入 DPU 戰局。 但單純從硬體角度出發的加速晶片無法提高頻寬、降低複雜度、與提升效能。 阿里雲提出的 CIPU 是一組晶片,從硬體層面開始支援虛擬化的計算、儲存、網路、與資源控制,加速虛擬化容器的執行速度,讓 CPU 專注在計算而非調度。阿里雲的神龍計算平台底層使用飛天雲操作系統,就是在 CIPU 硬體上執行。 它的不同之處在於是從數據中心的需求出發,以 CIPU 取代 CPU 去管理計算、儲存、網路、與資源控制。 計算:接手資源調度,讓 CPU 專注計算,降低耗損。 儲存:從硬體層面開始支援儲存設備虛擬化,降低延遲與提高 IOPS;使用 NVME 通訊協定在多節點之間共享網路儲存服務,延伸現有儲存池的概念。 網路:網路硬體虛擬化、加速網路傳輸到 200Gbps、降低 eRDMA 延遲 資安:以硬體加速加解密,與提高安全性。 th-cam.com/video/QBFDP7xhpv8/w-d-xo.html Forbes: ENTERPRISE TECH: NVIDIA DPU & Intel IPU: Game Changers Or Just Smart NICs? www.forbes.com/sites/karlfreund/2021/08/02/nvidia-dpu--intel-ipu-game-changers-or-just-smart-nics/ The Next Platform: Intel Unrolls DPU Roadmap, With A Two Year Cadence www.nextplatform.com/2022/05/11/intel-unrolls-dpu-roadmap-with-a-two-year-cadence/
我定期看老石的节目,但真的不在意芯片,只是觉得石哥很帅,石叟有福了。
额, 全文只有一个字, "装". 广告文
重点:DPU/IPU/CIPU都是IO虚拟化加速器而已。
不吹不黑 老石绝对是栋梁之才 希望你能带出一大批好学生 为中国的芯片业添砖加瓦
能否讲一期龙芯的详细视频?
我查閱其他資料,結合影片與網路文件,整理重點如下:
起源:
1. 在分散式系統中,單一節點的伺服器同時處理計算、儲存、網路多種工作,成為效能瓶頸,因此提出 Pool 的概念,分割計算與儲存。
2. 傳統數據中心以擅長指令集計算的 CPU 為設計基礎,但他並不擅長平行運算與網路控制、無法提供高頻寬低延遲,導致系統管理複雜度增加。
方案:
著眼在以 CPU 為中心的數據中心架構下提升網路傳輸吞吐量、降低延遲,從硬體層面開始支援虛擬化與雲端化的計算、儲存、與網路。
nVIDIA 提出 DPU (Data Processing Unit) 加速網路資料的作業前後處理 (pre- and Post-processing of data on the networking side)
Intel 提出以 FPGA 為基礎的 NIC 的 IPU (Infrustructure Processing Unit),也在 2022 加入 DPU 戰局。
但單純從硬體角度出發的加速晶片無法提高頻寬、降低複雜度、與提升效能。
阿里雲提出的 CIPU 是一組晶片,從硬體層面開始支援虛擬化的計算、儲存、網路、與資源控制,加速虛擬化容器的執行速度,讓 CPU 專注在計算而非調度。阿里雲的神龍計算平台底層使用飛天雲操作系統,就是在 CIPU 硬體上執行。
它的不同之處在於是從數據中心的需求出發,以 CIPU 取代 CPU 去管理計算、儲存、網路、與資源控制。
計算:接手資源調度,讓 CPU 專注計算,降低耗損。
儲存:從硬體層面開始支援儲存設備虛擬化,降低延遲與提高 IOPS;使用 NVME 通訊協定在多節點之間共享網路儲存服務,延伸現有儲存池的概念。
網路:網路硬體虛擬化、加速網路傳輸到 200Gbps、降低 eRDMA 延遲
資安:以硬體加速加解密,與提高安全性。
th-cam.com/video/QBFDP7xhpv8/w-d-xo.html
Forbes: ENTERPRISE TECH: NVIDIA DPU & Intel IPU: Game Changers Or Just Smart NICs?
www.forbes.com/sites/karlfreund/2021/08/02/nvidia-dpu--intel-ipu-game-changers-or-just-smart-nics/
The Next Platform: Intel Unrolls DPU Roadmap, With A Two Year Cadence
www.nextplatform.com/2022/05/11/intel-unrolls-dpu-roadmap-with-a-two-year-cadence/
一樣是ASIC,離下一步的軟體定義晶片仍然很遠,市場很小,大部份公司會先選擇nV和intel的產品
利本位就是道,创新不一定是。
服务器和计算中心是两个完全不同的概念,大型计算机是一直存在的东西
跟asic芯片有什么区别?
我們上班這麼忙碌,晚上還要con-call,要怎樣才能做出這種影片??
下期可以講一下GOOGLE的TPU嗎?
謝謝
依此视频,我猜CIPU是把RDMA,TCP offload,NVMe over Fiber,Cryptographic/Compression Accerlaeration等现有功能整合了一下。
專門開發給不開通會員就只有10 KB/s速度的雲空間處理器嗎?
請問,雲電腦這種概念未來可行嗎?
老石回国发展了,高速发展的中国需要您这样的人才,😄
讲真,老石越来越帅了~😀
云芯片只有很少厂家需要 那不是很小的市场吗?
服务器数量多啊
玩家少,但用户多
真棒 老师
乱剪一通。 进入学术圈后, 官话套话 一堆。
给你点赞,老石
石老师加油
楼主漏了一个大芯片,就是信号处理器DSP,这个可是德克萨斯仪器公司TI在1978年就定义的一种数字信号处理芯片,工业上第一块DSP是TI的TMS5100。DSP的概念一直用到现在四十多年了,TI目前是业界最大的DSP生产商。DSP在视频、音频处理中用的非常多,在通信、无线电探测中是关键部件,现代雷达信号处理机中是必备的,怎么能说CPU和GPU是唯二呢?阿里云那个CIPU现在不过是个概念,还没有被广泛应用验证并被接受,还不能算。现在还有深度学习处理器DLP的概念,也做出样品了,但也是概念,还没有广泛应用。不过这一切都是复杂数字电路系统,根据人的理念来定义而已,以后肯定还会出更多概念。
High tech support to help monitor average people
更新这么快
看起來這個芯片是阿里雲配合他自身的雲架構和作業系統所發展的東西,但是是否能成為將來通用的芯片架構,那就還在未定之天,端看目前哪一個雲端伺服器是哪家公司主宰,Intel, amd, 或nvidia 才是比較可能的候選者,一旦成為市場主流,別的自稱性能再好,也只能回去自己玩。
他們用在自家環境就夠了,就像AWS有Nitro,但他們並沒有把這種DPU/IPU當作系統的心臟,阿里雲現在要創造新的系統架構典範也不是不行,因為他們有了自家作業系統(以及Hypervisor?)但走向這種封閉架構,雖然有更高自主權,但整體成本是否真的平衡、是否划得來,看看他們是否會公布相關的數據,以及最重要的是:能否反映在租戶的使用費率更低廉。
不知道他們的半導體公司平頭哥能否完全自製這樣的CIPU?阿里雲也未透露這個CIPU是基於何種架構?似乎不是Arm,也許是RISC-V?
谷歌和苹果入不了你法眼是吧
@@jason_huang 這兩家公司並未自己發展伺服器CPU
这个是用英特尔的CPU和FPGA
现在来看,老石应该是接了阿里的一篇硬广
感覺Nvidia先一步建立了專用加速資源池
数据中心有没有可能向超算的方向发展呢!
听君一席话,胜似一席话。讲了,又仿佛什么都没讲。看wiki百科都比这视频来的效率。
哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈哈 确实
这期没什么技术干货。期待下次能多挖掘一些这颗芯片或者这类芯片更技术底层的东西。
看清趋势远比所谓的技术更重要
赞赞赞👍
如果政體不適合研究開發,那前提就有問題了
喔,這證明了中國政體合研究開發
这都能扯上政治,看来你是魔怔了,哈哈
当你手上有一把锤子的时候,看所有的东西都是钉子
@@xiaomingtian 政治是影响社会方方面面的,尤其是技术研发需要自由思想,严重受社会的政治体制影响。极权社会一般都限制思想的发展,自然而然就会影响创新创业。这是很清晰的。
雖然不是完全,但說實話我某方面贊成這個說法...
政治或多或少會領導著社會氣氛,兩者又會一起影響産業決策!一個急功好利,好大喜功,能抄就抄,能炒就炒,牛皮吹爆的社會氣氛之下搞研發,會搞得好那才叫神奇...
妈呀 你原来也是associate professor!!!!!!!!
支持老石,不吹不黑
老石火了之后,感觉酸民越来越多了。
分布式+虚拟化->IaaS
npu呢
实事求是堆创新,脚踏实地不投机
如果我有一天也像老石一样学有所成,能为自己国家尽一份力的话,我也会毅然回去的,这无关政党,只是因为我爱那块土地和土地上生活的人们。
希望老石不要被那些酸言酸语影响,一时间被人讨厌或者嫉妒固然是不好,但相比于从前被人欺负被人可怜的时代,却好太多了。
恶心🤢
@@Eric-v2m 请不要只发泄情绪,说出你的观点。
@@Eric-v2m 这不是恶心而是一个正常接受过爱国教育的正常国民的思想 像你这种思想缺失 也就和平时期只能当当键盘侠 战争时期积极充当带路党的人才会说出恶心这种词
@@Eric-v2m 人是社会群体动物 通过集体认同感驱动发展个人能力,你在一个充满现代化高等教育的环境下不管大陆和欧美,排斥集体认同感 我真怀疑你要么没接受过中高等教育 要么你脑子发育跟正常人不同
@@Eric-v2m 既然绿了就离吧
AMD與Intel都發表第二季財報,老石這次怎麼不想再吹Intel?因為Intel竟然可以把毛利很高的晶片公司搞到虧損,最搞笑的還是推給經濟不好,那奇怪了AMD為什麼就能持續大幅成長?
Intel第2季營收下降22%至153億美元,創下逾十年來最大衰減,淨損4.54億美元,而上年同期淨利57.5億美元。Intel業績不如預期,CEO推說是受到經濟的拖累。但AMD 第二季營收金額為 65.50 億美元,較 2021 年同期 38.50 億美元成長 70%,淨利潤為 17.07 億美元,較 2021 年同期 7.78 億美元成長 119%。結果AMD股票市值反而超越營收仍然較高的Intel,對Intel股東是巨大的打擊。
換言之,主要是Intel產品不如AMD吸引人,尤其是資料中心的伺服器晶片,很多需求持續被AMD搶走所致,又加上Intel自製晶片成本高居不下,導致Intel毛利率大幅衰退至36.5%(原先57.1%的水準),相對地AMD全部都委託給台積電代工生產晶片,毛利仍有54%。
AMD Q2各部門狀態:
資料中心部門 (含伺服器晶片、資料中心 GPU、Pensando 和賽靈思資料中心產品):15 億美元,年增 83%
用戶端部門:22 億美元,年增 25%
遊戲部門 (含繪圖晶片和半客製化遊戲機產品):17 億美元,年增 32%
Intel Q2各部門狀態:
資料中心和人工智慧事業事業部門: 46 億美元,年減 16%
客戶端運算事業部門: 77 億美元,年減 25%
網路和邊緣運算事業部門: 23 億美元,年增 11%。
越來越扯,越來越像官媒,不想看了
真好 吹牛逼不用交税
当然,应用驱动也是新业态产生的一种形式,但是阿里在这一块并不算一个具有统治力级别的玩家,所以最终他们的产品形态可能只能应用于自己的数据中心,这将会大大提高成本,并无法摊薄。但是CPU或者GPU的头部玩家往往可以更轻松的定义接口,来接管数据中心未来形式的话语权,然后他们来推出一个全世界通用的平台,在成本上就会具有更大的优势。
讲了半天,这有损你的专业性,都是讲表层的东西,感觉数码评测博主讲的更专业些
科普性质的受众会更广一些
民用先把10G网口普及,现在CPU和GPU性能对于大多数个人和小企业都过剩。
DPU
越來越扯,越來越像官媒
感覺有點多此一舉。
創造新名詞吧
放心吧,技術來源要被掐斷了
高级南桥芯片,LOL
这个人开始暴露政治立场,政治内容越来越多和政治倾向越来越明显。而且不断吹捧,有点外宣味道。
非得说中国药丸才行!大外宣又如何!退订不看就是你唯一能做的事情!
@@度空-u5r 允许说自己国家💊的国家通常都比较强大
此频道有外宣化的倾向
開始有感覺了……..
中國人宣傳自製晶片,這很合理,人家有其生存之道,觀眾應該早有心理準備。可惜的是,最後三分多鐘才有比較具體的CIPU介紹,我更想看到作者對這架構可行性的觀察,前面的建議可以精簡
台灣人的幼稚看什麼都帶濾鏡
美国的台积电?
@@leejeffrey479 内循环14亿人玩没问题,充大头给全世界指明方向那就自不量力了。
就是神龙架构吧,之前4.0版本性能已经拉胯,现在又换个名字来吹牛
“我们国家…”,呵呵
越来越水了
说了很多,又感觉什么都没说, 这是怎么做到的? 算了, 不浪费时间了。
评论区一群不是中国人关心起中国实事比我这个海外华人还详细 一个个事件我都得去谷歌下才知道发生了什么事 他们一群外国人说的头头是道 真怀疑倒是我是中国人还是他们是精神中国人 到底中国关你们外国人鸟事?
我来告诉你吧 其实这个东西没那么玄乎 就是个moc 卡而已 一张soc 板和一张fpga板通过高密度连接器拼在一起的 用来做加速 缓解cpu的网络压力 类似于智能网卡 通过PCIe插槽接在服务器上 最后说一句 取代cpu是不可能的 如果真有那么厉害为啥还要接在服务器上?而且这个东西没有散热风扇发热非常厉害 都是不懂技术的媒体在吹牛而已
哦呦,快来看大佬懂王