運算速度比NVIDIA輝達GPU快數百倍！？新對手：類比人工智慧Analog AI，性能超越圖形處理器GPU！它將如何影響人工智慧AI產業呢？
ฝัง
- เผยแพร่เมื่อ 1 ส.ค. 2024
- ※曲博官方Line群正式開張，歡迎大家加入，一起從討論中成長！
加入連結 👉 ansforce.page.link/Drjline2
※曲博頻道會員已開啟，想要加入的伙伴可以直接點選這個連結，一起讓科技成長茁壯！👉 ansforce.page.link/JoinYT
※曲博科技教室所有的影片可以在這裡直接用關鍵字搜尋👉
ansforce.page.link/Drjlist
🏮【科技新未來 EP93】輝達又有新對手：類比人工智慧(Analog AI)晶片性能超越圖形處理器(GPU)如何做到？🏮
00:00 開場大綱 | Intro, Summary
02:39 現有數位人工智慧方案存在馮紐曼瓶頸
05:03 人工智慧的訓練(Training)與推論(Inference)
06:50 什麼是人工神經網路(ANN)？
07:58 類比人工智慧(Analog AI)將成為解決方法
11:51 類比人工智慧(Analog AI)的優點
13:54 相變化記憶體(PCM)的原理與特性
16:25 類比記憶體內運算(AIMC)的晶片規格
19:47 類比記憶體內運算(AIMC)的計算實例
22:04 結論 | Conclusion
訂閱我的TH-cam頻道：ansforce.page.link/DrjYT
按讚粉絲專頁，掌握最新趨勢：ansforce.page.link/DrjFB
【參考資料】
資Jean-Jacques (JJ) DeLisle發表在電子工程專輯(EETimes)
類比AI是什麼？如何影響AI產業？
www.eettaiwan.com/20231025nt5...
IBM Research and University of Patras發表在自然電子期刊
A 64-core mixed-signal in-memory compute chip based on phase-change memory for deep neural network inference
www.nature.com/articles/s4192...
【知識力專家社群】
www.ansforce.com
歡迎加入知識力官方Line
bit.ly/ansforceline
#人工智慧 #AI #馮紐曼瓶頸 #類比AI #類比人工智慧 #AnalogAI #PCM #相變化記憶體 #NVIDIA #GPU #輝達 #AIMC #類比記憶體 #gpt4 #chatgpt #矽光子 - วิทยาศาสตร์และเทคโนโลยี
![「只需2年，人類世界就會面目全非，台灣正處於這場變革的中心? !」深扒AI帝國NVidia崛起的真相，黃仁勳是如何一次次言中未來的？ [She's Xiaowu 小烏]](/img/n.gif)
記得類比訊號是正弦波，數位訊號是方波。
正弦波乘載訊號比較多但會被自然訊號干擾，因為自然訊號也是正弦波。
而方波乘載訊號只有0、1二進制，抗干擾強，但乘載訊號量少很多。
現在都是數位訊號方波是因為要防止資料傳輸失真。
早期看電視畫面常有雜訊，因為是類比電視，現在電視畫面都無雜訊，是因為現在電視都是數位訊號。
是的，差不多是這個意思。
類比運算是人工智慧處理可以採用的理想方法，因為它針對主導深度學習運算的乘積累加(MAC)運算進行最佳化：功耗更低，尺寸更小，同時延遲也更短
謝謝曲博
感謝分享！！
非常好的入門
類比訊號，在表現極大數或極小數會有很大的問題。當輔助是可以很快得到結果，可是失真疊加後，結果會變成無法令人接受。能應用的範圍比較狹窄。
碩班如果要走的話 IC類比跟數位哪個推推啊
@@user-qx6qg6wr3v 其實都可以，都一樣重要，但是在台灣數位訊號的公司比較賺錢，做類比訊號的積體電路很多都是做比較低階的，所以獲利不如數位積體電路。
ai計算早就捨棄數字相對較少的分項 輝達新一代的gpu 軟體 早就這樣做
現有的作業系統都是數位作業系統，實現類比電腦要先想好類比作業系統才能夠實現，數位是讀0101人類才能簡化變成現在的高級語例如c c++，我認為最難的還是創造出人類與類比電腦可以溝通的語言，或是人類與AI溝通，AI在跟類比電腦溝通的方法，創造出可以輔助人類正確下達或理解接收類比電腦信號的AI，再來類比信號是非常容易被干擾的需要克服或是降低精度變成
不错，直接把现有的成熟模型做成模拟芯片卖，也是一个不错的商机！
看完有兩個問題
1.數位電路只需移動電子，類比電路需要移動原子位置，會無法高速計算吧？
2.如果只是改良馮紐曼架構，數位電路也是有辦法，像是Google TPU的Systolic Array就可以降低存取頻率，看不出為什麼要類比
講一個比較簡單而粗略的形容吧 數位需要8條線來呈現256種變化 類比只需1條線將電壓分成256階
做加法那麼需要8位元的資料+8位元的資料 1個位元1個位元的累加進位8次得到結果
類比只需要一個運算放大器或3個運算放大器一次就可以做加法
所以數位的每個動作是很簡單 但需要很多步驟來組成一個完整的指令 簡單而複雜
類比是電路有點複雜 但3個OP就解決了 很簡單一步驟完成 複雜而簡單
但是為什麼電腦用了數位而沒用類比呢? 因為精確度的問題
但是人工智能其實是算概率的 不是求精確解 就有了相當的容錯率
這是我個人的理解提供參考。
Intel 和聯發科都有發表過類似技術，只是不曉得有沒有用在量產的晶片上。
Thanks!
謝謝你的支持！
光学计算芯片提出了很久，不过目前只能算是简陋的那种功能十分受限的小装置，记得之前在malongo参观的时候，一部分数据的前期处理就适用的是光学计算，不过也只是加减乘除，但功耗超低而且超快。
NLP包括LLM，资料中有的关于深度学习的方面的东西有点粗糙
曲博， 谢谢你的精彩讲解。 可不可以说Canon的纳米压印技术在人工智能芯片里面大有作为？ 因为人工智能芯片需要把记忆体和逻辑计算做在同一个芯片上，或者是同一个芯片的不同层里面。另外，纳米压印技术也很适合做微型的光学器件， 而光电混合运算又是未来人工智能芯片的发展方向。
奈米壓印微影可以應用在規則的結構，另外就是材料必須是軟的，但是目前大容量的記憶體是DDR或HBM，這個有電容製程，和處理器不同，不容易整合在同一個晶片上，這也是論文裡用相變化記憶體的原因之一。
感覺這種架溝需要在恆溫的環境下才能正常運作
過去也曾經有類比電腦，對環境要求高(溫度、震動...)易受感擾，影響結果甚巨，最後才沒成主流
咦咦咦？原來有過這樣的產物！
以前還真的聽過類比電腦，不過後來數位勝出。
👁
感覺PCM會對環境溫度敏感，天氣太熱影響淬火結果之類的
In the 1960's, someone physical chemists developed an analog computer for finding the eigen values and eigen vectors of large matrices for modeling vibration of molecules. At that time "large" matrices were something like 100 by 100. Of course this is not enough for AI application today.
WINAMP來的猝不及防😨。PCM利用電壓加熱金屬大概需要多少時間？最長退火時間又是多久？用什麼方法做到快速降溫？這個會不會只能用於純輸出的AI推論？PCM那種特性似乎不適合AI的訓練。
看來類比人工智慧Analog AI 仍然 必須使用數位IC,只是改用類比式記憶體而已16:26
專用apu就比gpu快一個數量級以上 特別在捲積計算上 可能差更多
25年前IBM就有類似的論文，但市場上卻看不到相關產品。幾十年過去了只有Nvidia 用CUDA並行運算實現了大規模應用，所以我認為這次ANN還是會跟以前一樣雷聲大雨點小。
嗯，过去没有成功，现在也不行。这逻辑没毛病😂
因为美国没有，所以中国不能有，这逻辑也没有
不一定喔!!30幾年前柯達就已經有數位成像的技術，只是數位成像與本業的營收相衝突，所以才被擱置。但是隨著硬體技術的突破，數位成像反而成為壓垮柯達的主因。當AI有新技術突破能節能、能更快，類比人工智慧勢必成為主流。
過去幾十年不行代表永遠不行😂
HP
其實現有晶片裡要跑AI，只有在不成熟非商業使用時會用CURD，當你技術成熟時，會知道CURD效率是非常差，而且那種差異值得你花錢客製晶片，當然如果你公司連客製都做不到，那無法在目前AI市場作為主力，你只能作為插花的
當這件事成真，人類末日喪鐘就敲響了。
內行人都知道這論文寫半套，只說自己有一套混和架構
但真要扯上AI，就必須真的有跑出什麼AI的效果出來
好比我說我透過OOXX可以做出一套無線通訊裝置，結果內容只有射頻的介紹一樣😅
你能不能不要這麼專業?
如是 拿以前的唱片來運算看看…
先encoding 再decoding
看看會變成什麼
非常好，弄一些題目來消耗軸心國的國力，多多益善，同盟國就看看就好。
20年前就有了
要達到類比的功能必需要有精準的電流和電壓產生,也就是要在電流或電壓做量化工作,例如0.1~0.2v都併入0.1v,0.2~0.3v併入0.3v等,這一方面應該可用數位類比轉換晶片(dac)來做到,接著就用類比記億體記住電壓!!要用時用一個5V的電壓輸入電壓記憶單元,可得到一個微電流,然後再用這個電流血出電阻.,再用電阻X電流=電壓來求得電壓,這個系統的問題在於電壓記億單元的電阻,是否和電壓成線性,如果是則電壓可以分到很細,每單元就能記出更多不同,如果不是線性那只能分成幾個電壓!!例如物體其顏色一個單元,大小一個單元,速度一個單元,質地一個單元,光澤度一個單元,如每個單元可以細分100項,那精細度在5個單元內就可分成100的5 次方物體狀態!!每個單元各自經過一個微小處理單元後,再用微小運算單元整合成為一個完整訊息
其實不用精準,只要能每次都能重現相同或類似的結果就行.
其實能否儲存影子作資料?
感覺有點可能
邊緣人路過，原來邊緣人工智慧與我無關 QQ
類比電路設計不是比數位的還難? 每當演算法改變, 類比電路是不是要重新設計?
它是數位和類比混合的，比較像是特定應用積體電路(ASIC)，除非整個演算法架構改變才需要重新設計。
對這個主題很感興趣&好奇，但聽的一頭霧水。
有太多不熟悉的專有名詞了，聽的頭有點大XD
我現在最好奇的兩個點是「如何運用類比去儲存及運算資料」以及「如何避免雜訊和干擾影響訊號的正確性」這兩件事情。
因為目前我們熟知的0和1這種二元的規則，還算是比較好理解的概念。
而且看起來也相對容易處理雜訊的問題，因為一點點的波型變化不足以超過其訊號的有效/正確區間。
但類比的話──要如何定義和運用這些波型呢？
這個是我非常好奇的點。
以及，在這麼做的過程中，這些波動的訊號的抗干擾能力如何，是否有可以預期的有效方案來處理可能有的日常干擾。
論文裡其實還有詳細的計算過程，不過太多數學大家會不想聽，我就沒有講了！總之人工智慧就是乘加運算再加激勵函數，浮點數計算換成類比訊號來進行。
@@Ansforce 感謝回答~ ❤
想敲碗一個最最最基本程度的解說：一個可以讓人有點理解的例子解說這樣子──類似說電訊號是如何代表0和1，然後進一步演化出3這樣的概念的最基本概念就好，舉那麼一兩個基本的要素，讓人可以有點理解「這個東西是怎麼開始的」這種程度的。
因为晶体管 存在结有电容 电讯号回有延时，光讯号不受结电容影响很小
賓果，我們下回來談談光計算應用在相同的場景吧！
人工智慧訓練怎麼像心經說的眼耳鼻舌身意
😀
那一句我是抄心經的呀！
人類唔係為咗和平發展人工智能，而係為咗戰爭而發展人工智能，最後人類成為人工智能嘅製品或者係滅亡
类比信号就应该叫连续信号，大陆叫模拟信号，也比较别扭，都特别容易增加理解难度😂
好主意，我倒是沒想過，不過叫連續訊號的確很容易理解。
類比技術就跟量子電腦一樣啊…
至少再20年看看吧
淬火應該是水部
謝謝你提醒，我筆誤了！
軟韌體開發跟不上都偏難
Analog应该是模拟信号(Analog Singal)中的模拟的意思，是相对于Digital Singal的，所以把Analog AI翻译为类比人工智慧非常不合适，应该给翻译为模拟人工智慧，保持Analog Singal中的模拟的含义。
繁中的analog signal也是翻類比訊號，習慣用法不同而已吧
@@user-bx4lq1hp9u Oh！我是大陆的教育背景，应该是我们两边的翻译术语完全不一样导致了我的费解，谢谢你的解释。
@@zhongzhongclock 是的，只是兩岸翻譯的名詞不同而已。
類比訊號只要分割電壓為0V,2.5V,5V,二進制可增加為三進制,現在ADC已經很成熟,可靠度與速度已非過往
那還是數位訊號，不夠細吧⋯⋯得往下繼續微分，微到極限就是平滑曲線😂😂😂
有没有对应的上市公司？
這個就是IBM發表的論文，台灣的合作廠商是旺宏，可以參考這個新聞，但是要留意這個還在學術研究階段，要到量產應用還有至少五年以上，而且還不一定成功，風險很高，我沒有推薦任何股票的意思唷！
www.ctee.com.tw/news/20230830701939-430701
@@Ansforce 谢谢
如果这玩意能成功，你做空量子计算相关的公司也可以😂
能量產嗎？什麼時間可以量產？即是標題黨，十年後都無法挑戰輝達，量子電腦也說到有太快....現在還停留在Nvda 獨大呢
類比會比數位好？
@yoehogear2298 類比和數位運算通常是各有優缺點，類比運算是直接運作反應快，數位運算都要先經由ADC/DAC做類比和數位訊號之間的轉換，反應會慢一些，但是數位訊號容易校正除錯，所以目前都是用數位運算。
英伟达割韭菜股东破防了😂摩丝定律从来一遍哈哈哈哈
請問曲博
圖片0,1,2..9（7分50秒）
要如何轉換成a1,a2,a3輸入到ANN中呢
謝謝
你問到重點了！a1、a2、a3、w1、w2、w3都是實數，所以必須把你要訓練的資料轉換成實數，再輸入類神經網路。
@@Ansforce
曲博好，所以是：
1）從訓練用的圖片0～9定義並萃取出特徵，然後每個特徵以各別的實數做代表（a1,a2...）
2）將訓練用的圖片0～9先人工分類好，然後分別建立及訓練出10（0～9）個ANN模型
3）接著對1張要辨識/推論的圖片進行特徵萃取，然後將取得的特徵實數（a1,a2...）分別餵到這10個ANN模型進行MLE比較，以判斷是那一個數字嗎？
謝謝
17:18 這不是「電子顯微鏡」的照片，只是一般「光學顯微鏡」的照片。
謝謝你的提醒，我口誤了！
請教 曲博 ：北京清華大學在自然期刊發表的光電類比晶片，號稱是計算力提升了三千倍，真的有那麼厲害 ？？？
那是有可能的，只是不容易用軟體修改，在應用上受到限制，我的感覺是類比計算或光學計算，在人工智慧的時代似乎找到可能的應用，目前都還在學術研究，我認為還要觀察3~5年看看有沒有實際的應用在產品上。那篇論文我有查到但是還沒空看，以後再找機會來介紹吧！
這一篇，它有公開全文：
www.nature.com/articles/s41586-023-06558-8
清华大学已遥遥领先 说了你们湾湾也不会懂
曲博，「腦控」這個重大的事件，你說不可能有這種科技存在。
是否重新考慮一下。
曲博，其實當下你也有被控制的同時，卻說沒有這種技術存在，根本還沒有求證，難到我們16000人正在被攻擊干擾是假的嗎？
記憶電阻晶片要來了
別傻了, 30年前我在美國唸碩士時就有台灣博士生攻讀類比CPU設計, 沒有時序控制是不可能進化到實用階段.
有點聽不懂捲積神經網路和遞迴神經網路
可以在這裡找找：
www.youtube.com/@HungyiLeeNTU
謝謝~
类比的概念已经有一甲子了。每次都铩羽而归。这次我看也没希望
不如学玛雅人，使用二十进制。
一大堆看不懂的理论，看不懂，也看不下去。。。总之很厉害就对了
譁眾取寵
等問世再來吹吧