為何AI訓練需要GPU?CPU不是很強了嗎?他們的關係到底是如何?

提到AI訓練都一定會提到GPU，但CPU不是很強了嗎?為何還需要GPU?我以生活上的例子:老師跟學生協作參考書來說明，希望能讓你快速的了解CPU與GPU之間的關係。

[@AidenHan-rk1dw]

英伟达大火的今天才引导着我看到了主播三年前发的这个视频，相见恨晚😂😂

[@skykid0428]

好棒的比喻，終於懂了

[@user-dz2th6gp4b]

清楚

[@sodiermantw]

請問一下cuda是Nvidia的訓練軟體嗎？😮

[@w02190219]

學習了

[@a0931838891]

請問 apple m1 的cpu 有2顆 機器學習的晶片 如何 讓軟體指定使用到它 謝謝

[@JohnnyAI]

哎呀~我沒有使用apple的電腦，我不曉得ㄟ

[@gavinting5614]

請問是不是在訓練時需的電腦要強大的gpu，之後實際在run的電腦就不用了?

[@JohnnyAI]

基本上，在進行推論還是會希望使用GPU, 速度才能快一點，但GPU的資源不用像在訓練時這麼多，所以會有所謂的邊緣運算裝置，例如Nvidia Jetson nano

[@f564335paul]

我有個問題 既然gpu 可以有這麼多執行序 為何cpu不行呢

[@JohnnyAI]

像一般消費性cpu可以有16核32緒，但GPU的核心數是幾千以上，以rtx3060為例就有3584個核心喔！

[@wingtungchan2715]

I5⏰4460 😔！比較後可能都能用

[@amoonlost]

解釋得很糟

[@JohnnyAI]

謝謝你，我會再改進的

[@nobd2302]

@
amoonlost 你行你上，跟嶽哥一樣只打字?

[@amoonlost]

@@nobd2302 你是什麼東西？

[@jason680927]

@@amoonlost 你呢?