AI칩이 쏟아져도... NVIDIA 무기 CUDA가 무엇이길래 압도적인가 | 다른 GPU/AI가속기 성능 좋아도 대체가 불가능한 현 상황
ฝัง
- เผยแพร่เมื่อ 23 ธ.ค. 2024
- NVIDIA GPU가 아닌 다른 GPU나 AI 가속기를 쓰지 않는 이유가 CUDA라는 것 때문이라는 말씀 많이 들어보셨을 텐데요. 기본적으로 CUDA는 하드웨어를 일컫기도 하고 소프트웨어 플랫폼을 말하기도 합니다. 대체 이게 뭔데 NVIDIA의 헤게모니가 당분간 지속될 수 있을까요? NVIDIA의 앞선 경쟁력은 GPU 성능과 NPU 하이브리드구조의 빠른 채택으로 현재 AI 주력 모델인 트랜스포머 구조를 빠르게 계산할 수 있는 것도 있고, NVLink, NVSwitch, Infiniband와 같은 병렬 시스템 구축으로 클러스터화를 하는 장점도 있지만, NVIDIA가 18년동안 구축해온 CUDA의 의미를 살펴보면서 NVIDIA의 강력함을 온 몸으로 느껴보도록 하시죠.
Written by Error
Edited by 이진이
unrealtech2021@gmail.com
![[브로드컴 1부] 아무도 말하지 않는 핵심 기술! 애플, 구글, 메타 자체 AI 칩 설계에 꼭 필요한 SerDes | PCIe, Ethernet Switch 저전력 네트워킹 설계](http://i.ytimg.com/vi/LxXLKfPobhU/mqdefault.jpg)
![[브로드컴 1부] 아무도 말하지 않는 핵심 기술! 애플, 구글, 메타 자체 AI 칩 설계에 꼭 필요한 SerDes | PCIe, Ethernet Switch 저전력 네트워킹 설계](/img/tr.png)
![NVIDIA, 앞으로 10년 여전히 압도적일 수 밖에 없는 이유 | 트랜스포머와 GPU, CUDA 기반 클라우드 가상화 | AI비즈니스 이해하는 방법 [솔트룩스 이경일 대표 2부]](http://i.ytimg.com/vi/2kiyE646HBk/mqdefault.jpg)
![미친 성장률, 30분으로 보는 엔비디아(NVIDIA)의 역사 통합편 [브랜드스토리]](/img/n.gif)
instagram.com/unrealtech.error
TH-cam 채널 커뮤니티를 통해 빅테크, AI, 반도체를 비롯한
다양한 테크 소식과 함께 제 개인적인 생각을 간략히 전달드리고 있는데요.
이와 관련된 내용을 일목요연하게 정리해서 보는 동시에
향후 안될공학 굿쯔나 기타 다양한 소식을 함께 전달하는 채널로서
Instagram 채널을 활용하고자 합니다.
많은 관심과 사랑, 팔로우 부탁드립니다!
많이 착각들을 하시는데 저분 얼굴이 실물이고 몸이 ai딥페이크입니다.
어쩐지..목소리도 넘 좋은데 그것도 딥페이크죠?
ㅋㅋ
쿠다가 중요한게 아닙니다. 몸이 왜 이렇게 좋아요? ㅎㄷㄷ
좋게봐주셔서 고맙습니다 분발해야겟네요 ㄷㄷㄷ
개발자 200명 필요합니다.
AI 쿠다 1명 사용시 파이썬 코드 200줄 필요하지만 vs 50만 라인 FPGA 프로그램 200명 공수가 필요합니다.
FPGA 연봉 최소 1억 넘습니다 칩을 설계 가능한자임
한화 KF-21 전투기 에이사 레이다 개발 여기에 개발자 다 뽑아감
감솨~~~~ 근데 안될공학 에러가 무슨뜻인가요?
질문 잘못하면 반으로 접힐거 같음
@@unrealtech네꼬3
10년 넘게 CUDA 쓰고 있는 입장에서 보면 타사가 삽질한 게 너무 큽니다.
OpenCL이 그나마 쓰일 때 있었는데 그때도 견제 못했고 말이 Open이고 공용이지 온갖 하드웨어 디펜던시별로 다 기능 따로
Tool 지원도 개판 DirectCompute는 말할 것도 없고
이제 OpenCL은 더이상 빅테크 지원도 못 받고 명맥만 유지하고, SyCL이 또 나오긴 했는데 허..
각자 ROCm, OneAPI, 또 당연하게 애플은 독자적으로 Metal쓰고
개발자 입장에서 저거 다 따로 익히느니 제일 많이 쓰는 CUDA부터 하고 다른곳은 그만큼의 수요가 있어야만 개발하죠
오픈 소스들도 보면 제일 많이 쓰는 리눅스가 먼저 CUDA 먼저 그 다음이 나머지입니다.
그래봤자. General Purpose에 쓰이는 CUDA
제일 큰 문제는, 제대로 동작하는건 하나도 없었다는거
좋은 내용 잘 들었습니다. 원리에 대한 이해가 탁월하고 그 부분을 설명할 때 가장 빛이 나십니다.
이쯤되면 단백질파우더, 닭가슴살 광고주님들 협찬, 광고 들어와야하는 것 아닌지 ㅋㅋㅋ NVDA서 CUDA는 매우 중요한 주제인데 집중이 안됨ㅎ
영상보다 몸좋아서 엄청 놀랐어요ㅎㅎㅎ
감사합니다🤭
@@unrealtech환경부을반으로날라버릴달성군청후보 이돼지임
3:33 갑자기 댄스머신...
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㄹㄹㅋㅋㅋㅋㅋㅋㅋㅋㅋ 너 재능있숴
댄스 조이고
언둔이가 씰룩씰룩
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
그냥 CG배경에서 설명하는것보다
지금 같이 전자칠판에서 설명듣는게 이해가 더 잘되는거 같네요
전 예전이 더 좋았던거 같아요 아무래도 직접 띄워주는거랑 전자칠판은 해상도 차이가 있어서...
세월 만큼이나 레거시 코드도 엄청 많을 겁니다. 실제 드라이버 수준으로 내려가보면 표준 안지켰지만 nvidia 가 사실상 업계 표준이라 그냥 쓰이고 있는 것도 많은데, 이에 대한 불만도 많을거에요.
앞으로 봐야죠. 텐스토렌트 같은 회사가 새로운 하드웨어와 그게 걸맞는 소프트웨어 가지고 나오면 또 어찌될지 모르는 겁니다.
에러형, 쓰고 계신 저 칠판이랑 펜슬은 어디 제품일까요? 저거 설명해주는 컨텐츠도 있으면 좋겠네요 ㅎㅎ;; 개인적인 바램..... 스탠바이미인가요?
DirectX는 openGL과 같은그래픽스 api이고 openCL은 애플이 처음 시작한 gpgpu 프로그래밍 api입니다. cuda에 대응하는 api가 openCL이라고 할 수 있습니다. DirectX 11부터 compute shader가 도입되어서 hlsl과 같은 쉐이더 언어에서 cuda와 비슷한 연산을 할 수 있지만 DirectX는 기본적으로 그래픽스 api라서 cuda 언어와 비교될 수 있는 성질의 것이 아닙니다.
그리고 cuda는 nvidia가 선형대수, 신호처리 등등의 라이브러리를 이미 많이 만들어놓았고(cublas, cufft 등등) openCL보다 전반적으로 성능이 더 잘 나올 뿐만 아니라 cudnn같은 딥러닝 라이브러리 지원이 대단해서 기업 입장이나 개인 사용자 입장에서도 nvidia gpu, npu를 버릴 수가 없습니다. 저도 cuda 연산 때문에 nvidia gpu 연산을 해야 하는데 가상화폐 붐으로 gpu 가격이 폭등했을 때 gtx 1060 두 개로 프로그래밍하면서 짜증이 많이 났었던 기억이 나는군요.
엔비의 압도적 성능과 독점수준의 높은 점유룰에 준수한 실적이 나올 것을 알고 있었음에도 레버리지에 개물려버렸다면 믿으시겠습니까
그야 당연히 주가와 실적은 반드시 같이 연동되는 게 아니니까요.
그건 수급적인 면이 클것같운데
내용에 핵심이 없어 부연한다면, 쿠다를 사용하는 코딩적 접근이 혁신적이기 때문입니다.
반면 오픈CL은 구시대적인 접근방식으로 효율성을 확보하기가 불편하기 때문입니다.
쿠다를 극복하려면, 코딩의 직관성을 확보하는 것이 선행되야 합니다.
잘난체는 상대방을 올려주면서 양념 치듯이 하길...
@@Jamesdean884 코딩은 심각한 문제입니다. 잘난체가 아니라 AI용 장비를 만들면서 이부분이 중요하기 때문입니다.
우리나라의 엔지니어링 중에 코딩언어에 대한 라이브러리나 언어를 만드는 비율이 빈약해서 더 발전할 수 없어서입니다.
늘 남이 만든 걸 사용하기만할 뿐이죠.
@@호냥인 th-cam.com/video/yp7qMYUF150/w-d-xo.html 오히려 이 영상이 더 도움되네요
아.. 정말 좋은 내용이네요.. 정말 혁신적인 하드웨어를 내놓는 기업이 없다면 결과가 예상되는 내용이네요.
다음에는 체크무늬 남방으로 부탁드립니다. 맨 위 단추까지 채우는 센스도
부인이신지
뿔테 안경 추가
아니 몸이 너무 좋아서
칠판이 눈에 안들어와욬ㅋㅋㅋㅋㅋㅋㅋ
그래도 오늘 설명 너무 좋았어용
항상 좋은 인사이트 얻어 갑니당!
여자세요?😮
Amd 에서 hbm을 활용한 gpu가 나와도 nvidia를 쓸 수 밖에 없는게 사실 cuda 때문이죠 cuda를 벗어나지 못하면 계속 nvidia 제품을 활용할 수 밖에 없고 그래서 삼성에서 amd 에 hbm을 납품하고 있다고 해도 시장의 반응이 없는거라 생각합니다
감사합니다!
Microled의 led 미세소자의 검사를하는데 그 엄청난 양을 비젼검사를하는데 그냥 돌리면 답이 안나오던게… CUDA돌리면 검사속도가 20배이상 좋아지는… 문제는 CUDA 프로그래머가 국내에 5명도 안됨…
고맙습니다. 덕분에 NVIDA와 CUDA에 대해서 이해하게되었습니다. NVIDA 강력하네요.
황잭슨은 역시 세계 최고 신이야
구글 TPU를 텐서플로우에서 사용가능한 거 처럼 지원하는 프레임워크만 있으면 딥러닝 개발자 입장에서는 CUDA든 뭐든 로우레벨 것들은 상관없을거 같은데
ㅠㅠ 너무어렵네요 하다 보면 더 잘 이해하게 되겠죠 다들 화이팅
몬말인지 전혀 모르지만 엔비 사라는 의미로 알고 추매하겠습니다 🙏🙏🙏
지금 찍는 영상들이 전보다 더 마음에 들어요. 전에는 틀어놓고 듣는 맛이 좋았다면 지금은 듣는 맛 + 보는 맛이 있달까요 ㅎㅎ 모니터 있는 게 진짜 크네요
근데 궁금한게, 쿠다 위에 파이토치, 텐서플로가 있잖아요.
개발자들이 쓰는 것은 쿠다라기보다, 그위 파이토치, 텐서플로를 쓰는 거잖아요.
파이토치, 텐서플로가 쿠다뿐만 아니라 다른 거 잘 지원하면 되는 거 아닌가요?
AI만 놓고 보면 텐서플로 파이토치만 신경쓰면 되는데 이것도 누군가는 개발을 해야하죠
오픈소스다보니까 구글이나 메타가 직접하전가 누군가가 기여해서 만들어지는데
엔비디아 그래픽카드 쓰는 사람이 amd 것에서 테스트해보고 기여할 가능성은 낮고 반대도 마찬가지고
Npu들은 더더욱 마찬가지이고
학습에서는 엔비디아 못이기니 추론시장에서 먹겠다라고 하지만
정말 모든기업이 파이토치 텐서플로 거친 코드만 사용할까요
전처리 후처리과정에 쓰는 라이브러리들도 다 각 아키텍처를 지원해야하는데
특정 도메인은 아예 cuda말고는 구현 자체가 안되는 경우가 많습니다.
18년동안 만들어진 라이브러리들을 전부 각 회사 아키텍처에 맞게 구현하는것 일부는 되어있을지언정 안되어있는게 훨씬 많죠
쉽게 이야기해볼께요 텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다.
그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아
갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요.
즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다.
쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다.
다들 같은 생각ㅋㅋㅋㅋㅋㅋㅋㅋ 근데 얼굴을 좀 더 강력해 보이는 걸로 바꾸셔야 할 듯ㅋㅋㅋㅋㅋ
공부가 많이 되었습니다.
황사장이 직접 엔비디아는 소프트웨어 회사라고 했음. 자기 회사 직원 중 하드웨어 분야보다 소프트웨어 분야에 일하는 직원이 훨씬 많다고 했음. CUDA는 마치 X86/윈도우 OS 생태계 처럼 모든 관련 도구들이 CUDA 중심으로 다 개발되고 갖춰져 있으니 이용하지 않을 수 없음.
코어가 좋아 보이십니다.
독점법에 걸릴 가능성은 없나요?
안될공학이지만 피지컬은 되는 형
여기가 피지컬 갤러리 인가요?
김계란이 새로운 탈을 썼군요
삼성전자에 대해서도 비교해서 설명자료를 소개해줄수 있을까요?
AMD에서는 CUDA와 경쟁하려고 뭘 하고 있나요? 하드웨어는 잘 팔린다고 발표했는데 뭔가 비슷한것을 제공할 것같아서요.
챗지피티 목소리 아주 좋던데, 아바타 얼굴에 근육질 몸에 챗지피티 목소리까지 입히면 대박날 거 같아요. 엔비디아 주식 사야되는 건가요
ARM이나 AMD GPU에서 파이썬 AI 앱들이 호환되는 것에 대하여 쉽게 이야기해볼께요.
텐스플로우나 파이토취로 뭘 어케하면 이문제 해결되는게 아니냐고 하는 사람들이 많은데
텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다.
그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아
갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요.
즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다.
쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다.
파이선이 쿠다위에서만 제대로 돌아가는 게 이 모든 사단의 시작입니다.
파이썬이 arm이나 amd위에서도 돌아가게 엔비디아가 CUDA라이센스를 주면 되는데 이걸 왜 줘요?
오히려 arm, amd가 쿠다 짝퉁(CUDA binary compatible platform)을 만들어 python app이 이 쿠다 짝퉁들 위에서 binary 호환성을 가지게 하면 되죠.
그런데 이게 쉬울까요? 맥OS와 WINDOWS OS가 BINARY호화되는 OS를 만든다? 이게 가능할까요? ㅋㅋㅋㅋㅋ
안될헬창은 자꾸 CUDA를 SW라 표현하는데 오히려 OS에 더 가깝습니다.
그럼 이 상태로 쭉가서 전성비가 개판이라서 핵발전소가 필요한 그런 AI SW 플래새폼을 계속 쓸야 할까요?
방법이 아예 없는 거 아닙니다. 파이선 보다 더 쓰기 쉽고 프로그래밍이 쉬운 멀티 GPU 지원하는 AI개발 프로그래밍
언어를 AI가 만들면 하루아침에 해결됩니다. 물론 이걸 chatGPT가 만들지는 않을 겁니다. Deepmind가 개발하는
문제해결 AI모델이 하지 않을까요?
제가 궁금한게 빅테크들이 클라우드 컴퓨팅으로 AI를 쓰는 누군가에게 임대를 해주는 사업을 하는데, 그 컴퓨팅 자원을 빌려쓰는 사람이 결국은 쿠다에 익숙한 사람일거고 결국은 빅테크도 엔비디아가 메인이 되지 않을까요 AWS나 구글클라우드나 애저도 지금 미친듯이 사들이는게 결국 엔비디아 칩이고
그리고 누군가에게 임대를 해주는 사업을 하는데 빅테크가 만든 특정목적에만 효율이 잘나오는게 아닌 범용적인 것을 갖다놔야 어떤 작업을 할건지 관계없이 임대를 내줄 수 있으니까 그래서 또 엔비디아가 될거같기도하구요
이거이 몇년짜리 몸인지요? 멋있으십니다
공학님.. 근육맨이시네요. ㄷㄷㄷ
저 아바타 헤드 미묘하게 정면에서 목기준으로 안되어있는거 못고치나요??
전력대비 효율성이라던가 병목이라던가... 많은 불만들이 있을터인데... 대체제가 없으니 원.... ㅎㅎ 짐켈러가 또다시 혁명을 일으킬것인가....
형님 cuda 깔고 지포스로 지지고 볶고 할때만해도 엔비디아가 이렇게 될줄 상상하셨었나요? 지포스네 라데온이네 게임이 도네 마네 이러고있었는데.......
Cuda도 하드웨어를 위해 존재하죠 그럴리는 쉽지 않겠지만 하드웨어 경쟁력이 없어지만 한순간에 퇴출됩니다. 그것이 cuda의 한계 입니다. 하드웨어가 좋으면 linux가 탄생 했듯이 새로운 플랫홈이 나타납니다
오 드디어!
크으 섹시하다 형
오늘 설명은 정말 좋네요
뭐 다른 영상들도 좋았지만
오늘 설명은 정말 안될공학의 최고? 급의 설명이었던 것 같습니다
쳇... 몸도 좋고 머리도 좋고... 나 비질게
유익해서좋음
근데 CUDA를 AMD에가 API만 똑같이 구현하면 되지 않나요? 예를들어 DirectX를 쓴다해도 엔비디아 , AMD 똑같이 쓸수 있듯... CUDA 자체를 DirectX로 보고 AMD가 자체 구현하면 되는거 아닌가요?
그렇게 비슷하게 나온게 AMD의 HIP/ROCm입니다. 엔비디아의 CUDA관련 함수앞에 nv나 cu 붙는데 이걸 hip이나 rcom으로만 바꾸기만 해서 구현, 파라미터 순서도 동일
유저 입장에서는 아예 똑같이 쓸수 있게끔 만들었습니다. 심지어 변환툴도 제공
물론 당연히 CUDA에 있는 모든 기능이 다 구현되지는 않았고 AMD GPU에서만 돌아가는데
새롭게 배우는 노력을 최소화해서 자기들거 쓰라고 만들었습니다. 그래서 그나마 선방하고 있는 거구요
@@eclipse4419AMD GPU에서만 돌아간다라.... 차라리 오픈소스로 푸는것이 AMD에게도 이득일지 모르겠네요
@user-it6gp9jg1i 그걸 했던 게 AMD Mantle입니다. 그걸로 개발한 게임엔진이 Frostbite와 Cry입니다.
Mantle 1.0까지 지원하고 중단을 했습니다. 말씀하신 데로 오픈화를 해서 현재 OpenGL/CL의 후속작인 Vulkan으로 넘어간 상태입니다
영상에서 사용하시는 칠판이랑 펜은 어떤 제품인가요?
펜 모양과 모니터 색깔 살펴보니 삼성 플립2 같네요. 그런데 LG도 원퀵 43인치 55인치 등 좋은 제품이 있습니다. ^^ 삼성 플립은 타이젠OS라 프로그램 지원 확장성이 떨어집니다. LG 55인치 제품은 안드로이드 제품이고, 별도로 판매하는 OPS PC를 설치하면 확장성 좋구요. LG 43인치 원퀵은 잇섭이 리뷰한 제품인데 가격도 많이 내렸고 PC내장이라 합리적 가격으로 사용 가능 합니다. 내장 PC사양이 조금 떨어지긴 합니다만, 윈퀵 43인치는 전자 칠판 사용에 문제 없고 카메라까지 내장이라 화상회의도 가능 합니다.^^
@@tdmoriah 답변 감사합니다!
형님 삼대 몇치십니까
공학은 물리다, 쇠질이 공학이다
Open CL 은 게임설치할 때 같이 설치했던 기억이 납니다.
애플같이 쓰래기 부품 쓰는 회사도 있고
다른 대기업은 암드 외엔 시작도 못하는 수준이니 완전 독식하는거지
오우 효 채널 뛰어넘는 채널이 되겠어요
역시 가장 강력한건 커뮤니티와 생태계인 것 같네요
프로덕트 개발자 입장에선 더 좋은 AI api만 물리면 될 것같지만요 ㅋㅋㅋ
지금 쿠다가 중요한게 아닙니다. 그래서 궤도님이랑 팔씨름 하면 누가 이기십니까?
수상하게 몸이 좋은 IT 전문가 아바타 작아졌다 커졌다 킹받네요 ㅋ 전자칠판 까지 준비했것만 집중도가 떨어지는건 기분탓인가 ㅎ 전기먹는 하마여도 HW가 좀 부족해도 SW가 좋으면 커버가 가능한게 애플과 NVIDIA가 유리한 이유인듯 대충 주워들어서 알고 있는 것들을 적당한 난이도 선에서 한단계 더 확장시켜서 이해할 수 있는 좋은 컨텐츠네요
몸 보여주시는거 보니 댓글로 좀 까부는 사람들이 있었나보네요 ㅠㅠ
엔비디아 대체나올려면 키보드 위치변경급인가?
안될공학 (x)
헬스공학(o)
1:00 이해가 잘 안 가는 게 자막에
"마소는 amd가 성능이 조금 더 좋다는 거 같긴 한데 다양한 원인이 있겠지만 그 중에 하나가 쿠다이다"
이건 쿠다 때문에 amd가 더 좋다는 건가요??
연산성능자체는 좋지만 CUDA가 아닌 AMD전용 API에서만 그 성능이 발휘되는거고. 그건 기존에 만들어놓은 소프트웨어를 모두 변경해야 되서 힘들다는거죠
이 형님을 프로파일링 해보자면,
B형 T타입 곱슬머리에 최씨일 확률이 78%
죄송하지만 혹시 촬영 방법을 바꾸신 이유가 있을까요?
화면 꽉찬 영상이 훠얼씬 보기 편했는데
전자칠판 좋네욤
지금은 빅테크들이 엔비디아랑 협업을 많이 하지만 시간이 지나면 엔비디아랑 경쟁하는 곳도 생기지 않을까요? 특히 애플이나 마소 같이 전통적으로 규모 있는 플렛폼은 엔비디아 쓰기를 별로 원하지 않을 것 같습니다.
애플은 엔비디아 안 쓰지 않아요?
안쓰고 따라갈 수 있으면 그럴텐데... 그게..?
@@terryshim4386안써요 ㅎㅎ
사람들이 바보 같은 생각을 하는 이유가..
Ai 기술이란게 단순히 하드웨어만 좋으면 되는게 아닌데
개발 환경이나 알고니즘에 따라서 결과가 많이 달라지거든.
그리고 사람들은 이전부터 익숙한 것을 좋아라 함.
이 양반 목소린 배불뚜기 아제 였는데 반전이네 ㅎㅎ
Ai얼굴을 지우는 프로그램 없나요?
형 핼창이었어???😮
VHS와 BETAMAX 사례와 비슷하지 않을까요. 아직도 압도적인 성능에, 업계표준을 선점한 효과는 오랫동안 강력할 겁니다.
예전에 게임용말고 하이엔드 그래픽카드 쓸데 오픈GL은 들어봤지만 오픈CL은 뭐지..? 오픈쿠다같은 느낌인가....
몸이 자꾸 좋아져
저가 작년에 이 부분을 제기 했는데 아무도 안하다 오늘 님이 말하네요 : 삼성 마하칩 + 네이버 Ai 칩 2년 지난도 결과 없는게 FPGA 프로그램 AI 추론 짜다 하드웨어 설계 오륜 FPGA 프로그램밍 오륜 폭망한것임 = AI 개발자 파이썬 + 쿠다 1명 vs 삼성 마하칩 설계자 10명 + FPGA 프로그램 200명 = 공수가 같다
한화 KF-21 전투기 에이사 레이다 FPGA 개발 여기에 개발자 다 뽑아감 네이버는 개발자는 배워 가면서 해야한다는것.
와 그정도로 격차가 벌어진 것인가요? 테크 지식을 가볍게 훑고 있는 일반인으로써 저 비유는 체감이 딱 됩니다. 엔비디아가 당분간 황제 자리를 고수할 것 같군요.
음... 그냥 지나가다 한마디하면 FPGA는 하드웨어지 SW 가 아닙니다. ASIC 한번찍는데 100억씩 들어가니 칩안찍고 검증하기 위한 검증 도구로 FPGA를 쓰는 겁니다.
참고로 방산에서 FPGA만지는 사람들 대부분 실력 없어서 asic 설계로 전향 못하는 사람이 태반아고요
에이사 레이다 는 개발자 먼저 선점 한것임 시장에 사람이 있는징
에이사 레이다 는 개발자 먼저 선점 한것임 시장에 사람이 있는징 FPGA 주로 코인 채굴기 개발자 인텔, 삼성 개발자 출신들임
가슴이 CUDA...
솔직히 ai 학습에는 엔비디아 gpu가 없으면 안되어서 엔비디아의 독주는 계속 될것입니다.
다른회사에서 엔비디아를 이기려고 하지만
다른 회사들은 tpu나 npu가 위주로 ai 추론의 가속화에 최적화가 되어 있어서
전혀 다른 분야에서의 경쟁이기도 합니다.
3대 몇치심?
ML 분야에서는 소프트웨어로 알고 있었는데. 음 하드웨어의 의미도 있었군요.
반대죠. 원래 gpu하드웨어쪽을 말하는거였는데 플랫폼화가 되면서 구동sw쪽도 포함됐다고 보는게 맞습니다.
@@butter_almond 전 하드웨어에 관심이 없어서 몰랐어여. 파이썬으로 ML 배우다 보니까 알게 된 거죠.
구축한 생태계를 통한 독점이 요기에서도 .
형님 실망입니다...
거북목과 라운드숄더로 돌아오십쇼
AMD ROCm 전망도 궁금합니다 잘봤어요~
요즘 공학에는 근육이 필요한 건가요?
쿠다갑바 엄청나다
내가쓰는 프로그램들도..지원하게 해주었~으면좋겠다~ㅎ
CUDA 가 Win10 이라면 다른 것들은 WinMe 같은 느낌. 성능을 다 뽑아내지도 못하고 중간에 뻗고 호환성도 별로고... 오픈소스 진영 (OpenCL) 이 거의 완전히 망해버린 것도 크고요.
엔비디아는 AI계의 콜라가 되었다. 앞으로 적어도 10년은 바뀌기 힘들 것으로 본다.
오픈시엘도 나왔지만... 예전에 나왔죠
안될공학 error vs 될바디 Success
어우...cuda 말고 팔뚝으로 처리하실 것 같은데요
쿠다가 오래되긴 헀지. GP-GPU로. 그렇다고 전용칩을 대신할순 없는것이지. 새로운 연구나 개발에 쿠다 앞으로도 쭉 쓰이겠지만, 전용칩을 쿠다가? 그 주장 하는 것은 머리가 나쁜 것
형 찌찌 운동해요?
아니 몸이 대체... 이게 무슨 일이여 😮
보다보니 문득 CPU 가 BIOS 정도로 중요도가 낮아진거네? 기존 CPU자리는 GPU가 차지한거고..
전 LLM에 의해서 쿠다 독점이 깨질거라고 봅니다.
과거에는 개발언어를 변경하는게 번거롭고 시간도 많이 걸리는 일이였지만요.
이젠 코딩을 LLM이 하잖아요.
쿠다를 학습시켜서, 다른 하드웨어 언어로 변환하는거 충분히 가능할거라고 봅니다.
이미 시도하고 있을거에요.
그걸 엔비디아가 어떻게 막겠어요.
쿠다 뿐만이 아니라, 모든 지식과 언어의 장벽이 깨질거라고 봅니다.
아직 거대인공지능이 초기라서 이 기술이 가지고 있는 가능성이 돈이되냐? 누가 해자를 선점할것인가?
이런쪽으로 시각이 몰려 있는것 같은데요.
전 LLM은 독점이 불가능할거라고 봐요.
오히려 인류를, 모든 지식과 기술의 독점, 인간의 한계로부터 해방시키는 기술이 될거라고 봅니다.
근데, 그걸 엔비디아가 독점한다? 모순이라고 봐요.
속도가 생명인 빅테크에서는 가격이 중요하지 않으니까 엔비디아 칩을 마구 마구 매입하지만, 빅테크의 쇼핑이 끝나는 순간, 과연 효율을 위해서 2-3배 비싼 칩을 살수 있을까요? 기술자의 마인드로는 좋으면 써야지? 이자만, 돈이 없는 회사의 입장에서는 글쎄? 차가 아무리 좋아서 모두가 포르쉐를 타고 다니지 않듯이, 엔비디아도 처음에는 비싸도 사는 차이지만, 부자들이 차를 다 사고 나면.... 싸게 팔면 되겠지만, 그렇다면 지금은 멀티플이 정당화 되지 않을거 같아요.
gpt 4 5 6 7 만들고 경쟁하기 바빠서 오픈소스화 작업할 여유가 없음.
사실 엔비디아가 빠른게 아니라 다른화사들이 너무 느린것임
고전게임 메니아 빼곤 사람들은 누구나 고화질 고주사율 원함
4k 나온지가 언젠데 8 k 도 진작 나왔는데 이거 돌릴 하드웨어 소프트웨어가 제대로 없는 상황에서
이런 가장 필요한 부분을 인텔 소니 삼성 같은 회사들이 안뛰어들었다는것 자체가 이회사들의 망조를 보여주는것임
이형도 슬슬 얼굴공개하겠내
엔비디아가 시장에서 살아남을려면 쿠다를 공개해서 오픈쿠다로 가지 않으면 시장에서 한번 밀리기 시작하면 그때가서
오픈해도 시장에서는 전멸하게 될 가능성이 높기는 하죠
드보락이나 세벌식 키보드는 qwerty나 두벌식에 비해 모자라서 퇴출됐나요
그냥 바꿔야할 이유가 없어서 그런거죠
이미 엔비디아 기반으로 ai혁명이 시작됐으니 qwerty, 두벌식처럼 다른 건 생각도 안나고, 그런 게 있었는지나 싶을 정도로 평생 쓰일겁니다
@@dmglakdgj 키보드 예시는 안맞죠. 상황을 너무 단순화시켰음. 거대기업들이 미래 먹거리 선점을 위해 너도나도 수천억씩 써가며 달려드는 상황이니 미래는 어찌될지 모르는겁니다. 일반 개인들이 사용하는 수준과는 차원이 다른얘기가 됐음. 거의 10여년넘게 ai 개발 sw시장 선점했었던 구글이 gpt에서 밀리고있는것처럼요. 혁신적인 뭔가가 나와버리면 구세대는 금방 밀려버리는게 it시장입니다.
제가 예시를 들어보자면 자연어에 가까운 오픈소스 gpu구동 프로그램이 조만간 나올겁니다. 거대 언어모델들이 그런거 만들때는 참 기가막히게 잘 도와주거든요. 요즘은 프롬프트 캐싱도 가능해졌으니 단순 매뉴얼들은 그냥 다 때려박아 학습시켜버릴수있고 개발자는 그거 그대로 이용하면 되고요. 하드웨어와 백엔드 사이의 복잡다단한 영역은 아예 사람의 영역이 아니게 될거예요. 그런 분석은 이제 llm에 맡길수있게 될겁니다. 당장 몇년내에요