instagram.com/unrealtech.error TH-cam 채널 커뮤니티를 통해 빅테크, AI, 반도체를 비롯한 다양한 테크 소식과 함께 제 개인적인 생각을 간략히 전달드리고 있는데요. 이와 관련된 내용을 일목요연하게 정리해서 보는 동시에 향후 안될공학 굿쯔나 기타 다양한 소식을 함께 전달하는 채널로서 Instagram 채널을 활용하고자 합니다. 많은 관심과 사랑, 팔로우 부탁드립니다!
10년 넘게 CUDA 쓰고 있는 입장에서 보면 타사가 삽질한 게 너무 큽니다. OpenCL이 그나마 쓰일 때 있었는데 그때도 견제 못했고 말이 Open이고 공용이지 온갖 하드웨어 디펜던시별로 다 기능 따로 Tool 지원도 개판 DirectCompute는 말할 것도 없고 이제 OpenCL은 더이상 빅테크 지원도 못 받고 명맥만 유지하고, SyCL이 또 나오긴 했는데 허.. 각자 ROCm, OneAPI, 또 당연하게 애플은 독자적으로 Metal쓰고 개발자 입장에서 저거 다 따로 익히느니 제일 많이 쓰는 CUDA부터 하고 다른곳은 그만큼의 수요가 있어야만 개발하죠 오픈 소스들도 보면 제일 많이 쓰는 리눅스가 먼저 CUDA 먼저 그 다음이 나머지입니다.
개발자 200명 필요합니다. AI 쿠다 1명 사용시 파이썬 코드 200줄 필요하지만 vs 50만 라인 FPGA 프로그램 200명 공수가 필요합니다. FPGA 연봉 최소 1억 넘습니다 칩을 설계 가능한자임 한화 KF-21 전투기 에이사 레이다 개발 여기에 개발자 다 뽑아감
세월 만큼이나 레거시 코드도 엄청 많을 겁니다. 실제 드라이버 수준으로 내려가보면 표준 안지켰지만 nvidia 가 사실상 업계 표준이라 그냥 쓰이고 있는 것도 많은데, 이에 대한 불만도 많을거에요. 앞으로 봐야죠. 텐스토렌트 같은 회사가 새로운 하드웨어와 그게 걸맞는 소프트웨어 가지고 나오면 또 어찌될지 모르는 겁니다.
DirectX는 openGL과 같은그래픽스 api이고 openCL은 애플이 처음 시작한 gpgpu 프로그래밍 api입니다. cuda에 대응하는 api가 openCL이라고 할 수 있습니다. DirectX 11부터 compute shader가 도입되어서 hlsl과 같은 쉐이더 언어에서 cuda와 비슷한 연산을 할 수 있지만 DirectX는 기본적으로 그래픽스 api라서 cuda 언어와 비교될 수 있는 성질의 것이 아닙니다. 그리고 cuda는 nvidia가 선형대수, 신호처리 등등의 라이브러리를 이미 많이 만들어놓았고(cublas, cufft 등등) openCL보다 전반적으로 성능이 더 잘 나올 뿐만 아니라 cudnn같은 딥러닝 라이브러리 지원이 대단해서 기업 입장이나 개인 사용자 입장에서도 nvidia gpu, npu를 버릴 수가 없습니다. 저도 cuda 연산 때문에 nvidia gpu 연산을 해야 하는데 가상화폐 붐으로 gpu 가격이 폭등했을 때 gtx 1060 두 개로 프로그래밍하면서 짜증이 많이 났었던 기억이 나는군요.
@@Jamesdean884 코딩은 심각한 문제입니다. 잘난체가 아니라 AI용 장비를 만들면서 이부분이 중요하기 때문입니다. 우리나라의 엔지니어링 중에 코딩언어에 대한 라이브러리나 언어를 만드는 비율이 빈약해서 더 발전할 수 없어서입니다. 늘 남이 만든 걸 사용하기만할 뿐이죠.
님 의견에 동의합니다. 20분이나 되는 내용에 핵심이 없네요. 억지로 찾은 게 20년 됐다는 것하고 선점했다는 것 정도. 하드웨어를 사용하려면 라이브러리, 프레임웍 같은 것이 존재할 수밖에 없는데 다른 회사에서는 왜 이것을 못 만드는지 그런 설명이 없어요. 다른 데서 만드는 것도 당연히 병렬처리 하는 형식으로 만들 것이고. 이게 OS 만드는 것처럼 그렇게 복잡하고 어려운 건지 그런 설명이라도 해줘야 되는데.
황사장이 직접 엔비디아는 소프트웨어 회사라고 했음. 자기 회사 직원 중 하드웨어 분야보다 소프트웨어 분야에 일하는 직원이 훨씬 많다고 했음. CUDA는 마치 X86/윈도우 OS 생태계 처럼 모든 관련 도구들이 CUDA 중심으로 다 개발되고 갖춰져 있으니 이용하지 않을 수 없음.
AI만 놓고 보면 텐서플로 파이토치만 신경쓰면 되는데 이것도 누군가는 개발을 해야하죠 오픈소스다보니까 구글이나 메타가 직접하전가 누군가가 기여해서 만들어지는데 엔비디아 그래픽카드 쓰는 사람이 amd 것에서 테스트해보고 기여할 가능성은 낮고 반대도 마찬가지고 Npu들은 더더욱 마찬가지이고 학습에서는 엔비디아 못이기니 추론시장에서 먹겠다라고 하지만 정말 모든기업이 파이토치 텐서플로 거친 코드만 사용할까요 전처리 후처리과정에 쓰는 라이브러리들도 다 각 아키텍처를 지원해야하는데 특정 도메인은 아예 cuda말고는 구현 자체가 안되는 경우가 많습니다. 18년동안 만들어진 라이브러리들을 전부 각 회사 아키텍처에 맞게 구현하는것 일부는 되어있을지언정 안되어있는게 훨씬 많죠
쉽게 이야기해볼께요 텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다. 그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아 갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요. 즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다. 쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다.
수상하게 몸이 좋은 IT 전문가 아바타 작아졌다 커졌다 킹받네요 ㅋ 전자칠판 까지 준비했것만 집중도가 떨어지는건 기분탓인가 ㅎ 전기먹는 하마여도 HW가 좀 부족해도 SW가 좋으면 커버가 가능한게 애플과 NVIDIA가 유리한 이유인듯 대충 주워들어서 알고 있는 것들을 적당한 난이도 선에서 한단계 더 확장시켜서 이해할 수 있는 좋은 컨텐츠네요
ARM이나 AMD GPU에서 파이썬 AI 앱들이 호환되는 것에 대하여 쉽게 이야기해볼께요. 텐스플로우나 파이토취로 뭘 어케하면 이문제 해결되는게 아니냐고 하는 사람들이 많은데 텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다. 그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아 갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요. 즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다. 쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다. 파이선이 쿠다위에서만 제대로 돌아가는 게 이 모든 사단의 시작입니다. 파이썬이 arm이나 amd위에서도 돌아가게 엔비디아가 CUDA라이센스를 주면 되는데 이걸 왜 줘요? 오히려 arm, amd가 쿠다 짝퉁(CUDA binary compatible platform)을 만들어 python app이 이 쿠다 짝퉁들 위에서 binary 호환성을 가지게 하면 되죠. 그런데 이게 쉬울까요? 맥OS와 WINDOWS OS가 BINARY호화되는 OS를 만든다? 이게 가능할까요? ㅋㅋㅋㅋㅋ 안될헬창은 자꾸 CUDA를 SW라 표현하는데 오히려 OS에 더 가깝습니다. 그럼 이 상태로 쭉가서 전성비가 개판이라서 핵발전소가 필요한 그런 AI SW 플래새폼을 계속 쓸야 할까요? 방법이 아예 없는 거 아닙니다. 파이선 보다 더 쓰기 쉽고 프로그래밍이 쉬운 멀티 GPU 지원하는 AI개발 프로그래밍 언어를 AI가 만들면 하루아침에 해결됩니다. 물론 이걸 chatGPT가 만들지는 않을 겁니다. Deepmind가 개발하는 문제해결 AI모델이 하지 않을까요?
제가 궁금한게 빅테크들이 클라우드 컴퓨팅으로 AI를 쓰는 누군가에게 임대를 해주는 사업을 하는데, 그 컴퓨팅 자원을 빌려쓰는 사람이 결국은 쿠다에 익숙한 사람일거고 결국은 빅테크도 엔비디아가 메인이 되지 않을까요 AWS나 구글클라우드나 애저도 지금 미친듯이 사들이는게 결국 엔비디아 칩이고 그리고 누군가에게 임대를 해주는 사업을 하는데 빅테크가 만든 특정목적에만 효율이 잘나오는게 아닌 범용적인 것을 갖다놔야 어떤 작업을 할건지 관계없이 임대를 내줄 수 있으니까 그래서 또 엔비디아가 될거같기도하구요
저가 작년에 이 부분을 제기 했는데 아무도 안하다 오늘 님이 말하네요 : 삼성 마하칩 + 네이버 Ai 칩 2년 지난도 결과 없는게 FPGA 프로그램 AI 추론 짜다 하드웨어 설계 오륜 FPGA 프로그램밍 오륜 폭망한것임 = AI 개발자 파이썬 + 쿠다 1명 vs 삼성 마하칩 설계자 10명 + FPGA 프로그램 200명 = 공수가 같다
음... 그냥 지나가다 한마디하면 FPGA는 하드웨어지 SW 가 아닙니다. ASIC 한번찍는데 100억씩 들어가니 칩안찍고 검증하기 위한 검증 도구로 FPGA를 쓰는 겁니다. 참고로 방산에서 FPGA만지는 사람들 대부분 실력 없어서 asic 설계로 전향 못하는 사람이 태반아고요
그렇게 비슷하게 나온게 AMD의 HIP/ROCm입니다. 엔비디아의 CUDA관련 함수앞에 nv나 cu 붙는데 이걸 hip이나 rcom으로만 바꾸기만 해서 구현, 파라미터 순서도 동일 유저 입장에서는 아예 똑같이 쓸수 있게끔 만들었습니다. 심지어 변환툴도 제공 물론 당연히 CUDA에 있는 모든 기능이 다 구현되지는 않았고 AMD GPU에서만 돌아가는데 새롭게 배우는 노력을 최소화해서 자기들거 쓰라고 만들었습니다. 그래서 그나마 선방하고 있는 거구요
@user-it6gp9jg1i 그걸 했던 게 AMD Mantle입니다. 그걸로 개발한 게임엔진이 Frostbite와 Cry입니다. Mantle 1.0까지 지원하고 중단을 했습니다. 말씀하신 데로 오픈화를 해서 현재 OpenGL/CL의 후속작인 Vulkan으로 넘어간 상태입니다
![NVIDIA, 앞으로 10년 여전히 압도적일 수 밖에 없는 이유 | 트랜스포머와 GPU, CUDA 기반 클라우드 가상화 | AI비즈니스 이해하는 방법 [솔트룩스 이경일 대표 2부]](http://i.ytimg.com/vi/2kiyE646HBk/mqdefault.jpg)
![NVIDIA, 앞으로 10년 여전히 압도적일 수 밖에 없는 이유 | 트랜스포머와 GPU, CUDA 기반 클라우드 가상화 | AI비즈니스 이해하는 방법 [솔트룩스 이경일 대표 2부]](/img/tr.png)
instagram.com/unrealtech.error
TH-cam 채널 커뮤니티를 통해 빅테크, AI, 반도체를 비롯한
다양한 테크 소식과 함께 제 개인적인 생각을 간략히 전달드리고 있는데요.
이와 관련된 내용을 일목요연하게 정리해서 보는 동시에
향후 안될공학 굿쯔나 기타 다양한 소식을 함께 전달하는 채널로서
Instagram 채널을 활용하고자 합니다.
많은 관심과 사랑, 팔로우 부탁드립니다!
많이 착각들을 하시는데 저분 얼굴이 실물이고 몸이 ai딥페이크입니다.
어쩐지..목소리도 넘 좋은데 그것도 딥페이크죠?
ㅋㅋ
10년 넘게 CUDA 쓰고 있는 입장에서 보면 타사가 삽질한 게 너무 큽니다.
OpenCL이 그나마 쓰일 때 있었는데 그때도 견제 못했고 말이 Open이고 공용이지 온갖 하드웨어 디펜던시별로 다 기능 따로
Tool 지원도 개판 DirectCompute는 말할 것도 없고
이제 OpenCL은 더이상 빅테크 지원도 못 받고 명맥만 유지하고, SyCL이 또 나오긴 했는데 허..
각자 ROCm, OneAPI, 또 당연하게 애플은 독자적으로 Metal쓰고
개발자 입장에서 저거 다 따로 익히느니 제일 많이 쓰는 CUDA부터 하고 다른곳은 그만큼의 수요가 있어야만 개발하죠
오픈 소스들도 보면 제일 많이 쓰는 리눅스가 먼저 CUDA 먼저 그 다음이 나머지입니다.
그래봤자. General Purpose에 쓰이는 CUDA
제일 큰 문제는, 제대로 동작하는건 하나도 없었다는거
쿠다가 중요한게 아닙니다. 몸이 왜 이렇게 좋아요? ㅎㄷㄷ
좋게봐주셔서 고맙습니다 분발해야겟네요 ㄷㄷㄷ
개발자 200명 필요합니다.
AI 쿠다 1명 사용시 파이썬 코드 200줄 필요하지만 vs 50만 라인 FPGA 프로그램 200명 공수가 필요합니다.
FPGA 연봉 최소 1억 넘습니다 칩을 설계 가능한자임
한화 KF-21 전투기 에이사 레이다 개발 여기에 개발자 다 뽑아감
감솨~~~~ 근데 안될공학 에러가 무슨뜻인가요?
질문 잘못하면 반으로 접힐거 같음
@@unrealtech네꼬3
이쯤되면 단백질파우더, 닭가슴살 광고주님들 협찬, 광고 들어와야하는 것 아닌지 ㅋㅋㅋ NVDA서 CUDA는 매우 중요한 주제인데 집중이 안됨ㅎ
좋은 내용 잘 들었습니다. 원리에 대한 이해가 탁월하고 그 부분을 설명할 때 가장 빛이 나십니다.
3:33 갑자기 댄스머신...
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㄹㄹㅋㅋㅋㅋㅋㅋㅋㅋㅋ 너 재능있숴
댄스 조이고
언둔이가 씰룩씰룩
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
그냥 CG배경에서 설명하는것보다
지금 같이 전자칠판에서 설명듣는게 이해가 더 잘되는거 같네요
전 예전이 더 좋았던거 같아요 아무래도 직접 띄워주는거랑 전자칠판은 해상도 차이가 있어서...
세월 만큼이나 레거시 코드도 엄청 많을 겁니다. 실제 드라이버 수준으로 내려가보면 표준 안지켰지만 nvidia 가 사실상 업계 표준이라 그냥 쓰이고 있는 것도 많은데, 이에 대한 불만도 많을거에요.
앞으로 봐야죠. 텐스토렌트 같은 회사가 새로운 하드웨어와 그게 걸맞는 소프트웨어 가지고 나오면 또 어찌될지 모르는 겁니다.
아.. 정말 좋은 내용이네요.. 정말 혁신적인 하드웨어를 내놓는 기업이 없다면 결과가 예상되는 내용이네요.
다음에는 체크무늬 남방으로 부탁드립니다. 맨 위 단추까지 채우는 센스도
부인이신지
뿔테 안경 추가
에러형, 쓰고 계신 저 칠판이랑 펜슬은 어디 제품일까요? 저거 설명해주는 컨텐츠도 있으면 좋겠네요 ㅎㅎ;; 개인적인 바램..... 스탠바이미인가요?
DirectX는 openGL과 같은그래픽스 api이고 openCL은 애플이 처음 시작한 gpgpu 프로그래밍 api입니다. cuda에 대응하는 api가 openCL이라고 할 수 있습니다. DirectX 11부터 compute shader가 도입되어서 hlsl과 같은 쉐이더 언어에서 cuda와 비슷한 연산을 할 수 있지만 DirectX는 기본적으로 그래픽스 api라서 cuda 언어와 비교될 수 있는 성질의 것이 아닙니다.
그리고 cuda는 nvidia가 선형대수, 신호처리 등등의 라이브러리를 이미 많이 만들어놓았고(cublas, cufft 등등) openCL보다 전반적으로 성능이 더 잘 나올 뿐만 아니라 cudnn같은 딥러닝 라이브러리 지원이 대단해서 기업 입장이나 개인 사용자 입장에서도 nvidia gpu, npu를 버릴 수가 없습니다. 저도 cuda 연산 때문에 nvidia gpu 연산을 해야 하는데 가상화폐 붐으로 gpu 가격이 폭등했을 때 gtx 1060 두 개로 프로그래밍하면서 짜증이 많이 났었던 기억이 나는군요.
영상보다 몸좋아서 엄청 놀랐어요ㅎㅎㅎ
감사합니다🤭
@@unrealtech환경부을반으로날라버릴달성군청후보 이돼지임
엔비의 압도적 성능과 독점수준의 높은 점유룰에 준수한 실적이 나올 것을 알고 있었음에도 레버리지에 개물려버렸다면 믿으시겠습니까
그야 당연히 주가와 실적은 반드시 같이 연동되는 게 아니니까요.
그건 수급적인 면이 클것같운데
고맙습니다. 덕분에 NVIDA와 CUDA에 대해서 이해하게되었습니다. NVIDA 강력하네요.
아니 몸이 너무 좋아서
칠판이 눈에 안들어와욬ㅋㅋㅋㅋㅋㅋㅋ
그래도 오늘 설명 너무 좋았어용
항상 좋은 인사이트 얻어 갑니당!
여자세요?😮
ㅠㅠ 너무어렵네요 하다 보면 더 잘 이해하게 되겠죠 다들 화이팅
몬말인지 전혀 모르지만 엔비 사라는 의미로 알고 추매하겠습니다 🙏🙏🙏
다들 같은 생각ㅋㅋㅋㅋㅋㅋㅋㅋ 근데 얼굴을 좀 더 강력해 보이는 걸로 바꾸셔야 할 듯ㅋㅋㅋㅋㅋ
내용에 핵심이 없어 부연한다면, 쿠다를 사용하는 코딩적 접근이 혁신적이기 때문입니다.
반면 오픈CL은 구시대적인 접근방식으로 효율성을 확보하기가 불편하기 때문입니다.
쿠다를 극복하려면, 코딩의 직관성을 확보하는 것이 선행되야 합니다.
잘난체는 상대방을 올려주면서 양념 치듯이 하길...
@@Jamesdean884 코딩은 심각한 문제입니다. 잘난체가 아니라 AI용 장비를 만들면서 이부분이 중요하기 때문입니다.
우리나라의 엔지니어링 중에 코딩언어에 대한 라이브러리나 언어를 만드는 비율이 빈약해서 더 발전할 수 없어서입니다.
늘 남이 만든 걸 사용하기만할 뿐이죠.
님 의견에 동의합니다.
20분이나 되는 내용에 핵심이 없네요.
억지로 찾은 게 20년 됐다는 것하고 선점했다는 것 정도.
하드웨어를 사용하려면 라이브러리, 프레임웍 같은 것이 존재할 수밖에 없는데 다른 회사에서는 왜 이것을 못 만드는지 그런 설명이 없어요.
다른 데서 만드는 것도 당연히 병렬처리 하는 형식으로 만들 것이고.
이게 OS 만드는 것처럼 그렇게 복잡하고 어려운 건지 그런 설명이라도 해줘야 되는데.
@@호냥인 th-cam.com/video/yp7qMYUF150/w-d-xo.html 오히려 이 영상이 더 도움되네요
여기가 피지컬 갤러리 인가요?
김계란이 새로운 탈을 썼군요
Amd 에서 hbm을 활용한 gpu가 나와도 nvidia를 쓸 수 밖에 없는게 사실 cuda 때문이죠 cuda를 벗어나지 못하면 계속 nvidia 제품을 활용할 수 밖에 없고 그래서 삼성에서 amd 에 hbm을 납품하고 있다고 해도 시장의 반응이 없는거라 생각합니다
공부가 많이 되었습니다.
안될공학이지만 피지컬은 되는 형
감사합니다!
안될공학 (x)
헬스공학(o)
지금 찍는 영상들이 전보다 더 마음에 들어요. 전에는 틀어놓고 듣는 맛이 좋았다면 지금은 듣는 맛 + 보는 맛이 있달까요 ㅎㅎ 모니터 있는 게 진짜 크네요
Cuda도 하드웨어를 위해 존재하죠 그럴리는 쉽지 않겠지만 하드웨어 경쟁력이 없어지만 한순간에 퇴출됩니다. 그것이 cuda의 한계 입니다. 하드웨어가 좋으면 linux가 탄생 했듯이 새로운 플랫홈이 나타납니다
코어가 좋아 보이십니다.
공학님.. 근육맨이시네요. ㄷㄷㄷ
몸이 자꾸 좋아져
황사장이 직접 엔비디아는 소프트웨어 회사라고 했음. 자기 회사 직원 중 하드웨어 분야보다 소프트웨어 분야에 일하는 직원이 훨씬 많다고 했음. CUDA는 마치 X86/윈도우 OS 생태계 처럼 모든 관련 도구들이 CUDA 중심으로 다 개발되고 갖춰져 있으니 이용하지 않을 수 없음.
구글 TPU를 텐서플로우에서 사용가능한 거 처럼 지원하는 프레임워크만 있으면 딥러닝 개발자 입장에서는 CUDA든 뭐든 로우레벨 것들은 상관없을거 같은데
공학은 물리다, 쇠질이 공학이다
가슴이 CUDA...
쿠다가 몸에 익어서 이젠 딴건 못씀 😂❤🎉
근데요. 몸이 헐크세요. 😮
전 노래해서 상체 키우면 목이 조여서 하면 안되서 기냥 날씬해요 허리 28 ㅎㅎㅎ 😂😅
이 양반 목소린 배불뚜기 아제 였는데 반전이네 ㅎㅎ
챗지피티 목소리 아주 좋던데, 아바타 얼굴에 근육질 몸에 챗지피티 목소리까지 입히면 대박날 거 같아요. 엔비디아 주식 사야되는 건가요
역시 가장 강력한건 커뮤니티와 생태계인 것 같네요
프로덕트 개발자 입장에선 더 좋은 AI api만 물리면 될 것같지만요 ㅋㅋㅋ
오늘 설명은 정말 좋네요
뭐 다른 영상들도 좋았지만
오늘 설명은 정말 안될공학의 최고? 급의 설명이었던 것 같습니다
쳇... 몸도 좋고 머리도 좋고... 나 비질게
몸 보여주시는거 보니 댓글로 좀 까부는 사람들이 있었나보네요 ㅠㅠ
이 형님을 프로파일링 해보자면,
B형 T타입 곱슬머리에 최씨일 확률이 78%
지금 쿠다가 중요한게 아닙니다. 그래서 궤도님이랑 팔씨름 하면 누가 이기십니까?
Microled의 led 미세소자의 검사를하는데 그 엄청난 양을 비젼검사를하는데 그냥 돌리면 답이 안나오던게… CUDA돌리면 검사속도가 20배이상 좋아지는… 문제는 CUDA 프로그래머가 국내에 5명도 안됨…
근데 궁금한게, 쿠다 위에 파이토치, 텐서플로가 있잖아요.
개발자들이 쓰는 것은 쿠다라기보다, 그위 파이토치, 텐서플로를 쓰는 거잖아요.
파이토치, 텐서플로가 쿠다뿐만 아니라 다른 거 잘 지원하면 되는 거 아닌가요?
AI만 놓고 보면 텐서플로 파이토치만 신경쓰면 되는데 이것도 누군가는 개발을 해야하죠
오픈소스다보니까 구글이나 메타가 직접하전가 누군가가 기여해서 만들어지는데
엔비디아 그래픽카드 쓰는 사람이 amd 것에서 테스트해보고 기여할 가능성은 낮고 반대도 마찬가지고
Npu들은 더더욱 마찬가지이고
학습에서는 엔비디아 못이기니 추론시장에서 먹겠다라고 하지만
정말 모든기업이 파이토치 텐서플로 거친 코드만 사용할까요
전처리 후처리과정에 쓰는 라이브러리들도 다 각 아키텍처를 지원해야하는데
특정 도메인은 아예 cuda말고는 구현 자체가 안되는 경우가 많습니다.
18년동안 만들어진 라이브러리들을 전부 각 회사 아키텍처에 맞게 구현하는것 일부는 되어있을지언정 안되어있는게 훨씬 많죠
쉽게 이야기해볼께요 텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다.
그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아
갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요.
즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다.
쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다.
형님 삼대 몇치십니까
수상하게 몸이 좋은 IT 전문가 아바타 작아졌다 커졌다 킹받네요 ㅋ 전자칠판 까지 준비했것만 집중도가 떨어지는건 기분탓인가 ㅎ 전기먹는 하마여도 HW가 좀 부족해도 SW가 좋으면 커버가 가능한게 애플과 NVIDIA가 유리한 이유인듯 대충 주워들어서 알고 있는 것들을 적당한 난이도 선에서 한단계 더 확장시켜서 이해할 수 있는 좋은 컨텐츠네요
전력대비 효율성이라던가 병목이라던가... 많은 불만들이 있을터인데... 대체제가 없으니 원.... ㅎㅎ 짐켈러가 또다시 혁명을 일으킬것인가....
ARM이나 AMD GPU에서 파이썬 AI 앱들이 호환되는 것에 대하여 쉽게 이야기해볼께요.
텐스플로우나 파이토취로 뭘 어케하면 이문제 해결되는게 아니냐고 하는 사람들이 많은데
텐서플로는 모르니까 스킵하고 파이토치는 그냥 파이썬 라이브러리입니다.
그런데 이 파이토취로 AI앱들이 만들어 집니다. 따라서 쿠다위에 파이토취 그위에 파이썬 앱이 돌아
갑니다. 쿠다위에 파이썬이 돌아가고 그 파이썬 라이브러리 패키지 중에 하나가 파이토취요.
즉 파이토취는 파이썬의 일부라 쿠다위에 개발된 파이썬 앱이 파이토치를 쓰고 안쓰고는 상관도 없습니다.
쿠다는 지금 파이선의 모든 라이브러리와 호환되도록 만들어 졌으니 말입니다.
파이선이 쿠다위에서만 제대로 돌아가는 게 이 모든 사단의 시작입니다.
파이썬이 arm이나 amd위에서도 돌아가게 엔비디아가 CUDA라이센스를 주면 되는데 이걸 왜 줘요?
오히려 arm, amd가 쿠다 짝퉁(CUDA binary compatible platform)을 만들어 python app이 이 쿠다 짝퉁들 위에서 binary 호환성을 가지게 하면 되죠.
그런데 이게 쉬울까요? 맥OS와 WINDOWS OS가 BINARY호화되는 OS를 만든다? 이게 가능할까요? ㅋㅋㅋㅋㅋ
안될헬창은 자꾸 CUDA를 SW라 표현하는데 오히려 OS에 더 가깝습니다.
그럼 이 상태로 쭉가서 전성비가 개판이라서 핵발전소가 필요한 그런 AI SW 플래새폼을 계속 쓸야 할까요?
방법이 아예 없는 거 아닙니다. 파이선 보다 더 쓰기 쉽고 프로그래밍이 쉬운 멀티 GPU 지원하는 AI개발 프로그래밍
언어를 AI가 만들면 하루아침에 해결됩니다. 물론 이걸 chatGPT가 만들지는 않을 겁니다. Deepmind가 개발하는
문제해결 AI모델이 하지 않을까요?
사람들이 바보 같은 생각을 하는 이유가..
Ai 기술이란게 단순히 하드웨어만 좋으면 되는게 아닌데
개발 환경이나 알고니즘에 따라서 결과가 많이 달라지거든.
그리고 사람들은 이전부터 익숙한 것을 좋아라 함.
형님 실망입니다...
거북목과 라운드숄더로 돌아오십쇼
오우 효 채널 뛰어넘는 채널이 되겠어요
삼성전자에 대해서도 비교해서 설명자료를 소개해줄수 있을까요?
이거이 몇년짜리 몸인지요? 멋있으십니다
제가 궁금한게 빅테크들이 클라우드 컴퓨팅으로 AI를 쓰는 누군가에게 임대를 해주는 사업을 하는데, 그 컴퓨팅 자원을 빌려쓰는 사람이 결국은 쿠다에 익숙한 사람일거고 결국은 빅테크도 엔비디아가 메인이 되지 않을까요 AWS나 구글클라우드나 애저도 지금 미친듯이 사들이는게 결국 엔비디아 칩이고
그리고 누군가에게 임대를 해주는 사업을 하는데 빅테크가 만든 특정목적에만 효율이 잘나오는게 아닌 범용적인 것을 갖다놔야 어떤 작업을 할건지 관계없이 임대를 내줄 수 있으니까 그래서 또 엔비디아가 될거같기도하구요
AMD에서는 CUDA와 경쟁하려고 뭘 하고 있나요? 하드웨어는 잘 팔린다고 발표했는데 뭔가 비슷한것을 제공할 것같아서요.
오 드디어!
솔직히 ai 학습에는 엔비디아 gpu가 없으면 안되어서 엔비디아의 독주는 계속 될것입니다.
다른회사에서 엔비디아를 이기려고 하지만
다른 회사들은 tpu나 npu가 위주로 ai 추론의 가속화에 최적화가 되어 있어서
전혀 다른 분야에서의 경쟁이기도 합니다.
VHS와 BETAMAX 사례와 비슷하지 않을까요. 아직도 압도적인 성능에, 업계표준을 선점한 효과는 오랫동안 강력할 겁니다.
Open CL 은 게임설치할 때 같이 설치했던 기억이 납니다.
안될공학 error vs 될바디 Success
형님 cuda 깔고 지포스로 지지고 볶고 할때만해도 엔비디아가 이렇게 될줄 상상하셨었나요? 지포스네 라데온이네 게임이 도네 마네 이러고있었는데.......
구축한 생태계를 통한 독점이 요기에서도 .
유익해서좋음
형 핼창이었어???😮
엔비디아는 AI계의 콜라가 되었다. 앞으로 적어도 10년은 바뀌기 힘들 것으로 본다.
내가쓰는 프로그램들도..지원하게 해주었~으면좋겠다~ㅎ
전자칠판 좋네욤
저가 작년에 이 부분을 제기 했는데 아무도 안하다 오늘 님이 말하네요 : 삼성 마하칩 + 네이버 Ai 칩 2년 지난도 결과 없는게 FPGA 프로그램 AI 추론 짜다 하드웨어 설계 오륜 FPGA 프로그램밍 오륜 폭망한것임 = AI 개발자 파이썬 + 쿠다 1명 vs 삼성 마하칩 설계자 10명 + FPGA 프로그램 200명 = 공수가 같다
한화 KF-21 전투기 에이사 레이다 FPGA 개발 여기에 개발자 다 뽑아감 네이버는 개발자는 배워 가면서 해야한다는것.
와 그정도로 격차가 벌어진 것인가요? 테크 지식을 가볍게 훑고 있는 일반인으로써 저 비유는 체감이 딱 됩니다. 엔비디아가 당분간 황제 자리를 고수할 것 같군요.
음... 그냥 지나가다 한마디하면 FPGA는 하드웨어지 SW 가 아닙니다. ASIC 한번찍는데 100억씩 들어가니 칩안찍고 검증하기 위한 검증 도구로 FPGA를 쓰는 겁니다.
참고로 방산에서 FPGA만지는 사람들 대부분 실력 없어서 asic 설계로 전향 못하는 사람이 태반아고요
에이사 레이다 는 개발자 먼저 선점 한것임 시장에 사람이 있는징
에이사 레이다 는 개발자 먼저 선점 한것임 시장에 사람이 있는징 FPGA 주로 코인 채굴기 개발자 인텔, 삼성 개발자 출신들임
크으 섹시하다 형
저 아바타 헤드 미묘하게 정면에서 목기준으로 안되어있는거 못고치나요??
이형도 슬슬 얼굴공개하겠내
이 사람들이 강의에 집중 안하고 다 딴 생각하고 있구만~ ^
지금 돈없어도 천만원 어치만 딱 넣어놓으셈 5년안에 1억 그냥 갈거임.
Etf보다 엔비디아 올인이 ㄱㅊ다고 보십니까
엔비디아가요? 10배 시총 4경이라 과연? 이천만원치 사놨는데 200달러보는중이라
CUDA 가 Win10 이라면 다른 것들은 WinMe 같은 느낌. 성능을 다 뽑아내지도 못하고 중간에 뻗고 호환성도 별로고... 오픈소스 진영 (OpenCL) 이 거의 완전히 망해버린 것도 크고요.
3대 몇치심?
근데 CUDA를 AMD에가 API만 똑같이 구현하면 되지 않나요? 예를들어 DirectX를 쓴다해도 엔비디아 , AMD 똑같이 쓸수 있듯... CUDA 자체를 DirectX로 보고 AMD가 자체 구현하면 되는거 아닌가요?
그렇게 비슷하게 나온게 AMD의 HIP/ROCm입니다. 엔비디아의 CUDA관련 함수앞에 nv나 cu 붙는데 이걸 hip이나 rcom으로만 바꾸기만 해서 구현, 파라미터 순서도 동일
유저 입장에서는 아예 똑같이 쓸수 있게끔 만들었습니다. 심지어 변환툴도 제공
물론 당연히 CUDA에 있는 모든 기능이 다 구현되지는 않았고 AMD GPU에서만 돌아가는데
새롭게 배우는 노력을 최소화해서 자기들거 쓰라고 만들었습니다. 그래서 그나마 선방하고 있는 거구요
@@eclipse4419AMD GPU에서만 돌아간다라.... 차라리 오픈소스로 푸는것이 AMD에게도 이득일지 모르겠네요
@user-it6gp9jg1i 그걸 했던 게 AMD Mantle입니다. 그걸로 개발한 게임엔진이 Frostbite와 Cry입니다.
Mantle 1.0까지 지원하고 중단을 했습니다. 말씀하신 데로 오픈화를 해서 현재 OpenGL/CL의 후속작인 Vulkan으로 넘어간 상태입니다
요즘 공학에는 근육이 필요한 건가요?
cuda는 근본이 게임gpu 근본이 천하다
무슨소리인지 잘 이해는 못하지만...
엔비짱
아니 몸이 대체... 이게 무슨 일이여 😮
어우...cuda 말고 팔뚝으로 처리하실 것 같은데요
쿠다갑바 엄청나다
개발자들이 게을러서 일단되면 않건딤
cuda 가속이 오픈소스로 풀려야,,,,
Ai얼굴을 지우는 프로그램 없나요?
이재용하고 생각 마인드부터 다름
근데 이 형 이두가 상당하네
다 배웠는데 진짜 하나도 기억 안나네 ㅋㅋㅋ 들으니까 무슨 기억 상실증 걸린 드라마 주인공 마냥 괴로움 ㅋㅋ
죄송하지만 혹시 촬영 방법을 바꾸신 이유가 있을까요?
화면 꽉찬 영상이 훠얼씬 보기 편했는데
예전에 게임용말고 하이엔드 그래픽카드 쓸데 오픈GL은 들어봤지만 오픈CL은 뭐지..? 오픈쿠다같은 느낌인가....
사실 더 큰 문제는 한국 정부가 한국형 CUDA를 만드시겠다는 게...
ML 분야에서는 소프트웨어로 알고 있었는데. 음 하드웨어의 의미도 있었군요.
반대죠. 원래 gpu하드웨어쪽을 말하는거였는데 플랫폼화가 되면서 구동sw쪽도 포함됐다고 보는게 맞습니다.
@@butter_almond 전 하드웨어에 관심이 없어서 몰랐어여. 파이썬으로 ML 배우다 보니까 알게 된 거죠.
지금은 빅테크들이 엔비디아랑 협업을 많이 하지만 시간이 지나면 엔비디아랑 경쟁하는 곳도 생기지 않을까요? 특히 애플이나 마소 같이 전통적으로 규모 있는 플렛폼은 엔비디아 쓰기를 별로 원하지 않을 것 같습니다.
애플은 엔비디아 안 쓰지 않아요?
안쓰고 따라갈 수 있으면 그럴텐데... 그게..?
@@terryshim4386안써요 ㅎㅎ
쿠다가 오래되긴 헀지. GP-GPU로. 그렇다고 전용칩을 대신할순 없는것이지. 새로운 연구나 개발에 쿠다 앞으로도 쭉 쓰이겠지만, 전용칩을 쿠다가? 그 주장 하는 것은 머리가 나쁜 것
공대생이 몸이좋다고?!!!!
엔비디아 대체나올려면 키보드 위치변경급인가?
오픈시엘도 나왔지만... 예전에 나왔죠
형 찌찌 운동해요?