삼성의 잃어버린 10년, 결국 터졌다!! 네이버와 삼성이 탄생시킨 기적 마하1의 모든 것
ฝัง
- เผยแพร่เมื่อ 1 มิ.ย. 2024
- 삼성이 AI 반도체 '마하-1'을 공개했습니다.
4차 산업혁명 시대, 엔비디아의 독주를 멈출 수 있을까요?
- 채널에 가입하여 혜택을 누려보세요.
/ @softdragon
- 인스타그램: / softdragon__
- Chapter
0:00 배경
2:15 마하1의 성능
3:56 마하1의 경쟁우위
5:58 마하1이 해결한 난제
7:55 삼성전자의 전략
- 내용 출처
1. 강해령, “삼성은 AI 추론 칩 '마하 1'을 어떻게 만들까? (1)”, 서울경제, 2024
2. 이동수, 페이스북 포스팅, han.gl/4XLky, 2024 네이버 클라우드 플랫폼, “하이퍼스케일 AI를 위한 데이터센터와 반도체를 만들다”, 2024
3. Se Jung Kwon et al, “Structured Compression by Weight Encryption for Unstructured Pruning and Quantization”, CVF 2020
4. 경계현, 링크드인 포스팅, han.gl/w2Ppx, 2024
5. 강해령, “삼성은 AI 추론 칩 마하1을 어떻게 만들까? (2), 서울경제, 2024
6. 김규철, “삼성전자, HBM과 AI 가속기 ‘마하-1’ 투트랙 전략···AI생태계 확장”, 증권일보, 2024
7. 장형태, “AI 연산 핵심 칩은 ‘GPU’… AI 가속기로 추론하고 이미지 만들어”, 조선일보, 2024
8. 황정수, 박의명, “"5만弗 AI 가속기는 비싸"…삼성전자 '마하1'으로 빅테크 잡는다”, 한국경제, 2024
- BGM
1. Destiny by Amir Marcus
2. Come back alive by Ian Post
3. Pave the Way by Lux Inspira
4. Blinded by AlexGrohl - วิทยาศาสตร์และเทคโนโลยี
![[코너별 밀톡2] 2화 | 전투기를 개발하려면?](http://i.ytimg.com/vi/jqB4V6VdNJc/mqdefault.jpg)
![[코너별 밀톡2] 2화 | 전투기를 개발하려면?](/img/tr.png)
![โอ้มายก๊อด! ไม่ถึงชั่วโมงหมดเป็นแสน 😅 [cc] แดนแพทตี้ SS2 | EP.42 |](http://i.ytimg.com/vi/OH2ShXfO6tA/mqdefault.jpg)
한국 반도체 석학들이 추천하는,
초등학생도 쉽게 읽을 수 있는 반도체의 모든 것!
많이... 사주실 거죠...!?
✅교보문고 bit.ly/422KIiQ
✅예스24 bit.ly/4aUQ43x
✅알라딘 bit.ly/48VmkBW
팀이 고생이 많다~
그냥 복붙하셨는데요? ㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅌ
ㅋㅋㅋㅋㅋㅋㅋ
현직자입니다. 실력에비해 언플이심합니다.
삼성이 있어야 대한민국이 있다.
우리나라 기업 화이팅입니다!
@SherlynFluhmann너나해
한국인으로서 꼭 성공 하기를 빕니다
출시되기전에 폐기될 제품,
국민으로서 자랑스런 삼성을 늘 응윈합니다 ^^
삼성전자 대한민국 기업으로써 항상 응원합니다.
삼성의 도전 성공하길 빕니다
주식투자 안할거면 모르겠지만 투자 계속할거면
주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음)
주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요
아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..
제발 잘되자 한국!!
잘 보겠습니다.
삼성 화이팅 응원합니다
삼성전자 흥해라~!!
기대합니다 파이팅!
삼성전자 고맙습니다
가슴이 뭉클합니다
좋은 소식 기대하겠습니다. 우리 기업을 우리가 밀어줘야죠.
우리나라 삼성 응원하고 있습니다
이거 참고하셧던 유튜버분(SOD님이 댓글 단 분) 까지 봤었는데 여기서 말하는 pruning은 언제 적용되는건가요?
이미 embedded 혹은 edge device에서 동작하는 ai 를 구현하기위한 대표적인 기법이 quantization(양자화) + pruning이거든요 여기서 나온 pruning은이랑 차이를 모르겠어서...
집근방식이 좋네요. 상대방의 단점을 주무기로 삼는다라. 그리고 인공지능은 수단이되어야지 결과를 가져다주는게 아니다라는 것을 인지했으면 하네요
머리 맞은 기분입니다 ㅋㅋ 하도 인공지능 인공지능해서 착각에 빠졌네
응원합니다 우리나라기업
반가운소식이네요
소프트웨어가 경쟁력임. 엔비디아가 성공한건 바로 소프트웨어 덕분... 삼성전자는 소프트웨어에 가장 많이 투자해야함
??? : samsung girl
도대체 어떤 소프트웨어????
하드웨어 발전은 느려서 다 또이또이한거 같은데 소프트웨어 많이 차이나는듯
엔비디아가?? 뭔 소프트웨어요 -_- 리눅스 지원 잘 하는거? 다 윈도운데 뭔
쿠다.. 현실적으로 마하1은 공짜로 줘도 총비용 개념으로 접근하면 엔비디아보다 비쌈. 마하1은 실패작임
봄이 왔네요라는 말이 이말인가
제가 알기로 pruning은 딥러닝 알고리즘 차원에서 이루어진다고 알고 있었는데, 하드웨어 레벨에서의 pruning은 어떻게 하는 것인가요? 이미 바이너리로 올라간 코드의 일부에서 param 경량화는 불가능할 것이고, 마하-1 독자적인 하드웨어 가속 용 소프트웨어를 같이 출시하는 것인가요?
삼성전자의 건승을 기원합니다. 더 이상 중국에 간섭받아서도, 국내 친중 세력에 흔들려서도 아니됩니다. 응원합니다. 이재용 회장 화이팅. 국민연금에 빨대 꽃혀서 경영권 흔들리지만 않으면 승산 있습니다.
이번엔 제발 언플이 아니라 진짜 판을 뒤집을 카드가 되길..
솔직히 말하면 마하1로는 절대 판 못 뒤집어요 ㅜㅜ
@@benjaminbarrymore NPU 쪽에서 일하고 있는 사람이구요. 마하1 설계하던 사람들한테 들은 내용을 토대로 말씀드리는 겁니다.
분발해서 차후로는 좋은 결과 있으면 좋겠네요.
@@benjaminbarrymore 공학에 있어 언제나 평가는 냉정히 해야합니다.
정신승리 하겠다는데 왜 그럼
@@benjaminbarrymore 매정하게 얘리해야 발전하죠
삼성전자 꼭 대박 성공하길 바란다 가즈아~~~!!!
간만에 가슴 두근거리는 소식이네요
삼성이 곧 대한민국입니다 부디 크게성공하여 세계속에 우뚝서는 대한민국이 될수있기를 간절히 기원합니다
동감임.
그게 문제임
대한민국엔 삼성밖에 앖는....
@@user-tm2cu2ng4b완전 완전 완전 동감합니다 대한민국 삼성 밖에 없는, ~~
삼성이 솔직히 망해야 대한민국이 산다고봅니다
@@user-tm2cu2ng4b 하이닉스, LG, 한화, 기타 등등 죠온나 많은데
우리나라가 혁신적으로 발전되게 해주셔서 감사드립니다.
이 기술 미쳤다...!
진짜 중국에만 뺏기지 말자 제발..ㅠㅠ
dram시장에서 일본업체들이 서버컴 dram에 집중할때 삼성은 개인용dram을 공략했죠. 예전 fpga 좀 큰 로직을 486에 컴파일할때 하루종일이지만 그거보다 10배큰 로직도 현재 pc기반에서 몇십분이면됩니다. 삼성의 전략이 또 먹힐지? 기대됩니다.
좋은 내용의 영상이었습니다. 응원합니다. SOD.
좀 소름이 돋네요
삼성 만세~~^^
마하1은 기존의 리벨리온 같은 국내 스타트업이 노리는 시장과 겹치는 건 아닌가요?
SOD응원합니다.
젊은 패기 참 좋습니다.
순수한열정이 느껴지고 우리기업을 응원해주니 좋구요.
삼성과 네이버주식 쭉 보유하고 있어야 겠네요
응원 감사합니다.
회장님 봄이 온다 반도체 sfa 메모리기대하자패끼징
더욱 협력하고 강력하게 발전하기를
제발 기업이잘할수있도록 정치인들은 협력해라!!
탁상공론 마시고, 현재 삼성과 하이닉스는 HBM 쪽이 메인입니다. 삼성이 하이닉스 쫓는 입장이고 양쪽에 장비파는 업체라 ㅎ
네이버와 삼성이 만든건 다들 아는데 사람들 대부분 네이버의 기술이 뭔지 모르는 상황에서 경량화 기술에 네이버 것도 같이 알려주면 좋았으뻔 했네여. 삼성의 암호화 프루닝에만 집중하신듯
애플과 챗GPT 협업이 완전 미쳤던데
HBM + 마하 융합 제품 모델이 모바일 제품 기반에 타겟 모델로 아주 좋은 것 같습니다.
엔비디아 AI(학습) 경쟁을 피하고 새로운 시장인 AI(추론) 방향을 잡은 것이 멋진 것 같습니다.
엔비디아 대항하겠다고 엔비디아보다 뛰어나다고 주장하는 하는 칩들이 줄줄이 나오고 있습니다 마하는 그 중 하나일뿐이죠 어떻게 될지는 아직 몰라요
삼성 화이팅!
삼성 파이팅입니다.
삼성은 반도체 분야 안에서도 다각화에 성공했고 또 도전하고 성공하고 있다는 점을 높이 평가하고 싶습니다. 메모리에 특화된 하이닉스보다 더 높게 평가하고 싶어요.
와 여기서도 댓글 또 보네요 ㅎㅎㅎ 어떻게 올라오는 영상 보는게 동일한지 취향 알고리즘 정확도가 놀랍네요
@@gunmukim9525 방가요~♡
@@gunmukim9525 안냐세여~~꾸벅
오 듣고보니 그러네요
그쵸. 여태 여러 도전을 하느라 TSMC를 따라잡지 못한거기도하고요. 그 과정에서 마하1이 나온건데 이게 만약 대박을 친다면 새로운 기술을 또 개발할수 있을거고요.
오늘 처음으로 지긋지긋하게 보이던 저 책이 사고싶어졌다
마하1의 성능이 얼마나 될지... 또 AI 추론 부분의 파이가 얼마나 클지... 궁금하네요. 네이버와 손잡은 인텔 얘기도 다뤄주셨으면 좋겠습니다.
요새 Ai하는 기업들의 전력에 대한 문제가 생긴다는데 그런 면에서 마하1은 최고의 선택지가 될 것 같네요.
그런데 추론으로는 어떤 것을 할 수 있나요?? 요새 GPT도 벌써부터 답답하게 느껴지는게 이거보다 성능이 좋지않은 Ai라면 굳이 사용할까 싶어서요
모바일이랑 나중에 팬리스 갤북에 들어가면 아이폰에 대항할만 해지겠네요
제발 ㄱㅈㅇ!!
삼성전자 지금이라도 사놓아야 하나요~~ㅎㅎ
달수야 화이팅
SOD가 세분이시면 1일 3영상이 가능하겠구나!
다시 뛰자 대.한.민.국. 화이팅!!!!!!!!!
잘 되기를 기원합니다. 시스템반도체는 아니지만 자동차 산업에 대량으로 사용되는 전력반도체의 기본이 되는 삼성의 반도체 공장을 IMF때 정부압박으로 페어차일드에 매각당했죠. 그뒤 페어차일드는 온세미에 매각했고 지금 전기자동차에 쓰이는 실리콘카바이트전력소자를 생산하고 있죠. 그외 다양한 콘트롤러 반도체 전력콘트롤 배터리콘트롤 등의 제어 IC도 생산중이죠
그동안 삼전에서, 최근까지도 수요일이나 개발해서 좋은 성과를 거두지 못하고 실패하고 있는 부분에 대해서는 부정적으로 볼 수밖에 없는데 이 부분은 어떻게 생각하시나요?
인공지능 칩 전력문제 진짜 심하긴 함
엔비디아가 독주하면서 시장이 좋지 않은 방향으로 흐르고 있는데
여기에 좋은 경쟁자가 등장하면 소비자들과 세계 경제에 좋은 영향을 줍니다
이런 차원에서 삼성 전자와 그 협업 그룹들이 잘되면 정말 좋겠습니다
다만 미래의 진짜 먹거리는 양자컴퓨터라고 봅니다
삼성도 지금부터 장기 전략으로 양자컴퓨팅 개발을 해야하고
Ai 추론 이나 연산도 양자컴퓨팅 방식인 4진 연산과 접목하면 지금보다 훨씬 빠르고 저전력으로 추론 할 수 있는 칩을 개발 할 수 있지 않을까 합니다
아니면 전기가 아닌 광을 이용하는 칩 기술쪽에 투자를 하는 방법도 있고...
봄이 왔네요
경영자를 이공계출신으로 바꿔야 한다고 생각함.
이공계출신이면서 MBA전공자..어떤가요
경영자 말고 대통령을..
SOD님 언제부터 얼굴을 공개하셨는지, 잘생기셨네요.
앞으로 더욱 더 빠른 전문 IT 정보 부탁드리겠습니다.
앞으로 큐브 칩으로 이전 할듯
확실히 쓸만한 기술이네요. 갤럭시폰에 이 기술이 탑재되면 인공지능이 좀더 쓸만해지겠네요.
클로바X, 클로바노트 등등등... 네이버.. 잘쓰고 있습니다 :)
엔비디아가 범용 개발 툴 이라면 삼성의 타겟은 특정 용도에 최적화된 툴을 개발하는 것이겠네요.
애플이 M1 칩을 내놓으면서 약간의 뉴럴네트워크 회로와 영상에 특화된 몇가지 하드웨어 로직회로를
넣어 자신들의 앱에 최적화시켜 일반 사용자들의 요구에 충분한 성능을 만족하는 컴퓨터를 내놓은 것 처럼..
잘 만들어서 성공했으면 좋겠습니다.
형 근데 마하1도 지피유인가요?
에이아이 가속칩인데
그럼 혹시 지피유와 메모리간 통신을 가속 시켜주나요
이런 근거있는 소식은 국뽕 차도 됩니다~ 우리나라 기업들 화이팅~
오우야 소름 돋았어
난 용이용이형 믿어용
두근두근
삼성의 잃어버린 10년 이야기를 들으며, 삼성에 많이 실망하여 보유하고 있는 주식을 처분하고 싶었는데, 이 영상을 보니 마하1이 성공한다면 삼성의 주가는 다시 한번 날아오를 것 같네요!
주식은 좀 더 갖고 가야겠다는 생각이 드네요.
또한 개인적인 바램은 삼성전자는 둘로 분할 하는 것이 기업 가치를 더 인정 받을 수 있는 좋은 방법이라고 생각합니다.(제 개인적 견해)
반도체를 중심으로 하는 기업 (가칭:삼성반도체)과 스마트폰, 가전 등 반도체 이외의 사업부를 하나로 한 기업 (가칭:삼성전자)으로 분할하여 삼성반도체(가칭)를 나스닥에 상장한다면 지금보다 훨씬 더 높은 기업가치를 인정받을 수 있을 것으로 봅니다.
힘내라 삼성!
삼성빠1인이 존나응원한다. 재용이형 가즈아아
ATi 마하 그래픽카드 생각나는군요.
손정희가 AI 할때에 한번 꼬꾸라지고 다시 올때가 진짜구나 했음.
책은 그냥 새워두기만 하는게..
너무 ~~가 추천한! 구입해주세요! 이러니까 별 생각 안들던것도 반감이 생김
@3:22 메모리와 GPU 처리량을 1/8로 줄였다는 말이 왜 의미 있는 것일까요? 전력 소모량을 잘못 표현하신것 같기도 한데요......
아무튼 HBM 같은 빅이슈에도 후발주자로 들어간 삼성전자 답지 못한 행보에 갑갑했었는데 간만에 빅이슈네요.
떡상가즈아!!!!!
처음에 국뽕 유튜브를 저격하면서 많은 구독자를 확보했던거 같은데, 지금 와서는 국뽕 유튜브와 닮아가는거 같아서 아쉬움
구체적인 설명이 1도 없는게 국뽕 유튜브와 비슷하다 생각함.
적어도 이번 영상에서는 삼성 논문에 대한 요약 + weight only quantization + 엔비디아의 fp4는 무조건 포함되어 있었어야 함
현 상황에 대한 정확한 이해 없이 신제품에 대한 기대감을 말하는 것이 큰 의미가 없다고 느꼈음
+ gpu관련 오해 몇 가지
Nvidia 반도체는 그래픽 용이므로 전력소모가 높고 효율이 좋지 않다.
- 이미 예전부터 그래픽 관련 요소들은 다 제거했음, 최신 반도체 알고리즘(트랜스포머) 최적화된 반도체가 nvidia 제품임
- 칩 한 개당 전력소모는 크지만 서버 전체 전력 소모는 더 적음. SRAM 기반 npu제조업체들의 예산과 달리 모델 크기는 급격히 증가하였음, 따라서 생성과정에서 메모리 바운드가 매우 증가함 => 현 시점 유일한 해결방안은 hbm 뿐임. Hbm이 없으니 메모리 용량이 적고 필요한 칩 개수가 증가하므로 총 전력소모는 증가함. Groq의 경우 200배 더 전력소모가 많음 (Llama 70b)
Gpu는 추론용으로 비효율적이다
- 일부는 맞고 일부는 틀림, 요약 과정에는 강력한 연산성능이 필요하므로 효율적이지만 생성과정은 메모리바운드 이므로 gpu가동율이 떨어짐 -> 근데 이건 모든 반도체에 적용되는 사실임, 결국 중요한건 메모리 바운드를 어떻게 해결하는가
- 이에 대한 해답이 모델을 줄이는 방법이고 nvidia는 fp4를 제시함
- 삼성 + 네이버는 마하1을 해답으로 생각한 것
점점 책 광고만 늘어나는 기분 광고도 좋지만 광고 이야기 말고 본래 했던 이야기를 좀더 해줬으면 좋겠네요...
❤❤❤
Ai칩 파운더리는 포기? 리밸리온 같은 회사는..?
오늘도 입 잘보고 갑니다. 전달하는 지식에 점점 알맹이가 없어요... 수사만 많아진 것이 아쉽습니다
머프야인텔주식은왜않오르니?
저건 어차피 우리같은 일반인이 다룰 품목이 아니니 걍 llw-dram올해말 양산소식이나 더 나왔으면
그니깐 엔비디아랑 삼성주식 미리 사놓으라는거죠?
엔비디아 너무 비싸유...ㅠ
자존심 같은거 버리고
죽을 각오로 해내야 된다!
애국자는 아니지만, 아이폰 쓰지말고 삼성 갤럭시 쓰는걸 추천한다.
삼성이 잘되면 코스피, 코스닥이 살아나고 삼성과 관련된 회사들 뿐만 아니라 경기가 살아난다.
외국보다 자국민들에게 더 비싸게 팔아서 역차별을 당하는지에 열받아 했었고
근데 역차별은 인터넷 손품만 팔아도 싸게 살수 있으니 쉽게 해결되는 문제고...
삼성이 망하면 나라가 망한다는 허무맹랑한 소리를 하는지 이해를 못했다.
근데 주식해보니 알겠더라~ 진짜 삼성 망하면 우리나라 망하는 구조더라.
개취는 분명히 있겠지만, 왠만하면 아이폰 보다 갤럭시 써라!!!
이것이 진정 한 국뽕이지.
삼체인들이 도와주고 있었구나...
한국기술력 더욱 발전하는건 100퍼 기쁨.
현직자로서 응원하고 회사의 방향에 동참하지만 동기부여인 보상이 없다보니 사내 분위기가 바닥입니다.. 보상 체계 조정하고 소통을 통해 임원의 방향에 직원들이 힘을 합칠 수 있는 회사가 되었으면 합니다.
십만전자~~~
네이버가 라인 서비스를 일본에 뺏기면 네이버의 AI부문은 앞으로 어떻게 될지도 궁금합니다.
cuda등 소프트웨어가 너무 약한데...
1:29 운녕
이제 우리나라도 외계인 고문설이 나돌 경지에 오른건가 ㅎㅎㅎ
반넥시에 이은 케반대 홍보(;;
자람테크놀로지~~