안녕하세요 이제야 댓글 납깁니다. 얼마전에 서버컴 관련해서 문의 남겼었는데 아무 거리낌없이 직접 전화까지 해주셔서 친절하게 알려주셔서 너무 감사했었습니다ㅜ 전혀 다른 업체에서 셋팅해온 컴이여서 실례를 무릅쓰고 문의했었는데 그 부분 다시 한번 죄송합니다. 직접 전화로 목소리 들으니 저한테는 나름 컴퓨터 계의 연예인이랑 전화하는 느낌이었습니다 ㅎㅎ 올해도 번창하시고 영상 항상 잘 보고 있습니다!! 양컴 최고!!!
저도 인정합니다. 어차피 시간 지나면 감가 될텐데 서버실 설비 부터 구비하던가 여의치 않으면 돈주고 대기업 컴퓨팅 자원 빌려쓰는 식으로 운영하는게 맞을텐데, 어떤 생각으로 워크스테이션에 h100을 박은건지 모르겠네요. NVlink는 영상에 안담긴건지 모르겠고, 위험성이 큰 수냉은 진짜 아닌것 같네요;;;
@@MrBusyguy 제가 보기엔 포르세 911터보 소프트탑으로 사서 아파트 실외 주차장에 탑 열고 주차해 놓고 지내는 것 같아요. :) 수냉이면 h100 고장났을 때 수리/교환이 훨씬 까다로워집니다 - a100 사용후기? 들어보면 고장이 꽤 흔하다고 하시더군요. 여튼 수억대 장비를 도입해야할 정도로 필요가 확실히다면 서버실 환경에 투자를 더 하시는게 맞다고 생각해요.
@@MrBusyguy 저도 ai 대학원생이라 학교 서버실에만 둬서 보안쪽은 크게 생각 못했는데, 정 그러면 서버렉 + 월세주며 서버실 공간대여해주는 곳도 보안 문제가 있는지 궁금하긴하네요... 진정 워크스테이션이 최선일지, 조금 아쉬운 상황 인것은 사실이긴 합니다. ㅠㅠ
The Micron 3600 20 TB with a sequential read speed of up to 70,100 MB/s and 60,000 MB/s write speed of the same type. Random access achieves speeds of 4 million input and output IOPS.
안전성이죠 우주항공에서도 그렇고 서버도 그렇고 모두 낮은 단계의 시스템이 들어갑니다 예를들어 게임할때 서버가 뻑가버리면 유저들이 전부 팅겨버리죠 그럼 큰일나죠 또 영상 중간에 보면 ecc 메모리라고 특수메모리가 들어갑니다 한마디로 24시간 돌아아가야 하는 서버컴퓨터는 항상 안전성이 최우선이라 그렇습니다
안녕하세요 이제야 댓글 납깁니다. 얼마전에 서버컴 관련해서 문의 남겼었는데 아무 거리낌없이 직접 전화까지 해주셔서 친절하게 알려주셔서 너무 감사했었습니다ㅜ 전혀 다른 업체에서 셋팅해온 컴이여서 실례를 무릅쓰고 문의했었는데 그 부분 다시 한번 죄송합니다. 직접 전화로 목소리 들으니 저한테는 나름 컴퓨터 계의 연예인이랑 전화하는 느낌이었습니다 ㅎㅎ 올해도 번창하시고 영상 항상 잘 보고 있습니다!! 양컴 최고!!!
와 양컴 인성보소 ㄷㄷ
저는 gpu를 잘 모르는 문과지만 그냥 존재자체가 압도적이고 엄청나보이네요 이런걸로 ai 학습 추론 시키는거군요
저도 미래에 살아남기 위해서 꼭 배우고 싶습니다. 좋은 동영상 감사합니다
저런걸로 싸펑 돌려줘야지 깔@롱한데
@@불편한사람-f3o오히려 cpu때문에 안돌아감
@불편한사람-f3o뭔소리야 지뢰찾기 해야지
아니 이걸 수랭을 하네 ㄷㄷ 담당자 간 겁나 큰듯 ㅋㅋㅋㅋ
말만 들었는데 h100같은거는 비디오 아웃단자 없다더니 진짜네요.. 정말 연산용으로만 ㄷㄷㄷ
어차피 모니터도 안꽂고 쓰니까요ㅋㅋ
@@thxios9636 저런 사양으로 모니터 꽂는사람이 있긴할까? ㅋㅋ
영상의 드라이버 토크는 미리바 입니다 0.6인치바랑 혼동해서 쓰면 뭐든 박살나니까 혹여나 구매해서 사용하시려면 잘 알아보고 사십쇼😂
이런 시스템은 공임 많이 받아야겠다...
추후에 A/S 같은것도 생각해야되니.. 후덜덜 하네
당연히 많이 받죠 실수 한번만 해도 수백 수천 깨지는 위험을 감수하고 하는건데요
@@알리오올리오-c9h 그래서 공임이 얼마나 되는건가요
@@yeommark1792200?
@@yeommark1792안녕하세요. AS 3년 공임포함 99,000원 감사합니드
우와 조립할때 손 떨리겠어요.
진짜 잘 보고 갑니다..
ㅎㄷㄷ 합니다
이런 스케일의 컴 조립을 깔끔하게 시청할 수 있는건 양실장님 영상 뿐인 것 같아요 항상 감사합니다
ㅇㅈ
호들갑좀 ㅋㅋ
ㅋㅋ홐ㅋ들ㅋㅋ갑ㅋㅋㅋ
@@niumma8322아조씨 지나가세요
와..... 이제는 1억에 이어 2억짜리를........ 대박입니더 ㄷㄷ
조립다하고 전원 스위치 넣었는데 반응 없으면 식겁하겠네요. 100만원 pc도 전원 안들어 오면 식은땀 나는데 ㄷㄷ
호퍼 GPU라면은 작심하고 기계학습에 특화된 컴퓨터를 만드는거군여
내가 조립하면 손 론나게 떨리겠네
ㄹㅇ 2억짜리면
ㅇㅈ
내꺼 아니니까 그런갑다 하는데 2억을 시스템에 태울정도면 룸 하나정도 만들만도 한데
수냉을 고집하면서 사무실 내부에 두고 쓴다는게...
수냉은 터진 수냉과 곧 터질 수냉만이 존재한다는 사실..
h100 설치한 서버를 사무실에서 쓰는건 좋은 결정같지는 않아요. (물론 이유가 있겠지만...) 항온항습 장치 완비된 서버실에서 정전압 장치와 UPS와 같이 쓰는 것이 훨씬 낫습니다. 워낙 가혹 조건에서 구동하기 때문에 수냉보단 제트기 소음 나는 공랭이 안전합니다.
저도 인정합니다. 어차피 시간 지나면 감가 될텐데 서버실 설비 부터 구비하던가 여의치 않으면 돈주고 대기업 컴퓨팅 자원 빌려쓰는 식으로 운영하는게 맞을텐데, 어떤 생각으로 워크스테이션에 h100을 박은건지 모르겠네요.
NVlink는 영상에 안담긴건지 모르겠고,
위험성이 큰 수냉은 진짜 아닌것 같네요;;;
h100 사용한 서버를 10억 20억어치 사서 사용하는 돈은 전혀 상관 없지만 제일 문제가 되는건 서버실 공간입니다. 딥러닝은 해야되는데 서버실 없는곳이 훨씬 많구요. 그럴때 저렇게 사용합니다.
@@nacelle_strike대기업 컴퓨팅자원은 보안이 중요한 프로젝트에서는 사용이 어렵구요. 서버실 만드는 비용이 훨씬 더 많이 듭니다.
@@MrBusyguy 제가 보기엔 포르세 911터보 소프트탑으로 사서 아파트 실외 주차장에 탑 열고 주차해 놓고 지내는 것 같아요. :) 수냉이면 h100 고장났을 때 수리/교환이 훨씬 까다로워집니다 - a100 사용후기? 들어보면 고장이 꽤 흔하다고 하시더군요. 여튼 수억대 장비를 도입해야할 정도로 필요가 확실히다면 서버실 환경에 투자를 더 하시는게 맞다고 생각해요.
@@MrBusyguy 저도 ai 대학원생이라 학교 서버실에만 둬서 보안쪽은 크게 생각 못했는데, 정 그러면 서버렉 + 월세주며 서버실 공간대여해주는 곳도 보안 문제가 있는지 궁금하긴하네요... 진정 워크스테이션이 최선일지, 조금 아쉬운 상황 인것은 사실이긴 합니다. ㅠㅠ
8:36에서 CPU 블럭 수로를 직렬로 연결했을때 온도는 크게 영향이 없나요? 데워진 냉각수가 이후 CPU 블럭으로 가면 냉각 효율이 떨어질 것 같은데 궁금합니다..!
저정도 규모의 서버라면 항온항습기 돌아가는 환경을 안쓰나요? 서버에 수냉을 쓰는게 신기하네요.
수냉식 연결했는데 물 새면
몇 억 날라가고 현타 오질 듯
와 저정도 서버를 구비할정도면 그냥 항온항습,UPS 서버실에 넣고 KVM에 원격 붙이면 되는걸 왜 다양한 리스크를 감수하고 수냉에, 사무실에서 구동시킬려고 하는건지 이해가 안가네요...
모르고 하는소리일수도 있으나 눈먼돈이라 그냥 지르는건가...?
그것이 갬성이니까요
The Micron 3600 20 TB with a sequential read speed of up to 70,100 MB/s and 60,000 MB/s write speed of the same type. Random access achieves speeds of 4 million input and output IOPS.
GPU에 서멀구리스랑 서멀패드를 둘다 쓰는 이유가 뭐에요?
역시 양컴!
견제할 곳이 없으니 손바닥 절반 크기 칩 하나에 5천만 원이 되는구나
저런 칩을 손바닥 절반만하게 만드니까 5천만원인거죠
와 영암 레이싱 경기 보는 줄 ㅋㅋㅋ
씨이이이이잉 소리 ㄹㅇ 실감나네요 ㅎ
크 H100서버군요 ㅎㅎ
GPU 인덕터들 덕지덕지;; 역시 연산용 카드는 뭔가 다르네요..
아니 팬 소음이 심하면 얼마나 심하려고.. 했는데 진짜 헬기소리가 나네 ㅋㅋㅋㅋㅋ
얘는 한 15년정도 기다려야 메인스트림급 GPU로 만나보겠네요
안녕하세요 양컴님 h100을 조립하시는 영상보고 연락 드렸습니다 h100 4장을 10만달러에 구입하고 싶으시다는 분이 계셔서 연락드립니다
11분이 1분처럼 지나가는 마법
GPU 모서리마다 하이닉스 HBM이 4개 딱.. 영롱하다.. 5090 부터는 HBM으로 나올라나?
절대 안씀 잘 나와도 GDDR7 아니면 GDDR6X 유지일거임
@@강동연-v4x 맞지 AI용이 물량 부족이라 쩝
@@rei51351 기가당 13불정도라서 글카가격 엄청 오를거임
HBM 생산분 대부분이 가속기에 쓰이는 것도 맞지만 그보다는 굳이 일반소비자용에 사용할 필요가 없죠. gpu와 메모리간의 버스 크기가 가속기만큼 클 필요가 없으니깐요
@@배지태-n3x 성능은 항상 부족하죠.
과거 GTX 980 ti 후기 버전과 Titan V가 HBM 들어갔어요.. 5090도 물량만 많으면 충분히 가능할텐데요..
이야..... 진짜 후덜덜 하네요....한번의 실수는 곧 절망으로......
2억짜리가 수랭이라니... 물 샐까봐 겁나요.
서버용 수냉은 엄청 비쌀테니.. 안터지겠죠?
이런 컴퓨터로 돌리는게 어떤 프로그램들이죠?
지뢰 찾기입니다. 저정도는 되야 돌아가죠 ㅎㅎ
@@quantum_id 피카츄배구는 안되죠?
웅장하네유
돈도 돈이지만 저 귀한걸 네개나 구할수 있는게 대단하네 저거 그냥 팔아도 두배는 받을듯
귀한건 아니데요 네이버 검색하시면 돈만 있으면 구매할 수 있습니다 최적가 48,500,000만원에 구매가능해요
@@사과박스수집가 배송 안와요. 웃돈 줘야 구합니다
@@사과박스수집가 공급이 딸려서 웬만한 대기업도 지금 발주넣으면 몇달 걸립니다
@@사과박스수집가웃돈주고 7천만원 줘도 못구했던 적이 있었음 지금은 물량 어떨지 모르지만
이런 컴퓨터는 어디다 사용합니까?
(집에서 게임용도는 아닐걷 같고, 알려주세요
AI LLM 모델 연산.......
딥러닝이요
저 부품들중 익숙한거라곤 ssd밖에 없단게 ㄹㅇ 웃음벨
h100 사서 로컬 대형언어모델 구동해보고 싶다...
저걸로 한컴타자 하면 렉 없이 잘 돌아갈 듯 부럽댜
ㄷㄷ하네요 이런 서버는 어디에 쓰이는지 궁굼합니다
베그 몇 프레임 나오나요?
유튭, 인강용으로 적격일듯❗
웅장하네요....
우리의 영원한 숙적 '지뢰찾기' 8K 돌리면 60프레임 방어가 될것같은 컴퓨터군요.
기쿨 너무 이쁘다
그야 말로 컴퓨터 계의 람보르 아니 롤스로이스...
@user-zc8en5yz1v성능이 좋ㅋㅋㅋ은게ㅋㅋㅋㅋ아님ㅋㅋㅋㅋㅋ
진짜 개소리에 부랄을 탁! 치고 아파서 부랄잡고 한 30분 울고 갑니다 ㅋㅋㅋㅋ
@user-zc8en5yz1v그리고 램 6개는 뭔 개초딩발상임? 3채널 마더보드가 있긴 하고?
우와 저게 그 테슬라와 MS에서 그렇게나 눈독들이고 털어간다는 H100...
CPU 수냉을 직렬로 연결하면 시피유 한개는 온탕되는거 아닌가요?
비열이 높아서 라인 전체적으로 물 온도 자체가 비슷하고, 천천히 올라가요.
뭐야 저게..무서워..
지금까지 서버랙 하나에 2억하는줄 알았더니 서버 딱하나에 2억이네.. 클라우드 왜쓰는지 알겟다
이거보고 엔비디아 풀매수했읍니다
저 그래픽카드가 rtx시리즈 생산량만큼만 생산되면 AI 특이점 오는 그 그래픽카드맞나?ㄷㄷ
라디팬은 일부러 바람이 들어오게 하는건가요?
메인보드 램채널이 4개랑 5개인게 일반컴 사용자 입장에선 졸라신기한데요?
전원 넣어서 부팅하는 화면도 보고 싶네요
이런영상을 볼수있다니...
안녕하세요 회사에서 사용할 서버 견적을 알아보는 중인데, 이 워크스테이션의 경우 혹시 NVLink이 제공되는 옵션인가요?
당연히 지원됩니다.
램이 몇개가 달리는거야 ㄷㄷ
이제 올해는 H200이 나오겠군요
와 저런 거 가지고 무슨 작업 하는지 궁금하다
llm
지뢰찾기
이런건 주로 어느곳에서 사용하나요? 궁금해요
대학 연구실이나 중소규묘 기업 같네요
저 정도 되야 AI에 대용량 샘플을 학습 시킬 때, 유용해요. 특히 기존 워크스테이션 대비 학습시간 단축.
@@KooResearch 대용량은 못돌려요 130b정도되는 중형급 모델정도는 간당간당하게 돌아갑니다.
그래서 지뢰찾기 풀옵 가능함?
우와 2억이믄 싸게 파시네요. GPU 가 많이 내렸나봅니다, 개당 4천정도면 선방이라든데.. 근데 NVlink 는 연결 안하시는건가요?
NVLINK 지원 안합니다 H100만 가능
@@강동연-v4x영상에 나온게 h100인데요
이거 영상 전에 본거 같은데.... 뭐죠??
2억이면 엄청 비싼거 같지만 저희 랩실에 있는 측정 장비 가격생각해보니까 싼편이라고 느껴지네요 ㅋㅋ.. 장비값이 대당 7억..
Nvlink 연결도 안되어있고 굳이 비싼 장비를 여러대 설치하는 메리트가 하나도 없는 구성이네요...;;
나중에 달지 않을까요
2억이면 dgx 사야되는거 아닌가;
Dgx h100은 최소 3억 넘어가는걸로 아는데
dgx 저때 주문했어도 올해 못 받음 ㅋㅋㅋ
한손에 차 한대씩 ㄷㄷ
궁금해서 찾아보니 그래픽 한개 가격이 5천 가까이 하네요 ㄷㄷ
리니지 프리서버 돌리라고 하나😊
그래서 성능은요;;
호수가 좀 그렇긴 하네요.. 😢
아니 뭡니까 광고 타이밍(광고에서 나오니까 제트기 소리가)
뽀각 하는 순간 최소 5000만원 날아가는거네요.
2억이면 차한대값인데 와우...
일반차 한대 값도 아니고 벤츠 S클래스 한대 급이죠 ㅋㅋㅋㅋㅋㅋ
저걸로 2억이상 만들가치가 있으니 사는거겟죠
조립하면서 손 달달달 떨릴듯
2억 ㄷㄷ
와...
시퓨하나400짜리시작이네ㄷㄷ
뭐 하나 잘못 건들면 연봉이 날아가는건가
가격이 얼마정도하나요 4k 게임용으로 맞출려고하는데
저걸로 겜 못 돌려요
??? : 오빠야 쫄았제
Yang : 마 확 끄지라
와 이억이래 무려 이이억이래
만약 물 밖으로 새면?
그니깐 이게 포르쉐 카이엔보다 비싼 컴퓨터라는거죠?ㄷㄷ
컴퓨터로 도대체 무엇을 하시길래 이렇게 수억짜리 고가의 컴퓨터가 필요하신지 정말 궁금합니다. 혹시 인공지능이나 아니면 엄청난 수의 데이터를 처리해야 한다거나 하는 목적으로 구매를 하시는 것인지 정말 궁금하네요.
지뢰찾기 몇 프레임 나오나요?
서버 컴 또떳다 ㅋㅋ
이런 건 어디다 쓴다요ㄷㄷ
이런 장비는 8K 지뢰찾기에 최고입니다. ㅋㅋㅋ
@@qndhctsienfklr게임 성능은 4090보다도 딸립니다 헛소리 ㄴ
@@강동연-v4x 푸하하핫~ 세월이 흐르긴 흘렀구나. 지뢰 찾기를 어떨 때 인용하는지 모르는 세대가 오다니…. ㅋㅋㅋ
GPU여도 나름 서버인데 예비용전원을 넣을 수 없다는건 아쉬운 부분이네요..ㅠ
이런거로 게임하거싶다
h100은 연산기라 rop개수가 20몇개밖에 안되서 차라리 180개인 4090이 훨씬 게임 잘돌아감
2억 컴퓨터라니... 너무 대단해요 뒤에 나오는 음악도 너무 좋아요 혹시 노래가 무엇일까요?
뭔 2억짜리를 사무실에서 쓰고 수냉을 다냐 괴랄하네
들어오지 않을 수 없는 썸네일 ㄷㄷ
램을 ddr4를 쓰는 이유가 있을까요
안전성이죠 우주항공에서도 그렇고 서버도 그렇고 모두 낮은 단계의 시스템이 들어갑니다
예를들어 게임할때 서버가 뻑가버리면 유저들이 전부 팅겨버리죠 그럼 큰일나죠
또 영상 중간에 보면 ecc 메모리라고 특수메모리가 들어갑니다
한마디로 24시간 돌아아가야 하는 서버컴퓨터는 항상 안전성이 최우선이라 그렇습니다
특히나 우주항공 같은경우는 지금영상보다 더더욱더 낮은 연산능력과 성능 수행능력을 가진 컴퓨터가 들어간다고 보시면 됩니다 우주방사능에서 간단하면 간단할수록 제어가 쉽고 고치기 쉽기 때문입니다
운용 기간이 비교적 짧고, 종종 이슈가 발생하고 있는 ddr5는
절대 서버용으로는 채택할 수 없곘죠
@@yiwookr 서버용으로 나오는 cl램자체가 ddr5 매물자체가 적고 대부분 인텔 13세대 모델들이 많아요. 물론 ai쪽 연산가속 알고리즘때문에 인텔 반강제화고 아직 그정도의 cl제품군이 안나와서 ddr4제품군씁니다. 안정화 이슈라기보단 cl제품이 안풀렸어요.
Ssd가 고작 2TB인데 램이 768GB 이네 ㄷㄷ
ㄹㅇ ㄷㄷㄷㄷ
어우 야 ㅡㅡㅋ 멋지네요 월요일에 연락드리겠습니다
H100이 울겠네요. 사양이 엉터리라 제 성능 50프로도 안나오겠네요. 엉엉.