Kkuvlog #38: Buying a GH200 server for research

Рет қаралды 3,943

꾸패밀리 KkuFamily in Michigan

Күн бұрын

Пікірлер: 33

@장승진-x1q 19 күн бұрын

아이구~~ 고생이 많았네요. 이 모든 노력이 함께하여 좋은 결과로 보상되리라 믿어요. 화이팅!!!!!

@성운조-j7t 19 күн бұрын

세상 쉬운일은 없군요~! 그래도 대단하고 서버 마련 축하합니다~^^ 과정에서 힘듦이 보여졌는데 그 경험들이 고스란히 삶에 실력으로 축적되겠지요~ 열심히 응원합니다 화이팅! ^^

@을현권 19 күн бұрын

큰맘 먹고 삿을텐데 몸고생을 많이 햇군요...이제부터 꾸 패밀리 연구에 큰 도움이 될걸로 예상하고 힘내세요^^^

@동선김-h8z 19 күн бұрын

뭔지는 잘 모르겠지만 두분의 연구에 꼭 필요했던 장비인거 같네요. 앞으로 더 발전되어가는 모습 기대할게요~

@ted6084 19 күн бұрын

잘보고있습니다:)

@kkufamilyinmichigan9669 2 күн бұрын

감사합니다! 🥰

@kimjang_ 18 күн бұрын

와 GH200 설치기를 한국인 유튜버로 볼줄은 몰랐네용... ㄷㄷ...

@BladerSoul9375 14 күн бұрын

하지만, 나중에는 'GB200(그레이스 블랙웰 200 슈퍼 반도체)'가 출시될 예정이구요

@kkufamilyinmichigan9669 2 күн бұрын

저희도 사기 전에 정보를 찾아보는데 정보가 정말 없더라구요! 지금은 잘 사용하고 있습니다 😄

@강동연-v4x Күн бұрын

@@BladerSoul9375그 이후에는 Vera Rubin 슈퍼칩 나옴

@kimjang_ 20 сағат бұрын

@@kkufamilyinmichigan9669 캬 낭만 멋집니다

@kogb3241 21 сағат бұрын

서버로 뭐하는지 궁금하네요... Genesis AI로 물리연산이라도 하나요?

@난곰이당-b5i 16 күн бұрын

와 그레이스 와 후퍼 조합은 첨 보네요 ㅎㅎ

@BladerSoul9375 14 күн бұрын

그레이스 CPU + 호퍼 GPU = '그레이스-호퍼 슈퍼칩(슈퍼반도체) GH200'

@kkufamilyinmichigan9669 2 күн бұрын

그레이스 cpu가 아무래도 최근에 나온 cpu라 찾아보기 어려운것 같아요!

@dell-e3g 17 күн бұрын

와 부럽네용

@Superman-eu5be 16 күн бұрын

채굴 지리겠네여 ㅋㅋㅋ

@kkufamilyinmichigan9669 2 күн бұрын

채굴은 하고 있지 않고 있습니다 🤣

@이진우-x4v 14 күн бұрын

장비보고 구독 해봅니다. 만세

@kkufamilyinmichigan9669 2 күн бұрын

감사합니다! 🥰

@mommy4babydog 17 күн бұрын

워- 전기세는 괜찮아요?

@kkufamilyinmichigan9669 2 күн бұрын

저희가 살고있는 학교 기숙사는 전기세가 별도로 청구되지 않아요! 설치 전 문의해서 문제없다는 답변도 받았습니다 😃

@changsean8025 12 күн бұрын

오호. 느리긴하지만, 개인구매도 가능하구나.ㅋ. AI연구 가나요? 벤처가나요?ㅋㅋ잘살고있는거같아 보기좋으네. 화이팅!!^^

@kkufamilyinmichigan9669 2 күн бұрын

네 저희는 AI연구하고 있어요!

@BladerSoul9375 14 күн бұрын

이번 영상에서 소개된 '엔비디아 GH200(그레이스-호퍼 200) 슈퍼 반도체'의 세부 스펙을 알아봅시다^^ ▶ 엔비디아, '그레이스-호퍼' 슈퍼 반도체 모듈(GTC 2022 상반기) - 그레이스 호퍼 슈퍼칩- - 엔비디아 가속 컴퓨팅 시스템 - 신규 NVLink Chip To Chip Coherent Interface - 대역폭 : 900GB/s ▶ 엔비디아, '그레이스-호퍼' 슈퍼 반도체(GTC 2023 상반기) - CPU 및 GPU : 그레이스 CPU ↔ 호퍼 GPU - 대역폭 : 900GB/s(응집적 반도체 인터페이스 기반) ※ 추천 시스템 및 대규모 언어모델의 'AI 데이터베이스' 세트 처리 특화 ▶ 엔비디아, '그레이스-호퍼' 슈퍼반도체(GH200) - '컴퓨텍스 2023' - 페타플롭스 : 4 페타플롭스(트랜스포머 엔진) - CPU 마이크로아키텍쳐 : ARM 홀딩스 기반 72 코어 - GPU 메모리 : 576GB - RAM : HBM3 96GB ※ '생성-AI' 시대의 엔진 ▶ 엔비디아, '그레이스-호퍼' 슈퍼 반도체 GH200(SIGGRAPH 2023) - 그레이스 호퍼 컴퓨팅 전용 서버 트레이 - 엔비디아 블루필드-3 & CX-7 네트워킹 반도체 - 최대 8개 서버 랙 - 최대 고속 메모리 : 4.6TB ▶ 엔비디아, '그레이스-호퍼' 슈퍼 반도체 GH200(SIGGRAPH 2023) - 그레이스 서버(데이터센터) CPU ↔ 호퍼 서버(데이터센터) GPU - 일관성 있는 고속 CPU-GPU 링크시스템 - PCI-익스프레스 5.0 : 5.0보다 7배 향상된 속도 ※ 가속 컴퓨팅 및 생성 AI 시대를 위한 프로세서 ▶ 엔비디아, '그레이스-호퍼' 슈퍼반도체(SIGGRAPH 2023) - CPU 마이크로아키텍쳐 : ARM 홀딩스 기반 72 코어 - CPU 메모리(LPDDR5X) : 500GB - CPU 대역폭 : 400GB/s - GPU 마이크로아키텍처 : '호퍼' 마이크로아키텍처[4 페타플롭스(트랜스포머 엔진)] - GPU 메모리(HBM3e) : 141GB - GPU 대역폭 : 5TB ▶ 엔비디아, DGX 그레이스 호퍼(GH200) '서버(데이터센터)' 플랫폼 - '컴퓨텍스 2023' (생성 AI 시대를 위한 인공지능 슈퍼컴퓨터와 CSP 인프라의 청사진) [사용 벤더사 : 구글 클라우드, 페이스북(메타), 마이크로소프트] - 256개 그레이스 호퍼 슈퍼칩 - 그레이스 호퍼 슈퍼칩 서버(8개) - NV링크 스위치(32개) - NV링크 스위치(36개) - NV링크 대역폭 : 230TB/S - 1 엑사플롭스 속도(트랜스포머 엔진) - 144TB GPU 메모리 ※ 실제 연결 구성 : 150마일 길이(광섬유 케이블), 2,112개(60mm 쿨링팬), 7만 CFM(풍량), 40K 파운드(무게), 1개 GPU ▶ 엔비디아, DGX GH200 빌딩 블록 구성 요소(SIGGRAPH 2023) - 256개의 GPU에서 가속화된 I/O - 3개 NV링크 스위치 - 고속의 All-To-All GPU 통신 - 엔비디아 NV링크 카트리지 포함 - 최대 16개 그레이스 호퍼 트레이 서버 랙 - 엔비디아 NV링크 스위치 시스템(256개의 GPU가 하나로 작동함!) - 엔비디아 퀀텀-2 인피니밴드 스위치(여러 DGX SuperPOD를 연결을 위한 빠르고 대기 시간이 짧은 네트워크 구성이 가능한 스위치)