NVIDIA 블랙웰 GPU 서버 과열 이슈, 과연 심각한 일일까? | 모놀로식 구조의 열 밀도 | 기존 GPU 결함 원인 | CoWoS-L | 액체 냉각 구현과 서버 설계 과정

[@unrealtech]

instagram.com/unrealtech.error KZbin 채널 커뮤니티를 통해 빅테크, AI, 반도체를 비롯한 다양한 테크 소식과 함께 제 개인적인 생각을 간략히 전달드리고 있는데요. 이와 관련된 내용을 일목요연하게 정리해서 보는 동시에 향후 안될공학 굿쯔나 기타 다양한 소식을 함께 전달하는 채널로서 Instagram 채널을 활용하고자 합니다. 많은 관심과 사랑, 팔로우 부탁드립니다!

[@경상도는노예빨강이]

엔비디아는 꺾이지 않지 글카계의 AMD니까

[@군침이싸악도노-q2b]

아버님 집에 블랙웰 하나 놔드려야 겠어요.

[@Davidhwang701]

ㅋㅋㅋㅋㅋㅋ

[@kopen2]

😅

[@떼레떼레]

아범아! 스타가 안돌아간다!

[@Volfguy]

ㅋㅋㅋㅋ

[@김팩트-z2y]

ㅋㅋ 부자네요. 보일러 가격에 10000배는 비쌀것 같은데.. 그냥 아버님을 하와이 이주 시키는게 쌀듯.

[@100t_]

한국도 그렇고 미국도 그렇지만 꼭 실적발표 전에 언론에 악재 하나 터트리고 실적발표 때 다시 주식 반등 시키더라 낙폭 키워서 더 크게 먹으려고 그러는거겠지

[@igo_nan2]

황회장님이 알아서 하시겠지~~~

[@yanggungg]

황사장님이 알아서 못해 ㅋㅋㅋ 서버랙 제조업체의 문제라잖아~

[@rothsshvili5125]

황인훈 으르신은 보유지분 꾸준히 현금화 ㅅㄱ

[@bullsnam2239]

황사장님이 오늘 블랙웰은 온전히 생산중이라 했다. 걱정마라.

[@rothsshvili5125]

그러고 황인훈 아재 보유지분은 기회 있을 때 마다 꾸준히 현금화 개꿀띠 ㅋㅋㅋ

[@나를대하는것에관하여]

진짜 이번 이슈 중에 제일 전문적이고 신뢰가는 정보를 주셔서 감사합니다

[@NoSmokingKwon]

오늘도 감사합니다.👍 엔비디아 가즈아~~~!!

[@할거-없음]

형 오늘같이 입으니 멋지네 다음부터는 날도 추운데 다음부터는 옷 그렇게 입지마

[@rothsshvili5125]

Pourquoi pas?

[@티그로-p7w]

항상 감사드립니다

[@CFI-2018]

6:29 블랙웰 슈퍼칩은 그레이스CPU 1개 블랙웰GPU 2개(GPU한개당 블랙웰다이*2) 슈퍼칩은 한개당 구성에따라 2700w까지 소모가능하며 이 슈퍼칩이 2개가 랙케이스에 들어가면 슈퍼칩노드가 됩니다 이 슈퍼칩노드가 18개 있는게 nvl72입니다 2700*2*18=97,200w에 nvlink스위치나 dpu에 랙2랙 통신장비 더하면 120kw먹는게 말이 안되는건 아니네요 (참고로 이 계산에 따르면 nvl72 하나 만드는데 레티클 다채워서 만든 블랙웰다이가 144개가 들어갑니다 ㄷㄷㄷ) (tsmc 4np공정에서 웨이퍼한개에 레티클사이즈 다이가 몇개가 나오는지는 모르겠으나 이 모든걸 생각해보면 블랙웰 생산량이 부족한게 말이 되네요)

[@Life3.0Stories]

주주로서 해당 기사를 보고 “긴가민가” 막연한 두려움을 느끼고 있었는데, 명쾌한 설명 감사드립니다. 🎉 서버랙 설계쪽이라니, 결국 열역학, 유체역학 등의 기계쪽 엔지니어링이 출동할 차례였군요. 감사합니다! 😅

[@예지민우아빠]

카이스트 박사님 얘기로는 이슈가 아니라 당연한거라 하시네요. 물리적으로 12단 이상은 현재 기술로는 발열과 크기. 전기사용량때문에 결국 다른것으로 대체 될 수 밖에 없다고하네요. 하긴 요즘 4070그래픽 카드만 봐도 크기가 노트북 절반만하니. 지금 개발하고 시험성공한 반도체 얘기에 흥분 대한민국 화이팅

[@sfk1031]

안팔려서 헐값에 공급하고 인텔은 상황파악 못하다가 점유율 밀리는거지. 원래부터 서버용으로 개발된게 아니니 성능을 낮추지도 못하고 발열은 나몰랑 하는거지.

[@young-bosim8284]

equnix사가 최근 한국에 지은SL2x 데이터센터 스펙이 20MW/2,880Rack 인데, 블랙웰서버 랙당 120kW면 진짜 어마어마하게 전기먹는 하마네요

[@young-bosim8284]

아마도 DC스펙은 평균전력일 것 같고, 블랙웰의 경우 최대전력일 것 같지만 숫자만 비교하면 무려 17배나 차이나네요.

[@yanggungg]

그거 땜시 다음세대는 발열, 전력소모 둘중에 하나 못 줄이면 어떻게 될 지 모름

[@정규성-l3w]

고맙습니다

[@creaditmr9289]

과열로 인한 사고가 발생하면 안정성 이슈로 고려해볼 순 있겠죠.. 아직 사고가 안났을 뿐

[@KBLee-xs8jy]

그래서 버티브가 잘 버텨줘야 합니다…ㅋ 오늘도 신고가 경신!

[@자유시민-e7s]

아마존은 원전 재가동해서 데이터센터 전원 공급할거라는데. 그게 2030년 목표인것 같은데....아직 멀었다는 얘기?

[@kiwonjeon]

인정합니다

[@훈수-v1v]

어차피 빅테크들은 nvidia가 제공하는 랙 형태로 안쓰고 커스텀해서 쓰지 않나?

[@4527PENK]

칠러 달면 감당 가능할거같은데 액침냉각 시켜서 결로방지 시키고

[@Haru08816]

기술적 문제야 결국 해결은 되겠지만 주식이란게 미래의 수익에 대한 선반영인게 문제입니다 기존 계획대로 차세대로 업그에이드가 제 때 되어야 하는데 이게 조금 밀리는건 2년마다 계획된 신제품 출시 일정에서 한 세대를 건너 뛰어야하고 당장 내년 매출에는 영향이 없지만 결국 중단기간 분명 목표 수익에 악영향인게 문제지요 저들이 문제라고 하는건 ai 생태계 발전등의 추상적인 부분이 아닌 주가 예측에 대한 문제를 주로 보는거임

[@서윤석-u6p]

1등! 잘 보고 있습니다!

[@koomyuoung]

Q4 Guidance: Revenue: $37.5B (Est. $37.1B); +2% guidance range Gross Margin: 73.5% (Est. 73.5%) Operating Expenses: ~$4.8B GAAP; ~$3.4B Non-GAAP Other Income: ~$400M 이게...엔당....??

[@matt-qw6gy]

외부 케이스만 블랙으로 해야되는거 아닌가...pcb를 검정색으로 해놓으니까 발열이슈가 생기는거 아닌가요?

[@user1876-xv4em]

감사해요. 엔비디아 내일 내년 10년뒤가 기대됩니다!

[@Kwinter]

그쯤이면 액면 분할 한번 더할듯 ㅋㅋㅋ

[@jimraynor2288]

몇초에 한번씩 냉각 기체를 쏴주는 방식은 별로려나 ㅋㅋ 화장실 방향제 칙칙이 처럼...

[@삼전보다5년앞선HBM기]

요즘 발열이다 냉각이다 뉴스가 터지는거보면 한계가 온듯합니다. 삐그덕

[@leadersjs8904]

공정개선에 의한 성능향상보다는 오버클럭과 GDDR7 위주의 성능 향상이라 발열이 높을거 같긴합니다.

[@라니아케아-v5o]

성장율이 꺾이면 주가는 하락 합니다. 성장 하더라도. PER 60인 엔비디아는..

[@dsj.3032]

그래서 빅테크들이 주가가 떨어졌나요.요즘도 연간 20%내외는 꾸준하죠.

[@rothsshvili5125]

당장은 실적 발표 상회할 것임 발열 못잡아 지연될 것 같다는 뉴스가 이제서야 나와서 어짜피 해당 정보가 공개되기전에 납품되기로 한 계약들 착착 근데 모두가 예상하는 미래는 좀더 빨리 좀더 급격하게 올 뿐 그 와중에 황인훈 아재는 그간 꾸준히 기회있을 때 맏 보유 지분 악으로 깡으로 현금화

[@lastsailor]

서버에서 발생하는 과도한 에너지를 회수해서(폐열회수), 서버 냉각을 위한 냉매를 냉각시키는 에너지원으로 활용해서 다시 서버에 투입, 순환시키면? 걍 서버에서 발생하는 열이 아까워서 얘기해봤어요. ㅎㅎㅎㅎㅎ

[@yanggungg]

그건 그거고 칩이 발열이 심한데 그걸 제대로 제어해주지 못하면 칩의 성능이나 수명에 큰 영향을 주기 때문에 그렇습니다

[@noddu]

원래 한국에서 수냉이 liquid cooling을 의미합니다.

[@냥이사랑-f8r]

엔비디아는 지금부터라도 저전력 저발열이면서 성능이 좋은 칩을 만들어야죠 진짜 엔비디아가 전력을 퍼 먹는걸로 지구에 발전소가 늘어나고 그걸로 인해서 지구는 더빨리 죽어가고 있죠

[@TQQQ-3xl]

네? 전력소비 발전소 vs 화력 발전소 & 석유 사용 누가 더 우선인지 모름? 머리가 좀...

[@냥이사랑-f8r]

@@TQQQ-3xl 지금 AI로 인해서 급하게 늘어나는 발전소는 화석연료를 쓰는 발전소 입니다 왠만한 AI센터 근처에 화력발전소 짓는게 현재 상황입니다 좀 생각좀 합시다

[@l3y3nf]

역시 환경 얘기하시는거보니 반도체를 전혀 모르시네요

[@ioiss2nara]

엔비디아 매수시그널

[@variants2755]

[요약] 황: 차력쇼 들켰나? 아 이럼 나가린데

[@Flame_flavored_meat]

이상하게 내 엔비디아 주식이 내려가더니 이거때문이였구만

[@DkfkfktDkfkrk]

엔비디아 워낙 통수전과가 있어서 좀 불안하지만...

[@dugong659]

이런거 보면 누가누굴 걱정행?

[@lovehug78]

액침냉각 관련 주가 뭐가 있더라 ㅎㅎㅎ

[@Head729]

주가 측면으로 보면 발열 이슈는 문제가 될 수 있음 다음 분기 가이던스에 영향을 미칠 수도 있어서

[@INTPal]

이건.. 블랙웰의 문제가 아닌 듯. 액냉식 쿨러.. 서버랙.. 등등의 문제도 아니고.. 그 모든걸 무리하게 독차지하려는 엔비디아 자체의 문제인 듯. 지금은.. Time is the killer.. 오직 이게 핵심인 듯.

[@bolasla8306]

컴퓨터 수냉 해보신분들은 아시겠지만... 유량이 뒷받침 되지 않는 일반 액침냉각은 성능이 공냉이랑 얼마 차이나지 않죠

[@l3y3nf]

개인 컴퓨터 수냉 한 사람들중에 액침냉각을 해본 사람은 극소수일텐데 뭔 소리를 하시는건지 액침냉각의 단점은 시스템, 유지 비용이 비싼거 말고는 없음

[@벨챨리]

반복적으로문제가일어나는거보니 문제가쉽지않네

[@duk6046]

차력쇼의 최후는...

[@whattheget]

근본적인 문제 재료공학쪽은 이미 한계라고 생각하는건가? ㅋㅋ 구조설계탓만 하는 것 보니 ㅋㅋ

[@yarn75]

메인보드 전원부도 문제 일수도 생각 이상으로 열 문제가 있어면 수명 단축으로 교체 시기가 빨리온다면 비용 부담이

[@daltonrick406]

블랙웰에 대해서는 잘 모르지만 여태까지 많은 테크 기업들이 흥하고 망하는 케이스를 잘 보면 폐쇄적이고 밸류체인에서 대부분을 독식하랴고 독자규격으로 수직계열화를 시도하는 회사들은 대부분 망하는 트렌드를 볼 수 있습니다

[@fafan777]

삼전 hbm은 발열때문에 계륵이네

[@0001min]

AMD 흥해라 화이팅

[@마이클-n3c]

지금 주가보다 더 올라가려면 성장률이 꺾이면 안된다고 봐요 지금은 솔직히 너무 말도 안되긴 함 ㅋㅋ

[@무책임기사]

수영장 히터 = DATA센터...

[@릴리-v2d]

엔비 숏 올인이요

[@빛담]

이분 어떻게 됬을까 궁금하다 ㅋㅋㅋ

[@릴리-v2d]

@빛담 본절하고 롱 올인으로 포지션 바꿨습니다 ㅎㅎ

[@magekweon8335]

지들이 열내놓고 내보고 식히라고? 하드한 것들이 액체를 알아 ! ?

[@정규환-b8y]

돈되니까 하는거지

[@meinlet5103]

???: 그래서 우리 서버 안쓸거야?

[@_Meteor]

엔비디아? HP? 슈마컴? 얘들은 전부 돈방석이지 ㅋㅋㅋ Ai 서버 돌리는 사업자가 전부 덤탱이 쓰는거다.

[@둘리형아]

인텔 일해라! 글카 성능 높혀라! 그래야 지포스사지!!

[@kimchungsub]

블랙웰 발열은 성능상 공정상 애초에 해결 가능한 문제는 아니었다는게 맞을 거 같습니다;; hbm에 gpu 코어 성능을 생각하면;;; 이미 전작에서도 발열과 전력소모가 엄청나게 높았었는데.... 지금 해결 방법은 엔비디아쪽에서 전력대비 효율 클럭을 다시 잡는 것 외에는 .... 없을 거 같습니다... 발열 해결을 위해 렉을 교체한다면 공간 효율이 엉망이 될테니까요;;;

[@관악요정]

댓글 절반이 주식쟁이노 ㅋㅋ

[@atypical1869]

요즘 주식안하는 그지가있나ㅋㅋ

[@yangisgood]

엔비디아에 대한 공격은 나에 대한 공격으로 간주한다라고 주장하는 물린 개미들 ㅋㅋㅋ

[@ysc9250]

절반이면 적은데??

[@돈까스-j8h]

엔비디아는 항상 우상향인데 물린 개미가 있을수 있나?. 엔비디아 까는건...나의 열등감을 위로해주는..영웅으로 알고 빨아대는..천민들...

[@LeeHeeseoTV]

기체고체? 기체고체. 에어로젤로 해결하면 됨 에로로젤 방식이나 반대로 하면 반도체가 다음세대로 갈수있음

[@앤드류라이언]

에어로젤은 단열제인데여

[@LeeHeeseoTV]

@앤드류라이언 단열제로 보는게 아니고 그 안에 반도체를 넣고 강도나 틈새 16층 32층 ㄱ ㄹ ㅌ ㅋ ㅍ ㅂ ㅠ ㅎ 모양이 다양하게 나올것 같습니다. 기술자들이 제품을 만들어야 하지요. 한글은 말과 소리 모양이 모두 가능합니다.

[@카레김밥]

비전을 헛발질로 제시하노 ㅋㅋ

[@LeeHeeseoTV]

@@카레김밥 과학과 공학은 실험입니다. 정답이 정해져 있는게 아닙니다.

[@namefirst3573]

열이 많이나면 에어컨을 더 쎄게 틀면됩니다! 캐리어 글로벌 사십쇼 ㅋㅋㅋㅋ

[@KK-ub6ub]

안될공학님 댓글들 죄다 주식 애기나 하는데 기술오브기술 채널이 더렵혀질까 걱정이네요

[@돈까스-j8h]

매출성장률이 꺽이니 기업 실적에 관해서도 자기가 먼저 얘기 하잖아요.. 뭔 기술 오브 기술..어슬프게 오지랖도 펼치시는데..ㅋ 자기 입을 자기가 더럽히네요..ㅋㅋ

[@KK-ub6ub]

@@돈까스-j8h 혼자서 뭐라는거임? 글 썼다가 지움? 누구랑 애기함?

[@JHS-ny6sz]

문제가.안생길수.있나. 다시 해결책을 찾으면 되지 어쩌피 1.5t짜리다 엔비지아 말고 대안 없잔아 ㅎ

[@ajw-ge7eh]

원래 AI반도체의 대량의 데이터처리 에 맞게 만들어진것이 아닌 범용GPU의 한계? 범용GPU는 여기까지? 짐켈러의 NPU시대의 도래인가? CXL과 메모리풀링 서버의 필요?

[@삼전보다5년앞선HBM기]

여름되면 블랙웰 이슈 터질듯 ㅋㅋㅋ 성능저하

[@눈찢는재명이]

엔비 추매 찬스 !!!

[@codingfarmer]

그게 이미 다 선반영되어 있는거지..

[@돈까스-j8h]

역시 오늘도 "돈 안될 공학" 다운...설명은 해박하지만 결론은 이미 다 아는 결론으로 마무리~.. 냉각문제 해결 못하면 엔비디아 경쟁력이 잠식 될수 있다 -->그래서 꺽일 것이냐 ---> 더이상 세자리 수 이상 성장률은 불가하다??? 이 세가지 논제는 상호 아무 인과관계가 없는데도 .청산유수 같은 설명으로 .이어 붙이심. .그런데 2022년 긴축위기 기저효과 덕분에 순식간 에 300% 찍은걸 기준으로 잡으면 엔비디아 성장률은 꺽이는 추세라는 지적은 항상 들을수 밖에 없어요. 그럼 냉각기술 앞서가는 타 업체 한테 잠식 되서 그런 것이냐? 전혀 아니죠.. 전혀 상관 없는 영역의 문제를..~~~데..~~데..~~데..말투를 빠르게 이어붙여서 뭔가 논리가 있는듯. 분량 뽑아내는 . .."돈 안될 공학" ㅋㅋ

[@Dev-Cornelius]

우려가 쌓이고, 딜레이가 일상화되고, 변명이 많아지면 꼭대기인 것이다.

[@PlayGround-i1s]

그럼 숏을 치던가 ㅋㅋㅋ 영상에서 말하는 것처럼 칩 자체의 결함이 아니라 납품 서버의 문제인데 무슨 엔비가 문제인 것마냥 말하네 ㅋㅋㅋ 영상 보긴 했냐?

[@배준형-j2g]

그럼 숏쳐 ㅋ

[@fjord38]

숏을 쳐라 부숴주마😊

[@daveneo1246]

슈마컴 올인?

[@fjord38]

상폐

[@daveneo1246]

@fjord38 지금 50프로 떡상중

[@Head729]

@@fjord38 어제 이미 상폐 위기는 모면했을 걸?

[@MJStudio_KOR]

주식 떨어지는 소리가 들리네요.

[@조과스키]

이사람 잘 모르는거 같은데?

[@lol-di3tf]

엔비디아가 뭔가 착각하고 있는데 GPU는 원래부터 픽셀단위의 그래픽을 보여주는 용도로 쓰이지 AI는 그냥 용도 변경에 불과합니다. 연산용 그래픽카드도 마찬가지입니다. 당연하지만 용도에 알맞는 부품이 아니라서 굉장히 비효율적이라는 단점이 있습니다. 물론 깡성능이 제일 높긴 하지만 그만큼 전력 소모량과 발열량이 너무나 높습니다. 무엇보다도 엔비디아가 선점할 수 있었던것도 CUDA 기반 생태계와 범용성 떄문인지 그외에는 그냥 단점 투성이입니다. 단지 대안이 없어서 쓰는것이죠. 실제로 몇몇 대기업들은 엔비디아의 부족한 공급 능력과 높은 발열/전력 소모량으로 인해 이미 독자적인 NPU를 개발해서 사용하고 있습니다. 당연하지만 NPU는 처음부터 AI용이라 굉장히 효율적이고 전성비가 매우 좋습니다. 단지 전용 칩이라 범용성이 매우 떨어지고 호환성이 거의 없다는 치명적인 문제가 있지만 어차피 자사내에서만 쓰면 되니깐 오히려 해당 문제들은 딱히 의미가 없게 됩니다. 엔비디아의 문제인 전력소모량과 발열량을 해결할 수 있으니 앞으로도 NPU의 점유율이 더 올라갈겁니다 . 무엇보다도 대안은 얼마든지 존재합니다. 단지 소프트웨어와 생태계가 CUDA 기반일 뿐이고 AI라는게 아직까지 무조건 이렇게 해야한다! 라는건 전혀 없습니다. 당장 슈퍼컴퓨터만 해도 최근까지만 해도 ARM CPU만 쓴 일본회사의 슈퍼컴퓨터가 제일 빨랐죠. 특히 대기업들은 독자적인 생태계, 소프트웨어, 워크플로우를 가지고 있어서 굳이 엔비디아 제품만 고수할 이유도 없고 오히려 독자적으로 개발한 칩이 더 좋을 수 밖에 없습니다. 해당하는 회사는 애플, 마소, 구글, 아마존, 테슬라, 기타등등이 있습니다. 무엇보다도 그래픽카드는 애초에 AI용으로 나온게 아니라는 치명적인 단점이 있어서 NPU에 밀릴 여지가 높습니다. 어찌됬든 엔비디아가 그래픽카드 시장을 독점하면서 성능을 올리더라도 전성비를 전혀 해결하지 않는 모습들을 보면 자칫 인텔꼴이 나지 않을까 싶습니다. 물론 엔비디아는 인텔과는 달리, 소프트웨어와 생태계쪽이 워낙 압도적이고 산업표준이라 AMD는 근접조차 못하는게 현실이라 그래픽카드 경쟁에서 밀려도 문제는 없겠지만 대기업들이 이미 독자적인 NPU를 만들어서 쓰는걸 보면 앞으로 어떻게 될련지는 모릅니다. 특히 애플은 엔비디아를 100% 배척하는 회사라...

[@danielpark9989]

걱정마라. 양자컴퓨팅을 위한 CUDA-Q 를 한번 찾아본다면 생각이 바뀔거다.

[@l3y3nf]

엔비디아보다 실제로 전성비 높은 제품을 언급해보세요 회사 주장이 아니라 실제로 좋은 제품을요

[@sidlfksd]

아니 그래서 엔비디아 발열이 심각한지 아닌지는 왜 결론이없습니까? 쓸데없는 말만 장황하네 본인도 깊이있게 잘 모르니까 그냥 수박 겉핥기식으로 넘어가고 가끔 잘 모르는 주제 다룰때 장황하게 걷돌기난 하는거 짜증납니다

[@시작의존버]

nvidia 아니면 대체품도 없는데......징징대기는...... 그래픽카드만 봐도 암드 인텔은 진짜 쓰레기넘사벽수준......

[@sidlfksd]

본인도 잘 모르면 그냥 다루지마십쇼 관련된 온갖 잡다한 얘기만 늘어놓지마시구요

[@국뽕근첩찐따담당일진]

열 정도야 금방 해결할 문제겟ㄴ

[@김신영-e1l]

쉽지가 않음

[@user-swingswing]

엔비디아도 유리기판으로 과열 잡아야지

[@벨챨리]

매출지연이오면 실적이 쪽나겠지

[@kongkua12]

인훈이형!!!!!

[@아모르파티2]

엔비디아 GPU는 호퍼 100으로 사실상 끝났음 . 설변불가 . 새로운 설계를 창조해야되는데 불가능하고 엔비디아는 이제 끝났음

[@벨챨리]

맨날 실적발표할때면 언론장난질