수율 낮고 비싸도... AI 시대 핵심 메모리가 된 HBM, 아무도 답해주지 않은 4가지

ChatGPT와 함께 불어온 AI 데이터센터 구축, 여기에 탑재된 A100, H100, Blackwell Platform까지 NVIDIA의 GPU가 세상을 바꾸고 있는 중에, 이 GPU에 핵심이 되는 HBM으로 국내 메모리 업계는 물론 반도체 장비사들까지 주목을 받습니다. HBM의 수율이 낮을 수 밖에 없는 이유는 무엇인지, 기존 DDR5, GDDR7과 같은 메모리로 대체는 불가능한 것인지, CoWoS는 무엇이고 HBM에서 검사 장비가 왜 중요한지를 정리했는데요. 도쿄정밀, 어드반테스트, 테라다인과 같은 글로벌 장비사는 물론, 최근 국내에서도 한미반도체, 테크윙, 디아이, 와이씨와 같은 기업들이 HBM의 검사 장비 중요성으로 함께 주목받고 있습니다.
#NVIDIA #HBM #GPU
Written by Error
Edited by 이진이
[e-mail]

[@unrealtech]

영상에서 수율 계산 시 제가 명확하게 하지 못한 부분이 있어서 정리드립니다! DRAM 수율 90%라고 표현한 부분은 정확히 말하자면 본딩 수율입니다. DRAM에서 양품으로 다이싱 (개별 칩으로 잘라냄)하고 난 뒤, 영상에서 열로 워피지(휘어짐)이나 크랙 으로 언급드린 것처럼 이들을 “붙이는 과정”에서도 불량이 발생하는데요. 이러한 본딩 수율만 계산하더라도 수율이 급격하게 떨어질 수 있다는 점을 강조해드리고 싶었는데 제가 명확히 하지 못했던 것 같습니다. 앞으로 더 나은 콘텐츠로 쏙쏙 잘 이해하실 수 있는 방법과 노력 모두 최선을 다할게요. 의견주신 모든 분들 너무 감사합니다. 저 역시도 크게 성장하고 있습니다! 행복한 주말 되세요 ❤

[@user-hu9fo8jj8b]

확실히 반도체 강국은 강국인가보다… 현업자 분들이 스윽스윽 많이 나오시네 ㄷㄷㄷ

[@chunhuelee5407]

ㅣ11111ㅣㅣ❤❤ㄱ

[@wmg19]

오 재밌어요~~ 장비에 관한거 자주 올려쥬세요

[@sangiru1215]

수율 계산이 잘못되었는데 수율^n 으로 생각하면 안돼요. 수율은 fab out wafer에서 정상칩 비율이고 전수 검사를 하기 때문에 wafer fab에서 수율이 hbm에 크리지컬 하지 않습니다. 정상칩을 모아 패키징 시에 실패하면 정상 칩 모두 폐기가 되니 문제인거고 이 패키징 난이도 때문에 수율이 낮아서 문제인거지요. 수율 계산을 굳이 한다면 (wafer fab 수율) x (패키징 수율) 이렇게 해야해요.

[@unrealtech]

안녕하세요! 고정댓글에서도 말씀드린것처럼 본딩 수율인데 제가 명확히 표현을 하지 못한점 양해부탁드립니다! 자세하게 해석하여댓글달아주셔서 고맙습니다!

[@skchoi6956]

좋은 정보와 분석 감사드립니다. HBM에 대해 쉽게 설명해주시니 이해가 쏙쏙되네요. 진심으로 감사드립니다.^^*

[@junghoonpark2390]

안녕하세요! 구독 박고 늘 정보 얻고가는 사람입니다 ㅎㅎ 언제나 깔끔한 설명 감사합니다!! 요즘 스멀스멀 중요해지는 CXL 기술에 대해서도 설명 한번해주세요!! ㅋㅋ

[@user-nc1es9rq4d]

감사합니다

[@manrico736]

주식시장에서 살아남는 법 규칙1 국장을 하지 않는다 규칙2 규칙1을 지킨다...

[@user-qb7ju5wt6x]

국장에서 잡주를 투자하니 거덜나는거지 수율잡기 이만큼 어려운 HBM을 선점해가고있는 세계유일 메모리기업이 국장에 있고 두배수익나고있는 사람들이 있습니다.

[@user-pp9jx6qy7f]

​@@user-qb7ju5wt6xㅋㅋㅋ 시총 상위 1~10위도 잡주죠? ㅋㅋ 한국에 잡주가 아닌주가 없음 ㅋㅋ 태풍 노루가오면 노루표페인트가 상한가가는 나라라 좆같은건 매한가지.입니다.

[@value-seekerhan7123]

감사합니다.

[@0da91]

감사합니당!!!

[@sih8347]

주식투자 안할거면 모르겠지만 투자 계속할거면 주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음) 주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요 아마 은둔고수로 추정괴는데요 광고 아니니 오해 없으시길..

[@molma7976]

램마애도 복잡한데.. 저런걸 서버에 이용하고 전체다 정상 구동되어야 하다니.. . 제대로 ai서버 시스템 구축 해줄 업체가 매우 소수겠내요. 엔비디아가 파는정도 비슷한 제품 나올려면 언제가 될지 상산이 안되내요. . 엔비디아 주식들고 있는것 10년은 팔지 않고 계속 늘려나가야 겠내요.

[@bangdoll4500]

HBM의 장점은 대역폭만 있는게 아니고, DDR/GDDR에 비해 레이턴시가 극단적으로 낮습니다. (효율을 위해 성능을 짜내야 하기 때문에, 갈수록 메모리 레이턴시가 중요해지고 있기 때문에, 프로세서 옆에 다닥다닥 붙이는 것) 대역폭이 높아도 레이턴시가 길면 도루묵 입니다. 만들기 어렵고, 비싸고, 확장성이 없다는것 이외엔 DIMM이나 DDR보다 모든게 장점. 최근엔 인터포저 없이 기판 패키징 하는 방법이 연구되고 있다고 하고, 최근 추세처럼 수요가 많으면, 좀더 싸고 성능좋게 하는 방법이 나올 겁니다. 확실한건... DIMM은 서서히 사장될 거고, 반도체의 추세는... CPU, GPU, NPU, TPU, 각종 전용연산칩, 멤컨, IO, 메모리까지 모든게 다닥다닥 붙은 원칩이 될 겁니다. 페브릭 연결이나, 타일구조도 다 같은맥락.

[@junghoonpark2390]

정보 감사합니다! 😊CXL는 어떻게 보시나요 말씀해주신대로라면 네트워크 통신 규약도 중요할듯해서 여쭤봅니다

[@bangdoll4500]

@@junghoonpark2390 CXL은 엔비디아 NV링크 같은 고속 데이터버스 규격 입니다.

[@bangdoll4500]

@@junghoonpark2390 CXL은 NV링크와 비슷한 표준규격 고속 데이터버스 입니다.

[@gak1026]

4:40 어떤 구조적 차이때문에 HBM의 clock speed가 훨씬 느린 걸까요? dram core를 쌓은 만큼 path가 길어져서 그런 건가요?

[@user-ez4wh6sh4b]

기본적으로 GDDR이 용량이 작다보니 dram안에서 추가되는 RC delay 등이 감소해서 더 빠르게 다음 clk을 발생시킬 수 있어 clk speed가 높은 것 같습니다. HBM에서 쌓여지는 dram은 기존 dram과 동일하기때문에 clk 스피드는 레거시 dram과 동일한 1Gbps에서 tsv delay 로 인해 그 이하로 형성되구요.

[@jrunsa1216]

이내용을 1년전에 정리 해주셨음

[@user-jv9wu8tc8z]

좀 짱이신듯

[@100t_]

13:23 HBM의 궁금한 4가지 + 1가지 삼성은 왜 아직 엔비디아에 HBM을 납품하지 못하고 있나에 해답이 영상에 있음

[@user-ms1bj5io6j]

혹시 나중에 3d dram으로 넘어가게되면 대역폭향상이 어느정도될까요?

[@user-th8vc4by7v]

3D Dram은 대역폭과 상관없이 같은 면적에 더 밀도있게 만들수 있는지에 초점 맞춘기술이지 않나요?

[@seeartziwon]

고삼성니뮤의 명복을 빕니다

[@apc21400]

디아이 가즈아!!!!

[@user-kk7dm5dg6s]

아파트도 30층까지가 경제적 수율 나오고 30층 넘기면 공사비가 30층까지 쌓았던 공사비의 두배이상 투입되서 안올리죠 일정 단계 이상 쌓는게 생각보다 어려울겁니다

[@user-lb6fu3qk6r]

고맙습니다

[@mcy2756]

어짜피 삼성 하닉 마이크론 다 HBM 하고 있는데 뭐 엔비디아입장에서는 어느 한 회사에 독점적인 물량을 안주지 가격조절때문에 ...

[@user-uu8kh8rv6t]

CXL이 차세대 라던데 ??? 설명 부탁드립니다 🙏 💕 😊

[@hulk656]

이런 영상들의 문제점은 개인이 얕은 지식으로 여러 영역을 커버하혀니 잘못된 정보와 실수가 계속 나올수밖에 없음 예전 내 전공분야도 나오는데 에러가 몇개 보이더만 겉으로만 보면 그런데 실제 내부 로직은 그렇지 않은 경우처럼 일반인이 알기 힘든 부분은 유튜버분도 잘 모름....이 채널은 기술적으로 신뢰하기보다 그냥 이런 흐름이 있나보다 하는 정도로 보기 좋음

[@trynbug2480]

그럼 니가 10분만에 자세히 설명하는 영상좀 올려봐라

[@honestlie8928]

합당한 비판+어느정도 이해된다는 스탠스에 달리는 개같은 비난 ㅋㅋ

[@user-fj3ve5cg4y]

와 오늘 역대급 어려웠당

[@unrealtech]

곧 좀 쉬운 버전의 새로운 카데고리의 콘텐츠로 찾아뵙겠습니다!!!

[@user-fj3ve5cg4y]

@@unrealtech 어려운 것 좋아요 배울 때 행복해요!!!! 항상 좋은 컨텐츠 감사합니당 스승님!!!!!!

[@Cookie_Apple]

이미 90퍼로 걸러진 칩을 가지고 쌓는건데 제곱을 하는건 아닌것 같아요 붙일때 버려질 확률이 단수가 높을때마다 높아지긴 하겠지만요

[@unrealtech]

두분 다 감사합니다! 제가 디램 수율 이야기하면서 본딩수율 개념가 혼용해서 표현해서, 헷갈리지 않게 해당 부분 수정해놓겠습니다! 디램 한개당 본딩 수율에 관한 이야기가 맞습니다!

[@user-pb6lr8gx8m]

TC 본딩의 수율을 매층 90%로 계산한 것으로 보입니다. 각각의 층에서 10%의 불량이 발생한다는 의미죠. 하이닉스은 95%가 넘고 삼성은 90%에 한참 미달하는 것으로 알려져 있죠. 답은 한미반도체 밖에 없는데 ...

[@user-uf4ob7kz2g]

아 본딩 수율이구나

[@max-ds2we]

본딩 층별로 수율이 90%에 한참 미달한다면 80%만 되어도 사실상 양산이 불가능한 것 아닌가!!! 삼성이 왜 이러나. 참 불안하네…

[@humbless1373]

HBM추

[@vema384]

안녕하세요. 에러님!! 좋은 영상 항상 잘 보고 있습니다. 감사합니다. ^^ ※ 참고로 한미반도체 TCB의 HBM 본딩수율은 기본적으로 95%이상이라고 합니다. 그리고 시장에서 잘못알려진 심각한 것은 테크윙은 엄밀히 검사장비가 아니라 검사를 진행시키는 보조장비(핸들러)이며, 현재는 미드엔드(TSV다이의 전기적검사부분)에만 적용됩니다. (HBM적층전후 즉, 백엔드에는 적용되지 않으며, 이부분은 한미반도체 HBM검사장비가 현재 독점입니다)

[@unrealtech]

테크윙의 경우 지금 신규 큐브 프로버 관련된 퀄을 진행중이라고 하네요 ㅎㅎ

[@dr.aizeta]

AI로 음악 만들고 있습니다. kzbin.info/www/bejne/rp6mfXiLi7Crga8si=u1iXKDnyh222q8KA. GPU와 HBM 발달로 제가 음악을 만들도 즐기고 있답니다. 과학의 발전이 정말 빠르네요. 이런 기업들 5달 전에만 알려주셨어도 부자되었겠는데요....지금은 주가가 많이 올랐네요.하이닉스나 사야겠습니다. 감사합니다.

[@aufrhd899]

삼성의 김기남이가 GDDR 밀다가 HBM이 폭망된거임...

[@ksl2k2]

DDR5의 IO 개수가 잘못되었습니다. DDR5 IO는 x4, x8, x16이죠.

[@unrealtech]

안녕하세요! 에러입니다. 의견 감사합니다! 제가 가져온 소스가 DQ pin (Data Width) 기준과 물리적 핀 개수 기준이 섞여 있네요. 물리적 핀 개수 차원에서 패키지 상 통로가 차이가 있다는 정도로 이해해 주시면 감사하겠습니다!

[@jaylee842]

최고다... 🎉

[@ksl2k2]

@@unrealtech 물리적 핀 개수와 차이가 있다는 말씀이 무엇인지? 차이가 날 수 없습니다. 다시 한번 확인해보세요. 이렇게 영향력이 높은 유투버채널에서 잘못된 정보를 전달하게 돼면 그 정보로 인해 많은 사람들이 피해를 봅니다.

[@AliCalibro]

​​@@ksl2k2 모르면 님이 찾아보세요 핀개수랑 data width 차이도 모르면서 잘못된 정보라고 박아버리시네 ㅋㅋㅋㅋㅋ

[@ksl2k2]

@@AliCalibro 누구세요? 누구신데 저보고 모른다고 단정을 지으시는 거죠? 현직 반도체 테스트를 담당하고 있습니다. 님은 얼마나 아시기에 모르는 사람에게 말을 함부러 하시나요?

[@user-zb6ie1qj9b]

아이오(IO)가 숫자 10으로 보임.

[@fradokumar5792]

영상에 에러가 많네요..

[@user-xk9wt4rk9b]

그래서 삼성 능력 으로는 개발 자체가 불가능 하군

[@user-jp1mg1qf7r]

삼성이 인터포져 하청받으면 되겠구만

[@whobecomes]

저걸 삼성이 어떻게 해요.. 지금 삼성 DDR5 램 수율도 개판나서, 컴덕들 하이닉스가 거의 50% 더 비싸도 램에서 삼성 믿고 거르고 하이닉스꺼 쓰는데.. 삼성은 일단 엘지랑 가전부터 이기고 오는 걸로 ㅇㅇ

[@user-vc6if4vs5s]

디램은 수율 최근에 잡아서 sk넘겼다고 말하더라고요.

[@user-yb8dj2wq4t]

삼성이 가전 최대시장 미국에서 엘지보다 앞서는데 뭘 넘으라는거? 가전 전장 매출이 이미 넘은지 오랜데

[@mauviel763]

ㅋㅋㅋㅋㅋㅋ

[@gregory000]

사실상 가전이 없는데 뭔 소리야 ㅋㅋ

[@Dajaba2000]

그렇게 귀신같이 영업이익 10조를 찍는 삼성 ㅋㅋㅋㅋㅋ