地表最強晶片！輝達NVIDIA H200 圖形處理器GPU震撼登場！搭載水冷散熱人工智慧伺服器強在哪？

Рет қаралды 48,753

Күн бұрын

曲博專屬購課連結👉 pse.is/5bh4p7
隨時以市場最優惠價格入手！
結帳頁面將自動帶入曲博專屬折扣碼【CB300】,點選「套用折扣碼」即可現抵300元！
※曲博官方Line群正式開張，歡迎大家加入，一起從討論中成長！
加入連結 👉 ansforce.page.link/Drjline2
※曲博頻道會員已開啟，想要加入的伙伴可以直接點選這個連結，一起讓科技成長茁壯！👉 ansforce.page.link/JoinYT
※曲博科技教室所有的影片可以在這裡直接用關鍵字搜尋👉
ansforce.page.link/Drjlist
訂閱我的KZbin頻道：ansforce.page.link/DrjYT
按讚粉絲專頁，掌握最新趨勢：ansforce.page.link/DrjFB
🏮【科技最前線 EP53】地表最強晶片震撼上市：輝達(NVIDIA)發表H200圖形處理器(GPU)到底強在哪裡？🏮
00:00 開場大綱 | Introduction
01:29 圖形處理器(GPU)與高頻寬記憶體(HBM3e)全面升級
05:12 超級晶片(Superchip)水冷散熱方案首次登場
06:00 超級晶片(Superchip)模組GH200架構
08:02 輝達H200圖形處理器(GPU)伺服器
09:40 搭載超級晶片(Superchip)與水冷散熱方案的人工智慧伺服器
10:25 使用GH200超級晶片的木星(Jupiter)超級電腦
12:01 結論 | Conclusion
【資料來源】
國寶大師李文恩發表於電腦王
NVIDIA發表搭載HBM3e記憶體的H200 GPU，同時帶來4連裝水冷版Quad GH200
www.techbang.com/posts/111026
NVIDIA最強AI晶片GH200登場：全球首款HBM3e GPU、比H100更快更強
www.techbang.com/posts/108677
【知識力專家社群】
www.ansforce.com
歡迎加入知識力官方Line
bit.ly/ansforceline
#NVIDIA #H200 #GH200 #最強晶片 #GPU #圖形處理器 #水冷 #散熱 #木星 #超級電腦 #jupiter #hbm3e #hbm #高頻寬記憶體

Пікірлер: 55

@Andrew650913 3 ай бұрын

希望曲博可以也來講解一下 Blackwell 有什麼差？

@ira6984 7 ай бұрын

Euro Jupiter 跟 Google的量子電腦(無花果?)比起來如何呢?

@yyfong 7 ай бұрын

木星可以挖礦嗎？

@Greatman0214 7 ай бұрын

將來各國不是比軍力是比算力

@laolong1991 7 ай бұрын

之前就在比，比超级计算机，还有比别的，显得算力不是很明显

@nanometer7 7 ай бұрын

完全正确

@user-sr2yz9jc1g 7 ай бұрын

比核武器😂，直接肉体和灵魂同时消灭😂。

@mikslids7083 6 ай бұрын

台灣的天弓三增程型反彈道飛彈，使用由台積電製造自己設計的AI高階超級演算力的晶片，接戰中國東風17變軌彈道飛彈，AI晶片超高速演算力，緊抓著東風17導彈的變軌軌跡，快速解算判斷出東風17導彈的變軌動作，天弓三跟著變軌精準追擊打下東風17。這就說明了算力就是軍力！

@shawncheng404 6 ай бұрын

英伟达大招还在后面

@scottie2475 7 ай бұрын

6:47 PPT上的dual x86 CPU 應該不是雙核心，而是雙CPU的x86 server，估計是intel 高階的xeon 8480 ( 56 cores )。因為雙核心的x86 srver CPU早就停產了。

@Ansforce 7 ай бұрын

謝謝你的提醒。

@mikslids7083 6 ай бұрын

@yangni007 6 ай бұрын

The power consumption is simply crazy !

@andy1414liu 6 ай бұрын

這麼強的算力拿來算比特幣他不香嗎?

@rogerlee6411 7 ай бұрын

請問為何 Memory Bandwidth 會高於 CPU->GPU bandwidth ? 還高出如此多倍 ?

@Ansforce 7 ай бұрын

應該是GPU與HBM之間有大量的資料傳輸。

@user-bl8gd6yu6e 7 ай бұрын

GPU都是SIMD在計算。DataStream隨著運算器越多越需要更高頻寬。但運算器有自己的L0或L1可能高達一個cycle 128/256/384/512個byte fetch. VRAM如果太慢運算器stall在等運算讀取與回村。即使高達4.8TB仍不夠使用。

@yangni007 6 ай бұрын

because you have to update quickly the neural synpases and it's a local operation.

@yangni007 6 ай бұрын

@@user-bl8gd6yu6e Ideally we should integrate the RAM inside each processing unit, but the CMOS process for PU et RAM is so different that this integration is difficult. this should be one of the biggest bottlenecks.

@alibuta 7 ай бұрын

再次彰顯了HBM融合的重要… 可惜memory方面是台灣半導體產業的弱點

@shawncheng404 6 ай бұрын

台湾半导体只有代工没有品牌

@ragdoll7095 4 ай бұрын

現在大家在喊的AI, 根本不是AI. 充其量只是Machine Learning 而已。Garbage In Garbage Out；破解這個很簡單。就是餵養錯誤的資料。

@motizuki1275 4 ай бұрын

煞笔玩意，有个东西叫数据过滤😂😂😂

@shawncheng404 6 ай бұрын

英伟达还是有技术的

@user-ml9ez9ui9m 7 ай бұрын

去台化再添一筆台積先進封裝赴美國設廠箭在弦上各位記得這格短片嗎他講的好有自信一副這件是篤定會發生一樣然後等著看好戲賭台積沒有選擇只能摸摸鼻子去設廠下次曲博科技教室我們再來聽聽曲博如何自圓其說不過我覺得曲博講台積一定要到美國設封裝廠也是間接肯定台積先進封裝的實力 AMKOR 到美國鳳凰城西北部設封測廠這件事徹底粉碎曲博的預言這樣一來台積的先進封裝就能持續根留台灣用最有競爭力的成本跟一條龍服務取得更多訂單因為最先進的製程跟封裝的大規模產能都在台灣(這就是台積的籌碼) 曲博你對台積的評論只看到問題只看到結果但你沒有從台積電的角度去看事情你就認定台積是乖寶寶沒有辦法因應我相信台積對於你提的問題跟結果早就有解決方案你是半導體專家比我專業你會不知台積要如何因應嗎但你故意不說以一種等著看好戲的心態我在想你當初在拍短片時肯定想台積最後一定沒選擇乖乖去設廠然後成本高毛利降建議你啦假議題的東西少講啦向那個兩岸開戰的東西已經證明講那些是多餘的製造更多恐慌而已以後評論台積電不要只從客戶的角度試著從台積電自身的角度去思考台積如何因應所面對的問題跟挑戰這才是重點長他人之氣滅自己國家威風最後只會讓台積用財報打臉曲博台積沒有你想像的那麼笨你想到的他早想到了

@vulvmp 5 ай бұрын

請先去瞭解台積為何要做先進封裝的歷史，及台積為何晶片做的比三星好

@user-tg5km6xv7n 7 ай бұрын

反觀台灣，明明就是半導體大國，生產能力都在我們身上超級電腦卻還在堅持以cpu為主，浮點運算落後人家一大截

@yangni007 6 ай бұрын

Taiwan is only a OEM of devices.

@argoskenny 7 ай бұрын

4090從6萬漲到快10萬，原價還限搭機，鄉親啊這有天理嗎

@Ansforce 7 ай бұрын

哈！是無天理。

@SuperXas1 7 ай бұрын

比特弊沒了時他就破產

@motizuki1275 4 ай бұрын

比特币是基于区块链技术的去中心化货币，没了？咋没啊？😂网上真好玩，什么煞笔都有😂

@kjcguita7221 7 ай бұрын

中國芯片真能自主設計嗎？ kzbin.info/www/bejne/mmXcZ3uwZap7nJIsi=FG1NKefReQsmFj2F

@yangni007 6 ай бұрын

GPU design is not complicated, actually it's much less complicated than general purpose CPU. The software development environment is the major advantage of Nvidia. If Chinese companies can use TSMC and all taiwan supply chain, they can do quite well. The other problem is software development tools, CUDA of Nvidia has been widely used and forms de facto standard.

@ycshih827 4 ай бұрын

@@yangni007 CUDA 是 Nvidia 優勢，但不是護城河，CUDA 是公開的標準中國很多GPGPU都做了去年一間新創 MosaicML 在無需改PyTorch code 直接在MI250上跑，硬體FLOP使用率達80% 就設計而言好的 HPC/AI 處理器比好的 CPU 困難太多一個是發展多年的non-recursive Von neumann架構另一個你認為的多核高度的平行運算正朝向 "空間運算"的新架構以有效解決LLM 的訓練/推理的需求。台灣有台積, 不少世界級fabless, 無數 IC 人才，都沒有環境做好HPC chip。買IP 推料用最先進的製程不足以造芯否則哲庫為何解散? 阿里華為有自有晶片為何沒競爭力? 我在中國做HPC 核心邏輯 (systolic array, CUDA支持) 和 B, T同行聊過，中國的fabless 對做世界一流PPA的 "算運電路" 差距可到40%以上就不談架構，你不在業內，有興趣查非常有名的海思AI 首席架構師清華夏core 他對專業和Nvidia, TSMC 的看法預測我個人認為中國的政治教育意識型態阻礙這些優秀工程師的前進。

@mikslids7083 7 ай бұрын

台灣公佈管制、禁止輸出中國22項國家核心關鍵技術項目，違反者沒收錢財判刑坐牢。與晶片科技有關： 1. 十四奈米以下製程之 IC 製造技術及其關鍵氣體、化學品及設備技術。 2. 異質整合封裝技術-晶圓級封裝技術、矽光子整合封裝技術及其特殊必要材料與設備技術。

@yangni007 6 ай бұрын

the semiconductor supply chain in Taiwan is also fragile ! it's even more fragile than that of mainland China. Almost all of the equipments and raw materials are imported ! By the US ban, mainland China may have a more locally mastered supply chain ... for mature process.

@user-mt8ke3kx3m 5 ай бұрын

禁令没多久，芯片代工战就开打了。😂据《电子时报》报道，为获得新产能的订单，中国大陆的中芯国际、华虹半导体和晶合集成去年在向台湾地区的芯片设计公司降低了流片服务的价格。业内消息人士称，许多台湾地区IC设计人员被低廉的价格所吸引，并开始在大陆的代工厂下订单。业内人士也反映，三星、格芯、联电和力晶已经看到客户取消订单并将其转移到中国大陆晶圆厂。由于中国大陆传统节点和成熟节点不受美国出口禁令的限制，因此降低晶圆代工费用对希望提高成本竞争力的台湾地区IC设计公司很有吸引力。这迫使联电、力晶半导体提前降低价格以竞争。联电12英寸晶圆代工服务价格平均下降10-15%，以40纳米制程节点为首。联电8英寸晶圆代工服务价格平均下调20%，价格调整于2023年第四季生效。