这是史上最快GPU！我们测了四张H100！价值120万元！

我们居然测到了H100！市面上最强大的GPU！
可以说，老黄从你们手里坑来的钱，全都拿来造这玩意了呢……
它干活到底有多快？另外……有没有可能用它打游戏呢？一起看看吧！
感谢@极引擎 帮我们牵线搭桥。感谢@ア熵增焓减ウ 帮忙部署分子动力学测试。

[@simonyen]

太棒啦! 非常用心的頻道啊! 長知識啦😂👍

[@user-wl3zm3zh8j]

最喜歡極客灣測這種費錢 又不實用的項目了 這是讚美 別家看不到

[@Wind_of_Night]

華而不實，就是炫技啊！

[@kjyhh]

不是不实吧？顶多哗众取宠而已。还是很有技术含量的

[@lincbky]

作为视频最大的实用性就是好看😂

[@user-gn7fv8gj7z]

观众梦想的事情极客湾来实现给大家看～

[@guiq79043]

對一般人來說的確不實用，但對於那種暴發戶來說，卻有實際用途

[@ander1482]

Finally someone did test the H100 the correct way. Thank you!

[@nobody0day]

关于硬件解码器其实主要为了解决raw frame在Host memery和Device memory拷贝瓶颈，另外就是CPU解码太吃资源。

[@zxd62558]

4張的 H100 我在今年的 Computex 展 看到實物 真的尊爵不凡

[@algytseng]

Ansys之類的工程運算軟體從來就不支援遊戲卡,必須要繪圖卡才支援,然後最新版本的ansys也還沒開始支援H100,看模組不同,目前最多只支援到上一代的A100,以上資訊給大家參考

[@sina697alpha]

聯網運算 才是NVIDIA企業卡 真正該有的全速運轉... 應該說從顯卡推出開始 就是這樣設計核心的。 【額外提供CPU直連通道。】 【台積電CoWoS三維封裝需要特規插槽。】 放進專用伺服框架運行 方為AI加速真正的實力。

[@user-eq3vp1kx5q]

感謝播主的詳細測試🛠原來我是不需要這H100😅😅

[@nicknorthcutt7680]

I wish you guys would make version of this episode in English, the H100 is such an interesting GPU!

[@TheAacharge]

我猜，测试负荷太小（显存、带宽、计算量、精度等），体现不了H100优势。 比如：当负荷超过RTX4090显存时，RTX4090的表现会急剧下降，因为要跟主存频繁交换数据。

[@Fourier9042]

实验室前些年买过几张p100，做一些深度学习之类的倒是挺好用的

[@LeYuzer]

現在torch 2.0不用xformers了吧，不是直接用sdp嗎

[@jasonli2]

多路H100的优势主要是总显存大,可以跑4090跑不了的巨大参数模型和batchsize,并不是说速度会快很多.

[@smallalsostrong]

是这样的

[@user-mt5ze5iq5z]

看林亦测试的 m2 ultra，一台mac使用一百多G的显存，他是很专业的ai玩家，可以看看

[@jasonli2]

@@user-mt5ze5iq5z 那个看过了,相当于140G显存的3080

[@dadiaoge]

厉害了我的胖，可以狂训练各种模型了

[@Kikyo_Inc]

跑CFD 的話可以試試超大型專案，把RAM 都吃滿的那種說不定差距就出來了

[@JSiuDev]

這測試真的狠🤣😱👍

[@JP-ig4rw]

好羡慕😂 现在常用的开源小大模型Bloom 7B或者Llama 7B，推理都可以直接吃满32GB显存的V100，40GB的A100都起码得四张才能训练（完整版80GB的A100，价格也几乎翻倍了），大模型是真的很吃资源😂

[@shengxinjin4510]

一般都不会训那么大的，如果需要那你的机构自然会给你配备的

[@C10NE7oll]

H100竟然允許賣給中共國， 看來美國的晶片封鎖不怎麼嚴嘛。 這東西拆下來就可以做成導彈的紅外線景像、可見光景像分析晶片。 美國政府真不怎麼聰明。

[@zzzthqw332]

HPC领域AMD的专业卡倒是卖得还不错，很多超算都是集采的EPYC+Instinct方案。可惜ROCm在AI上还是差了Nvidia不少。 另外提一嘴，AMD最艰难的时候把Instinct割成游戏卡卖了，那张卡是Instinct MI50阉割Radeon VII。

[@C10NE7oll]

H100竟然允許賣給中共國， 看來美國的晶片封鎖不怎麼嚴嘛。 這東西拆下來就可以做成導彈的紅外線景像、可見光景像分析晶片。 美國政府真不怎麼聰明。

[@user-ur5ug1pf3r]

radeon7算力赶上3080，游戏性能却很差，狂潮的时候涨价厉害

[@draik]

那張卡很漂亮，礦潮前買了一張，結果礦潮時賣出價格更高

[@webberwang998]

牛PP啊极客湾~可以鸭~

[@user-gt4oz2mz3f]

伱3D 打打印的罩不應該用膠布封著 這樣會導致 風反彈 造成阻力 風扇會被反彈的阻力減速

[@bombomb_001]

制裁只能从总量控制，没办法面面俱堵 ，主要目的达到就行了

[@crearg8259]

羡慕，H100超预算了，我们最后买了四张A100

[@masteryouda]

可否分享你們用甚麼樣的硬件組合來搭配H100?

[@squallnine]

能不能測試H100跑 HQPLAYER 44.1音樂升頻DSD1024+SIN-L濾波 對音樂的音質提升能否順暢 目前4090 24GB 因為內存不夠 播10幾秒就會停頓

[@morton566]

估計是PCIE效能不足吧， 聽說，這種算卡，必須要用到AMD EPYC主版， （I9、R9都不夠看） 加上至少128G的主記憶體。 好像是最頂的EPYC正好可以推到4個H100。 不過，這種主版自然也是天價。😅😅😅

[@show-ming3722]

能不上雙路cpu加 8t ddr5 dram

[@jasonlee1219]

作为ITAD从业人员，表示装机方案的确是挺野鸡的🤣下次缺服务器可以找我啊，我也在上海

[@ericxueAAA]

如果是计算卡，挖矿性能应该很屌吧？？？最近diablo4把我的3080ti砖了，美国很多3080和3080ti都砖了，国内有这种情况吗？大部分人都是从贩子手里买的卡所以没保修挺惨的。

[@linkjoe3145]

特殊用途，打游戏不一定比4090好，SD玩图应该很爽❤

[@spy1384]

这种卡拿到手就应该让它显存吃满不停炼丹，这样才对得起它那价格

[@BustRush]

这算是定制设备了，估计只有在NV为某平台专业定制的服务器集群中才能充分发挥作用

[@linker0redpill840]

竖着立在桌子边缘就不怕碰下去把突起部分弄坏吗？

[@jzjzjjz896]

感谢分享

[@exitmylife1130]

H100通用驅動只有提供基礎資源調動，需要搭配訓練模型編寫驅動才能真正解放在LLM上的算力

[@akiyamao3416]

不愧是极客灣

[@hydewan7]

如果换成 MAC STUIDO呢？是不是需要很低的价格就可以

[@rongka2474]

Mac Pro M2 Ultra 192GB 可以跑比较大的本地AI模型，性价比算是挺好的。

[@wildgoose_1987]

感觉这已经不能叫显卡了… 只是连在pcie接口上且集成了一点图形性能的计算卡😅，盲猜随着AI发展，以后分化会越来越大甚至干脆不带图形性能了

[@user-yl2nl4ow2q]

計算卡

[@yadongx]

可以走核显回传图像…不过显卡和计算卡本来就没有明确的界限，显卡一样可以计算，一些计算卡也可执行显卡的功能。

[@enixdks]

已經沒有圖像輸出怎麼稱顯卡拉😂

[@user-sz2wg6yn6z]

中国又落后美国了😂

[@yadongx]

@@enixdks 可以通过核心显卡回传图像哦。

[@oliverw.]

还得是极客湾啊😂

[@user-rx4oe5jz2c]

跑计算的时候功耗能跑满嘛

[@kablelee]

120元RMB买了P104矿卡，玩玩AI绘图，还是可以，这价格说明计算卡二手反而不值钱，类似于老至强CPU，老Q系专业卡，二手市场价格基本都比游戏卡低得多。。

[@VIDEOdugo]

抱歉，如果这是一个糟糕的翻译（谷歌），但我希望您能在 x-formers 与 H100 兼容时制作另一个视频

[@guaz0618]

時間就是金錢，4天的運算量變成3天很值 更不用說並聯能正常發揮的話就更值了

[@Wind_of_Night]

堆料好用，除此之外我真的找不到使用這東西的理由。 畢竟會採用的只有少數中的少數～更多的時候像主持人說的拿顯卡頂著用一下【除非一直要跑專門的計算才會採購】。

[@user-py3um7zp8e]

以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷

[@albertalbert8775]

感謝您對的視頻，很快香港也了淪為美國重點關注對象

[@user-hx8bo2rd9y]

Stable Diffusion 應該多跑個訓練模型

[@lingstein3500]

这算是递刀子了吧 XD

[@winnie1616]

省流：测了跟没测一样

[@LEON-S-K]

HBM是哪家的？三星、SK還是鎂光的？

[@ZhiLi-yl7cj]

什么时候能评测上的dgx gh200

[@wkj]

可惜圖形性能閹太狠了，否則可以搞出一些大騷活

[@sanwu9087]

其实没多大必要, 一般买这种卡装好机之后连显示器都不装的. 直接作为服务器跑项目.

[@wkj]

@@sanwu9087 我知道，但是我們都喜歡看折騰嘛

[@Ryder737]

踩地雷總算可以特效全開了XD

[@akiyamao3416]

爆炸的瞬間 電腦也炸了，特效太好了🤔🤔

[@user-sj7iu2bk2q]

家裡直接跳電

[@user-uc7sl6yy3c]

物理特效。

[@williammau21]

踩到地雷直接觸發 12VHPWR 爆炸 配合 7950X3D 食用風味更佳 #雖然是遊戲但可不是鬧著玩的

[@Sleeace]

含金量太高了 必須收藏🎉

[@leon88510]

還好沒有圖形處理，如果遊戲開發商拿H100來運行，不知道玩家這邊會發生甚麼事，我可能直接戒了

[@MavericKaKu]

FBI好綫索 😎礦廠好裝備

[@Dreamerleaves]

一開只有360P還以為發生啥事，重新整理4K畫質就回來了顯卡也提升了好幾倍的效能

[@yangjames7156]

為啥nvidia-smi顯示的顯卡都是4090?不是測試H100嗎？？

[@Edward45210]

謝謝我們的oem伙伴

[@dx.w]

期待极客湾 “Apple M2 Ultra (24 核中央处理器、76 核图形处理器和 32 核神经网络引擎) 192GB 统一内存” 的评测

[@WSpiderSky]

這畫質感人😂

[@BREAKSLOW]

終於看到了h100!

[@user-mo2mi5ip4z]

30B 4090還是跑得動的 要用4bit GPTQ壓縮 把兩張4090串起來也跑得動65B 但在這之上就沒辦法光用消費級顯卡跑了 因為消費級的只能串2張卡

[@yidweahzaimen]

這樣跑出來的30b不會是弱智嗎😊

[@user-mo2mi5ip4z]

@@yidweahzaimen 不會 性能會減損但不嚴重

[@yidweahzaimen]

@@user-mo2mi5ip4z 輸出速度會不會很慢

[@sanwu9087]

@@yidweahzaimen 其实你可以这么想 , 跑出来的模型, H100可以支持十几个同时用, 4090只支持几个人用, 那性价比就出来了

[@user-mo2mi5ip4z]

@@yidweahzaimen 4090跑30B 大概是每秒30t

[@apple910366]

沒搭橋還是4090划算，超有趣的，不過你們這是頂風作案啊。

[@Cy2HGcW7]

为啥开头左手没有手滑呢？显卡放左边为啥会那么稳呢？

[@stonelee527]

这样看，mac的大内存在本地跑一些大模型，还是很有优势的，性价比超高,老黄要提高N卡的显存了

[@user-py3um7zp8e]

以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷

[@japhtory]

如果H100出生的日期能早些，或許還能測個挖礦，也挺趣味的...

[@williammau21]

現在仍有 ETHW 讓你試 (能不能賺錢是另一回事)

[@Guixu_cosmos]

要看H100有沒有設計那種挖礦使用的演算法，如果沒有 還要透過轉譯 那效率鐵定不好看。 不是說為了不被拿去挖礦 所以現在顯卡的有故意弱化挖礦類的演算法性能。

[@leowang11]

我前公司就給我團隊就配了 8 H100 張，但就只有我 1 人在用，用起來真的香 可惜他們捨得花錢在高級設備上，但不捨得花錢在員工薪水上，也沒有甚麼商業策略與前景，所以後來就跳了

[@andrewyuan]

員工會跳槽,設備不會跳槽....

[@xhm8180]

​@@andrewyuan设备跟着员工跳槽，那就爽了😂😂😂

[@cpwu-vf4cd]

请问您是那个公司的啊？

[@justinz3612]

老哥用这卡干嘛的啊 什么类型公司啊

[@user-vc5px4rk1n]

@@xhm8180 人 都變成眼裡只有利益！沒有情感的喪屍了！種種失控 只會越來越多！ 同學 同事 同共事 不是朋友！要變成朋友非常困難 同學 同事 情侶 夫妻 因互相的好處利益才在一起的 互相虛偽 要不是為了錢 大家都在瘋狂滑著自己的手機 鳥都不鳥 為了錢 才在一起的 關係 怎麼來的 就 怎麼去 若上班下班假日生活圈都是同事 就表示自身沒有素質條件交真心真誠相待的朋友。任何事若都以好處利益金錢為優先目的 人早晚走火入魔 變成 冷漠無情 行屍走肉 街上滿街都是這種人 喪屍圍城 上演屍速城市 生活圈都是同事的 自己本身 就是利益喪屍！ 當一個人 對別人有利益 別人是善良的！ 當一個人 對別人沒有利益 別人是惡劣的！ 家裡沒錢 沒環境 還沒經過小孩的同意 就自私自利生小孩 貧窮世襲 喪屍生喪屍 每個人都是自己組的家庭最重要 不擇手段養活小孩 自己的小孩要先活 小孩長大又有了自己組的家庭 把原生家庭父母丟著 自生自滅 就成了現在的（滿街🧟🧟‍♂️喪屍！）

[@user-jr7bf4wq1q]

我記得4090剛發售的時候，好像說要用Quadro卡協力4090搞什麼項目？

[@user-ct2jt5hy9n]

5個8K螢幕？

[@junezzn]

看你開心成這樣，眉開眼笑，哈哈

[@yoshikoriri6121]

用超爛的畫質看超強的顯卡評測🤣🤣

[@user-hq5ic8ke4f]

拿它跟遊戲專用顯卡比 完全沒可比性 畢竟兩者專攻的領域項目不同 功能上 A有的 B就沒有 B有的 A就沒有 重點是晶片再強大 還是需要驅動和軟體的支援 這樣才能發揮它最大的效能 不然一切都是空談

[@user-mz4if3sr2x]

Kohya用户狂喜

[@ayulikethat7362]

好了 现在我去看极引擎了

[@oscar2210]

接觸這領域後才發現 顯存真的都不夠用 以前都覺得打遊戲3080的10G就夠了 結果拿來訓練模型動不動就爆顯存

[@Lucifer-fj7mg]

如果连极客湾都有渠道获得H100，大公司的渠道只多不少。那是不是可以理解为，现在国内大公司其实或多或少都有H100在手？

[@allenf6648]

有钱就可以，商人永远都是逐利的

[@smoosq9501]

数量没那么多，大公司都是成千上万的买，黑市和黄牛弄不了这么多的

[@sixconsolestencomputers8336]

@@smoosq9501 等过几年这些卡开始退役，咸鱼上就会开始有各种亡命H100了

[@awesomegmg956]

跟禁令都没关系，有没有禁令你都得跟老黄有关系

[@user-dv3gv1ex5j]

怎么可能拦得住，多花点钱而已！北朝鲜什么都封死，一样弄出原子弹！有利润就有人敢干。

[@IREXIC]

這東西很好查是誰賣的 被制裁了還這麼高調 看來有公司要倒楣了

[@familyden4640]

在華美資企業不行？Amazon, Google, etc

[@camfocus8888]

@@familyden4640不行！不能沒申請出口美國境外

[@camfocus8888]

你講到重點了⋯⋯這家公司會跟華為一樣被制裁，失去所有歐美市場進出口跟合作，以後中國國內公司賣東西給他們都會想一想風險再談，走私出口的是聯邦重罪，幾萬塊的利潤換來天價賠償跟罰款風險，加上住進聯邦俱樂部公寓機率，極客灣下次進入美國看蘋果發佈會之類的也可能被扣留，至少要求供出卡是誰借的如果美國無法找出這家公司證據，然後極客灣就裏外不是人了，其實花一點機票錢到台灣、日本或美國拍攝就能跳過這個風險不然也不要說在大陸拍的，很多時候不知道法律連承擔風險巨大都不知道

[@kendraanderson9074]

说不定是美企

[@zyk1112]

提供方敢提供，还需要你担心？

[@wanjian9263]

你上实体清单了，哈哈。

[@user-vj2cf2xh2z]

有點想看比4090理論性能強幾倍的圖形卡 像這種非消費級的 不知道有沒有這種東西

[@wangcheng-oc8wi]

A100以前的专业级显卡都是可以打游戏的，性能很强

[@williammau21]

把 Ada Lovelace 架構等比例放大 成為跟 GA100 一樣的台積電 4N 814mm² 大約能提供 18432÷608×814= 24677 顆 CUDA 核心 比 4090 (16384) 強約 50% 然而 4090 已經很強了 目前沒有一顆 CPU 能在 1080p (甚至部分遊戲 2K) 下完整發揮它

[@kagetsuscarlet4495]

钞能力爆表…

[@even1007]

有种把大司马丢冷宫刷茅房的感觉😂😂😂

[@intergalactic_Planetary]

This is awesome!

[@zhengyizhengyicdut7900]

多个卡并行训练效率低的问题，可能是由于PCIe总线的拓扑结构不合理造成的。

[@tommymairo8964]

所以需要 NVLinks

[@felixzhi]

说是不准卖，其实私下卖，😂

[@yekeryeker4166]

为什么制裁下还能有国内公司要到这张卡，甚至还能空出来给极客湾“玩”？

[@donwong6225]

中國大陸向其他沒被制裁的國家購入，美國制裁並沒有真正意義上關上所有門，反而一直都打開後門讓中國大陸通過

[@bkggyy7788]

因為這個世界很多門可以開

[@LGyyq]

马斯克刚刚开源的要8张h100才能跑动吗？

[@dtsMQG]

看到极引擎的妹子。。。。感觉极客湾可以下班了~~😍

[@williamliu6121]

原來H100這麼貴，難怪NV和TSM最近股價漲翻天

[@nobodyno489]

特別渠道特別收費，美國人看完片又會找老黃詳談，反正這貨沒幾多人用，老黃肯定知道是誰買了

[@user-qg5tr1mn9x]

Tsm賺不到錢 毛利70%都在英偉達

[@chijenhuang1003]

英偉達是按市價賣，多出來的中間商賺走了

[@Koss0230]

這已經不是硬核節目了，對我這文組來說是玄學

[@Wind_of_Night]

文組你不是最會的嗎？只要記得規格照本宣科就好了啊！把這產品當作行銷的文案報告撰寫理解就好了啊！ 你不需要搞懂原理，即刻灣雖然懂些原理但還不是某些行業的專業，很多時候都是文案的宣傳，打一打照本宣科！

[@zadkrtgx7765]

@@Wind_of_Night如果照你這麼說那一堆公司都得倒了，行銷這麼簡單那根本不需要文組。來自理組的見解

[@Wind_of_Night]

@@zadkrtgx7765 行銷本身的文案是文組的專業，而理工組的專業在於製造產品，所以專業不同領域不同。【沒有誰高誰低的問題，企業營運本來就是要靠不同專業之間的互相搭配】 且行銷這領域通常不是理工組會跨足的，畢竟沒有多少人真正會懂核心的技術【宣傳說都是專業術語，誰會真正了解呢？】為了推廣產品，更多的使用的是話術。 理組的只能告訴行銷組該如何的推銷，產品可以宣傳的重點在哪邊。可以那些宣傳是可以被檢驗的！

[@jiml938]

字节买的吧？

[@user-th3vs2gp5e]

怎么用游戏卡加速FLUENT计算？

[@lamhkak47]

幸好雲飛不是Linus，否則的話這個可能是製作成本最大的片

[@ryanw4083]

Linus Drop Tips

[@cmosinverter]

Linus Drop Tits

[@jinshon2000]

這種卡本來就不是用來顯示的，也不是純GPU 比較像是CPU+GPU+高容量RAM的綜合體 介紹的內容好像不是很正確 所以NVIDIA才會宣布它是AI計算用 版大有些搞偏的感覺

[@user-py3um7zp8e]

以硬件来说H100的性能绝不只是几倍于4090，只是极客湾的能力到极限了，实在不知道怎么用这张卡，黔驴技穷

[@user-qv2fu1yk7f]

这东西组起来跑AI大模型应该不错。

[@xiaolong174]

M2 Ultra 可以抵 两张 H100？

[@I_want_a_name]

制裁的力度有待加強

[@pandong2008]

H100不是不准出口到中国吗？您小哥是怎么搞到的？😂

[@eraser2857]

禁令有1年寬限期，到2023年9月1日，可以透過香港NVIDIA進口

[@MeariBamu]

都說是不記名，如果過了寛限期，不知道美國會否管很更嚴，平台被炎上封

[@sugarice]

人家有跟官方的渠道

[@user-hv4uq4wy8g]

支持禁止，防止希特勒扰乱世界

[@itsmylife5955]

加錢走私人渠道,畢竟這種禁止也就禁禁明面上

[@user-dy9gc5pk3l]

厉害了

[@minli1103]

訓練一下大模型 試試 給大家看看

[@steven211t]

挖靠居然測這個 未看先給讚

[@TimeToGG]

不是制裁了嗎? 居然還買到了.

[@bobchen3571]

有延長寬限期

[@user-xs6tw5id9v]

太神啦

[@user-kk8zt8ho4b]

H100 是针对 FP64 的好不好？ 让你当显卡来测试？ 你应该试试L40s哥们

[@broegg9487chiu]

謝謝極客灣 帶我看看今年最賺錢的科技推動者

[@lollife121]

spacex：？

[@x863865x]

H100 GPU 主要用於為AI、HPC 和資料分析執行資料中心和邊緣運算工作負載，但是不包括圖形處理。 玩遊戲沒很大效能阿 可惜了

[@sanwu9087]

其实是数据编程方面特别强 . 尤其是集群下经常用到数据交换的大型项目 ,

[@jackzeng3788]

防止手下偷偷用gpu玩游戏。故意的。

[@yi_ban]

@@jackzeng3788😕