【AI】目前AI公司还需要多少张H100 GPU显卡 | 为什么不选AMD和V100 | 半年内H100短缺 | 产能瓶颈在哪里 | 英伟达NVIDIA

  Рет қаралды 31,000

Best Partners TV

Best Partners TV

11 ай бұрын

最近,GPU Utils更新了关于英伟达H100显卡供需现状的分析文章,里面主要透露、总结了当前影响GPU的主流厂商拥有显卡的数量以及对显卡的需求量。
作者表示,考虑到训练和推理性能,以及推理方面性价比,H100是当下最受欢迎的GPU(具体为8-GPU HGX H100 SXM)。GPU Utils认为,保守估计,H100的供给缺口达到43万张。
#gpu #英伟达 #nvidia

Пікірлер: 42
@bestpartners
@bestpartners 11 ай бұрын
原文链接地址:gpus.llm-utils.org/nvidia-h100-gpus-supply-and-demand/#which-gpus-do-people-need
@simonpeter9617
@simonpeter9617 4 ай бұрын
现在看起来, 老哥的判断太准了!!!
@haifengli4972
@haifengli4972 11 ай бұрын
干货满满!
@dominos01
@dominos01 11 ай бұрын
製作用心,立馬訂閱 內容訊息量很大,需要多看幾遍才能消化。👍👍👍 記得開字幕😁😁😁
@val_3311
@val_3311 3 күн бұрын
請問為甚麼大多的客戶會選擇 8GPU HGX H100 而不是 DGX H100 或 4GPU HGX H100呢?
@dbb3756
@dbb3756 4 ай бұрын
能再分析一下,今年英伟达的新产品以及芯片供需情况吗?还有AMD的威胁情况也想听一下专家的介绍🙏🙏🙏🙏
@jingqiwu2865
@jingqiwu2865 11 ай бұрын
感谢这些信息! 现在各大软硬件厂商,都想互相制约。比如Nv也要搞模型,msft不想挂在Nv一棵树上,跟AMD眉来眼去,同时平台开放azure给开源模型不想被openai掐住**。一场春秋战国大戏,戏说一下。 另外还可以分析一下目前各家的护城河问题。是什么让他们站稳脚跟。
@bestpartners
@bestpartners 11 ай бұрын
是,能聊的很多,也欢迎提供素材,感谢支持
@fanyi490
@fanyi490 9 күн бұрын
我们现在H100采购价已经能谈到25万美金了😂
@zhaixiaoba
@zhaixiaoba 11 ай бұрын
感谢分享
@yuli.kamakura
@yuli.kamakura 11 ай бұрын
有文章链接吗?谢谢最佳拍档
@564355821
@564355821 Ай бұрын
博主 对集群组网或者性能调优有实践经验吗?可以合作
@user-ij1lk9kd6z
@user-ij1lk9kd6z 4 ай бұрын
博主能否根据目前的最新情报 (META 说今年要采购35万张 H100 以及在供应端TSM 的COWOS 产能未来50% CAGR 增长) 能否再更新一下 对AI 公司的 H100需求 以及NVDA 可能达到的供应极限? 非常感谢
@tianshou5071
@tianshou5071 11 ай бұрын
AMD应该赶紧开发自己的大语言模型,按系列开发,从幕后走到前台
@PakhongChan-fn5in
@PakhongChan-fn5in Ай бұрын
來到此時,GPu領先。并不具決定性
@國立武漢大学
@國立武漢大学 10 ай бұрын
老哥,请问你用的麦克风是什么牌子型号?声音质量不错!
@bestpartners
@bestpartners 10 ай бұрын
AKG 的
@snowsong100
@snowsong100 29 күн бұрын
HBM 好像是SK Hynix負責?
@qiyang7234
@qiyang7234 11 ай бұрын
instruction 里面的 是不是写错了,具体为 8-GPU HGX 是指8块核心 H100 的 型号么?
@user-sf3sh4ei1u
@user-sf3sh4ei1u 7 ай бұрын
是的
@QINGGENG-YUDU
@QINGGENG-YUDU 3 ай бұрын
遗憾没有早看到这个视频,早看到我要打赏博主 $100
@bestpartners
@bestpartners 3 ай бұрын
哈哈,没事,后续请多关注
@xiaolong174
@xiaolong174 11 ай бұрын
谷歌的TPU还是不顶事吗?
@bestpartners
@bestpartners 11 ай бұрын
回头专门出一期讲讲TPU
@PakhongChan-fn5in
@PakhongChan-fn5in Ай бұрын
光H100,不足以決定勝負
@zhiyongyao5697
@zhiyongyao5697 8 ай бұрын
我也不知道为啥,太奇怪了,为啥客户要这么多H100????? 我很懵逼
@snowsong100
@snowsong100 29 күн бұрын
聽說Nvidia 無法拿到更多的台積電產能。
@user-qe5rn8wi4k
@user-qe5rn8wi4k 10 ай бұрын
中国大陆能买到吗
@army8756
@army8756 3 ай бұрын
美國商務部已經限制了.
@user-cc7ej9ev8f
@user-cc7ej9ev8f 4 ай бұрын
有六个月以前听劝买了英伟达股票的吗?
@simonpeter9617
@simonpeter9617 4 ай бұрын
今天才看到, 干!!! 认知太低了
@user-sb9gy8li1m
@user-sb9gy8li1m 28 күн бұрын
@@simonpeter9617你留言的時候也還能買
@user-uy2zl1me1p
@user-uy2zl1me1p 9 ай бұрын
我有9張現貨
@bestpartners
@bestpartners 9 ай бұрын
你是在炫富么😎
@user-st5in8zr8u
@user-st5in8zr8u 4 ай бұрын
即便是国内走私货,也就35万一片,9张也就300万,不够塞牙的
@hannahwoo4494
@hannahwoo4494 3 ай бұрын
0
@DragonLong-vs3zf
@DragonLong-vs3zf Ай бұрын
英伟达的票 不少人赚了200倍了 哈哈
@snowsong100
@snowsong100 29 күн бұрын
嘩!50萬張?誰嘔得出來?
@yuli.kamakura
@yuli.kamakura 11 ай бұрын
拍档有下场做吗?信息掌控程度,搞科普不会太小了咩? 嘻嘻
@bestpartners
@bestpartners 11 ай бұрын
哈哈,还是搞自媒体比较自在,创业太累了
@yuli.kamakura
@yuli.kamakura 11 ай бұрын
@@bestpartners base us? sg?
@bestpartners
@bestpartners 11 ай бұрын
cn...
这是史上最快GPU!我们测了四张H100!价值120万元!
22:41
极客湾Geekerwan
Рет қаралды 653 М.
孩子多的烦恼?#火影忍者 #家庭 #佐助
00:31
火影忍者一家
Рет қаралды 48 МЛН
路飞被小孩吓到了#海贼王#路飞
00:41
路飞与唐舞桐
Рет қаралды 50 МЛН
一口气了解AMD | 别光盯着英伟达了~
27:17
小Lin说
Рет қаралды 1 МЛН
孩子多的烦恼?#火影忍者 #家庭 #佐助
00:31
火影忍者一家
Рет қаралды 48 МЛН