【人工智能】AMD和Nvidia相比究竟差在哪 | SemiAnalysis长文对比MI300X和H100/H200性能报告 | 名不副实 | 软件差距巨大 | 单点/多点 | RCCL | HIP

[@yngg2947]

终于找到一个能如此详细对比这两家产品的视频，必须打赏一下！❤

[@bestpartners]

感谢支持🙏

[@林柏辰-i9i]

不是 這篇就是翻譯一個禮拜前外國的乳摸而已 原文在美國

[@johndoeisme]

感谢付出，支持

[@bestpartners]

感谢支持🙏

[@BianJunShenYin]

技术型人才也开始说实话了，点赞点赞

[@martinxiao562]

Thanks!

[@bestpartners]

感谢支持🙏

[@martinxiao562]

谢谢! 您的视频已构成投资建议啦!

[@1201louis]

非常感谢🎉 新年快乐 新观众

[@argoskenny]

最後講了大實話 給個讚

[@leechen7235]

A good and candid interpretation of the original article. Nvidia is still the king of AI, at least for several more years.

[@eefunhuang6958]

感谢分享，如果amd软件部门能听进去，会帮助amd产品，而且事实证明amd确实可以提供距离nvidia最接近的AI产品

[@yinjun-of3xm]

AMD养不起那么多软件系统开发人员，AMD硬件开发人员多的多。更像纯硬件开发公司。英伟达更像一家软件系统公司。

[@XiaoxianLi-u6x]

根据bg2pod最新一期的采访，amd其实在这轮ai浪潮之前没有软件研发能力，他们的最新收购方向因此也集中在软件方向，而且微软meta这些企业为了培养芯片领域的竞争力也在全力的去帮助amd开发软件，只能说amd还需要一些时间来开发他们的软件配套来追赶英伟达

[@kaneandy1836]

@@yinjun-of3xm nvidia是兩者都能兼顧 amd在軟體方面一直都是弱項

[@kaneandy1836]

@@yinjun-of3xm主要是nvidia能兼顧兩者 而amd在軟體一直都是弱項

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@zypchenfeng]

最后几句话说得特别清醒！

[@paipaiwei9602]

这种打脸的测试本质上是在帮助amd 很赞

[@小兵-j1r]

幫助個屁。AMD BUG多。軟體爛會是第一天。內部沒人知道反應？ 就是爛到根了。只是人家是有力人士說話才有用。冰凍三尺非一日之寒的。

[@immortalvulnerable8046]

要不乾脆amd直接砸錢跟這測試機構長期合作，感覺他們花在debug和軟體上面的經費真的太少

[@paipaiwei9602]

@ 特别是集群化测试 只有很多gpu一起测试才会发现问题

[@user-ih8ku2rb8b]

什麼意思？不懂你的邏輯？ 不是因為軟體爛導致沒人買AMD嗎？

[@paipaiwei9602]

@ 说明amd投入测试资源不够 解决问题人了不够 现在有个团队花费半年多前时间帮助amd测试他们的东西 然后把问题解决方式告诉amd不是一件好事么？

[@AMATISIG]

我比較看好MI325X 算力與300一樣，但能效優化過。 AMD基本上就是買一個戰未來。 我本身是AMD用戶與價值投資者。 於是在現在被低估的時間點，跑去買了AMD股票。

[@Yao-m1s]

Smart 🦉

[@salilan.1026]

非常同意，AMD~YES

[@yinjun-of3xm]

通用计算何ai计算底层配套编程软件非常重要，AMD需要更大规模软件系统开发人员。而且必须做到硬件设计开发过程中就应该对自己rocm工具有底层优化。

[@AIR-records]

感謝大飞,NICE

[@yngg2947]

说实话作为业内人士，这报告里提到的问题AMD是真不应该，这说明客户真的太少了😂😂 两者比我预想的差距还大

[@帥武藤-y7p]

一個成功的企業會虛心接受客戶的反饋. 一個偉大的政府會聆聽改進民眾的批評.

[@ranli5919]

不用尽手段限制政府权力永远没有这种政府

[@cowboys168]

偉大的美國

[@AkiiOnTheRoad]

这些改进的建议 过于显而易见，好像如果一个创业的AI公司，如果图便宜买了AMD的GPU会有改不完的bug，一些基本的用法上的bug解决都需要几个月时间，AMD的技术支持好像非常不到位。 所以现在买AMD的多是推理，不是训练。

[@YangWan-y6f]

感谢大飞，很好的总结！请问这篇文章有完整版的吗？原始的链接有paywall而且要500刀subscribe了才能看原文

[@bestpartners]

我也是花钱买的，可以试试这个网站www.removepaywall.com ，但不一定总是成功

[@alexajackyxue7896]

蘇姿峰可以找美日台中韓 工程師主管聊一聊~

[@yuliangguo-p6k]

大赞， 原来只觉得第二名和第一名往往差距大，这个summary总结的非常具体。 想请问一下，之前关于博通的那期，amd的软件劣势是不是一样可以apply到博通呢？那就依然没法和nv一战啊 😮

[@bestpartners]

其实从真正的硬实力来说，其他家都没有足够的实力跟英伟达一战，但是市场还是需要老二老三的，也一定有人不喜欢英伟达的，这就是市场的多样性

[@junpengqiu4054]

我觉得目前ai芯片老二其实是谷歌TPU，AMD起步太晚了

[@tmc4832]

現在就AI 算力晶片(包括ASIC)的市佔而言, 博通會取代AMD老二的位置，撿些英偉達吃剩的肉渣還行，至於AMD，只能吸吸骨頭了

[@Atelier-Wang]

冲啊

[@engineallway]

CUDA是nVidia亮點，AI軟體業界nVidia比AMD更勝一籌，同樣使用GPU 來做AI推理，學習，加速等許多軟體大廠， 就是看上CUDA 工具與nVidia的GPU to run on AI 有極致運算效能😮😮😮，且易於上手 只要Python，或C等語言就能使用，相容性高，這點就打趴AMD 😂😂😂

[@yychen6612]

虽然我也想知道两者之间的差距。但一个市值三万多亿，另一个不够两千亿。如何比较？作为投资者，我更关心的是: 谁的市值更容易翻倍？

[@YuYiHuang-b4l]

老生常談了，AMD的軟體部門上的投入，實在是遠遠不夠

[@yinjun-of3xm]

英伟达更像软件系统开发公司，底层软件系统开发人员非常多，AMD那有钱养那么多软件系统开发人员? 2010-2020那么多年AMD一直被intel按着打，就这几年勉强才好一些。这十年英伟达基本顺风顺水。

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@Pepepapers]

感谢

[@Roy-xr3ex]

说明了AMD的MI300还没有大批客户开箱即用 发现问题

[@immortalvulnerable8046]

我記得之前不是有相關投入資源的新聞嗎，就nvidia，還有處於落後的intel，投入的研發經費和資源都比amd高很多，更不用說這只是今年的投入，包含以前nvidia投入在生態系研發的經費，絕對是他們能夠遙遙領先amd的原因。

[@deter3]

AMD 在软件适配上确实比较差。唯一好的是，可以获取8*192=1536Gb gpu ， 在目前只能最多租用8个GPU的情况下， AMD 对于超长文本的训练上，还是不错的。 超长文本太吃GPU了。

[@IriiKa]

AMD 的 GPU 只是纸面算力强，但它的管理功能很弱，包括软件和硬件部分，导致算力利用率很低。 单纯堆算力会很快遇到上限，还是要管理部分(软件和硬件)一起抓

[@雨行者]

軟體最佳化的問題，硬體實際超過，那有問題必然是軟體與韌體，最佳化需要長時間修改才能達成，CUDA就是最早推出，所以在業界通用，最佳化也已經達到最高水準了，早期英偉達還不開放軟體，後來開放了，又被外界修正了不少地方，所有AI公司要聯合推出一個排除英偉達的聯盟也是因為現在基本AI模型都是針對CUDA做最佳化開發，其他人只能買更貴的英偉達，而無法輕易改換其他家的GPU.....

[@wonmanintp]

至於國內的手刻納米芯片更是衝上月球。

[@yinjun-of3xm]

护城河是CUDA软件系统，这个gpu编程开发工具是闭源的，和苹果系统，微软系统是一样的，英伟达gpu贵是配套编程工具闭源完全不支持其他第三方gpu，买gpu送配套软件工具盈利模式，这一点和苹果很像，其实AMDgpu一点不差，其实大厂🈶底层开发能力厂商，CUDA不是必要的，自己有能力开发底层编程开发工具，如果性价比高a卡一样能大量采购。AMD其实也有自己工具rocm但软件生态和易用性依然差CUDA很远。

[@kaneandy1836]

問題是有能力開發跟成本是掛勾的

[@jitjit2824]

老黄对CUDA早就布局了，也就意味着使用过程中坑提早发现，提早填，产品成熟就快点。你看蛙伪搞的AI芯片，人家用的不是处处bug😄。特别是在别人已经占有市场的情况下，自己才开始，追赶就显得比较吃力。

[@hiucollo2402]

Thank you 大 飞 一口氣看到尾 看完再看 🏆 🏆 🏆 ☘ 🍉 🎆 😄 🌺 🀄 😃 💐 ☕ 🌸 😁 🏵 🎆🪅🎄 😀 🧧 🎉 😇 💮 🌺 😎 🎊 🏮 🍀 🎄 🎅

[@gmichia]

The software stack not optimised. When you coming from behind, you don’t get developers building natively. 😢

[@kewang7473]

软件方面做的最好的是Intel，几十年前就有从编译器到数学库的完整软件生态，ai方面也有openvino。nvidia 也不错，只是在应用上面铺的太大，没有集中优化核心的库像tensorrt。AMD是长期以来（几十年了）忽视软件，总是想依赖opencl这样的开源库，现在开始品尝恶果了

[@KaLeungYip]

AMD想依賴opencl這樣的開源庫，是因為AMD的資源有限，根本不足以支撐像「CUDA」這樣的專門為自家產品工作的技術。 蘇媽多年前有提過。

[@kewang7473]

@KaLeungYip 20年前某些人可以通过修改cpu code蹭Intel的mkl，那时候就觉得这不是长久之计，所以从那以后再没买个AMD的任何产品

[@henryyang7]

谈不上自食其果，作为世界唯一有可能英伟达叫板的GPU公司，市值也在历史高位，已经非常厉害了。

[@jerryyau4215]

Gcc 編譯器這幾年已比 Intel compiler 更成熟, 但需要很多時間。如果算法革新穩定下來，AMD又不倒閉，最後開源庫會趕上來

[@AkiiOnTheRoad]

@@jerryyau4215AMD的硬件要足够便宜可能才行，才有更大的用户群体，才有开源生态。

[@watercoolyi9834]

英伟达的护城河足够深

[@kaizhu8337]

Hardware wise, AMD is better than Nvidia, but Nvidia has clear lead on Software thanks to it's long established CUDA programming language.

[@5204]

在消費顯卡市場也是一樣的情況，amd的驅動穩定性就是不如nvidia

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@linportfolio]

那AMD可以买了吧！

[@yuli.kamakura]

搞一个文字版的 blog，你觉得怎么样？

[@bestpartners]

哈哈，原来想搞个 substack 来着的，不知道有没有人看

[@yuli.kamakura]

@@bestpartners 可以发一个调查问卷，你的订阅用户。 长期听一个频道的，有收藏和回看的需求，视频比较花时间的。

[@bestpartners]

@@yuli.kamakura 好的，感谢建议，应该调研一下，之前确实有做个文字版的想法

[@kanlu5199]

以前就有过Intel修改编译器，使程序在 I U 上跑分会快10%的事情。

[@雨行者]

現在有大批印度高管再INTEL，不退步就不錯了....

[@OneOfKevin]

第一次看到對AMD在AI應用上如此提到痛點的解說

[@etam89]

Cuda 护城河是英伟达散布的圈套.=苏妈竟然跳了进去.

[@user-ih8ku2rb8b]

Mi300x fp8 有硬體bug，而且他的編譯器也寫得不好！ 軟體疊代速度太慢！

[@1110-d3r]

🎉🎉🎉💚💙❤️

[@davehu8829]

AMD 有自己的网卡了，是收购来的DPU

[@fragileandweak]

大飞了解deepseek吗 最近看到好多人说 不知道是不是软文

[@bestpartners]

大模型界的拼多多，还可以，有点东西的

[@marstarr5967]

大飞，有了这种大模型还需要抢购GPU吗？

[@bestpartners]

@ 我觉得关键还得看你要干什么，要训练模型，缺不了，但是要只做推理，那就相对好很多，然后就是你要评估你的规模，增长预期和规模。总的来说，对于小公司或者创业者来说，如果想的很清楚，可能是不需要抢购的。

[@marstarr5967]

@bestpartners 多谢，明白了🌹

[@jamesmina7258]

半精度是FP32

[@nova1q]

测测游戏性能吧

[@jjg4951]

东升西降，大国撅起，制度优势，遥遥领先，为全世界的发展指明了方向

[@PPPPP883]

的确东升西降，美国在中国东边😂😂😂😂😂

[@MovieDreamers-do]

哈哈 win-win 赢两次哦

[@tsajm6bh]

華為晶片三年內就比英偉達快。

[@MovieDreamers-do]

@@tsajm6bh 华为垃圾

[@nez9962]

@@tsajm6bh 三年又三年，三年又三年，三年之后你还是会说三年😂 三年=永远

[@朝辉-w6g]

所以这已经很好了。这至少说明AMD在硬件上至少已经超过了对手。

[@yinjun-of3xm]

没有用，AMD更像传统硬件开发公司，没有软件系统开发能力的。ai是软硬结合系统硬件软件一揽子解决方案。

[@小兵-j1r]

@@朝辉-w6g 你在哪隻眼睛看到超越。我看到的可是自己開spec比人高。跑的比人爛。好好研究那個數字與記憶體架構你就不會說出這種無腦的話。我個人用過amd nvidia. 我的建議就只有一個。別浪費生命跟錢在amd gpu上。

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@朝辉-w6g]

@雨行者 早吃了。

[@朝辉-w6g]

@小兵-j1r 差是因为不兼容cuda

[@wanglin1943]

最后一点搞笑，要薪资更具有吸引力。薪资没有吸引力，人才没有找到好的，做出来的产品就不行，产品卖不好，自然没有高的薪水，这是一个恶心循环的事情。

[@AkiiOnTheRoad]

AMD已经把几乎所有利润都投入研发了， 净利润非常低 市盈率非常高， 可还是不够。 Mi300推出一年了， 还是问题一大堆。

[@wanglin1943]

@@AkiiOnTheRoad AMD还是盘子太小了，英伟达的十分之一而已。不是一个级别的。

[@AkiiOnTheRoad]

@ 是的，AMD第一个能叫的上名字的AI芯片产品，也才一年。英伟达AI当年发力的时候，AMD差点倒闭。

[@pikago9019]

这并不搞笑，商业上有很多方法可以实现。比如融资，收购，合作等多种方式都能在当下产品卖不好的情况下吸收高级人才。本质上就是一个赌未来。

[@amaggie8398]

难道AMD内部没有这样的测试吗？还要靠外界测试来发现这种低级别的问题。这么关键的产品，真不知道这家公司在搞什么。

[@taijeff3688]

别骂了别骂了。。

[@pingkai]

要是真的有人相信15%的差距有任何意义，那就是韭菜。

[@jamesho8215]

連AMD都看不到其車尾燈 還想屌打英偉達?

[@GreatGTJS]

硬件好没用，关键还是软件的优化和生态支持，苹果和英特尔处理器就是例子，英特尔就是没有发展自己的生态系统，太依赖微软，苹果的手机硬件配置一般，安卓硬件配置很高，但是体验感就是不一样，

[@KaLeungYip]

「英特爾就是沒有發展自己的生態系統，太依賴微軟」。 你當「x86」是甚麼來。

[@一名用戶]

可能大部分人以為cpu督上去再灌作業系統就好了 壓根不知道指令集的作用 基本上英特爾的x86架構根本讓後來行業繞著他走 而且蘋果macbook前幾代也是要依靠英特爾的cpu架構......軟硬體通吃不是想弄就弄的，蘋果是真的厲害但不代表其他企業都是笨蛋沒想過要這樣，關鍵是很難。

[@kanlu5199]

Wintel?

[@ArthurKing7634]

蘋果成功轉arm 那是神蹟 即時已經有手機做了長期的鋪墊 在無痛轉換上 編譯與虛擬化技術起到至關作用

[@jitjit2824]

​@@一名用戶 苹果那是靠iPhone才真正开始有大的发展，盈利了，才有实力给自己的产品换硬件，搞软件。

[@wonmanintp]

蘇媽就係如菜市場的

[@shopvictor]

这种评测利好amd 利空nvda。怀疑是华尔街空头撰稿😂

[@zye1135]

你这是断人财路啊，国产不这么宣传，就拿不到经费了。立马倒地了。

[@lonnieqian5911]

AMD天生当老二的料😂

[@alexyoung3609]

第一✌

[@stilingiceland1403]

英伟达都知道雇佣中国大陆软件工程师做优化，amd却对大陆大量AI软件工程师熟视无睹。

[@user-cm4ce5fh4q]

恳请当今圣上为AMD指明方向

[@estarpro.9510]

amd yes！！！

[@chrizyuen]

Made in Malaysia

[@zivmiyo]

ROE%很低

[@朝辉-w6g]

实际上是cuda不允许兼容AMD所以AMD有点惨。

[@雨行者]

所以各國開始反壟斷調查罰錢囉.....

[@朝辉-w6g]

@雨行者 😂

[@etam89]

AMD 能力有问题. 高层领导竟然犯如此低级的方向和管理错误

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@falongwu7033]

AMD就是高傲自大，无视用户问题

[@meow-mi333]

大飞瞎说什么大实话？

[@outoftime666]

想看魷魚遊戲第二季的深度解析❤

[@darrentsang4849]

？？

[@ErBankable]

Amd 就比較窮

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@AkiiOnTheRoad]

AMD的利润几乎全都投入研发了，净利润非常低 市盈率非常高， 投入还是不够， 想分英伟达一杯羹，还是联合各家 英伟达之外的公司，打造通用的开源生态。 AI芯片的市场还远没到头。

[@tmc4832]

撇開Nvidia 手上大筆的現金不說，它只要增發個100-200億美金的股票追加研發預算, 就夠AMD喝一壺的，巨大市值優勢擺在那....

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@rz8298]

第一步，总部，CEO，都搬到加州来。 躲在德州逃避head on竞争会越来越落后。

[@one230007]

@@rz8298 你錯了，很多科技巨頭，設的總部在德州，係科技行業，德州是僅次於加州的

[@tmc4832]

加州早不行了, 被民主黨搞的亂七八糟....很多科技公司的移去德州的Austin

[@rz8298]

@@one230007 can you list these companies and their 1yr and 5yr return vs companies in the Silicon Valley? Let’s leave TSLA out of the data set.

[@one230007]

@rz8298 TI,DELL,SPACE X ,TESLA, Blue Origin, NASA, ALL ROCKET indusrty. INdeed.

[@bencheung5617]

amd缺钱，恶性循环

[@fantaxifantaxi]

为什么一说中国遥遥领先就是不客观的了呢？

[@pppp3997]

吹牛不用證明的？反而質疑“質疑者”？反了吧😂

[@fantaxifantaxi]

@pppp3997 质疑者不用证据？反而质疑诚实者？反了吧

[@jamesho8215]

好啦 遙遙領先AMD NVidia 很客觀

[@rnoro]

所以你當nvidia和amd都是塑膠，中國gpu廠天神下凡兩三年從零超英趕美上天堂了？？

[@kanlu5199]

西方AI这么厉害，智驾一定很厉害🐶🐕🐶🐕

[@MrJohnsonhsu]

AMD一直都是挑戰者，對Intel的成功也僅是商業模式調整，並沒有在科技上亮眼的獨創。

[@yeeeeeha]

@@MrJohnsonhsu 不认同。AMD的chiplet不算牛逼技术创新？靠这大把Intel服务器芯片打的那么惨

[@sweep_yep]

所以说白了就是AMD就是个🗑

[@雨行者]

AMD 主力在CPU，如果將INTEL的份額吃掉一大半後，再來回攻英偉達才是明智之舉....

[@sweep_yep]

@ 因为CPU都是英伟达看不上眼的东西…

[@雨行者]

@@sweep_yep 才不是呢，英偉達是期望用GPU取代CPU的功能，如今也在引進ARM，後續規畫要再看看

[@proud_chinese_traitor]

大飞，对于你的总结，我很生气，这叫什么话，AMD起码还能用，和国内那些渣渣能比吗？你这样比，就好像拿中国足球比日本足球

[@bestpartners]

哈哈，好吧，是我用词不当了🤣