微软如何成为这个AI芯片的全球第一大客户 | 深度解析微软Catapult FPGA项目 ｜老石谈芯

[@laoshi_tec]

如果本期视频对你有帮助，请给我点赞分享收藏，也别忘了订阅我的频道！ Catapult项目的两篇论文及相关介绍，可以看这里：shilicon.com/archives/211 挖坑视频，有兴趣的同学可以看看：kzbin.info/www/bejne/ZqeaZnR3iJ6igac

[@ronnie8407]

谢谢石老师

[@xcjstyle]

老石厉害👍 一个FPGA项目能介绍的这么有趣而且容易理解，期待老石介绍MS的Brainwave！

[@yangshijie]

视频质量太高，谢谢科普

[@dubluby]

讲的真好，作为这方面从业者我受益良多。感谢老石！

[@davylee4096]

KZbin看完点赞再去B站点赞哈哈

[@焚琴煮鹤-y1t]

看老石的视频很涨见识👏

[@tongslabs]

积极意义上，将FPGA作为中心，增加少量投资，提升运维效率，转型成功。从市场表现来讲，微软云和office360这样的典型网络服务，依然差强人意，时不时抽个风。微软的转型之路还很长，当前转型之路似乎激励不足，望早日迭代系统设计。

[@zhongdongy]

刚起床就看到视频，赶紧洗漱完坐下来好好看 👍

[@snake3276120]

微软 - 最好的apple developer, 硬件水平最高的软件公司 老石 - 表达能力最强的硬件工程师

[@samuelng1137]

希望老石能做一集视频讲解关于半导体产业下游封装测试

[@zhipengzhao9781]

之前的评论都没了，感觉评论里不能发链接。赞一个，期待老石有空讲一下另外一个Catapult的衍生项目Azure accelerated Netwroking(NSDI2018). 这篇在网络领域的影响力也很大。

[@jenniferz5207]

即将成为Microsoft FPGA Pro 的小赵同学现身点评了。赞一个

[@zhipengzhao9781]

@@jenniferz5207 诶嘿，你也关注了

[@heqiyang8546]

先点赞.再观看。谢谢

[@wujizhang1692]

太棒了， 前两天刚刚在课上听到微软的Derek Chiou的分享，不知道老石对于现在微软想做的open source hardware有没有想法

[@ivy3420]

昨天上课好像讲到brainwave的ieee paper

[@daviartw5871]

可惜没坐上沙发，顶老乡

[@魏烁铭]

石叔，芯片工程需要学习那些技术和学科？

[@soulmet331]

期待下集

[@Tracy-mz9bi]

惊了没想到会在油管上刷到老石😂 刚关注公众号不久hh

[@NicolasLooo]

老石這種時間上片XD

[@amoes66]

能不能讲一下百度的昆仑芯片跟这有什么关系？

[@huohsien]

第三階段全球FPGA的「算力」共享，概念上是如此。但是實際上有這麼做嗎？我好奇的是跨越地理位置分散的FPGA/CPU如果需要協同工作時，資訊傳輸是不是有延遲的瓶頸？ 如果沒有瓶頸，那麼是因為這種網路架構的延遲性非常低，還是此演算法對跨地區協同運作FPGA/CPU之間沒有低延遲的需求？ 直覺上協同運作的運算單元靠得越近越好，這裡語言描述部分以及配合的畫面，會讓人覺得似乎兩顆跨洋的FPGA/CPU可以共同合作完成任務？實際上需要這麼做的情況是不是不多？能夠在同一個機櫃裡面協同運作，或者是在同一個資料中心裡面協同運作就已經很厲害，很有用了？ 確認一下，畫面裡3D動畫（9:39～9:47），佈滿整個地球密密麻麻的「網點」要表達的是FPGA/CPU層次的協作？

[@zhipengzhao9781]

对，低延时的应用应该不会在地理上分开。至于那个图，我感觉就是在强调FPGA之间可以直接独立互联。这样的好处就是针对不同的应用CPU与FPGA的ratio可以很灵活。

[@chopin1998]

有没有和 显卡的对比？

[@longchihang]

不知將來微軟會不會將操作系統某些比較持久穩定的部分（例如調度之類算法、kernel等）做落FPGA裡面，去提升系統速度？到時Intel, AMD收購FPGA就有更大的意義。

[@laoshi_tec]

已经有了的。

[@jackh0]

有點好奇，那Google對於同類的solution有沒有提出相關的論文？

[@jwyang3901]

Google 不用fpga cluster。video codec 和 nerual network 都有相应的 ASIC

[@Triven0827]

Computer Architecture最新一版貌似也有提到類似內容，想請問差異性～

[@johnyeukhonwong830]

可以解釋一下換成fpga 工程師是會有trancompiler把c++改寫嗎？就是說平常ranking/search engine engineers 不再寫c++?

[@xingyuzhou307]

我理解是基于 high level synthesis 用c或者类c高级语言写，这几年很多深度学习加速都是这么写的

[@zhipengzhao9781]

@@xingyuzhou307 应该不是用HLS。根据NSDI2018 Azure Accelerated Networking的论文，Catapult和其他衍生的项目都是用RTL（SystemVerilog）. 论文里也讨论了porting software to hardware的过程。他们的解决方案是让software和hardware组一起工作，而且采用软件开发方法比如Agile Development。 至于Brainwave的AI加速，它是用的Overlay Architecture。Overlay类似一个Custom processor。它本身是由RTL实现，但map到FPGA之后，针对不同的NN架构，不需要reloading bitstream，可以像CPU一样运行一些instruction。当然这些instruction都是AI customized来提高efficiency。非常有意思的工作，期待老石多讲讲。

[@fuzzywuzzy318]

老石你皮肤好好啊，聊聊男生如何护肤把！！！完全不知道啊

[@laoshi_tec]

找个好老婆，靠谱

[@Wensong432]

可以贴一个讲doug burger的链接吗？谢谢~

[@悟空-s5y]

为什么要用fpga而不是普通的芯片？这种已经部署到数据中心里的fpga还有现场编程的机会？

[@大熊-u4t]

看样子云计算巨头是有能力绕开赛灵思和altera的，我还是清仓AMD INTEL吧

[@joeking1173]

Altera新一代FPGA Stratix 10是否已被微软采用？还有Agilex系列

[@mapleelpam]

看財報就知囉

[@laoshi_tec]

从脑波项目开始就采用很久了

[@jqzhang1819]

@@laoshi_tec 马上要用Agelix了吧 : )

[@xiaoyudong2021]

老石哥， 我来了

[@chopin1998]

微软用FPGA比华为、中兴这类公司还多吗？

[@allinno168]

這些東西很燒錢，最終得益的是半導體製造商。AI的集權問題會導致貧富差距加劇。

[@atguigu]

都是干货，fuck goods

[@mie6519]

山东的在哪里，不出来秀秀😂 这回真是见识到什么叫“民风淳朴啊

[@jak4079]

微軟程式能力不敢恭維，但是至少有錢

[@heqiyang8546]

老石，我最近刚把个人电脑和手机硬件都转向了苹果macbook ipad和iphone。我的问题是苹果有没有网络或者数据方向投入，苹果会不会落后啊。谢谢

[@weiliu5827]

这么大的企业怎么可能没有投入

[@tunkyar4527]

什么是吞吐量？

[@TESLAtotheMOON]

太硬核了，門外漢幾乎完全聽不懂，只大概了解微軟用了FPGA進行加速運送，並且持續迭代FPGA板卡

[@susu3621]

赞。不过里面提到的Catapult项目，似乎三期撑死也就10k个FPGA，开篇中1M的量级是怎么来的呀？

[@laoshi_tec]

据我所知，不止1M量级

[@susu3621]

@@laoshi_tec 还是很想听听博主多讲一点的。现在内容和标题之间的有很大的鸿沟，意犹未尽啊。

[@ruiwang8368]

请问为什么第一版用了Xilinx的Virtex 后面改用Intel 的FPGA了

[@laoshi_tec]

我知道，但是不能公开说😂

[@jwyang3901]

@@laoshi_tec 是技术问题还是政治问题？

[@YY-dj3fe]

不太懂，intel不是買了altera了嗎 ? 那不就是用自家產品@@!?

[@jwyang3901]

@@YY-dj3fe 说的是微软啊

[@zipingzheng9773]

Pro!

[@chenyifa]

排序算法一般经常变的，这个灵活性能保证吗。。。

[@lbsheng2912]

FPGA就是可编程电路，绝对可以应付变化

[@FuyangLiu]

Google 也在弄这种FPGA吗？这是会将来的一种趋势？

[@大熊-u4t]

谷歌TPU

[@robutors2202]

不明觉燃，感觉自己被鼓励了

[@jamesyeater5934]

哇牛逼

[@YY-dj3fe]

牛逼

[@nightcandle9437]

好像gfw也是fpga

[@Vincent-jt5se]

補了一個坑，又挖了一個坑XDD

[@karparts6080]

因為有錢就可以任性，在國內變土豪，況且天天，全世界1/4-1/3的人民，都要繳費，人民要繳，政府繳費更多，直到你不用手機，電腦3C 為止…？也不對，說話不定死了，墳墓的管理用電腦，還是有人替我們繳，全世界最不擔心沒錢的，唯一就是他，咱們日進斗金叫有錢，不及人家的冰山一角…誰叫咱們笨，聰明的太晚，現在終於明白，什麼叫，智慧財產錢…

[@zhongzhongclock]

这个弹弓项目 花这么大的价钱，才把效率翻了一倍，感觉没发挥出并行运算的威力来啊！

[@王騰泓]

背景音樂有點喧賓奪主,讓人難專注在講者要說的內容上面

[@ntgeralt]

看到你很多视频都有一种标题党感觉，我感觉你需要考虑我们观感

[@高进-k1h]

灵活性太低