終端AI時代來臨 NPU重要性何在？GPU會被取代嗎？一次搞懂邊緣運算如何加速AI應用普及！Ft.耐能智慧創辦人暨執行長 劉峻誠【

生成式AI已成為近幾年企業數位轉型的熱門話題，包括AI PC、AI 手機或AI 伺服器也都將是今年COMPUTEX的焦點所在。邊緣AI運算晶片廠 #耐能智慧，是國際上最早量產AI晶片的公司之一，這家2015年才成立的新創獨角獸，目前已得到紅杉資本、高通以及李嘉誠旗下維港投資等國際大咖的投資，另外國內如台達電、鴻海、光寶、華邦、旺宏等多家科技大廠也紛紛入股，創辦人劉峻誠有信心未來NPU AI晶片會是由耐能智慧來定義，本集財經相對論邀請劉峻誠為我們介紹NPU AI晶片以及邊緣運算在AI爆發式成長過程中的重要性。
#COMPUTEX #AI #CPU #GPU #nvidia #黃仁勳 #NPU #邊緣運算 #生成式AI
🎙️主持人：#財女珍妮
🎙️來賓：耐能智慧創辦人暨執行長 #劉峻誠
⚡️本集節目重點：
00:00 節目開始
01:27 劉峻誠意外開啟創業路
05:50 耐能「#樂高晶片」應用領域
08:15 AI晶片定義 NPU、CPU、GPU的差異
09:58 NPU的關鍵優勢
11:36 NPU加速AI普及
16:52 NPU降低電力成本
19:31 NPU會取代GPU？
23:41 耐能跨足安防、車用等多領域
25:44 台灣發展AI的優勢
36:08 邊緣運算未來發展
👉相關閱讀：
耐能智慧創辦人暨執行長劉峻誠 無限延伸AI晶片需求
www.ctee.com.tw/news/20231126...
AI PC開啟 生活與工作新紀元
www.ctee.com.tw/news/20240419...
品牌攻AI PC 晶片成關鍵
www.ctee.com.tw/news/20240417...
COMPUTEX概念股 買盤聚焦AI PC
www.ctee.com.tw/news/20240510...
===========================
讓您掌握先機，投資無往不利
一鍵訂閱本頻道：pse.is/4uhbph
工商時報，您投資理財的第一選擇 ： www.ctee.com.tw/
追蹤 工商時報FB： / ctee.fans
加入 工商時報LINE： line.me/ti/p/@ccf6523h

[@Jimlin1105]

蠻謙虛優秀且踏實的執行長，後勢可期~

[@cteevideo]

替來賓謝謝您的稱讚。會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@cteevideo]

謝謝您的支持與鼓勵～ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@user-bl8gd6yu6e]

謙虛。你去看看他以前說的。小公司認為自己是AI先驅。spec制定者。要不是AI被炒起來。這公司應該滅了。

[@Tina-ir4jg]

任何大公司都是从小公司发展起来的

[@davidyang2264]

主持人很有专业素养👍🏻，看来做了很多功课。受访嘉宾很谦虚，前程应不可限量。看这样的访谈，是种享受。谢谢🙏🏻

[@cteevideo]

謝謝您的讚美與鼓勵，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教。

[@user-tz1ik1vt8w]

😅​@@cteevideo

[@claudia720316]

主持人提問的節奏跟問問題的深度把握得非常好！ 可以感受到主持人有做足功課 且能平順的在對話中引觀眾了解。 謝謝你工商的團體 還有耐能提供這些前延的資訊。

[@cteevideo]

很高興您喜歡，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@user-ws1dy1mv9q]

加油, N PU取代GPU時，又是另一個台灣之光

[@cteevideo]

謝謝您的意見分享。

[@magic155555]

不可能 GPU強不是強硬體 而是因為生態列的原因

[@cangmezhang7245]

选题很好，紧跟科技前沿，主持人美丽有才，访谈内容精准把握要点，与嘉宾配合默契，令其谈出了深度且清晰易懂，相信听众都会受益良多！

[@cteevideo]

謝謝您的讚美與鼓勵，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@williamhu99]

這公司厲害

[@user-nf1vg5qb9q]

簡單的說法，GPU獲利最好，因為大企業，國家級機構需要及競賽，而NPU正等待消費端需求的日子，消費端普羅大眾難以承受幾百萬美元的負擔，而NPU可以取代，但相對容易被取代，除非有專利保護。

[@cteevideo]

謝謝您的分享。 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@cteevideo]

謝謝您提供的補充說明，讓人印象更深刻。

[@ConnieLee0131]

深入淺出 謝謝兩位

[@cteevideo]

謝謝您的欣賞與支持！工商時報「財經相對論」每周日晚上7點首播，也請持續收看哦～

[@cteevideo]

很高興您喜歡，您的支持是我們前進的最大動力。工商時報每周日晚上7點首播，敬請持續收看。

[@taochengliu44]

優秀。❤台灣的希望

[@cteevideo]

先幫執行長謝謝您的稱讚與期許。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@9999need]

NPU取代不了GPU，它的功能就是協助者，除非NPU與GPU整合成比CPU更強大的未知產品（接近壟斷） 來賓以坦克、貨車、自小客車來對比是有點小失誤，或許以腦部醫學來比喻會更清楚。 NPU像極了NVlink、UAlink的概念，以架構來解釋，用ARM安謀做的產品來解釋，就清楚多了。

[@magic155555]

這樣說吧 早年GPU是遊戲加速卡，是用來輔助CPU去算圖的(早年的電腦是沒有顯卡的) ，後來GPU發展出來才慢慢獨立 現在NPU就是做類似的事情，用來輔助GPU，等到時機和技術成熟後，就能獨立出來，但有沒有這一天我就不知道了

[@magic155555]

現在大家做的事情就是早年用CPU去玩遊戲一樣

[@cteevideo]

謝謝您的意見分享與補充說明。

[@truthjustice8886]

務實的CEO 才能帶領公司走得長遠。挺好的。

[@cteevideo]

替執行長謝謝您的稱讚，相信未來他們會被更多人看見他們的厲害。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@chaosline168]

NPU感覺就是只能拿來做單一運算，沒有辦法另外編成，但是功耗低價格便宜就這樣。 但是現在邊緣運算的需求很低，要等到以後有實際的運用和服務出來才會有真正的市場，不然目前主要的需求（訓練加上推論）還是會回歸到GPU伺服器成本比較低。

[@cteevideo]

謝謝您的意見分享與概念補充。

[@Terrychang1788]

其實建議可用CUP是卡車(較大又耗油)，GPU是小客車(較省油有效率)、NPU是機車(最省油、便宜、更具機動性)，更適合非通用AI的運算環境使用，整體較讓人淺顯易懂！～

[@cteevideo]

謝謝您的意見分享。

[@user-rb2my4jc4x]

讚喔

[@user-cq9ri6ps2z]

讚賞優質的台灣帥哥 你會是下一個 台灣 黃仁勳

[@cteevideo]

工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教。如有適合，也希望能幫我們把節目分享給周邊親朋好友，謝謝您。

[@jun-wenshen7579]

劉峻誠沉穩的性格能成大事，等待耐能上市。

[@cteevideo]

替峻誠執行長謝謝您的讚美❤️ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@afonsode419]

建議立法院 廢科技部 拿其預算 全投這家公司

[@bobbylovefoods6784]

很棒的采访。男嘉宾很扎实有智慧，主持人好漂亮，眼睛像林忆莲。

[@cteevideo]

謝謝您的支持。工商時報「財經相對論」每周日晚上7點首播，敬請持續收看。

[@Douglas7h]

品格智慧兼優的執行長

[@cteevideo]

替執行長謝謝您的稱讚，相信未來他們會被更多人看見他們的厲害。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@user-yi3ol3xb7g]

感謝❤

[@cteevideo]

謝謝您的支持～工商時報財經相對論每周日晚上7點首播，敬請持續收看～

[@ceciliahan6916]

跟去年講的內容差不多。主要還是著重在邊緣端的市場。這部份還需再等一下，看看各產業的殺手級應用何時出現。繼續加油吧～

[@cteevideo]

謝謝您的意見分享。

[@jinni868]

無論在人文歷史或科技發展上 , 顯見都是踏實的知識與努力堆疊下所展現出的進步, 足以成為年輕人學習的榜樣

[@jinni868]

科技腳程越來越快導致現代人思維的改變 ( 一夜致富/成功 /改變自己 的夢想 , 扭曲了當今許多人的努力方向 ) 一步一腳印的實做態度 , 彌足珍貴 !

[@cteevideo]

謝謝您對峻誠執行長的讚賞❤️ 每周日晚間7點也請持續收看工商時報財經相對論，給予我們支持與指教。

[@user-of5jl4rb5s]

可愛的我又來補課了😊😊 記得按讚、訂閱&分享喔 好節目一定要好好支持❤❤❤

[@cteevideo]

謝謝您的支持與鼓勵，也請每周日晚間7點，繼續鎖定收看工商時報。

[@user-rl7no3qy7n]

就是细分领域叠加法

[@cteevideo]

謝謝您的意見分享。其實我不太懂這道理，如果可能，能否請您再多說明介紹一些，謝謝。

[@user-jo1vv6il6r]

CPU因為不懂高效的圖形運算，所以輸給GPU，同樣的，NPU應該也不懂圖形運算吧，只能算是小型的CPU🤔🤔

[@cteevideo]

在CP值和客製化效率上，或許NPU有比較大的優勢，小編雖然對這塊不很了解，但看完節目留下的印象是這樣，與您分享。

[@user-rg1fn9hl8n]

NPU(先暫用)耗電、散熱、疊高成本、台灣產能已滿、要有先進供應鏈，有好GPU誰預花大錢來實驗！除拿不到產業！

[@cteevideo]

謝謝您提供的補充說明分享。

[@yckuka]

靈活度

[@microseqguru2715]

開始穿皮衣或賈布斯T杉，以後成名才有話題

[@diamond9999k]

台灣的鳳毛麟角 要穿羽白旗袍衣

[@microseqguru2715]

@@diamond9999k 比基尼更有話題

[@user-nx4hr2fm2e]

👍👍👍

[@cteevideo]

謝謝您的支持與鼓勵～

[@LiangHZ8052]

講到格力電器出貨1.4億顆時是不是不小心透露心聲了...「如果那顆IC是我們開的就賺很多錢」 XD

[@cteevideo]

被您發現了XD 謝謝您的支持，財經相對論每周日晚上7點首播，敬請持續收看～

[@user-uw5ud7np3x]

他是說1.2億顆

[@justtaitan]

摩爾定律是18個月跌帶一次，不是24個月，來賓講 講錯了

[@cteevideo]

謝謝您這麼仔細的聽，工作人員都沒有發現，太厲害了！工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@starsoul599]

這個節目的內容很好我聽過好幾次了，但是可惜的是主持人的發音的技巧試用喉嚨發音聽起來尖銳相對的來賓就是用用共鳴發音聽起來有溫度

[@cteevideo]

謝謝您對本集節目的欣賞與支持，也謝謝您的評析分享

[@cteevideo]

謝謝您的建議，我們會跟主持人分享，但每個人聲線和發聲出力習慣各有不同，還請您多包容。

[@lolivk]

1:04 開頭BGM有曲名嗎？

[@cteevideo]

不好意思，我們並不清楚曲名。

[@lolivk]

@@cteevideo 沒關係了，感謝

[@davidguo6223]

广积粮,高筑墙,缓称王. haha 🙂

[@cteevideo]

謝謝您的意見分享。

[@owen7586]

耐能有上市嗎？

[@Kinjohsin]

沒有

[@totohayashi852-81]

蘋果的 AI 就是個好例子！

[@cteevideo]

謝謝您的意見分享。

[@cscan97]

誠邀來香港上市吧

[@cteevideo]

謝謝您的意見分享。

[@aoyomo]

哆啦A梦，我也爱𓆩♡𓆪

[@user-fungzzzz]

npu感覺個人用途是不太需要，適合在處理繁鎖且資料量一般時用，相反gpu是適合用在處理簡單且資料量大的情境，個人用途就還有些機會遇到和圖像之類的事務來用到gpu。而畢竟管理的這種情境一般人是不太會遇到，而像企業或server這樣的就會常遇到這些處理繁鎖的情境，也就適合用npu，我想這也是為什麼ai一直那麼不ai，因為商人一直想要能處理面對很多對象來賺錢，但一般人的智慧都是偏單一不會分散處理，且越處理越精明，所以方向已不同，ai基本上這樣發展根本不會有很好發展類人思考的可能性，所以只能一直是被包一層叫ai的皮的ai

[@cteevideo]

謝謝您的意見分享與補充說明。

[@papaken_life]

是財女珍妮耶!

[@cteevideo]

很高興您喜歡我們的節目，您的支持是我們前進的最大動力。工商時報每周日晚上7點首播，敬請持續收看。

[@iantsai2514]

Npu不可能取代gpu，gpu的功能多了去了，npu就只能訓練語言模型，換句話說就是特化型的晶片，有其侷限性。 但npu用在邊緣設備訓練語言模型很有用，可以用在手機或公司伺服器上。 但要做大事的話還得要gpu，大公司不是吃素的難道不會看嗎？輝達漲成這樣是開玩笑嗎？ 但是有可能為了cost down部分晶片用npu替代，跟gpu協同使用計算。

[@cteevideo]

謝謝您的意見分享與補充說明。

[@whoseai3397]

CPU是坦克车，GPU是卡车.....这个比喻表明这个嘉宾并没有理解CPU和GPU的区别

[@cangmezhang7245]

您可能非常专业，能不能展开具体谈谈？

[@cteevideo]

謝謝您的批評指教，也歡迎您多做補充說明，幫助大家更理解這終端AI晶片領域。

[@heu-chernglin450]

這個比喻，我也覺得很有問題，不倫不類，不知怎麼比的。 但是可以同意開場對cpu、gpu 開發目的與主要使用的說明

[@user-go7cd5kj5n]

CPU與GPU是早期的處理器類型，除了NPU之外現在還有DPU、TPU、IPU，而且現在的3D封裝還能把不同類型xPU堆疊在一起，不太容易描述哪種處理器是對應哪種哪種交通工具了。

[@ISay1]

⁠晶片怎麼會是車子呢？這樣挑毛病還能有什麼比諭？還是GPU是畢卡索對型色特有感，要他畫一筆都買不起。NPU是近視眼心算很強的家敎學霸？說是變型金剛總可以了吧？轉換處理器英文也是一樣的。😂

[@jarretkc]

深沈式AI感覺無所不在，其中的一個不看好的是AI炒股（下單、加碼、停損、出場），另一個是婚戀，第三個是生孩子，第四個法律審理....。

[@cteevideo]

謝謝您的意見分享。

[@user-ef5fe3zf3h]

CPU在我以往學習電子的時候，就已經不斷的在進化，首先我在嘉義高工學習電子時，提問的為何寫程式不能用中文，老師回答:因為容量小，我就提出堆疊，黑晶科技(智能方塊)，半年後我沒了工作，沒收入無法支撐我的學習，回到台南工作下班後趕到嘉義上課，維持半年，重新辦理入學在成大附工，起初該學校不承認其他學校學歷，我辦理新生從讀，在學期間提出神腦系統(預測犯罪)也提出疑問，為何運算速度太慢，老師回答:容量與體積電子傳遞速度，我提出傳統燈泡結構(弱紫光)達到目前的奈米技術，也就是說目前如果要選用高速運算還是以CPU為主要，但是其他組合語言或是高階語言編寫的IC是可以選擇低價位的，關於耗電一詞，我有嘗試過，只要適當可以驅動IC的電壓源，或是選擇其他低輸入消耗的也是可以達到低功耗的功能，但是IC的使用還是需要分層次的組合，其一因為需考量資源與金費的計畫，其二就是企業保密分配，其三經濟資源分配不能培養獨大企業，防止科技進化被壟斷

[@cteevideo]

謝謝您的經驗分享❤️ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@x7162k2]

不是不能用中文，是市場淘汰。當年有倚天有推廣，但是沒成主流。程式語言推廣也很重要，目前程式語言有上百種，但是成為主流的就那幾種。你太過狹義了，失敗不可恥但是心態狹義會讓你走入深淵。放寬心態科技業競爭很激烈的，當年最先進的三星 Intel IBM也落後了。當年最先進的想法過幾年就落後了，當年最先進的技術過幾年也落後了。只能不斷進步

[@user-um3dy8sm9u]

中文編程搜尋易語言，不能用中文寫程式設計，我倒是沒聽過容量問題，一般來說是用電腦編輯，才去下載到韌體內，除非是官方的編輯程式機器，😅

[@user-ef5fe3zf3h]

@@user-um3dy8sm9u 這要有電子基礎的人才能理解，邏輯元件是用來做運算，而8051是組合語言，以8~16位元為主要，假設要編寫一個跑馬燈，8位元可以寫數字英文，但是就無法正確顯示中文，如果想要再深入理解你就需要再往基本電子學習了。

[@user-ef5fe3zf3h]

@@x7162k2 謝謝你的狹義說，大陸之所以領先台灣，就是因為他們把所有軟體該為中文版，台灣卻自以為高級，目前有很多程式也都有中文版，我是不懂你所謂的競爭，目前台灣還普遍再使用CAD的2D製圖，我10年前就再用Creo的3D應用，人類還在發展4G我就提出5G，大陸先做了台灣裁跟上，人類還在研究6G我早就蓋牌10~20G~語言的隔閡讓科技無法卻發展，是我在討論的重點，台積電在我眼中的奈米也比不過跨客量子化科技，狹隘只存在有限制的想像中。

[@x7162k2]

用車子形容不太好

[@user-dg5bq4op4e]

耐能不是臺灣公司哦，它是美國籍公司，和臺灣沒關係，只是創辦人是臺灣人而已

[@cteevideo]

謝謝您的補充說明，台美兩地耐能都設有研發中心。

[@user-lf3gm2rn7r]

耐能有註冊在英屬開曼群島

[@focusound]

一堆奇怪的比喻, 不知道在講什麼,抱歉我很直不會說謊, 跟老柯一樣的症頭

[@focusound]

邊緣運算是拿來補雲端運算在速度與距離上的不足, 但若沒有這類問題, 例如足夠強大的雲端與5G或是AI PC搭配地端的專用級GAI應用, 邊緣運算就可以扔了

[@cteevideo]

謝謝您的意見分享。

[@luzheng7674]

选择没有对错，成功了一切都是对的。

[@cteevideo]

感謝您的意見分享。

[@user-mp4rc3jm8c]

講話很自傲 討人厭 沒生意就抨擊別人 一直重複講話 如果一般民眾都能買 毛利會高？ 思考完全不全面

[@linchentsaihsu]

你是說他講話跟你一樣嗎？

[@aaa123670]

@@linchentsaihsu他可能在對鏡子說話

[@user-km9ft8el5k]

沒有說任何重點。空空

[@linchentsaihsu]

@@user-km9ft8el5k 還有人能比你空嗎？連回應一兩句話的事都回成這樣，摳憐喔！

[@hothugo656]

好棒的年輕人🎉

[@cteevideo]

謝謝您的支持與鼓勵❤️ 工商時報財經相對論每周日晚上7點首播，敬請持續收看～

[@muoguiccp4916]

請問劉總： 目前市場上除了NPU 還有APU, 两者有什麽不同，未来的應用优势？

[@cteevideo]

相關產業知識，建議您可搜尋曲博的頻道，或許比較有機會能有完整詳細的解析影片。會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@kcwang7117]

看到GUCCI瞬間覺得節目格調被拉低...

[@user-uo3hm4sq4h]

我很看好NPU能讓AI真正普及 絕對能取代又貴又耗電的GPU 上傳到雲端做AI運算根本不切實際 輝達準備慘了會跟特斯拉同樣下場

[@jimmyhsu720]

黃仁勳微笑不語😂

[@cteevideo]

謝謝您的意見分享。

[@user-zx6ic5mi2w]

確實喔，GPU拿來算AI，其實是Nvidia強行搞出來的，CUDA的疊加屋，遲早會成為他的累贅

[@ISay1]

各有不同市場，非常希望將來有便宜的AI是專為個人打造設計，工作生活健康醫療人際財務娛樂家管全一套在裡面。但在這步之前，輝達現在是賣晶片給大廠用雲端罩著大家。很多人是懶的，也不知道自己要什麼。NPU要普及到個人專屬還不知道要多久。

[@dongmeilin2935]

😂🐓元來🐓🎉Ai晶片😂😂99始心電感應……