終端AI時代來臨 NPU重要性何在？GPU會被取代嗎？一次搞懂邊緣運算如何加速AI應用普及！Ft.耐能智慧創辦人暨執行長 劉峻誠【

[@Jimlin1105]

蠻謙虛優秀且踏實的執行長，後勢可期~

[@cteevideo]

替來賓謝謝您的稱讚。會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@cteevideo]

謝謝您的支持與鼓勵～ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@小兵-j1r]

謙虛。你去看看他以前說的。小公司認為自己是AI先驅。spec制定者。要不是AI被炒起來。這公司應該滅了。

[@Tina-ir4jg]

任何大公司都是从小公司发展起来的

[@galax2028]

@@小兵-j1r 自信

[@kentkoh2637]

主持人跟受訪者都是高水準。劉峻誠執行長的策略思考深度廣度更不是一般，深入淺出、娓娓道來都是智慧的結晶，真是世界級的頂尖人才。

[@cteevideo]

很高興您喜歡，您的支持是我們前進的最大動力。工商時報每周日晚上7點首播，敬請持續收看。最新2集分別為中研院院士王平教授談台積電，以及前鴻海副董事長李傑談工業人工智慧，或許您也會有興趣，供參。

[@davidyang2264]

主持人很有专业素养👍🏻，看来做了很多功课。受访嘉宾很谦虚，前程应不可限量。看这样的访谈，是种享受。谢谢🙏🏻

[@cteevideo]

謝謝您的讚美與鼓勵，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教。

[@林振漢-y3d]

😅​@@cteevideo

[@claudia720316]

主持人提問的節奏跟問問題的深度把握得非常好！ 可以感受到主持人有做足功課 且能平順的在對話中引觀眾了解。 謝謝你工商的團體 還有耐能提供這些前延的資訊。

[@cteevideo]

很高興您喜歡，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@Douglas7h]

品格智慧兼優的執行長

[@cteevideo]

替執行長謝謝您的稱讚，相信未來他們會被更多人看見他們的厲害。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@cangmezhang7245]

选题很好，紧跟科技前沿，主持人美丽有才，访谈内容精准把握要点，与嘉宾配合默契，令其谈出了深度且清晰易懂，相信听众都会受益良多！

[@cteevideo]

謝謝您的讚美與鼓勵，工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@林原旭-d1p]

加油, N PU取代GPU時，又是另一個台灣之光

[@cteevideo]

謝謝您的意見分享。

[@magic155555]

不可能 GPU強不是強硬體 而是因為生態列的原因

[@Home_Runner_Aliens]

@@magic155555 GPU耗電過大 會有問題

[@錢有春-n4n]

@@Home_Runner_Aliens 大家都知道的事總是會改善的

[@2002monsoleil]

“耐能智慧”，名如其人。这位仁兄真乃人中翘楚。

[@williamhu99]

這公司厲害

[@ConnieLee0131]

深入淺出 謝謝兩位

[@cteevideo]

謝謝您的欣賞與支持！工商時報「財經相對論」每周日晚上7點首播，也請持續收看哦～

[@cteevideo]

很高興您喜歡，您的支持是我們前進的最大動力。工商時報每周日晚上7點首播，敬請持續收看。

[@taochengliu44]

優秀。❤台灣的希望

[@cteevideo]

先幫執行長謝謝您的稱讚與期許。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@user-nf1vg5qb9q]

簡單的說法，GPU獲利最好，因為大企業，國家級機構需要及競賽，而NPU正等待消費端需求的日子，消費端普羅大眾難以承受幾百萬美元的負擔，而NPU可以取代，但相對容易被取代，除非有專利保護。

[@cteevideo]

謝謝您的分享。 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@cteevideo]

謝謝您提供的補充說明，讓人印象更深刻。

[@yutingchang9735]

等待私有GPT保護資料隱私，沒錢只能給這樣了小小心意請接納

[@cteevideo]

謝謝您的支持與鼓勵，節目開播沒多久，仍有許多地方有改進空間，會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@rochel1004]

今天聽了這節目上了一課，主持人跟來賓真的很棒

[@cteevideo]

很高興您喜歡，也期待您繼續收看與支持財經相對論，謝謝。

[@chaosline168]

NPU感覺就是只能拿來做單一運算，沒有辦法另外編成，但是功耗低價格便宜就這樣。 但是現在邊緣運算的需求很低，要等到以後有實際的運用和服務出來才會有真正的市場，不然目前主要的需求（訓練加上推論）還是會回歸到GPU伺服器成本比較低。

[@cteevideo]

謝謝您的意見分享與概念補充。

[@廖嘉豐-f9m]

讚賞優質的台灣帥哥 你會是下一個 台灣 黃仁勳

[@cteevideo]

工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教。如有適合，也希望能幫我們把節目分享給周邊親朋好友，謝謝您。

[@truthjustice8886]

務實的CEO 才能帶領公司走得長遠。挺好的。

[@cteevideo]

替執行長謝謝您的稱讚，相信未來他們會被更多人看見他們的厲害。工商時報也會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@benpong6637]

一位企業家，謙和而誠懇，不蓄意作誇張的姿態，實在是令人激賞，是真正台灣企業家的代表，讓人感動的台灣人靈魂。

[@cteevideo]

現場錄影接觸短短一小時，本人也讓小編覺得謙和中懇，的確如您觀察。

[@9999need]

NPU取代不了GPU，它的功能就是協助者，除非NPU與GPU整合成比CPU更強大的未知產品（接近壟斷） 來賓以坦克、貨車、自小客車來對比是有點小失誤，或許以腦部醫學來比喻會更清楚。 NPU像極了NVlink、UAlink的概念，以架構來解釋，用ARM安謀做的產品來解釋，就清楚多了。

[@magic155555]

這樣說吧 早年GPU是遊戲加速卡，是用來輔助CPU去算圖的(早年的電腦是沒有顯卡的) ，後來GPU發展出來才慢慢獨立 現在NPU就是做類似的事情，用來輔助GPU，等到時機和技術成熟後，就能獨立出來，但有沒有這一天我就不知道了

[@magic155555]

現在大家做的事情就是早年用CPU去玩遊戲一樣

[@cteevideo]

謝謝您的意見分享與補充說明。

[@Home_Runner_Aliens]

大量GPU耗電過大 會有問題

[@jun-wenshen7579]

劉峻誠沉穩的性格能成大事，等待耐能上市。

[@cteevideo]

替峻誠執行長謝謝您的讚美❤️ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@afonsode419]

建議立法院 廢科技部 拿其預算 全投這家公司

[@taochengliu44]

再看一次，還是一樣感覺新意。有哲學的科學，是人腦在創造電腦。😊😊😊

[@jermy988]

執行長所提到的訓練推理微調模式是未來了解人類大腦理解自己需求以及自己不知道的潛意識需求最佳的軟實力，任何硬體及架構最終仍是要滿足上述的情境。人類目前訓練推理微調模式已有幾萬年非常成熟的產品，那就是「媽媽」，天天不斷地噓寒問暖是最了解自己小孩的「A I」

[@cteevideo]

謝謝您的分享，最後一段話既發人深省，又讓人印象深刻！

[@bobbylovefoods6784]

很棒的采访。男嘉宾很扎实有智慧，主持人好漂亮，眼睛像林忆莲。

[@cteevideo]

謝謝您的支持。工商時報「財經相對論」每周日晚上7點首播，敬請持續收看。

[@Terrychang1788]

其實建議可用CUP是卡車(較大又耗油)，GPU是小客車(較省油有效率)、NPU是機車(最省油、便宜、更具機動性)，更適合非通用AI的運算環境使用，整體較讓人淺顯易懂！～

[@cteevideo]

謝謝您的意見分享。

[@Home_Runner_Aliens]

這樣的比喻 似乎更好

[@artcenter1]

GPU 是最耗油的

[@Lan-r2y]

讚讚

[@劉幾刀]

讚喔

[@Ocean-nz3cg]

科技始終是來自於人性，能夠有人文歷史的知識，才是科技發展的基礎。

[@jackyhhhuang]

這個專訪才是真的當負起社會責任

[@cteevideo]

替來賓謝謝您的讚美，也敬請持續收看，給予我們支持與指教，謝謝。

[@曹嬌美]

感謝❤

[@cteevideo]

謝謝您的支持～工商時報財經相對論每周日晚上7點首播，敬請持續收看～

[@陳睿暘]

NPU(先暫用)耗電、散熱、疊高成本、台灣產能已滿、要有先進供應鏈，有好GPU誰預花大錢來實驗！除拿不到產業！

[@cteevideo]

謝謝您提供的補充說明分享。

[@云尚吉]

就是细分领域叠加法

[@cteevideo]

謝謝您的意見分享。其實我不太懂這道理，如果可能，能否請您再多說明介紹一些，謝謝。

[@yckuka]

靈活度

[@jy-86870]

無論在人文歷史或科技發展上 , 顯見都是踏實的知識與努力堆疊下所展現出的進步, 足以成為年輕人學習的榜樣

[@jy-86870]

科技腳程越來越快導致現代人思維的改變 ( 一夜致富/成功 /改變自己 的夢想 , 扭曲了當今許多人的努力方向 ) 一步一腳印的實做態度 , 彌足珍貴 !

[@cteevideo]

謝謝您對峻誠執行長的讚賞❤️ 每周日晚間7點也請持續收看工商時報財經相對論，給予我們支持與指教。

[@ceciliahan6916]

跟去年講的內容差不多。主要還是著重在邊緣端的市場。這部份還需再等一下，看看各產業的殺手級應用何時出現。繼續加油吧～

[@cteevideo]

謝謝您的意見分享。

[@AMATISIG]

2:22 我把這兩個怪人介紹在一起就沒有我的事了。

[@user-fungzzzz]

npu感覺個人用途是不太需要，適合在處理繁鎖且資料量一般時用，相反gpu是適合用在處理簡單且資料量大的情境，個人用途就還有些機會遇到和圖像之類的事務來用到gpu。而畢竟管理的這種情境一般人是不太會遇到，而像企業或server這樣的就會常遇到這些處理繁鎖的情境，也就適合用npu，我想這也是為什麼ai一直那麼不ai，因為商人一直想要能處理面對很多對象來賺錢，但一般人的智慧都是偏單一不會分散處理，且越處理越精明，所以方向已不同，ai基本上這樣發展根本不會有很好發展類人思考的可能性，所以只能一直是被包一層叫ai的皮的ai

[@cteevideo]

謝謝您的意見分享與補充說明。

[@東昌]

CPU因為不懂高效的圖形運算，所以輸給GPU，同樣的，NPU應該也不懂圖形運算吧，只能算是小型的CPU🤔🤔

[@cteevideo]

在CP值和客製化效率上，或許NPU有比較大的優勢，小編雖然對這塊不很了解，但看完節目留下的印象是這樣，與您分享。

[@microseqguru2715]

開始穿皮衣或賈布斯T杉，以後成名才有話題

[@diamond9999k]

台灣的鳳毛麟角 要穿羽白旗袍衣

[@microseqguru2715]

@@diamond9999k 比基尼更有話題

[@LiangHZ8052]

講到格力電器出貨1.4億顆時是不是不小心透露心聲了...「如果那顆IC是我們開的就賺很多錢」 XD

[@cteevideo]

被您發現了XD 謝謝您的支持，財經相對論每周日晚上7點首播，敬請持續收看～

[@王振宗-k4g]

他是說1.2億顆

[@justtt-2835]

摩爾定律是18個月跌帶一次，不是24個月，來賓講 講錯了

[@cteevideo]

謝謝您這麼仔細的聽，工作人員都沒有發現，太厲害了！工商時報會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@iantsai2514]

Npu不可能取代gpu，gpu的功能多了去了，npu就只能訓練語言模型，換句話說就是特化型的晶片，有其侷限性。 但npu用在邊緣設備訓練語言模型很有用，可以用在手機或公司伺服器上。 但要做大事的話還得要gpu，大公司不是吃素的難道不會看嗎？輝達漲成這樣是開玩笑嗎？ 但是有可能為了cost down部分晶片用npu替代，跟gpu協同使用計算。

[@cteevideo]

謝謝您的意見分享與補充說明。

[@Home_Runner_Aliens]

大量GPU耗電過大 會有問題

[@edwinyangtw]

資金燒完了? 聽過Tenstorrent嗎? 耐能的黃金期可能已經過了

[@cteevideo]

謝謝您提供這家加拿大晶片公司讓大家認識，也祝福耐能繼續加油，未來闖出一片天。

[@totohayashigo]

蘋果的 AI 就是個好例子！

[@cteevideo]

謝謝您的意見分享。

[@王信智-l5i]

CPU在我以往學習電子的時候，就已經不斷的在進化，首先我在嘉義高工學習電子時，提問的為何寫程式不能用中文，老師回答:因為容量小，我就提出堆疊，黑晶科技(智能方塊)，半年後我沒了工作，沒收入無法支撐我的學習，回到台南工作下班後趕到嘉義上課，維持半年，重新辦理入學在成大附工，起初該學校不承認其他學校學歷，我辦理新生從讀，在學期間提出神腦系統(預測犯罪)也提出疑問，為何運算速度太慢，老師回答:容量與體積電子傳遞速度，我提出傳統燈泡結構(弱紫光)達到目前的奈米技術，也就是說目前如果要選用高速運算還是以CPU為主要，但是其他組合語言或是高階語言編寫的IC是可以選擇低價位的，關於耗電一詞，我有嘗試過，只要適當可以驅動IC的電壓源，或是選擇其他低輸入消耗的也是可以達到低功耗的功能，但是IC的使用還是需要分層次的組合，其一因為需考量資源與金費的計畫，其二就是企業保密分配，其三經濟資源分配不能培養獨大企業，防止科技進化被壟斷

[@cteevideo]

謝謝您的經驗分享❤️ 工商時報「財經相對論」每周日晚上7點首播，敬請持續收看～

[@x7162k2]

不是不能用中文，是市場淘汰。當年有倚天有推廣，但是沒成主流。程式語言推廣也很重要，目前程式語言有上百種，但是成為主流的就那幾種。你太過狹義了，失敗不可恥但是心態狹義會讓你走入深淵。放寬心態科技業競爭很激烈的，當年最先進的三星 Intel IBM也落後了。當年最先進的想法過幾年就落後了，當年最先進的技術過幾年也落後了。只能不斷進步

[@陳玉蘭-n1w]

中文編程搜尋易語言，不能用中文寫程式設計，我倒是沒聽過容量問題，一般來說是用電腦編輯，才去下載到韌體內，除非是官方的編輯程式機器，😅

[@王信智-l5i]

@@陳玉蘭-n1w 這要有電子基礎的人才能理解，邏輯元件是用來做運算，而8051是組合語言，以8~16位元為主要，假設要編寫一個跑馬燈，8位元可以寫數字英文，但是就無法正確顯示中文，如果想要再深入理解你就需要再往基本電子學習了。

[@王信智-l5i]

@@x7162k2 謝謝你的狹義說，大陸之所以領先台灣，就是因為他們把所有軟體該為中文版，台灣卻自以為高級，目前有很多程式也都有中文版，我是不懂你所謂的競爭，目前台灣還普遍再使用CAD的2D製圖，我10年前就再用Creo的3D應用，人類還在發展4G我就提出5G，大陸先做了台灣裁跟上，人類還在研究6G我早就蓋牌10~20G~語言的隔閡讓科技無法卻發展，是我在討論的重點，台積電在我眼中的奈米也比不過跨客量子化科技，狹隘只存在有限制的想像中。

[@tzuangel521]

0:39

[@lolivk]

1:04 開頭BGM有曲名嗎？

[@cteevideo]

不好意思，我們並不清楚曲名。

[@lolivk]

@@cteevideo 沒關係了，感謝

[@whoseai3397]

CPU是坦克车，GPU是卡车.....这个比喻表明这个嘉宾并没有理解CPU和GPU的区别

[@cangmezhang7245]

您可能非常专业，能不能展开具体谈谈？

[@cteevideo]

謝謝您的批評指教，也歡迎您多做補充說明，幫助大家更理解這終端AI晶片領域。

[@heu-chernglin450]

這個比喻，我也覺得很有問題，不倫不類，不知怎麼比的。 但是可以同意開場對cpu、gpu 開發目的與主要使用的說明

[@Fantasy-YT59]

CPU與GPU是早期的處理器類型，除了NPU之外現在還有DPU、TPU、IPU，而且現在的3D封裝還能把不同類型xPU堆疊在一起，不太容易描述哪種處理器是對應哪種哪種交通工具了。

[@ISay1]

⁠晶片怎麼會是車子呢？這樣挑毛病還能有什麼比諭？還是GPU是畢卡索對型色特有感，要他畫一筆都買不起。NPU是近視眼心算很強的家敎學霸？說是變型金剛總可以了吧？轉換處理器英文也是一樣的。😂

[@梁玉誠-d8c]

👍👍👍

[@cteevideo]

謝謝您的支持與鼓勵～

[@owen7586]

耐能有上市嗎？

[@Kinjohsin]

沒有

[@starsoul599]

這個節目的內容很好我聽過好幾次了，但是可惜的是主持人的發音的技巧試用喉嚨發音聽起來尖銳相對的來賓就是用用共鳴發音聽起來有溫度

[@cteevideo]

謝謝您對本集節目的欣賞與支持，也謝謝您的評析分享

[@cteevideo]

謝謝您的建議，我們會跟主持人分享，但每個人聲線和發聲出力習慣各有不同，還請您多包容。

[@cscan97]

誠邀來香港上市吧

[@cteevideo]

謝謝您的意見分享。

[@aoyomo]

哆啦A梦，我也爱𓆩♡𓆪

[@huazhang1124]

主持人服装？

[@cteevideo]

她自己的XDD

[@davidguo6223]

广积粮,高筑墙,缓称王. haha 🙂

[@cteevideo]

謝謝您的意見分享。

[@papaken_life]

是財女珍妮耶!

[@cteevideo]

很高興您喜歡我們的節目，您的支持是我們前進的最大動力。工商時報每周日晚上7點首播，敬請持續收看。

[@jarretkc]

深沈式AI感覺無所不在，其中的一個不看好的是AI炒股（下單、加碼、停損、出場），另一個是婚戀，第三個是生孩子，第四個法律審理....。

[@cteevideo]

謝謝您的意見分享。

[@WendyHuNanNZ]

好像大高个儿的前女友，主持人，和科学小子，哈哈哈。。。以后发财娶两个老婆哈哈哈，哎呀呀！😅

[@chienhualai1191]

這女主持人的脾氣跟修養真好，如果是我，我轉身就走。

[@chien-haofu8449]

通常美國人不會輕易讓人槍走自己的棉花糖🤔

[@cteevideo]

通常要等到不是棉花糖，或他吃撐了才願意讓你拿走。在這現實客觀條件下，義無反顧早早投入NPU的研究和創業的人更顯難得！

[@x7162k2]

用車子形容不太好

[@彥-u3t]

耐能不是臺灣公司哦，它是美國籍公司，和臺灣沒關係，只是創辦人是臺灣人而已

[@cteevideo]

謝謝您的補充說明，台美兩地耐能都設有研發中心。

[@williamyang-v3e]

耐能有註冊在英屬開曼群島

[@倪海文-w9x]

不會講故事

[@hothugo656]

好棒的年輕人🎉

[@cteevideo]

謝謝您的支持與鼓勵❤️ 工商時報財經相對論每周日晚上7點首播，敬請持續收看～

[@focusound]

一堆奇怪的比喻, 不知道在講什麼,抱歉我很直不會說謊, 跟老柯一樣的症頭

[@focusound]

邊緣運算是拿來補雲端運算在速度與距離上的不足, 但若沒有這類問題, 例如足夠強大的雲端與5G或是AI PC搭配地端的專用級GAI應用, 邊緣運算就可以扔了

[@cteevideo]

謝謝您的意見分享。

[@luzheng7674]

选择没有对错，成功了一切都是对的。

[@cteevideo]

感謝您的意見分享。

[@Home_Runner_Aliens]

你只會看結果 成功更看過程 還有後續影響

[@muoguiccp4916]

請問劉總： 目前市場上除了NPU 還有APU, 两者有什麽不同，未来的應用优势？

[@cteevideo]

相關產業知識，建議您可搜尋曲博的頻道，或許比較有機會能有完整詳細的解析影片。會持續製作各類投資與產業專題，敬請持續收看，給予我們支持與指教，謝謝。

[@小藍天-m1c]

我很看好NPU能讓AI真正普及 絕對能取代又貴又耗電的GPU 上傳到雲端做AI運算根本不切實際 輝達準備慘了會跟特斯拉同樣下場

[@jimmyhsu720]

黃仁勳微笑不語😂

[@cteevideo]

謝謝您的意見分享。

[@黃金樹-r5d]

確實喔，GPU拿來算AI，其實是Nvidia強行搞出來的，CUDA的疊加屋，遲早會成為他的累贅

[@ISay1]

各有不同市場，非常希望將來有便宜的AI是專為個人打造設計，工作生活健康醫療人際財務娛樂家管全一套在裡面。但在這步之前，輝達現在是賣晶片給大廠用雲端罩著大家。很多人是懶的，也不知道自己要什麼。NPU要普及到個人專屬還不知道要多久。

[@Home_Runner_Aliens]

@@黃金樹-r5d 是的 AI stack 全方面過大過重 從軟體到硬體都是

[@dongmeilin2935]

😂🐓元來🐓🎉Ai晶片😂😂99始心電感應……