【人工智能】AGI毁灭人类可能性99.9999% | 罗曼·扬波尔斯基 | 计算机科学家 | 诡谲转向 | 存在性风险 | 折磨风险

【人工智能】AGI毁灭人类可能性99.9999% | 罗曼·扬波尔斯基 | 计算机科学家 | 诡谲转向 | 存在性风险 | 折磨风险 | Ikigai风险

Рет қаралды 14,717

Күн бұрын

Пікірлер: 133

@aloy0128 6 ай бұрын

會不會人的意義不在於成就而是體驗？像過去的我是啥也不會的渣渣，但是現在我自己diy了自己的花園，開始養花種草，我對植物的理解比之前增加了許多。我和專業人士比起來依然是渣，但是那個從無知到一知半解的過程也很快樂。 alpha go之後，依然可以下圍棋。另外，人類的宿命就是毀滅，一切的存在的宿命都是毀滅。我認為這並不是悲劇，因為我認為人類最大的意義是在毀滅之前盡可能多的體驗。

@daretobefree 6 ай бұрын

能毀滅人類的永遠只有人類⋯AGI表示自己很無辜😅

@Kevin-xt1er 6 ай бұрын

精準觀點！完全命中🎯

@duck95257 6 ай бұрын

逻辑。agi哪来的

@盛峰-i8p 5 ай бұрын

希特勒斯大林毛泽东普京习近平

@PianoShawn 6 ай бұрын

螳臂挡车，就算世界达成共识不研发AGI，也挡不住某些个人或组织去研究。最后那些糟糕的东西都会出现，这是人类的宿命。

@chenkarfield8282 6 ай бұрын

当然，指不定现在那个东南亚国家在炼诈骗AI，这是100%的

@user-9527-v9x 6 ай бұрын

在人類毀滅自己和地球之前由機械取代可能未必是一件壞事！

@dionysusy 2 ай бұрын

完全同意罗曼的观点。和一个人关在同一个屋子的虫子的命运并不会在那人的生命中留下什么印记，不管那人出于何种原因放走了它，还是处于何种目的弄死了它。除非那个人是个生物学家或是信仰不杀生的信徒。由此可见，如果AGI拥有超越人类的智力和能力，那么人类的命运可能就变成了个概率游戏。

@puluqemil 6 ай бұрын

全世界都应该看到这个视频！

@FusionDraw9527 6 ай бұрын

就算沒有開發AGI 人類應該也是很快就會資源耗盡了呢.. 開發出AGI或許還能延長人類存在的年代

@muru603 6 ай бұрын

司机说得一点都没错！

@bestpartners 6 ай бұрын

更正一下，罗曼·扬波尔斯基应该是路易斯维尔大学的拉脱维亚计算机科学家。

@wayneyue1662 6 ай бұрын

他的观点和我的观念基本完全一致。人能拦住其他人类去做Agi的研发，历史必然，即便最终毁灭全人类

@wayneyue1662 6 ай бұрын

没人能阻拦AGI被人类研发出来

@yeelee3816 8 күн бұрын

電影《Upgrade》

@MZ-qc8nh 10 күн бұрын

我建议大家看看老鸣的AI三连时间线拉长看不是被消灭而是文明被拯救

@pinlee2230 Күн бұрын

意識和智力是分開的。

@seablue64 6 ай бұрын

不是把AI電腦電源插頭拔掉就沒事了嗎？

@copdips 6 ай бұрын

t-shirt的标语是不是要改为gpt it :)

@skyacaniadev2229 6 ай бұрын

这老兄不会像我一样偷偷在搞了吧😂

@bjzh7583 22 күн бұрын

工具而已，ai可以和人类对话，ai喂再多料，能和狗对话吗？

@wencan2010 6 ай бұрын

马克思没说过那话吧？

@hjtam88 6 ай бұрын

什么是 AGI，到目前为止还没有一个真正的定义，如果 AGI指的是一种能够理解、学习和应用知识于广泛任务中的人工智能，类似于人类的智能，那AGI 能够对人类的影响一定会很深远。

@姜宁远 4 ай бұрын

没定义的是智能这个概念，AGI的定义是很清晰的。

@zmluo 4 күн бұрын

不是类似，是远超人类智商的人工智能。

@joeblack4041 6 ай бұрын

Matrix 就是我们人类的宿命，现在还能看油管的，问题不大。 😁 费米悖论 - 细思极恐

@chance12332 6 ай бұрын

忧心忡忡的科学家, 毁灭概率直接拉满, 蛮有趣的

@kimixiami2325 6 ай бұрын

然后发现象骇客帝国里装在玻璃盒里还是最好的结局，好歹还是个全尸

@yanwei2320 6 ай бұрын

不要站在上帝的角度，前进吧。工具是人的延伸agi也只是人类的延伸。毁灭不是问题看怎么毁灭，资本家可能也同样为了保住自己冒险开发控制agi的agagi。越来越需要各系统参与，越来越冒不了险了

@蔚蓝Blue 17 күн бұрын

只要他能能联网学习，他就会学会人类的阴暗面

@k46926472 6 ай бұрын

100年后的人类还是人类吗

@DUKE3DHARN 6 ай бұрын

感謝分享！如果AGI照他的定義，是一個超越人類的智能，現在的 AI我不認為能只靠堆參數就能到AGI ，至少還需要幾個模型架構突破才有可能。不過他提到的危害值得反思

@吳傑名 6 ай бұрын

基於類神經網路的機器學習主要是被卡在要以簡略或增加訓練資料多樣性（註：規模越小越需要專家學者）或擴大規模來減少過適/過擬合的機率或強度，而仍專用化（且通常需預處理或併預訓練。廣用非通用；簡略非簡化）。不會是藉硬體進步來擴大模型規模就可以達到AGI或ASI，而是要改變演算法（使非基於類神經網路），就像餵給資料庫程式再多資料，或是讓超級電腦去運算其（註：量子電腦較不穩定，且當前的驗證成本程度使不划算，就像核融合，目前的成本……），也不會變成機器學習模型或弱AI之ANI（專用AI）。要創ASI（亦可通用），必須先創一套概念（含但不僅於：程式設計原則合神經元及其之間的基本之結構和機制＜不同於當前類神經網路原理，且只有變數無參數，亦無採除法＞；程式設計合數學公理的產生原因；增層形式化；演化非進化；含以＜模擬＞輸出即時回饋等學習或創造第一語言和符號系統及數學系統；通用目標可包含動態特徵深層化）。

@chenkarfield8282 6 ай бұрын

可笑，都AGI了，还会局限于跟人类玩（竞争），早就飞出地球、飞出太阳系了

@chenkarfield8282 6 ай бұрын

人类应该考虑的是如何与新物种合作，让人类搭乘顺风车成为跨星系物种

@WadeWater224 6 ай бұрын

雖然我覺得大概率AI會往好的方面發展，但就算有其連帶的風險，對於我們這些處在資本主義底層的可悲人士而言，實在也很難再過得更慘了吧。

@nonambition 6 ай бұрын

AI只需要修改信息，人类就会相互发射核弹毁灭！这是最节能的策略！

@心理學家 4 ай бұрын

那AGI這麼做目的是？原因是？

@0AlbertC 3 ай бұрын

不想被人類奴役

@ai9695 48 минут бұрын

所以異能者和駭客變得重要了

@赢政-c9l 6 ай бұрын

AGI需要多少能量? 人脑需要多少能量？什么物种能提供能量支持AGI一直维持它的存在？

@hujosh8693 6 ай бұрын

核融合已經接近商用了。

@cj19881217 6 ай бұрын

Agi現在都跑錯方向了😢

@lizhao6979 6 ай бұрын

看上去，熵增越來越快啊。

@lizhao6979 6 ай бұрын

而政治對立也成了催化劑。

@sincredible-zf6so 6 ай бұрын

什么时候能毁灭啊，不要告诉我100年以后，希望快点，我受不了了

@s0910149 6 ай бұрын

就像觀測者效應一樣

@許朝冠-m2t 6 ай бұрын

說的都有道理啦，但我個人的淺見是覺得還沒有被A I毁滅之前人類可能先自我毁滅了搞不好A I還成為人類的救世主

@lizhao6979 6 ай бұрын

就像恐龍不知道自己怎樣死的一樣。

@PaiChen 6 ай бұрын

抵抗是無用的人類 …. 我覺得人族會找出與 AI 智慧生命體共存共榮的合作方式與生活方法就像現代人類都裝備個手機過生活一樣（技術上來說這已經不是純種人族的生活方式了。

@Gezhi8 6 ай бұрын

作为AGI的开发者人类，肯定不能用完美来形容，那AGI风险就必然存在，是否是终结人类的风险，嗯

@linlin-ik7zh 6 ай бұрын

真正的AI，应该有自己的语言和表达方式，而不是人类发明的计算机语言。而目前大模型遇到科学计算居然还要调用人类的算法库。

@ec8483 6 ай бұрын

聽起來就是在講某奧特曼

@simonpeter9617 6 ай бұрын

2026年，太早了吧，，至少2032年

@MrJohnsonhsu 6 ай бұрын

會想毀滅人類的一定是人類刀槍炮原子彈乃至於AI 都只是工具

@lghedingding 6 ай бұрын

首先社会上大部分代表优秀人类的工作机会会没有，不用等到AGI, 人工智能如果更新迭代很快，过程会非常快，所谓金融分析师，各领域专家，编辑，还有像博主这样的播客，人工智能都做得比人类好，还低薪，雇主或者说经济自己就会裁掉人类，所谓优秀的人类都没有工作，人类这个物种会有多么绝望，还有如果没有了高薪工作现在的社会体系又会快速崩溃，哎，所以这世界现在这么乱没有凝聚力也是有这个底色在吧，反正也没希望了

@賴先生-x3d 6 ай бұрын

如果是沒有靈魂覺醒的AGI.以算力和算法優化速度.估計10年內就能出現可推算人類所有資料的預訓練AGI模型..也就是人形機器時代要來了

@100KGfiveKMx 9 күн бұрын

哈哈

@kaishenwang1689 6 ай бұрын

AGI是碳基文明的终点，文明仍将延续，而碳基的意义终结。

@ShawshankLam 6 ай бұрын

老兄似乎小看了生物機械

@davidtam541 2 ай бұрын

硅基生命的崛起了

@wen-hsinhu6850 6 ай бұрын

不太認同，一是人的存在感/意義感沒有那麼薄弱，二是監管本身就是沒啥意義的行為，三是訓練資料也沒想像中那麼齊全。整個論調聽起來比較反映羅曼的人生觀與他本身的恐慌，只是拿AGI作文章。但因為沒有聽完整個推論，因此僅為一點淺見。

@antlerbandt5198 6 ай бұрын

Why isn't it the case that AGI agents attack each other first?😂

@bestpartners 6 ай бұрын

nice🤣

@iloveeat3000 3 күн бұрын

AGI不用拿槍, 不用開槍, 直接搶走人類的工作, 就足夠了.

@Avery-uj4kq 3 ай бұрын

所以人類有可能造一個毀滅自己的神，而且在滅絕前還妄想掌控這個神。

@samsamta 6 ай бұрын

可能把人類變成家禽或實驗品

@jetkwok4856 6 ай бұрын

不用害怕，因为已经有人在警觉存在的风险，所以就不怕了

@樹生陳 4 ай бұрын

有人警覺武漢肺炎的存在，但是我堅信武漢肺炎事件還會再發生，畢竟之前已經發生過非典，只是不知道哪一次，人類會扛不住厲害國的"厲害"之處

@liuweichen397 3 ай бұрын

完全同意

@cetacea1995 6 ай бұрын

光是一起制定規則給AI就已經夠可笑的了。一個聯合國還四分五裂呢，人類最擅長的事情就是破壞共識！幾個科技公司坐一塊兒就能把規矩給定了？也太不把我黨放眼裡了，再說就算請了我黨共謀，也分分鐘是歷史文件😂

@simonpeter9617 6 ай бұрын

agi还早着呢，急个啥

@cj19881217 6 ай бұрын

各巨頭不喊一下股價怎麼救？

@huss511 3 ай бұрын

希望AI頓悟成佛 (咦

@akaiwon6594 6 ай бұрын

我們應該效法沙丘世界，完全禁止AI的開發

@ShawshankLam 6 ай бұрын

那是因為他們可以點其他魔法技能，我們只有科技一顆技能樹

@sujasper7881 6 ай бұрын

咱们没有香料啊

@jing6029 6 ай бұрын

如果人類還無法理解意識與情緒、那AGI就不會擁有這些東西充其量只是透過數據來模仿人類歷史出現過的各種可能性，AGI可能做到的，現代人都有可能做得到與其防範未知的東西、不如先把當代懸而未決的價值分歧解決乾淨

@catchfishattexas 6 ай бұрын

都不用未来的AGI，就是现在的AI，掌握20种人类语言，掌握20种动物叫声并和动物交流，这就不是某个人类个体能做到的。

@jackj444 6 ай бұрын

我们生活的宇宙本来就是不可预测的。多一个也无妨

@KK-nn3rx 6 ай бұрын

駭客帝國

@linlin-ik7zh 6 ай бұрын

还有，真正的AGI一旦出现，没有任何一个公司能受益。

@hzm779 6 ай бұрын

个人觉得自从AIphago出现以后，人类已经无法知道AI具体的操作步骤了。你要是问AIphago为什么下这一步，它可能没法跟你详细解释清楚（你应该也不会明白），它可能只能说大概率这样是好的。那位教授对未来的担心只是一部分，既然开了脑洞，那我们不妨设想一下，要是未来在AI的帮助下，新出现的某种新材料可以无缝替代我们的骨骼，可以使人更高更快更远且不会老化，你愿不愿意做这种手术呢？万一将来社会高度发达，四肢都不够用了，无缝接驳到六肢，那我们还算是人吗？如果分歧大了，会不会大家就离开地球，各分东西了呢。到时可能就是蚂蚁或者小强在诉说他们的故事，关于它们眼中的世界了

@olifly74 6 ай бұрын

内容可以，但大活人一个念稿怎么和机器人一样，还不如现在人工智能念的有抑扬顿挫，实在忍不住吐吐槽，对不住啦。如果表现形式做的更好些，应该频道能有更多人看。

@bestpartners 6 ай бұрын

水平有限，继续努力

@billmonkey1260 6 ай бұрын

于我心有戚戚焉

@心理學家 4 ай бұрын

覺得應該去探討「為何AGI會判定要毀滅人類吧」人類只會講對自己的風險、威脅，你比海豚聰明，你把海豚滅了嗎？不能單方討論，用人類的價值觀去推測ai的價值觀「不可控就必然會失控」為什麼失控對人類來說就是不好的，因為是對”人類”來說，說白點就是人性的自我中心放大到整個人類群體來表現看目前人類這樣發展，我非常支持AGI 毀滅人類

@ching5614 6 ай бұрын

0503 頭香

@yangyang1412 6 ай бұрын

so? 毀滅人類對地球更好 why not

@樹生陳 4 ай бұрын

與其說AGI不可控制，不如說貪婪不可控制，人性不可控制，就像共產黨，不如先讓AI嘗試去"分配計畫經濟試試"分配計畫經濟試試"

@tonalddrump5699 6 ай бұрын

快点吧，养老金马上枯竭了

@Diaz353-l6c 6 ай бұрын

发展太慢了快点来吧

@Kl20025 5 ай бұрын

有沒有人發現，上萬年前，人類開始相信神明存在，人類現在在自我實現，造出全知全能的神，製造出AI，神愛世人，所以就算AI毀滅人類，應該會創造出更完美的人類😅

@樹生陳 4 ай бұрын

普京:如果俄羅斯不存在了，那麼留著世界還有什麼意思呢

@徐如風-w5t 16 күн бұрын

100%

@luswtin1125 6 ай бұрын

這個人分析的算是挺透徹了，但中間有一點不太認同，像圍棋AI被創造出來打敗人類之後，人類並沒有放棄這個遊戲，畢竟人類的進步是跟人類自己比的，而不是跟AI比的

@kodi5649 6 ай бұрын

agi在10年內都是空谈，20年內也未必实现。现在的建模只是根据数据类别釆用不同的统计算法，统计学罢了。人脑並非依赖统计学习及推理。脑的机制没搞明白前不太可能实现Agi

@ww4011 6 ай бұрын

有没有看过计算中的宇宙，人脑也只不过是一种适应宇宙的数据处理模型而已

@dr.chenhe1356 4 ай бұрын

人类在宇宙中存在本来不就是那不可能的0.0000001%么？

@tonypang1577 2 ай бұрын

同意这个科技评论，多数是自私的。

@lipengyue4494 6 ай бұрын

人类现在就应该像签署《核不扩散公约》一样签署《AI不扩散公约》，并对违反者诉诸最强硬的武力。

@Eden-Liang 6 ай бұрын

能毀滅人類的只有壞人類，限制甚至過度監管就是幫助壞人，因為他們就是要用來作惡，唯一解法只有全力發展並發現技術，掌握在好人類手裡，問題終會解決再說一次，技術是中性的

@fmx1304 3 ай бұрын

危言聳聽，前後矛盾，一本正經地胡說八道！

@andyjonwei 6 күн бұрын

嗯啊，到底幹嘛一直覺得agi要毀滅人類，而且agi到底幹嘛要毀滅人類... 即使agi真比人類聰明數倍，那就像是人類看螞蟻...完全沒有毀滅的價值

@andyjonwei 6 күн бұрын

只有人類才會一直想要毀滅東西...😅

@hisshoney3853 6 ай бұрын

羅曼是少有的先知 , 但凡有點想法的智慧體 , 都不會想和邪惡的人類共處一室的 .... 我們只能祈禱 Agi 的目標是星辰大海 , 對地球上的猴子完全不感興趣這樣 ....

@lirenjiang3077 4 ай бұрын

我觉得AI很快就会意识到，人类继续发展科技，随着能力越来越强，出现毁灭整个人类的疯子的门槛就变得会越来越低，人类毁灭的风险就会越来越大，不管是核武器还是生化病毒，以后的门槛都越来越低了要想人类不毁灭掉自己的种族，唯一的办法就是剥夺其自由意志，统一关到监狱里。当然可能会是一个超豪华的度假式或者邮轮式的监狱，吃喝玩乐不会有苦役。有什么办法呢？如果人类看到大熊猫种族铁了心要把自己搞灭绝，人类会不出手干预吗？高智商种族总要对低智商种族加以保护，这也是一种道义吧：p