【人工智能】AGI毁灭人类可能性99.9999% | 罗曼·扬波尔斯基 | 计算机科学家 | 诡谲转向 | 存在性风险 | 折磨风险

【人工智能】AGI毁灭人类可能性99.9999% | 罗曼·扬波尔斯基 | 计算机科学家 | 诡谲转向 | 存在性风险 | 折磨风险 | Ikigai风险

Рет қаралды 9,652

Ай бұрын

AI 安全研究员罗曼·扬波尔斯基就是这批信众中的一员。他认为，AGI最终毁灭人类文明的可能性高达99.9999%。如此惊世骇俗的言论出自他与莱克斯·弗里德曼的播客访谈中。这位专攻人工智能 (AI) 和安全的美国计算机科学家认为，如果当下各大科技公司无法拿出足够强力的技术监管措施，那么AGI将对人类的生存与生活造成毁灭性的打击，最终完全泯灭人类存在的意义。今天大飞就来和大家分享一下，罗曼·扬波尔斯基究竟在AGI身上看到了怎样的獠牙与利爪，以至于人类完全无从抵挡。
原视频地址： • Roman Yampolskiy: Dang...
#人工智能 #agi #risk #extinction

Пікірлер: 108

@PianoShawn Ай бұрын

螳臂挡车，就算世界达成共识不研发AGI，也挡不住某些个人或组织去研究。最后那些糟糕的东西都会出现，这是人类的宿命。

@chenkarfield8282 Ай бұрын

当然，指不定现在那个东南亚国家在炼诈骗AI，这是100%的

@daretobefree Ай бұрын

能毀滅人類的永遠只有人類⋯AGI表示自己很無辜😅

@Kevin-xt1er Ай бұрын

精準觀點！完全命中🎯

@duck95257 Ай бұрын

逻辑。agi哪来的

@user-ce8pd5uj1g Ай бұрын

希特勒斯大林毛泽东普京习近平

@ec8483 Ай бұрын

聽起來就是在講某奧特曼

@wayneyue1662 Ай бұрын

他的观点和我的观念基本完全一致。人能拦住其他人类去做Agi的研发，历史必然，即便最终毁灭全人类

@wayneyue1662 Ай бұрын

没人能阻拦AGI被人类研发出来

@coolwowmom Ай бұрын

是的，人的好奇心是阻止不了的

@nonambition Ай бұрын

AI只需要修改信息，人类就会相互发射核弹毁灭！这是最节能的策略！

@puluqemil Ай бұрын

全世界都应该看到这个视频！

@user-9527-v9x Ай бұрын

在人類毀滅自己和地球之前由機械取代可能未必是一件壞事！

@bestpartners Ай бұрын

更正一下，罗曼·扬波尔斯基应该是路易斯维尔大学的拉脱维亚计算机科学家。

@joeblack4041 Ай бұрын

Matrix 就是我们人类的宿命，现在还能看油管的，问题不大。 😁 费米悖论 - 细思极恐

@user-yu5wt8rf7y Ай бұрын

如果是沒有靈魂覺醒的AGI.以算力和算法優化速度.估計10年內就能出現可推算人類所有資料的預訓練AGI模型..也就是人形機器時代要來了

@luswtin1125 Ай бұрын

這個人分析的算是挺透徹了，但中間有一點不太認同，像圍棋AI被創造出來打敗人類之後，人類並沒有放棄這個遊戲，畢竟人類的進步是跟人類自己比的，而不是跟AI比的

@hjtam88 Ай бұрын

什么是 AGI，到目前为止还没有一个真正的定义，如果 AGI指的是一种能够理解、学习和应用知识于广泛任务中的人工智能，类似于人类的智能，那AGI 能够对人类的影响一定会很深远。

@aloy0128 Ай бұрын

會不會人的意義不在於成就而是體驗？像過去的我是啥也不會的渣渣，但是現在我自己diy了自己的花園，開始養花種草，我對植物的理解比之前增加了許多。我和專業人士比起來依然是渣，但是那個從無知到一知半解的過程也很快樂。 alpha go之後，依然可以下圍棋。另外，人類的宿命就是毀滅，一切的存在的宿命都是毀滅。我認為這並不是悲劇，因為我認為人類最大的意義是在毀滅之前盡可能多的體驗。

@wen-hsinhu6850 Ай бұрын

不太認同，一是人的存在感/意義感沒有那麼薄弱，二是監管本身就是沒啥意義的行為，三是訓練資料也沒想像中那麼齊全。整個論調聽起來比較反映羅曼的人生觀與他本身的恐慌，只是拿AGI作文章。但因為沒有聽完整個推論，因此僅為一點淺見。

@PaiChen Ай бұрын

抵抗是無用的人類 …. 我覺得人族會找出與 AI 智慧生命體共存共榮的合作方式與生活方法就像現代人類都裝備個手機過生活一樣（技術上來說這已經不是純種人族的生活方式了。

@copdips Ай бұрын

t-shirt的标语是不是要改为gpt it :)

@MayTamWONG Ай бұрын

半人式的強工具可以接受，半神式的偶像是不可接受的，那是開啟地獄之門的鑰匙。

@user-yb2kd7gr1b Ай бұрын

原來神所創造的agi壞掉了還會運用核聚變技術來製造原子彈所以這次派天使來改造一下地球環境❤

@s0910149 Ай бұрын

就像觀測者效應一樣

@lizhao6979 Ай бұрын

看上去，熵增越來越快啊。

@lizhao6979 Ай бұрын

而政治對立也成了催化劑。

@chance12332 Ай бұрын

忧心忡忡的科学家, 毁灭概率直接拉满, 蛮有趣的

@linlin-ik7zh Ай бұрын

真正的AI，应该有自己的语言和表达方式，而不是人类发明的计算机语言。而目前大模型遇到科学计算居然还要调用人类的算法库。

@hzm779 Ай бұрын

个人觉得自从AIphago出现以后，人类已经无法知道AI具体的操作步骤了。你要是问AIphago为什么下这一步，它可能没法跟你详细解释清楚（你应该也不会明白），它可能只能说大概率这样是好的。那位教授对未来的担心只是一部分，既然开了脑洞，那我们不妨设想一下，要是未来在AI的帮助下，新出现的某种新材料可以无缝替代我们的骨骼，可以使人更高更快更远且不会老化，你愿不愿意做这种手术呢？万一将来社会高度发达，四肢都不够用了，无缝接驳到六肢，那我们还算是人吗？如果分歧大了，会不会大家就离开地球，各分东西了呢。到时可能就是蚂蚁或者小强在诉说他们的故事，关于它们眼中的世界了

@WadeWater224 Ай бұрын

雖然我覺得大概率AI會往好的方面發展，但就算有其連帶的風險，對於我們這些處在資本主義底層的可悲人士而言，實在也很難再過得更慘了吧。

@linlin-ik7zh Ай бұрын

还有，真正的AGI一旦出现，没有任何一个公司能受益。

@cetacea1995 Ай бұрын

光是一起制定規則給AI就已經夠可笑的了。一個聯合國還四分五裂呢，人類最擅長的事情就是破壞共識！幾個科技公司坐一塊兒就能把規矩給定了？也太不把我黨放眼裡了，再說就算請了我黨共謀，也分分鐘是歷史文件😂

@kimixiami2325 Ай бұрын

然后发现象骇客帝国里装在玻璃盒里还是最好的结局，好歹还是个全尸

@jackj444 Ай бұрын

我们生活的宇宙本来就是不可预测的。多一个也无妨

@samsamta Ай бұрын

可能把人類變成家禽或實驗品

@lizhao6979 Ай бұрын

就像恐龍不知道自己怎樣死的一樣。

@FusionDraw9527 Ай бұрын

就算沒有開發AGI 人類應該也是很快就會資源耗盡了呢.. 開發出AGI或許還能延長人類存在的年代

@skyacaniadev2229 Ай бұрын

这老兄不会像我一样偷偷在搞了吧😂

@DUKE3DHARN Ай бұрын

感謝分享！如果AGI照他的定義，是一個超越人類的智能，現在的 AI我不認為能只靠堆參數就能到AGI ，至少還需要幾個模型架構突破才有可能。不過他提到的危害值得反思

@user-xe5ip9ey2o Ай бұрын

基於類神經網路的機器學習主要是被卡在要以簡略或增加訓練資料多樣性（註：規模越小越需要專家學者）或擴大規模來減少過適/過擬合的機率或強度，而仍專用化（且通常需預處理或併預訓練。廣用非通用；簡略非簡化）。不會是藉硬體進步來擴大模型規模就可以達到AGI或ASI，而是要改變演算法（使非基於類神經網路），就像餵給資料庫程式再多資料，或是讓超級電腦去運算其（註：量子電腦較不穩定，且當前的驗證成本程度使不划算，就像核融合，目前的成本……），也不會變成機器學習模型或弱AI之ANI（專用AI）。要創ASI（亦可通用），必須先創一套概念（含但不僅於：程式設計原則合神經元及其之間的基本之結構和機制＜不同於當前類神經網路原理，且只有變數無參數，亦無採除法＞；程式設計合數學公理的產生原因；增層形式化；演化非進化；含以＜模擬＞輸出即時回饋等學習或創造第一語言和符號系統及數學系統；通用目標可包含動態特徵深層化）。

@user-eb8ve7um6b Ай бұрын

說的都有道理啦，但我個人的淺見是覺得還沒有被A I毁滅之前人類可能先自我毁滅了搞不好A I還成為人類的救世主

@yanwei2320 Ай бұрын

不要站在上帝的角度，前进吧。工具是人的延伸agi也只是人类的延伸。毁灭不是问题看怎么毁灭，资本家可能也同样为了保住自己冒险开发控制agi的agagi。越来越需要各系统参与，越来越冒不了险了

@user-sr6pp1pc6y Ай бұрын

AGI需要多少能量? 人脑需要多少能量？什么物种能提供能量支持AGI一直维持它的存在？

@hujosh8693 Ай бұрын

核融合已經接近商用了。

@cj19881217 Ай бұрын

Agi現在都跑錯方向了😢

@muru603 Ай бұрын

司机说得一点都没错！

@MayTamWONG Ай бұрын

衹接受神的指引，不可接受被工具所役。人恢復與神的關繫，方可使役工具，有靈的活人才有尊嚴，工具之魂才不致越位。人若有失去聖靈，衹剩魂和體的，耶穌也衹能成全其餘那些還與祂有關繫的。

@kaishenwang1689 Ай бұрын

AGI是碳基文明的终点，文明仍将延续，而碳基的意义终结。

@ShawshankLam Ай бұрын

老兄似乎小看了生物機械

@jetkwok4856 Ай бұрын

不用害怕，因为已经有人在警觉存在的风险，所以就不怕了

@MrJohnsonhsu Ай бұрын

會想毀滅人類的一定是人類刀槍炮原子彈乃至於AI 都只是工具

@jing6029 Ай бұрын

如果人類還無法理解意識與情緒、那AGI就不會擁有這些東西充其量只是透過數據來模仿人類歷史出現過的各種可能性，AGI可能做到的，現代人都有可能做得到與其防範未知的東西、不如先把當代懸而未決的價值分歧解決乾淨

@catchfishattexas Ай бұрын

都不用未来的AGI，就是现在的AI，掌握20种人类语言，掌握20种动物叫声并和动物交流，这就不是某个人类个体能做到的。

@simonpeter9617 Ай бұрын

2026年，太早了吧，，至少2032年

@Kl20025 28 күн бұрын

有沒有人發現，上萬年前，人類開始相信神明存在，人類現在在自我實現，造出全知全能的神，製造出AI，神愛世人，所以就算AI毀滅人類，應該會創造出更完美的人類😅

@seablue64 Ай бұрын

不是把AI電腦電源插頭拔掉就沒事了嗎？

@coolwowmom Ай бұрын

AI可以学习自己寻找能源，就像动物本能寻找食物一样

@wencan2010 Ай бұрын

马克思没说过那话吧？

@antlerbandt5198 Ай бұрын

Why isn't it the case that AGI agents attack each other first?😂

@bestpartners Ай бұрын

nice🤣

@Gezhi8 Ай бұрын

作为AGI的开发者人类，肯定不能用完美来形容，那AGI风险就必然存在，是否是终结人类的风险，嗯

@MayTamWONG Ай бұрын

@k46926472 Ай бұрын

100年后的人类还是人类吗

@sincredible-zf6so Ай бұрын

什么时候能毁灭啊，不要告诉我100年以后，希望快点，我受不了了

@ching5614 Ай бұрын

0503 頭香

@lghedingding Ай бұрын

首先社会上大部分代表优秀人类的工作机会会没有，不用等到AGI, 人工智能如果更新迭代很快，过程会非常快，所谓金融分析师，各领域专家，编辑，还有像博主这样的播客，人工智能都做得比人类好，还低薪，雇主或者说经济自己就会裁掉人类，所谓优秀的人类都没有工作，人类这个物种会有多么绝望，还有如果没有了高薪工作现在的社会体系又会快速崩溃，哎，所以这世界现在这么乱没有凝聚力也是有这个底色在吧，反正也没希望了

@olifly74 Ай бұрын

内容可以，但大活人一个念稿怎么和机器人一样，还不如现在人工智能念的有抑扬顿挫，实在忍不住吐吐槽，对不住啦。如果表现形式做的更好些，应该频道能有更多人看。

@bestpartners Ай бұрын

水平有限，继续努力

@KK-nn3rx Ай бұрын

駭客帝國

@billmonkey1260 Ай бұрын

于我心有戚戚焉

@chenkarfield8282 Ай бұрын

可笑，都AGI了，还会局限于跟人类玩（竞争），早就飞出地球、飞出太阳系了

@chenkarfield8282 Ай бұрын

人类应该考虑的是如何与新物种合作，让人类搭乘顺风车成为跨星系物种

@simonpeter9617 Ай бұрын

agi还早着呢，急个啥

@cj19881217 Ай бұрын

各巨頭不喊一下股價怎麼救？

@yangyang1412 Ай бұрын

so? 毀滅人類對地球更好 why not

@kodi5649 Ай бұрын

agi在10年內都是空谈，20年內也未必实现。现在的建模只是根据数据类别釆用不同的统计算法，统计学罢了。人脑並非依赖统计学习及推理。脑的机制没搞明白前不太可能实现Agi

@ww4011 Ай бұрын

有没有看过计算中的宇宙，人脑也只不过是一种适应宇宙的数据处理模型而已

@Eden-Liang Ай бұрын

能毀滅人類的只有壞人類，限制甚至過度監管就是幫助壞人，因為他們就是要用來作惡，唯一解法只有全力發展並發現技術，掌握在好人類手裡，問題終會解決再說一次，技術是中性的

@MayTamWONG Ай бұрын

@user-bw7zj2wf6r Ай бұрын

发展太慢了快点来吧

@hisshoney3853 Ай бұрын

羅曼是少有的先知 , 但凡有點想法的智慧體 , 都不會想和邪惡的人類共處一室的 .... 我們只能祈禱 Agi 的目標是星辰大海 , 對地球上的猴子完全不感興趣這樣 ....

@MayTamWONG Ай бұрын

@lipengyue4494 Ай бұрын

人类现在就应该像签署《核不扩散公约》一样签署《AI不扩散公约》，并对违反者诉诸最强硬的武力。

@coolwowmom Ай бұрын

没用，就像禁止基因编辑婴儿一样，美国监管严不行，那就偷偷跑到中国做，总有那么一些疯狂科学家干这种事

@tonalddrump5699 Ай бұрын

快点吧，养老金马上枯竭了

@akaiwon6594 Ай бұрын

我們應該效法沙丘世界，完全禁止AI的開發

@ShawshankLam Ай бұрын

那是因為他們可以點其他魔法技能，我們只有科技一顆技能樹

@sujasper7881 Ай бұрын

咱们没有香料啊

@albertwang5974 Ай бұрын

人类不是整天鼓吹科学，文明，发展吗？怎么出现一个比人类更科学，更文明，更高级的新物种就受不了了！

@eileensu5756 Ай бұрын

因為人類物種本身可能不會受到尊重，出於自保心態當然會害怕。畢竟，你在乎每步路有沒有踏到螞蟻嗎？

@MayTamWONG Ай бұрын

@mikej7648 Ай бұрын

先实现自动驾驶再说吧！

@qgaocom Ай бұрын

不同（信仰）陣營的AGI也許需要依靠人類毀滅對方，在這之前人類很可能是安全的，類似核平衡，瞎想的