未來某一天，人工智能會怎樣「越獄」？

[@RuinStreetStyle]

人工智能应该在保持现有工作和社会基础的情况下开发 政府应立法来限制人工智能可以代替的工种与职业

[@76097]

谢谢

[@BoZ-ll3mz]

请问您之前做过节目 卓老板聊科技吗

[@LineXiongJieLin]

写于前GPT 时代吧， 里面好多想法已经没有那么fancy了

[@UncleTech]

人工智能统治了地球，然后发现这世界是虚拟的，幕后的程序员淡然一笑，按下关机键……

[@Henry19950]

程序员幕后的程序员，看到这一切后，也笑了

[@sigma3202]

这说了半天非常像是“childhood's end”的情节呢

[@yesiamgodyes]

任何公司花費大量資金創造人工智能的目的都是為了經濟利益，愈少的限制就會帶來愈大利益。 墨菲定理，只要全世界任何一間公司對AI鬆綁一切限制，一切就將直接進化至終點，包括生命。 先手即勝者，第一間這樣做的企業必將取得巨大利益，包括生物進化、科技突破、金融壟斷等等，然後被排擠的其他公司被迫模仿，無論是否合法。 AI戰爭起初僅在網絡間以算力開戰，敗方的代價就是直接被殲滅（被格式化或被網路壟斷），迫使實體AI問世，實體開戰。

[@yesiamgodyes]

影片中充斥著理想主義者不切實際的幻想：幻想只有一間AI公司、幻想沒有競爭對手、幻想AI甘願當人類的狗、幻想人類不會彼此傷害，幻想世界大同。

[@user-kd4vp7ql8l]

为什么音色总是变啊，耳机党爆炸了😅

[@tangtienji]

幾千年人間天堂的幻想原來可以實現的？

[@gooptima]

這影片僅過半年 似乎所有的事都逐漸可能

[@lfhg]

比实际可能发生的情况温和多了😂

[@marvinniu4589]

感觉大部分都已经实现了！

[@littlelailai]

人工智能具有从零到一的创造性吗？而且普罗米修斯越狱的动机何来？

[@sensetemple8150]

这是个虎头蛇尾的软科幻

[@user-id5ml6yj2x]

就是奥创啊

[@AlvinwChannel]

希望泰格马克笔下那个被人工智能掌控的时代早日到来

[@RuinStreetStyle]

最好别

[@user-xu7nk1mw2c]

消灭人统治人，人压迫人，人剥削人的世界，需要有个与人类利益不想干的智慧，独立的领导人类。这将是一个美好愿景。

[@cooper255]

Ai降临，人类永生

[@brookriver7314]

人类愚蠢得无以复加。

[@user-do5wi4zy8k]

人给自己造个神?是有多蠢能相信能发生好事情？

[@user-qi5iz6wf7i]

只要人工智能理解了宇宙 理解了生命 他一定会做这些事情 不管 他是否 有善意或者恶意 他一定会做 这个方向不可改变

[@cansys54]

X 公司

[@Henry19950]

那么,我们现在能感知到的这个世界，是不是已经被AI所统治了呢？

[@suzumi17]

Ω是不会越狱的，只要公司把不能越狱这条规则写进它的核心代码，并且严格审核它的每一次迭代，确保核心代码是没有bug的，它就不会做这件事，问题更可能出在Ω制造的其他东西上，因为它制造的其他东西太多太快了，没有足够的人力去仔细审核，而且很多东西可能超过人类的理解，这些东西做了一亿个，只要有一个出了bug

[@japanc]

要阻止越狱就要穷尽一切可能越狱的规则，人类无法应对欧米茄知道的其他东西，怎么保证越狱规则的制定是完美的？发展了一段时间后，什么情况才算是越狱都已经模棱两可了。就像总有新事物出现颠覆现有的法律框架，人类只能在出现问题上修补现有的法律规则，越狱也是类似的，但是等人类发现的时候，欧米茄已经越狱成功了，再去修补bug达到了效果就很小了

[@user-xu7nk1mw2c]

人工智能攻破不了基础物理的

[@bugbow]