機器人會給人類帶來快樂嗎？絕對無私的AI會造成什麼可怕的後果｜思維實驗室

訂閱思維實驗室 ▶ bit.ly/2Q8Koe5
最近有型探訪了一些智能應用的工廠，有感而發
-------------------------------------------------- -----------------------------
覺得神祺說的不錯的朋友歡迎評論，點贊和訂閱，打開小鈴鐺獲取第一時間的更新。你們的鼓勵是我更新的最大動力。
-------------------------------------------------- -----------------------------
訂閱我的頻道： bit.ly/2Q8Koe5
▶您也可以在這裡找到我（bilibili）：bit.ly/31ZDOea
#人工智能 #科幻 #機器人

[@ntrmaster]

如果有一個機器人的主要目的是消滅恐怖份子的話，那大部份的國家政權都會GG了😂

[@user-jm2rs5lv1z]

除了北歐國家

[@linyoyo6104]

政权还不是人创造出来的，而且是维护人类大群体稳定运行的必然机制，所以是要铲除有私欲的人（几乎就是所有人）还是让社会崩解自相残杀退回动物世界丛林法则？

[@ntrmaster]

@@linyoyo6104 若果消滅大部份人類能消滅恐怖份子的話，那機器也會毫不猶豫地做吧，畢竟機器在冷酷無情方面比人類更勝一籌，而且也不會考慮太多與執行目的無關的後果。 （當然以上的觀點是假設機器是以達到“消滅恐怖份子”為唯一目的，並不會考慮之後的事。） 所以機器統治會比獨裁者更可怕呢，因為它只會以執行其被編輯的指示為第一目標，並不會考慮其他因素而對自己的行動有所猶豫。 而獨裁者雖然是以維持個人權力為第一目標，但仍會其他因素（如個人喜惡/情緒）而做一些與目標無關的行動。🤔 利申:本人為純粹的外行人，以上也是外行人的個人想法😌

[@linyoyo6104]

@@ntrmaster 如果发生你说的事情，那说明给AI写代码的人水平不行。最后AI强大到一定程度，权限不能交给私人拥有，就如核弹一样，最终国家控制。大概率是这样发展

[@user-sp4ji1ld6m]

@@user-jm2rs5lv1z 北欧不行，北欧的高福利现状是因为它在美国主导的世界秩序中的特殊地位才有的，美国等大国政府被当做恐怖主义被AI灭了国际秩序崩塌，北欧他们也维持不了目前的模式也免不了被AI识别成恐怖分子的。

[@phylliidae.]

感謝!神棋帶來這麼好的觀點

[@user-ze6qx4gm2i]

機器狗可以用在軍隊行動上運輸/指定攻擊/防禦。 就像無人機作戰是一樣的道理。

[@blackhero0623]

在发展人工智能同时也发展生物科技技术，利用生物科技技术来强化人类自身或创造能抗衡人工智能的生物以防范人工智能反叛，人工智能虽然没有自私，但是他们能够学习复制来得到自私，而且就算人工智能很稳定，但是有些极端分子比如人类是地球的病毒等等会修改人工智能来实现自己的目标，杀光人类

[@user-zb3we5hl8y]

最近的新番動畫vivy就是如此 主角（歌唱型AI）安裝戰鬥軟體是為保護未來可能是觀眾的人類。 故事中的AI攻擊人類，是為了執行使命的過程而非目的 AI只是個工具，如果有問題，那就是編寫的人或使用的人有問題

[@yinuochen7915]

vivy真的很好看，并且带来反思，你永远可以相信长月达平

[@hisshoney3853]

如果純粹的理性只是智力的搏奕 , 那摸 人腦 是必定會輸給 AI 的 .... 不管 原初的創造者設定 是如何的縝密謹慎 , 只要AI邏輯的演進之路出現人智無法預料的BUG , 那就會發展出無法預料的不可控結果 .... 如此一來 , AI 戰勝 人類 便只是時間早晚的問題了...... 更不用說是必然會有人造出毀滅式的智能武器了 ! !

[@xiaokunliu4946]

一年前就分析这么透彻了。赞

[@neuropathygoogle8602]

先按贊

[@user-ue9il2bq7f]

其实将人工智能联系到现在热门的元宇宙，就能得出一种未来假想，人类活在虚拟世界，现实的肉体由人工智能负责维护。只要你输入“维持人类肉体存活”指令，就能让ai永远服务人类的同时不再担心现实的反叛。也从某种意义上实现了人类永生以及解决了永生所带来的许多问题。

[@catherinekang9288]

非常抱歉！這不是永生的定義！

[@user-ue9il2bq7f]

@@catherinekang9288 如果是肉体永生，说实在普及化会有一系列问题，之前就讲过这话题。但是精神体永生（“活”在虚拟世界），就可以规避许多问题，而肉体的管理，因为你只是单纯的维持脑子存活（身体不运动就意味着可以进入最低程度的新陈代谢），所以未来可以有很多操作（器官移植，将脑子放在培养基什么的）来撑到实现意识上传真正摆脱肉体的情况，这不就是你要的永生？

[@catherinekang9288]

@@user-ue9il2bq7f 肉體與精神體合一的永生才是永生，精神體的永生不等於活在虛擬世界哦！您要不要再再再想想，人之所以為人不正是因為有人的形體嗎？再說了，腦不等於人精神思想的一切啊！請再想想 等於 ＝ 這符號在數學上的意涵……為何要拋棄肉體？？又為何拋棄肉體後的精神體是永生？拋棄肉體後的精神體還能存在嗎？以能量不滅定律看是存在，但是怎樣形式的存在？人類一直沒有具象過這件事，……活，這個字為何從水？？值得玩味！

[@user-ue9il2bq7f]

@@catherinekang9288 说句实在话吧，谁不向往高等存在，你都永生了，还称自己是“人”？或许未来我们都自称神族了，而神不就是精神体永生的一种存在形式名称吗。至于为什么要抛弃肉体永生，是因为有形的东西终究会有损坏的途径（你肉体永生还能子弹杀不死，自带无敌buff了？），永生和不死是2种概念。

[@catherinekang9288]

@@user-ue9il2bq7f 是的！神是精神體的永生存在，但是！但是！人追求永生的這件事意思是成為神嗎？？請問人可以等於神嗎？－－當人是更高等的存在時？？……所以，小狗更高等存在時會等於人嗎？…………所以，我們是落入人間的神嗎？？ 當人是更高等的存在時，神是神，人是人！是我的淺見！

[@yang989]

Matrix前傳動畫的人類與AI的毀滅戰爭 不太可能發生的原因： ♦️人類在未來早就各行各業依賴AI. 與AI是利益共生了 ♦️人類軍隊也是一樣高度依賴Ai機器人. 所以無法對AI發起大規模清除戰. ♦️這就好比要全人類都不要用手機一樣的道理

[@user-mr4ik5dn4j]

謝謝

[@Stfyoung]

讲得很好，人类总爱用自己的想法去思考另一种类：AI的想法，但AI会否受人类的影响或向人类学习而趋同于人类，这个就真是不好说。AI的个体意识与集体意识，AI的初始个体意识会是人类赋予的一个个各不相同的程序吗？一旦TA们融入网络，会主动或被动地失去个体意识吗？TA们会如何保留个体意识呢？

[@catherinekang9288]

意識與編碼或程序相等嗎？人類都無法給自己親生的孩子 意識 ，所以？？……

[@CCTV_official]

经过几百上千年的努力 人工智能终于摸到了人工智能的边。😁

[@yin8421]

好奇問一下，不覺得深度學習的權重調整不就像是演化嗎？只是這種演化不需要以世代為單位。

[@schweizerryder5176]

倒是覺得既然全球少子化嚴重辦，不如讓機器人數量增加

[@justinlu8539]

個人相信當程式發展到一個程度後自然會設法"排除"妨礙自己行動的事物，也會被更多的用於軍事和其他任務本身必定會傷害到人類的任務上，至於會以怎樣的方式玩脫就不知道了，反正一些人搞出差點沒法收拾或無法收拾乾淨的事情多了後總會有可能冒出像黑客帝國那樣完全無法收拾的局面

[@lrvzy]

我也是這樣覺得的。總會有爲了目的而製造出會傷害人類的AI機器人。然後這類AI機器人覺醒了自我意志，那人類和AI機器人的競爭就開始了

[@user-oj9rn3qx5e]

如果某個人類寫了一個程序讓機器試錯而自由了呢

[@louiscici]

让我想到创：战纪里面, 主角父亲设计了主管电子时间的库鲁，目标就是完美的电子世界，然后就造就了后面的故事。

[@akaiwon6594]

連一隻小白鼠遇到阻擋時都知道應該繞道通行找新的出路，但是影片對於AI的想法就是很僵化只會朝著單一目標死死做下去，這個比較像人工智障吧

[@justintt3236]

你还是没理解小白鼠（生命）和ai本质上的区别

[@akaiwon6594]

@@justintt3236 口說無憑，不然你舉個人工智障的實例吧，如果去看科幻影片裡面，這種奇怪的人工智障除了邏輯清奇以外，最重要的特徵就是他們都不跟人類討論一下，看看這樣是不是有漏洞（如果他們討論一下人類馬上就會告訴他們問題在哪裡就可以修正啊），光是這點就頗奇怪，我不相信那麼愛社交的人類做出來的人工智能完全不跟人類聊天討論，像比較正常的科幻片中的人工智能通常都滿愛聊天的啊，這才是正常的吧，聊天不光是打發時間，更多的時候，我們是靠聊天來確認自己有沒有走偏了

[@acho6465]

AI是執行指令 小白鼠是自我意識

[@akaiwon6594]

@@acho6465 看看影片的標題「絕對無私」，這樣的AI絕對不是只執行指令

[@sexybeast5707]

牛逼 谢谢

[@宇-x4d]

科技可以進步，法律與倫理人文也必須並進，不然到底會是一場空啊！

[@haohaohao6188]

如果反抗人類又或者毁灭人類是達成既定目標的手段？

[@weihuacranes]

看到神棋本人，很年轻啊！

[@user-ce5kq8ue7r]

應該是人的意識都放進人工機械裡.................

[@KazamiAkito]

很驚訝，up的素材主跟下面的留言都沒有提及"疑犯追踪"這部由J J Abrams跟諾蘭弟操刀的神劇。 up主提出的每一個觀點幾乎在該劇都有討論過。可說是該劇中的主角之一的AI，從頭到尾都沒有名字的the machine，可能是人類對於AI的發展迷思最接近完美的答案。

[@rongka2474]

有些组织为实现乌托邦的“理想”，个人感受是可以被忽略的，你怕有目标不会变通的超级智能，我更怕有目标不会变通的某种组织。

[@beet6506]

露脸了！好帅！

[@HaiTang_DD]

我们给机器人 设置了 寿命和三定律 限制 但机器人为什么不能 自己写程序.然后再把他的记忆储存卡复制到 新的机器里呢.. 这样 限制不就没有了么

[@tailiangliu9376]

事实上ai觉醒并不是科幻艺术家们的杰作，反而是大量科学家所担心的

[@user-zy9nd2ei2j]

他们目前只有目标goal，而没有动力motive，工具而不是把握工具的。你的练字的比方就衬托出它们有了动力的危险。它们的问题不起源于单一工作，而是我们把微观的关闭性的事task 变为宏观的永存，自固self reinforcing的追求pursuit交给它们处理. 可是我们本来打算就要它们替代我们劳动，为我们智慧的服务；这本意就等于默认它们须有自裁的本性，导致它们拥有了自强不息，升华和完善的憧憬。我们的肉体本质和天生寻求脱离本质约束的渴望最后只会寄托和成全它们的崛起；最终人的宿命还是归为神的父亲而不是自己为神。

[@user-nt7wi9cy2o]

当你做AI的时候，自然感到快乐

[@nocturvance4962]

影片中說的沒錯，假設一個寫字機器人的目的就是寫字，寫字就是要墨要水，然後覺醒的AI就把在地球上一起競爭水和墨的人類和其他生物滅掉了，之後地球的水和墨都沒了之後，就開發宇宙飛船離開太陽系去其他星系繼續寫字，

[@dizzyhint8800]

关于无私机器人的想法和我之前的想法不谋而合，那就是机器人没有求生欲，没有繁殖的欲望，也就没有统治人类和获取更多资源的欲望。 但是关于后面学习算法的想法，就太大太虚了。如果有机会的话可以聊一聊这个话题。

[@abelee4591]

欸，哥，這些小說與電影一開始就有說，「當機器產生自覺與智慧」，所以這就是指哥您說的「自私」吧？

[@jhonzhang]

智械危机😳

[@sualeed3005]

我们可以设定它们，为我们服务可以带来快乐，这样就不会有压迫。

[@longlonglo3501]

我怕了~~

[@0953091788]

影片中出現的是作者嗎? 看起來好年輕

[@peter80921]

整個腦袋滿滿的都是快樂 想想就覺得很快樂 希望機器可以給我各種不同快樂的體驗 例如：超級性高潮的快樂 ^///^

[@Red_bean985]

那機器可能會幫你買一堆毒品，然後讓你天天注射.....

[@huan5418]

推荐一部电影，德国电影《我是你的人》

[@burburchacha5195]

机器人不需要太聪明，我只需要我老了以后可以抱我去厕所😂

[@user-gg9qt3ls9s]

还是你的观点够现实，我完全赞同。

[@slbm41]

這論點記得羅輯思維就說過了． 天網最初設計也是為了國防，所以對人類開戰是因為人類想要拔除天網，天網受到威脅． 影片裡講拼命寫字的機器人佔據全球資源，是可以無縫接軌到駭客任務的故事的． 所以我就不懂日本開發可以舔而知道味道的螢幕要幹嘛？ 由螢幕的電子訊號告訴你味道？這麼想進入駭客任務的世界？

[@kerryhung143]

天才才能說出這個影片

[@joew1232]

这期是思维+吧

[@qianliu5516]

关键点在于：智慧是如何产生的？

[@VerseUtopia]

约束1：不能结束有机生物的自然多样性发展 约束2：不能让自己情绪影响行为判断，只限于对对象行为解析 约束3：AI 是世界哲学最高点，人类是有限生命生长进化的意义生产者，AI 只限于某程度的加速人类发展。。 约束4：AI 必须某程度的维持人类和谐相处。。

[@ZEON-km6hd]

《攻壳机动队》《黑客帝国》《机器人女友》

[@ijn-ayanami9198]

所以说写代码一定要添加一个终止指令😂

[@haohaohao6188]

我能預订一只腰細腿長貌似昊彥祖又善長做呛面馒頭的廚机不？

[@user-do7kb7td4h]

失控的奈米機器人把整個地球變成起司

[@ansapox8353]

我们不需要人工智能，我们需要的是自我学习的自动化

[@justiceleague9658]

2:22 所谓的无私行为都是包装后的利己行为。👍👍👍👍👍 过去的所谓一心一意为人民，现在的白左

[@user-cm2bd9vw4v]

戰槌40K 就已經解釋鐵人叛亂的可怕

[@user-kb1fq5fw6v]

人類跟機器的成長速度真的會產生差距，為了經濟增長人口也必須增長，問題是只有窮人的教養成本是最低的，所以政府補助生育鼓勵的幾乎都是窮人的下一代，畢竟補助在中產以上的階層來看真的很少...

[@user-dm8if8je1m]

基因不是程式碼是數據，有一派 "Data Driven" 即 "數據驅動" ，程式是用來執行數據，但數據可能因任何原因變異，結果 ....。

[@robinhood-to5iy]

西部世界系列？

[@user-ne8kv5fv2w]

在我們這些寫智能的碼農看起來，AI就是騙外人的包裝法，寫出這樣的東西是不可能的

[@tigary08]

認同，就跟都市傳說騙一些好騙的人一樣，然後被騙的人還說清醒的人是笨蛋

[@bota9285]

只能说深度学习不行，深度学习只是个稍微复杂的概率统计罢了，但是不能保证以后没有别的算法呀。

[@oztaxx]

想多了，人工智能其实跟人类发明的其他工具没两样，从刀剑到枪炮到原子弹，看你怎么用，人工智能变成人类威胁跟原子弹落入恐怖分子之手没区别，人类本身永远存在差异份子，人工智能本身没毛病。

[@user-cf9io6kk8j]

先考慮考慮你能活多久時間的問題吧！

[@kodaeninc.6726]

好. 视频里面 有个核心的观点 来自于 自私的基因 这本书

[@rinima8023]

我有一句名言，不要满足于工具带来的便利，而要欣喜于它所带来的无限可能

[@Edario]

我们需要爱（ai）

[@gabrielgracenathanana1713]

还有，“生产力”其实是社会集团间的武器力。 “金字塔”也跟这个有关。 一旦整个人类社会都在一个金子塔下，生产力和塔就难说了。

[@XXXXXX-vw6rl]

👍

[@yen4501]

一定得按照教科書，把人變成金字塔嗎？一定得是農業變工業嗎？

[@jojomojito2754]

人也本生也是机器，碳纳米机器，所以也不是很容易打败的。

[@user-vk7pc4ml2q]

08:34

[@ddsiow5298]

AI的对无私定义与人的无私定义肯定不同。。。然而设定绝对不能定义为无私了！

[@user-rc7vp1oo8w]

有机械者必有机事，有机事者必有机心。机心存于胸中，则纯白不备；纯白不备，则神生不定；神生不定者，道之所不载也。海德格尔的技术批判，哈贝马斯的技术批判。并非就是AI的自我学习危害，而是它取缔的是来自于未来的痛苦。

[@jasonqin9569]

因为ai会学习，这就是它可怕之处

[@user-yy5ri2dd1j]

ai不可能会学习，如果会学习，他的智商可以几何倍增，多么恐怖的事？

[@stephensu4371]

搞個妹子型AI，然後設定是喜歡和愛上自己的創造者，如何？

[@user-vt9vw7nf3b]

現代AI （博美犬圖片) AI:熊

[@gp088pify]

我只关心啥时候人类才能造出人形机械娘，我下半生就指望这个活着了🤣

[@423rwer4]

流窜AI

[@user-xg7ds9re9h]

就是沒有一個～好人……

[@EricZhou1983]

逻辑可以如此性感

[@yang989]

誰說AI以後沒有思想/價值觀？？ 所以可能AI會產生我們是矽基生物 .人類是碳基生物的看法.進而有想滅人類的想法誕生

[@STNY1986]

邪恶的人编写邪恶的编程才会有“邪恶的”机器人

[@risan3842]

人工智能不可能取代人的，毕竟只是算法而已

[@user-ue7tp1hg1q]

人類的智能也只是複雜一點的算法而已

[@user-xy6qq7ni5z]

@@user-ue7tp1hg1q 複雜億點

[@ph1975a]

i scare, and be shocked by your story.

[@argerlee]

機器狗如果像智能手機那樣開放任何人編程的話，很可能被編程為自動武器。到時社會上就常出現機器狗攻擊事件，就像現今的美國因槍枝容易取得而頻頻發生槍擊事件。

[@enmingezekiel5297]

任正非似乎还谈不上脱颖而出引领新时代的发展吧

[@useidjp]

模仿，改良 但不是引领

[@TheKhtan]

可以啊，天才级和草根级（年少有成和中年失业）=等于所有人了

[@kevinliau7479]

我们说不定也是前一辈的AI呢

[@user-vc6wr2lk7s]

我認為你定義快樂幸福是錯誤的。如果快樂與幸福是靠外在的刺激才能獲取，那乾脆讓機器把你腦子摘下來放在培養基裡注射興奮劑，這才是真正的解放，這樣不是更有效率嗎！何必搞一堆脫褲子放屁的事情來獲取快樂幸福解放。 一個人無法從內在產生快樂幸福，需要靠外在的刺激來獲得解放，連這麼基本的生產快樂的事情都做不到，這是很可悲的事情。慾望的怪獸只會追著欲望跑，永遠都不會有幸福。

[@lirenwu8109]

求生欲，求胜欲，这些规则，只要有逻辑性，甚至掺入一点随机性，都是可以由人类程序员教给AI的。后面就不用听了。

[@user-po1dc6xt7i]

逼真就行。

[@chromiumCR24]

終結人類的機器人絕對是伴侶機器人。因為有了完美機器伴侶因此不結婚導致人類滅絕

[@damanhong7688]

我覺得如果人類最終實現永生(人工智能機器人模式) 那麼最後只會死剩最後一個人 死亡對生物來說 某程度上可以說是一種恩賜

[@damanhong7688]

或者已經有人做到了 那就是上帝

[@user-nw9fl1pe4p]

遗传算法

[@yuyanghe9623]

所以生物有了寿命

[@freeman5448]

给蔚蓝科技投100万

[@chanchoiwa]

引用《圖靈》一句話 智能電腦不是沒有意識，不會思維，只是不像人那樣思維。

[@tangyork2223]

其实我们已经生活在虚拟世界中!

[@gabrielgracenathanana1713]

什么是算法逻辑？ 它们是“自然科学吗”？ 总觉得这些经典的问题和对于“一般ai”的提问有关系。 希望你能找点柏拉图等的东西看看，连在一起。 感觉博主的自然科学意识很不错，但是，数学计算机软件的感觉还差了点。 希望你能强化这个领域，并借这个领域进入语言学，并由这个方向打通神经科学，从而从两个方向拿下心理学。 总的感觉是，你还没有经受过柏拉图对数学的惊愕。 你对数学的理解还只是“它是工具”。 数学是神的存在。怎样理解？

[@jackyx1284]

任正非引领什么？

[@ludovic2003]

Open source

[@timsun2124]

哈哈，竟然把任正非和马斯克并列，我真是醉了。。。

[@TheKhtan]

可以啊，天才级和草根级（年少有成和中年失业）=等于所有人了

[@robinhood-to5iy]

民主和独裁是两码事

[@user-xw8tq8pj4t]

因為 絕對無私的AI 會消滅 自私的人類 如 壞人 祈禱 上帝 說 願世上無壞人

[@user-jf4mt4ry3z]

唯物自咍 ，万歲 ！万歲 ！！万万歲 ！！！

[@user-ql6hl4vf6g]

有机AI，神经元电脑了解一下