【人工智能】AI领域的第一性原理是什么 | 最小作用量原理 | 理解常识 | 因果关系

[@StevenHHH]

推 目前用中文講AI 最佳的頻道

[@michael77361]

这个问题的本质就是，如何让AI具备演绎，或者从理论到实践的这个过程。目前看，AI是基于机器学习，从数据中学习，从经验中学习，好的AI具有更强的抽象和经验总结能力，更能发现事物的本质。但AI不具备甄别能力，就是没有把理论高度抽象，并且将理论作为固化和强化的基本原则来应用于推理、创造。这个问题可能还是要从人类学习的方法入手，从本质上，人类可能并不应该比AI有特殊性，只是我们还没找到这个规律罢了。

[@LineXiongJieLin]

总结了下, 通往 AGI之路需要什么: 超越冯诺伊曼架构的新计算模型. 要能理解学习到的规律 更多的计算资源

[@wedovision]

简单的说目前的AI是猜测，等待你的判断，而不是自主的认知和意识。我的看法AGI的或者说真正的人工智能，是认知论和意识论的生物学理论完善之后才能发展而来的。现有的技术会做无限的逼近，但是仍然是等待人类判断的猜测，当然，他如果能直接接入现实社会，所能造成的后果也是相当可怕的，不是因为他有多么智能，而是他本没有目的

[@mengmeng4312]

这个好有深度

[@2melinc]

第一性原理不应该是AI发展或者说AGI的先决条件，而是其结果或者说结果自然体现。就好像小孩子智能的发育是不需要先知道因果论的，而是学习以后有意识和无意识的体验。简单的宣称物理学决定AI有些想当然和自以为是了：至今为止还没有统一经典物理和量子物理；数学乃至统计学不是物理学的分支但对AI很重要；智能的一个潜在特征是整体（i.e.智人）大于个体（i.e.细胞或单个神经电信号）之和，在物理上这个怎么表述我不清楚；物理决定AI就好像说道德经涵盖宇宙一样，道生一...三生万物 :-) 从直觉上讲，第一性原理是逻辑，或者简单说AI的输出有道理 make sense。AGI可不可能实现应该不是问题，早晚才是问题。不需要得图灵奖我们也知道能够学习是智能的一部分，能够学习就代表了？（量度的形容词）发展的可能性。

[@WillC-w5p]

诺贝尔物理学奖颁给了AI基础理论奠基人，liquid ai模仿虫子脑的运作方式打造区别于transformer框架的大语言模型。

[@lrqlrqlrq]

就物理学来说，认为能够通过实验归纳出第一性原理是还原，而用第一性原理推演和预测的是演绎。演绎随着系统尺度和自由度的扩大是不可预测的，单个氢原子你还能用量子力学的理论算算，但是多了就不行了，还会涌现难以预测的奇妙现象。这就是为什么凝聚态和湍流宏观系统要么用概率统计模糊预测，要么用第一性原理计算模拟得到有些偏差的结果。复杂演绎系统本身就不具备可解释性，上帝也给不了湍流的答案。

[@hanna8399]

实现AGI并不需要AGI可解释，甚至我相信AGI应该数学可证不可解释（因为能解释自己的智能应该需要更高智能，否则会出现类似于罗素悖论的情况）。 因此这里说的第一性原理应该对应的是实现AGI的工程性考量，而非对智能体本身的理解，因此这方面的思考也许是有用的。 就像你说的系统自由度过大之后不能预测，但没关系，构建出来的AGI的行为也不需要我们能预测，因此即使创造出了AGI我们也不能自诩上帝，以为对它们完全掌握。

[@ryantwan4486]

可以从混沌理论（复杂理论）和知识进化的思路去思考。从基因，到知识，到人工智能，都可能如此。

[@ryantwan4486]

用物理学的第一性原理去套人工智能，我不太认同。这就好像生物学去套基因，典型的哲学还原论。还原论的谬误的根源，是关注局部的因果性，而忽视了系统的异构性。最佳的例子就是，计算蝴蝶翅膀的流体力学，不可能推导出气候的后果。人脑也是一个典型的复杂系统，用还原论在根本上就存在不适用性。

[@ryantwan4486]

人类从牛顿之后，就陷入了泛控制论，机械论，还原论的狂妄之中，至今未改。哪怕我们在牛顿力学基础上，深入到相对论或量子理论，也不可能通过量子纠缠和退相干，就能计算宇宙。

[@ryantwan4486]

在我看来，哥白尼把地球拉下了神坛，尼采把上帝拉下了神坛，人工智能也应该会把智慧或理性拉下神坛。

[@chaurichard3157]

只能局部或設定在某段時間內，預計以某組規則運行，以此預測並規劃滿足需要，儘量把整個過程描述出各個宏觀階段，但在微觀上恐怕可做的不多，如果環境不利就要防守，知識進化需要摩擦，先發生才有知識

[@chaurichard3157]

AI之所以能夠產生價值是因為可以被想像為協助處理人類世界的問題，而不是機械和工具自己的問題，否則就只會造成經濟萎縮但卻沒有帶來效益，單純用物理學的機械壓迫來管理社會會產生災難，這是所謂第一性原理的愚蠢之處，人類的利益是矛盾的，所謂第一性會不斷被需要所改變，這是AI本身的悖論。馬斯克所講的第一原則只是一個方便的說法，他腦裡想的就是降成本，由材料替換和計算入手，並進行大量工程實驗，這是在理性和設計的基礎上碰運氣然後改進，最終目的是把火箭回收再用，令重型火箭做到二級分離，實現低成本的大規模太空運輸。宏大旅程變得經濟可行，這就憑空實現創造了新價值。AI現在也在做這種實驗，只不過花的錢更多，要真正依靠AI計算來得到均衡，在公共甚至政治的計算中包含在內，是不可能的，這是更危險的領域，也是人類的核心領域，而且AI是無法回收再用的，否則就需要無窮的記憶，回憶的複雜性也會無窮地增加，玩AI只是在浪費時間，去太空會有更大應用，但那與留在地球的人沒有甚麼關係

[@zwu2809]

佛学第一性原理（缘起性空）>生物学第一原理（要活着）>物理学第一原理（最小作用量原理）

[@pingenai]

AI第一性原理，就是道德經的第二章提到的。 也是相對論 所有的意義（知識）都是基於不同經驗觀念的Tensor 多維度空間 距離比較出來的。

[@白酒书生2]

你好，大飞，我尝试用哲学视角解释第一性原理，所谓第一性，是西方哲学公理系统的不证自明的逻辑终极点。比如欧式几何学的逻辑终极点是任意两点之间可以做一条直线；等五条公理。 gpt仍是上个世纪的产物，仍然无法转换新时代。一个新时代的转换需要具备哲学范式和科学范式的更替。从牛顿力学缔造工业时代转换爱因斯坦范式变为核能 互联网时代。这就是范式转换的力量。 gpt在这个几十年发展的终极能否出现自主意识，就是具备猜想假设和证伪，创造新时代的力量。不然依旧是一个旧时代思想僵化的产物和工具。就好比如鹦鹉学语，只是比较像人而已。

[@bestpartners]

感谢解读👍🏻

[@龙龙海-o7i]

非常有见地👍，也启发了我。谢谢

[@幻想小孩-d7l]

終於更新了

[@bestpartners]

哈哈，这几天陪家人过节了

[@lizhao6979]

自從人類稱為地球霸主以來，一直掌握著主動權，而且不斷地強化這種權利，主動干預自然和人類自己的命運，而現在我們正在逐步主動或被動地失去這種自主權，更加聽天由命，你說無力感也好，更自由也好，滅絕也好，進化也好，反正現在只好眼看著它發生。 傳統的人類像工薪族，一切都是有數有限的，也是穩定的，但今後可能像生意人，也許食不果腹，賠個精光，也許就發達了😄可謂好漢不掙有數的錢。

[@Chillwithpets]

关于 AGI是否是 AI发展的重要目标之一，大家怎么看

[@diskycn]

从第一性原理推出目前技术无法AGI的论证充分吗？我听了表示怀疑。

[@yulee9990]

就是因為第一性沒找到，所以A I會繼續遇瓶頸

[@akaiwon6594]

AI最大的問題應該是我們不知道該如何給予意義的資料庫，因為我們根本不知道意義是從哪裡來的，目前對於AI造成災害的種種設想，幾乎都是因為AI只重視計算和量化，所以就跟被汙名化的資本主義一樣，只要開發這片森林有利益，就算破壞環境，也會開發，同樣的，像是AI如果覺得毀滅人類更有利益，就會毀滅人類，或是之前有個設想，主人要AI製造很多火柴，結果AI就把整個地球的樹木都砍了，做成火柴，我真心覺得這是人工製杖吧，這個都是缺乏正確的道德觀念和價值觀，完全只以量化的數據來看待世界的結果，而道德和價值都是來自意義，因此在我們想到如何給予AI意義的資料庫之前，這個問題應該都很難解決。如果有人覺得AI看待世界的方式很正常，那恭喜你，你的思維已經被徹底量化，同時也失去做為人的意義和價值。 另外，我們為什麼可以分清楚現實和幻想呢？主要應該還是我們有所謂的感質，也就是主觀性的經驗感受，夢中的場景沒有那麼強烈，所以我們知道那是夢，電影中的場景根本沒有主觀性，所以我們知道這是看電影，但是我們不會真的感受到角色們的感覺，幻想中的場景也是如此。同時，如果是一件我們不曾經歷過的事情，我們就不容易判斷到底是不是真的，這時就只能靠所謂的常識，但是判斷就很容易出錯。所以光是靠大量的資料庫，想要讓AI分清現實和幻想，效果大概差強人意。我建議信仰科學教、數學教的信徒們，還是要珍惜這些無法量化的主觀感受和經驗，這才是組成我們自身的真正基礎，我們不是歸納法或演繹法或計算的結果，我們所有主觀感受與體驗才是自我的第一性。

[@chaurichard3157]

是的，能夠判斷利益才是開始，之前的都是過家家的玩意，人可以犯錯，但AI不能犯錯，這就令AI不能真正信得過

[@bestpartners]

更正一下读音错误，张首晟（sheng）

[@SyuAsyou]

把AI的第一性原理定在最小作用量雖然合理，但有點太籠統。我覺得應該和自然界一樣，可以定在演化論，物競天擇，適者生存。演化論也是生物界的一種最小作用量原理，拿來描述AI的第一性原理很合適。我也認同AI應該盡速學會因果律，才能縮小學習其他事物的時間和資源，猴子法始終不是一個好的發展方向。

[@dueuhskejdhdss]

好久不見🎉

[@hanna8399]

我倾向于数学，如果有硅基生命，他们所认知的物理规律不一定需要和我们一样。个人认为认知的本质是信息压缩，目前神经网络大力出奇迹，其实信息压缩率不高，远远比不上类似于麦克斯韦四个方程概括整个电磁学的程度。

[@fangzhai-mx6jr]

AI第一性的原理，我觉得是基础的数学模型是否会发生根本的改变，例如y=wx+b是否合适？

[@ΥγρόΠυρ]

李飞飞就在做相关工作

[@ghli2262]

我以为人工智能的第一性原理是直接满足人类需求的思维模式哪！但愿工程技术人员也能消化吸收这一原理，不过其他系统工程都应该有这种思维。

[@waynechiu9078]

可能產生偏誤的點： 人類目前所認知的第一性原理到底是不是實質的第一性原理？ 還是有更微觀的如量子世界的公理未被發掘。

[@wangyi8848]

即使是婴儿学习，背后也有潜意识，无法适用第一性原理/推理理论。AI应该是类似海量字典数据的收集和整理。先建立字典，再进行检索，再进行理论加工。如此往复，字典数据压缩也是是训练过程，使用字典是推理过程。

[@chaurichard3157]

沒有利益就沒法學會決策，也就無法真正學習，說到排除經驗那部分我就笑了，AI發展下去會發現只能笨笨的，天花板就在於無法克服自己的身分，人類真正的第一原則教給AI那還得了? 只能受困在物理框架之下，也就是一個笨奴隸

[@JaaShawGun]

同意，我们需要精心设计这个潜意识系统（我称之为思维控制器）。

[@IDhaBD]

应该是大力出奇迹。这里的“大力”应该是“神经元”的数量。

[@AmNotLegend]

excellent

[@hiucollo2402]

Thank you 大 飞 ☘ 😎 ☕ 😃 🀄 😇 ✍ 😀 🧧

[@Edward-kg5ud]

AGI 的定义并不明确。 并不是每个人都懂得物理定律和原理，现在的AI智能已经远远超出一个被狼或者羊等生物养大的人类。 智能并不是人类的特性。它包含在因果律里面。 智能的第一性原理是在因果的逻辑里面，只要AI具备了基础的逻辑能力，加上学习的数据是强因果的高质量数据，它最终就会产生高的智能体。 无论是先主修物理、数学，再主修语文，还是反过来，问题不大。 先选择实用反而可能是最优的。自然选择总是打败想当然。大力出奇迹是对的， 我们说AGI不可能就像地心说一样只是人类的自大，对常识的融会贯通是早晚的事。 AI 在几年内就会远超目前人类水平，AGI 的问题几年后没人再聊了。 一个简单的类比就是，我们所说的没有常识的AI 要远比几十年前的人类要智能。 所以大力出奇迹加高质量数据一定是对的。

[@Krishnaun]

不究竟不圆满！要是能赋予周易模型那就无敌了！

[@Rabroad2405]

从宇宙创造的“第一性”角度出发，智能的出现应该是一种相似性的感知，假如人工智能没有脱离人工形成自己的感知，所谓的智能可能就不会出现。

[@ryantwan4486]

你说的相似性，本质是大脑的模式匹配。

[@andytalk]

这个论文的作者，不了解计算机科学，他如果了解，现在的AI是深度学习。在深度学习之外，还有推理机。就是这篇论文所讲的。事实证明，目前来说，推理机并没有取得什么成功。深度学习法却取得了巨大成功。

[@guzhengwu]

不是一个维度的思考：），都是很有意义的研究。

[@andytalk]

@@guzhengwu 不认为这个研究有什么意义。很水的论文

[@mvft168]

抛砖引玉帮助提出问题吧，这种不值得读的文章才是视频解读的价值啊。

[@YiJiang]

站在2024年3月的时间点上，我开始怀疑文章作者的观点了。

[@alexjiang758]

能理解文章观点，的确，现在我们用的软件和硬件体系，除了规模以外，和几十年前并没有大的变化。用这陈旧的体系支撑AGI，我也觉得不靠谱。

[@junlu999]

ai的第一性原理应该是阿西莫夫的机器人三律

[@feifeishuishui]

不管怎么样, 现在的GPT和人类是思维方式是完全不一样的

[@qiucolin2504]

我是研究超级智能的，所以我搞了首个AGI的技术解决方案，提了AI工程化的数理基础。前面的AI是成也图灵、败也图灵

[@qiucolin2504]

数学在技术、管理、文化上的大一统可能是第一性原理，技术的本质是什么？管理的本质是什么？文化的本质是什么？创新的本质是什么、天花板在哪里？

[@qiucolin2504]

具体方案可以搜索“制造业如何发展和用好通用人工智能”

[@edmond7986]

怎么用物理原理写情感故事呀

[@benjl7455]

現在gpt不是幹的還可以嗎？！所以gpt正在掀起這波ai千層浪

[@Mr.Nobody-i2k]

晟sheng

[@bestpartners]

谢谢指出错误🙏🏻

[@AI_Futurology_101]

老学究的喃喃自语 这个教授可以去和乔姆斯基抱团取暖

[@blchen1]

说了半天, AI领域的最小作用量是什么？或者更一般的, 一个AI模型的作用量怎么定义？

[@bestpartners]

论文确实没有谈到这个层次，主要是定性，到底 AI 有没有第一性原理，应该是什么

[@blchen1]

@@bestpartners 谢谢回复

[@Willdragon2008]

这集有点一本正经的胡侃的感脚，八第一性原理作为判断任何事物的合理性显然不能成立。引用的几位都是国内学者的发言，国内的基础研究跟世界有不少差距

[@yuli.kamakura]

眉毛是怎么了？

[@bestpartners]

可能是光线的问题吧😂

[@yuhangliu4410]

先让AI学学解刨吧，学会就不会做出六个手指头的手了

[@VerseUtopia]

世界 蔑视智慧蔑视天才 抛弃了复杂思考能力。。 转而 用三岁小孩的智力去幻想 去做事。。 悲哀。。

[@chao541]

这是在手把手培养掘墓人硅基生命😂

[@jerryhu3654]

这是个没有意义的话题。

[@corgirun7892]

浪费了8分钟

[@felixchengtk]

第一性原理與「性」有何關係？好好一個通用的譯名「初始原理」不用，硬要譯成「第一(性)原理」！

[@vacuumisallinone2618]

碎形理論 迭代理論 性空緣起理論 冥冥中之靈感理論 渾沌浮顯秩序 隨性自然 任運自然 如道行也 乃自由意志 卻又是無我相也 性空緣起 自然空性 真空妙有 無為而為 在於不在 無所不在

[@corgirun7892]

浪费了8分钟