【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中)

【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中) - 拆解問題與使用工具

Рет қаралды 95,622

Hung-yi Lee

Күн бұрын

Пікірлер: 79

@HungyiLeeNTU 9 ай бұрын

因為本週我沒有講課，所以本週不會有錄影更新，下週課程更精采，敬請期待

@bwoyu 9 ай бұрын

老師我一定這周把芙莉蓮看完然後繼續追番

@super6704 9 ай бұрын

謝謝老師，期待老師下週精彩的課程

@susuky3832 8 ай бұрын

# 1. 不訓練模型就強化語言模型能力的方法 1. 使用神奇咒語（例如Chain of Thought） - 要求模型逐步解釋思考過程，有助於提高回答問題的正確性 - Chain of Thought的原理等同於把問題拆解成多個步驟 2. 提供額外知識 - 將相關背景資訊輸入給模型，增加模型擁有的知識量 # 2. 拆解複雜問題 1. 將大型任務拆解為較小、簡單的子任務 - 例如：撰寫長篇報告時，先列大綱、逐章節撰寫 - 模型較易完成每個子任務，從而解決整體問題 2. 在任務結尾加入自我檢查步驟 - 讓模型檢查自己的輸出是否正確 - 利用模型的自我反省能力修正錯誤 3. 對同一問題生成多個答案，取最常見者作為正確答案 (Self Consistency) # 3. 使用外部工具 1. 透過呼叫搜尋引擎獲取額外資訊 (Retrieval Augmented Generation, RAG) - 使用搜尋結果作為輸入，模型較易產生正確答案 2. 寫程式並執行程式 - 例如解聯立方程式，寫程式呼叫solver比直接文字接龍更準確 (Program of Thought) 3. 呼叫文字生成圖像AI (DALL-E) - 將模型的文字描述轉換為對應圖像 4. 使用GPT Plugin呼叫其他外部工具 - Plugin收集上千種工具，模型可選擇適合的工具使用 5. 操作流程：模型以特殊符號標記呼叫工具的開始與結束，中間輸出指令操控工具 # 4. 重點補充： - 本講次中模型參數皆未被訓練，模型能力透過上述技巧獲得強化 - GPT-4示範了更強的自我檢查及工具使用能力

@hankdonald7812 9 ай бұрын

在不训练语言模型的情况下，增强语言模型能力的方法： 00:36 方法一：拆解任务 07:23 方法二：自我反省 17:12 方法三：self consistency(同一个问题，不同答案) 24:59 方法四：使用额外工具 26:13 使用额外工具之搜索引擎（Retrieval Augmented Generation） 31:51 使用额外工具之写程序（Program of Thought） 36:00 使用额外工具之文字生图AI（DALL-E） 41:22 语言模型是怎么使用工具的（文字接龙）

@魏芳芸-l5g 7 ай бұрын

我是AnyTool的作者，看到老师放了我们paper的截图，非常开心！

@tommyyu2063 9 ай бұрын

半夜睡不著就該看這個

@mishavouse1840 9 ай бұрын

看这个，会慢慢睡着嘛？我也睡不着

@Frankium 7 ай бұрын

半夜睡不著看這個，結果越開越精神

@yuchen4163 3 ай бұрын

謝謝老師的分享，講得太好了! 真的淺顯易懂，收穫很多!

@yinchuliu6914 9 ай бұрын

本季必追之深夜番!!

@RON-Lin 9 ай бұрын

看完教學，好想知道作業三是什麼！

@kony9286 5 ай бұрын

我一個中文系的女生都能看得懂，老師講解真的很厲害👍🏻 幽默有趣讓人一集接著一集觀看😊

@otis9300 8 ай бұрын

不訓練模型的情況下，強化語言模型的方法：方法三：拆解任務方法四：使用工具 -------------------------------------------- 00:37 3.1 拆解任務 07:24 3.2 語言模型檢查自己的錯誤 14:25 3.3 考考大家的觀念 17:12 3.4 為什麼同一個問題，每次答案都不同？(Self-Consistency) 22:02 3.5 組合拳 Tree of Thoughts (ToT) -------------------------------------------- 24:51 4.0 使用工具 26:14 4.1 使用工具-搜尋引擎 Retrieval Augmented Generation (RAG) 31:52 4.2 使用工具-寫程式 Program of Thought (PoT) 36:00 4.3 使用工具-文字生圖 AI(DALL-E) 40:42 4.4 使用工具-GPT Plug-in 41:23 4.5 語言模型如何使用工具？ 46:35 4.6 使用工具-組合拳

@simonpeter9617 9 ай бұрын

老师太勤奋， Claude3都跟新了

@e49134030ee 9 ай бұрын

感謝老師的分享，讓我們使用語言模型同時也了解後面的運作原理

@jerryfoxcp9 9 ай бұрын

太爽了~幸好我都超晚睡的~

@theaqu8660 9 ай бұрын

1.CoT,CoT-SC,tree of thought (ToT),algorithm of thought,graph of thought … 2.tools/agent . RAG(web search,your own database),program of thought (PoT),text to image (DALL-E…),gpt plugin. [Function of tools]

@user-grkjehejiebsksj 9 ай бұрын

深夜的課堂最棒

@yypage 4 ай бұрын

還是從前那個少年，沒有一絲絲改變XDDD 老師埋的梗都蠻好笑的🤣

@9834038 9 ай бұрын

愛您

@ValidLi 9 ай бұрын

沙发

@ninetydirectory3798 9 ай бұрын

各位深夜的同學大家好啊

@huangmel8975 9 ай бұрын

拉椅子坐好

@rujixie9025 9 ай бұрын

老师以后可以把3/29 Nvidia讲RAG的视频也放出来吗？

@hudsonvan4322 9 ай бұрын

我也想聽

@sxyang8135 6 ай бұрын

好想听

@Terry0319 9 ай бұрын

謝謝老師

@曾翔-u5d Ай бұрын

更新:function call(上網、生圖等等)現在只要在prompt中明確指出，甚至不需要偽代碼，就可以進行分段搜尋、多來源搜尋等複雜功能的執行方式~

@UboyLin 9 ай бұрын

聽到 24:33 時我的腦中開始出現旋律： 'O Sole Mio

@jason77nhri 9 ай бұрын

謝謝老師提供的遊戲 prompt 請開始一個文字冒險遊戲。由你來描述遊戲場景，由玩家來決定要採取的動作，每次你描述完的場景之後,請根據你的描述產生一張圖。請詳細描述場景中所有的物品、生物，如果場景中的人物在對話或跟主角對話,請把對話內容完整輸出來，如果主角和場景中的任何生物互動，請把互動過程詳細描述出來，不要出現重複的場景或對話，故事要曲折離奇、高潮迭起。現在遊戲開始。

@shihminlo6097 9 ай бұрын

還是當初的少年，沒有一絲絲改變^^

@andyliu2435 9 ай бұрын

它還是當初那個少年,沒有自我反省,哈哈

@hudsonvan4322 9 ай бұрын

跟我想的一樣，一定是拆解會比較順利，結果主管不相信我😂

@willy7703 9 ай бұрын

15:58 這個哽應該是夢然-少年很好奇大學生真的知道嗎 😂

@lw2519 9 ай бұрын

笑死我了

@user-yn6tq5hb3w 9 ай бұрын

老師好，請問您也可以把作業的部分放上來嗎？讓我們也可以一起練習，非常感謝。

@willy7703 9 ай бұрын

老師官網有大家都可以找得到XD

@user-yn6tq5hb3w 9 ай бұрын

@@willy7703 謝謝

@陈明-v7p 9 ай бұрын

请问下，老师的官网在哪里？@@willy7703

@吳紹瑜-t8l 9 ай бұрын

老師你好 3/29RAG的課程在網路上也能看到嗎

@xaviertsai4063 9 ай бұрын

上課啦～

@gikk-fx5zd 8 ай бұрын

在同一个对话框再次提问同一个问题，模型是会纠正答案的，上下文会有影响

@jason77nhri 9 ай бұрын

謝謝老師的教學請問3.29的RAG課程也會有影片嗎謝謝

@CornuDev 9 ай бұрын

感謝分享

@陈明-v7p 9 ай бұрын

老师，作业我们也可以做做看嘛？感觉都听懂了，想动手试一下

@HungyiLeeNTU 9 ай бұрын

所有的作業都可以在公開的課程網頁上找到 speech.ee.ntu.edu.tw/~hylee/genai/2024-spring.php

@akira19890720 9 ай бұрын

好好學AI，以後死前可以看AI幫我生出獵人的結局。

@weizhang4520 9 ай бұрын

作业在哪？

@weiwang1058 9 ай бұрын

各位同学大家好

@evachen3010 9 ай бұрын

不可能半夜一點半上傳欸

@haoweishih4967 9 ай бұрын

我好快樂

@RayDu-zs4qw 9 ай бұрын

倘若說呼叫工具的特殊字符是提前預置好的，那是不是每次有新的插件都要重新訓練一輪呢？

@汪琦-z3m 9 ай бұрын

Lee 老师，为啥作业部分被cut off了？我也想写作业 😆

@king12411ft 4 ай бұрын

想問一下使用poe代替chatgpt除了不能使用api之外分別大嗎?

@shaoe 8 ай бұрын

教授偷渡夢然的少年...他還是當年的那個少年沒有一絲絲改變，但是，反省這個行為，如果是同一個對話的情況下，理論上模型考量到整個上下文，再次的詢問應該是會有不一樣的回應，實測claude也確實是如此。 1. 請模型說說台大的玫瑰花節 2. 請模型確認回應是否正確 3. 模型回應它知道它自己唬爛了 4. 請模型說說台大的玫瑰花節 5. 模型回應台大沒有玫瑰花節以上。所以，在下得到一個粗淺的結論是，同一個對話上下文的情況下，模型的回應因為考量其上下文而記憶其反省，但換一個對話之後確實就會再次的唬爛。

@yuan0 Ай бұрын

我也在想會改變啊，應該是重開一個問題才不會改變，搞得我好亂....

@lemon94 9 ай бұрын

别的不爱看，就爱看这个

@mu-enlu8606 2 ай бұрын

實測ChatGPT，介紹台大玫瑰花節，如果在同一個對話框，反省過，再問一次，他會回答沒有玫瑰花節；所以老師指的是，開新的對話框，他不會知道上次的檢討。

@王朝-t6j 9 күн бұрын

我也對這個感到疑惑，包括上一堂的翻譯問題，同個對話AI理當對上下文是有一定的記憶能力，所以繼續請AI翻譯稀少語言它是能依序先前給的資料進行翻譯；再請AI介紹一次玫瑰花節，他也會知道這是錯誤的但如果是「新開一個對話」，那當然會因為訓練參數沒有該語言而無法翻譯；同樣也會依據我們的要求介紹玫瑰花節，對話與對話間是不會互相連結的