【生成式AI 2023】FrugalGPT: 來看看窮人怎麼用省錢的方式來使用 ChatGPT (下)

[@wewewewe831]

感謝老師持續的普及知識，普通人要接觸到了解這些概念，簡直是遙不可及!!

[@JulienChu-f8m]

李老师，今天在大阪吃了宝可梦餐厅的套餐 ，非常nice，推荐你这个宝可梦大师去吃😊 一直听你的课，非常感谢🙏

[@xiaohu-x1n]

核心的点是，我们如何保证这个scorer的有效性呢

[@lufffya]

使用强化学习训练scorer，reward就是最高的Accuracy以及最低的Cost😀

[@xiaohu-x1n]

@@lufffya 谢谢的你回答，我明白了。你是指这个评分器标准是基于模型对一些评分数据集的测试来做。但是我的担忧是受限于测试数据集的限制，评价器的质量可能会有偏差。当然，我相信这评价LLM应该也是个重要分支。假定我们能找到一个很不错的评分器，运筹优化肯定能优化整体提升。

[@dysh-tyc-edu-tw]

這多模型使用是個不錯的切入點，但模型使用價格不會都固定不變，當有新模型出來時，通常舊模型的價格也會下降 假設這價格變動頻繁，每次要去計算r(效能最大化)就變成是浮動的

[@sakimi171]

李老师，能催更吗？想看最新生成式模型相关论文的分享~PS：喜欢听李老师的讲课❤

[@minhaoling3056]

请问老师是如何选论文来读的呢，深度学习的论文好多。

[@tw19801113]

有沒有新番

[@蒂蒂-f7o]

謝謝老師~~🥳🥳🥳 遲到了~ 但我從不缺席!!! 💪💪💪

[@pengshancai5973]

老师可以讲讲Meta最近出的MEGABYTE吗？读起来有点难懂，想听老师讲讲呀！

[@rikki146]

這就是 LLM 版的 ensemble method 嗎... 我不想再碰 kaggle 了 (抖

[@smithbob-pu4lv]

老师的视频受益匪浅，有一个问题想请教老师，在最后的性能和花费的图中，为什么使用frugalGPT会最终导致消耗可能会比GPT4的消耗还多

[@xiaohu-x1n]

这个是控制消耗的变量，横轴是代表有限的预算，因为不同的预算可以使得frugalGPT能选择更好模型的空间更大，而每一个具体的模型都是固定的，举个例子，同样回答10个问题，GPT3花费0.2美元，GPT4花费1美元，如果frugal可以灵活选，那么花费将在0.2到1.0美元直接，当预算只有0.5美元时，代表它必须要选一部分问题交给GPT3来回答，当预算超过1美元时，代表他可以任意选择模型

[@rodericktung264]

催更了，老师有一个月没更新了，有没有新的论文分享❤

[@qwepoi2014]

老师能搬用你的视频发大陆的互联网吗

[@王證壹-e5d]

謝謝老師！ 我有疑問，為什麼圖表中會有 ChatGPT？尤其費用比較表中，ChatGPT 甚至變成按照 token 計費了 ?! 就我認知，ChatGPT 是一個軟體服務，背後是不同代的 GPT，舉例來說，若是 Plus 使用者，可以選擇 GPT-3.5 或 GPT-4；若是免費的使用者，則只有預設 Model 可以使用。作者把 ChatGPT 加入到比較中，感覺怪怪的。

[@liding861]

chatgpt也有对应的api版本，然后是按token计费的。

[@qwepoi2014]

老师你好，希望获得你的联系方式，因为我想搬用你的教学视频以及合作。

[@ericmao0910]

富有限制了.....沒有，我很窮，我只是又窮又笨而已

[@CN-YT-Ranking]

热烈祝贺《Hung-yi Lee》荣登【中文油管排行榜-AI人工智能(人工智慧)频道-Top 17】前3名！祝《Hung-yi Lee》频道越办越好，蒸蒸日上！😀 kzbin.info/www/bejne/jWnCqYV6jN6Li68