Master ChatGPT Prompt in 13 Minutes

[@EngineerGary]

大家在使用 ChatGPT 的時候有遇過什麼困擾你的問題嗎？歡迎在下面提出來歐！ 搜集夠多的話，之後可以來做另外一集解答大家的疑惑～

[@希卡動畫HiKa]

我要怎麼讓GPT寫的小說不像作文

[@EngineerGary]

@@希卡動畫HiKa 這個可能可以把你要他寫的小說，多加上風格描述，例如說科幻、懸疑，xx 有名作者的風格，例如說金庸、倪匡之類的，應該會有一些幫助

[@davidkuo5702]

真的很受用歐!!尤其是　＂＂＂＂＂＂使用這個符號　加上給予清楚的步驟，來產出需要的內容！ 常常遇到的問題就是 ＞無法一次把所有內容說完，要一直打＂ｐｌｅａｓｅ　ｃｏｎｔｉｎｕｅ＂然後！當全部寫完了，要拼湊起來來能產出一個所要的最後版 ＞不知道要如何只是ＣＯＰＹ圈選要複製到外面的文件！由其實透過手機，會把所有畫面的資料都貼上去了！　往往還要在外面的ＷＯＲＤ檔案或ＦＢ做ＤＥＬＥＴＥ的動作！ 再次感謝您～　真棒！

[@lucialu-oz9rx]

用三个引号包起来具体是怎么操作，是“““谢谢谢谢谢谢谢谢”””吗

[@EngineerGary]

@@lucialu-oz9rx 沒錯歐，引號只是個例子，用別的估計也行，如果要人比較好看的換行的話，shift+enter 可以在對話不要送出就換行

[@賴政緯-r8z]

說的好啊！感覺到製作影片的用心

[@julianchai2959]

非常感谢！原教程我放在那里三个星期也没有看完 这个一口气就看完了 辛苦了！

[@shoufen]

谢谢❤

[@KLab903]

表達好清楚 >w< 謝謝分享重要資訊！

[@希卡動畫HiKa]

角色扮演真的是一個很好用的功能除了寫程式之外你讓gpt扮演一個翻譯官讓翻譯文章能更精確和通順

[@user-hs4vl1wk1k]

感谢给老师的分享，真是非常的棒。

[@ichoiceu]

讲得非常好👍

[@wangjimmie]

都是有价值的建议 谢谢❤

[@董哲佑-m2m]

我也有去看官方介紹，但是你的舉例讓人覺得很實用易懂，已訂閱

[@EngineerGary]

很高興這個影片有幫助到大家了解 prompt 的眉眉角角！謝謝你的訂閱～

[@tommyluke9314]

讲的太棒了！！！

[@97007kim]

這影片太讚了 已按讚訂閱！

[@bradtsai6746]

給旅有考慮出一期教大家使用fine-tuning 嗎？還是有推薦的教學嗎？

[@EngineerGary]

很專業耶！ 沒錯，有在準備中歐～ 這陣子我已經調得不要不要的了！ 相信在未來，AI史上會稱這為羊駝大亂鬥

[@bradtsai6746]

@@EngineerGary 期待ing

[@yiwei-cheng]

分享的讚！

[@大白菜-l6g]

感谢分享。。。

[@fractal_note]

awesome video ！

[@tanteckleng5062]

👍👍👍

[@井宿遊戲頻道]

我想問下 Temperature=2 這個指令用了之後 每次詢問都要用一次嗎?

[@EngineerGary]

如果是使用api 的話每次都要設定成2歐！否則會是使用預設值

[@井宿遊戲頻道]

@@EngineerGary 那網頁版的話呢？

[@鄭琮瀚-x2j]

請問有沒有 Azure OpenAI 的教學

[@EngineerGary]

是指說在 Azure cloud 上面使用 OpenAI API 嗎？ 看了一下 Azure 上的 API 說明： learn.microsoft.com/zh-tw/azure/cognitive-services/openai/chatgpt-quickstart?tabs=command-line&pivots=programming-language-python azure.microsoft.com/zh-tw/pricing/details/cognitive-services/openai-service/ 應該跟直接用 OpenAI 的 API 沒有差太多才對！ 關於怎麼呼叫 OpenAI API 可以在 ChatGPT 揭秘那集影片，下面我有附上影片內呼叫 API 的 colab 程式碼連結， 那裡應該就可以知道怎麼用囉！

[@希卡動畫HiKa]

我還想聽聽你對notion ai的操作 心得 再跟GPT做比較

[@pochengliang]

手刀訂閱了！問一個問題，如果跟chatgpt對話比較長，它會忘記較早的對話，此時要怎麼辦？是要放棄目前的對話串，重開新的對話？還是有其他的方法？

[@EngineerGary]

目前基本上只有治標的辦法：換成 4 的版本，可以容納更多約 8000 token 或是把之前的內容精簡成比較短的內容後繼續 本質上的問題就是 token 有一個上限，而 3.5 只能放 4096 個 token，目前已經有一些研究想辦法把一次能放入的 token 增加 商用的部分像是 Claude AI 已經有 100000 token 的試用了，或許等 OpenAI 他們釋出更新的版本，這樣長對話的效果會好更多

[@pochengliang]

@@EngineerGary 我目前是用gpt-4的版本, 然後我發現他會忘記較早的對話...... 無論如何,謝謝回覆!!

[@hengxinliang3557]

notion的分享怎么能看呢？

[@EngineerGary]

下面的說明欄的 notion 連結點進去應該就有囉！

[@tungw3250]

影片簡單明瞭 好棒 👍🏻 一直覺得GPT用英文操作會比較順，用過中文操作就一直只是瞎盼的感覺，下次一定要試試看你教的方法👍🏻👍🏻👍🏻

[@EngineerGary]

很高興影片對你有幫助！ 目前確實多數的語言模型，在表現上還是以英文比較好，中文如果像英文那樣給個簡單的 prompt，通常就很容易遇到沒辦法要他回答我們想要的問題。 所以更好的給他 prompt 在中文又會更重要一些！

[@-leovinci]

我正在开发调用呢，很疑惑当我的提问 messages 字数（历史的提问和回答）接近 4000的时候，后面的回答就会很快停下来 [DONE] 了 看起来是所有 提问(包括历史)+回答 的字数总数有限制？

[@EngineerGary]

我猜測是 OpenAI 他們會把歷史訊息做一部分精簡之後，塞進你新的一段，這樣才能保有以前的重要訊息 所以他精簡的內容越多，應該就會影響到它生成給你的字數囉！

[@杨睿宁]

提问：假如我的prompt比较长，加上样本文案，压缩了GPT上下文的长度，它只会给我一个100-200字的回复，让它继续回复就像断片一样，这类问题应该怎么解决呢？

[@EngineerGary]

因為 context length 決定了模型可以接受 input+output token 的上限，所以如果你的 context length 沒法加大的話，只能先對於你的樣本文案做壓縮，壓縮的方式就是做內容總結，濃縮一下要點！ 不過最有效的還是換更大 context length 的模型，像是 Claude 系列就都蠻大的

[@minxiang503]

您好，由於我自己研究所需，目前想要利用ChatGPT幫我閱讀大量文字(約1萬中文字)後，幫我隨機產生不同的Q&A。因ChatGPT 的輸入和輸出都有字數限制，我有嘗試分段輸入讓他記憶，但是回饋給我的Q&A內容幾乎相同。請問我該如何做比較好呢?

[@EngineerGary]

嗨～先感謝你留言發問啦！這個問題很好而且不是簡單的任務！ 首先你已經知道這麼多字，是沒辦法一次丟進去 ChatGPT 的， 3.5 的版本可以輸入約 4000 個 token，4 目前比較便宜的方案是 8000 個 token，10000個中文字應該會有 20000 多個 token（約略估計） 如果想知道 token 和字的差異，以及怎麼算你手邊的中文字到底有幾個 token 的話， 可以參考之前有做過的一集影片，ChatGPT 揭秘：kzbin.info/www/bejne/pH2yh2iQgql6lbc 回到你的問題，下面假設你是用 3.5 的模型 API call，如果是我的話會把任務拆解成這幾個部分： 1. 將文字分段，因為要盡量把 「文字+你給的提示+你預期 ChatGPT 回答」，控制在 4000 token 內，所以分段文字的長度要先考慮好 2. 寫一段提示，目標是要把一段文字做摘要，提示類似這樣：你是一個厲害的記者，擅長將文章內容做總結，總結的內容要越具體越好，給你下面文章內容，請用 xx 字內總結 3. 有了這段文字的總結之後，要他把總結改寫成一個問句，提示類似這樣：你是一個厲害的搜尋引擎，擅長將句子改寫成問題，問題要符合 SEO，給你下面句子，請改寫成 yy 個問題，問題要越具體越好 這樣你就有了一段文章 vs 幾個問句的 QA pairs 了，整個思路大概就是先把你的文字內容濃縮之後，反向產生問句這樣，又因為你是要做 QA，問的問題不可以太一般、模糊，例如說：這篇文章在講什麼？這種問題就沒有什麼資訊量，很難回答。 另外加碼回答，如果你是需要做 QA 訓練的話，那麼你需要準備 negative examples，這時候你就隨機抽其他問句來配一個文章，應該就可以有不錯的效果了！

[@HesZhang]

notion笔记从哪里获得

[@EngineerGary]

在說明欄有歐！

[@zzhzzh-zg5qc]

请问脑图是用什么软件制作的？

[@EngineerGary]

是用 xmind 歐！

[@穆飞-h7e]

T血哪里卖的？

[@EngineerGary]

是比賽的獎品～不確定買不買得到！

[@zhenli-l1f]

材料在哪里领取

[@EngineerGary]

說明欄的 notion 連結！

[@ShuZH_Leo10]

prompt和article在输入指令中是什么含义？

[@EngineerGary]

prompt 就是指示，要丟給 ChatGPT 的文字內容 article 就是你要分析的文章

[@ShuZH_Leo10]

@@EngineerGary 我在输入的时候是不是只需要把内容一步一步写进去，不需要在前面加上prompt，感谢回复🙏

[@EngineerGary]

@@ShuZH_Leo10 我假設你是在 ChatGPT 瀏覽器上聊天使用的話，那一次對話你能放進去多少就多少會比較直接，然後不需要加 prompt 沒錯，那個是用程式呼叫模型，用的變數名稱而已！ 程式碼那邊展示的是如果使用 API 呼叫 ChatGPT 的模型的話，會那樣寫～

[@ShuZH_Leo10]

@@EngineerGary OKOK明白了，谢谢博主

[@EngineerGary]

@@ShuZH_Leo10 不會～很高興有觀眾問問題！

[@smile-f5w4r]

第一次看影片,介紹得很不錯,但溫度參數我看不懂是什麼意思?

[@EngineerGary]

如果是透過網站用 ChatGPT 的話，是不會碰到這個參數的～ 透過 API 的開發者，才有這個參數可以調整，官方的 API 文件有簡單說明：platform.openai.com/docs/api-reference/chat/create#chat/create-temperature 簡單的來講，語言模型在生成下一個 token 時，會從好幾個候選 token 挑一個出來，每個 token 的機率是不同的，怎麼挑就是透過溫度這個參數控制的！ 溫度=0 的時候，就會直接挑機率最高的 token 溫度越高就越隨機挑選的感覺！ 希望這樣有讓你更清楚～

[@smile-f5w4r]

@@EngineerGary 謝謝你的詳解

[@wangjackie915]

你家的书柜，圣诞节灯，我家都用同款

[@jerry27syd]

chatGPT 建議用` `

[@koalayo]

原來是RAP KZbinr

[@EngineerGary]

Yo~Yo~

[@HowToDegree]

為什麼會有Tensorflow的衣服XD 有Notion實在太棒了 啾咪

[@EngineerGary]

哈哈 衣服好像是以前參加iT邦鐵人賽的獎品！

[@Andy055229]

網頁chatGPT 翻譯日文時常常需要一直提示他是個翻譯家 偶爾會跳日文、英文回復

[@EngineerGary]

有一招怪招，有時會蠻有效的，可以試試看！ 在你的 prompt 最前面加上 #語言代碼，以日文為例的話：#ja 這樣他就會用這個語言回覆你～ 不過你所說的問題，確實是目前 LLM 多少會遇到的，主要就是根據他訓練文字資料，偏重在哪一個語系， 那個語系的回答就會比較好，也比較容易不時的跑出來這樣！

[@viamshit]

🍉

[@EngineerGary]

🍌

[@viamshit]

@@EngineerGary T = 10000000000000000000000000000

[@EngineerGary]

@@viamshit ok 都是我了

[@李旻恆]

不打鼓改唱RAP?

[@EngineerGary]

下次是不是要騎車了

[@rabbit76533]

看完了我只學到NO~NO~NO

[@EngineerGary]

這樣你已經學走最重要的部分了 可以畢業了

[@hopperblue934]

666

[@aloneproud]

No No No

[@EngineerGary]

Yo yo yo

[@聂宇讲真的]

🤡为什么所有的电脑程式都要用英文输入？中文不可以吗？电脑只听得懂英文吗？为什么电脑只听得懂英文？

[@躺匪]

什么文都可以，所有文字都是字符而已，有中文编程语言，易语言，只是没有市场而已。