【生成式AI導論 2024】第13講：淺談大型語言模型相關的安全性議題 (上) - 亡羊補牢、語言模型的偏見、有多少人用 ChatGPT 寫論文審查意見

[@princend1584]

李宏毅老師真的很俊朗…

[@xlgnepo]

有同感。李教授这样的才貌双全的AI科学家啥时候真要演个电影说不定全球爆红。

[@rex-coding]

很棒的課程，老師的線性代數課程也一樣

[@xiaohu-x1n]

每个人都是带着偏见看世界的，没有偏见就意味着没有主见。

[@蔡文嘉-i4z]

感謝老師的分享❤

[@akingtoy]

感謝老師

[@陈宇-t2t]

Thank you for sharing.

[@danpoo007]

謝謝老師!

[@willy7703]

20:30 我根本不意外 因為LLM都是擷取網路上的資料居多 現今社會就是左派當道🤣🤣🤣

[@miku3920]

30:22 隱寫術

[@TingZhou8]

最偏左的好像是谷歌的Gemini.

[@deskeyi]

人能進化到今天就是因為「偏見」，偏見和無知就像一個分類器的兩面，過於偏見就是overfitting，過於無知就是underfitting。人類一出生就是一個自學習的智能體，搞不好還有pre-trained的參數，慢慢從undersitting學習。因為訓練資料（出生地）、算力（基因）、能源（家庭條件）的差異而成長為不同的智能體，如果不能從千變萬化的世界中學到規律，掌握「偏見」，就會成為杠精😅反正啥都有特例，你說人都有一雙手也是錯的，是要歧視那些失去手的殘障人士麼😂你問GPT我男/女朋友來例假怎麼安慰他本來就該得到完全不同的答案😅

[@deskeyi]

雖然和課程無關，我想引述賀瓏昨天的話「憑什麼認為Victoria是一個女生的名字」😂

[@xlgnepo]

所谓偏见，未必是贬义词，更像是个人经验带来的贝叶斯先验概率，目的还是提高个体生存概率。强行定义什么样的是偏见，这本身就是一种权力话语体系而已。

[@Shannonhsuing]

赞

[@harrison_chiu]

想到一個跟這一課不是太大相關的問題想要問老師。 因為之前聽講說訓練大語言模型時的方法，用的是網路上的資料會經過篩選，以過濾掉重複的或不希望模型輸出的內容。 但是我在想會不會有一些比較複雜的資料處理方法，像是把資料內會被過濾掉的內容進行標註，在訓練過程中，被標註的內容只會放在輸入那一邊，訓練模型輸出時被標註的字就會被跳過。 會問這個問題主要因為最近 taide 釋出小玩了一下，因某個不知名 bug 讓語言模型亂輸出的時候幾乎都會出現一堆看起來很像判決書中的標準格式的亂碼，所以自己就在想是不是有辦法從訓練方法避免模型對這些不是很必要的輸出內容 overfitting 的方法，又不會因為刪掉句子而影響原本資料的完整資訊。 先謝謝老師花時間看這則落落長的問題，作為您的忠實粉絲一直都很喜歡老師的影片^^

[@SyuAsyou]

關於奇偶token加浮水印的方法，是不是用統計的方式檢測出GPT刻意留下的水印？

[@DoctorInsight-melody]

如果只是使用LLM協助翻譯，例如中翻英；中文原文是自己寫的，若用加上浮水印的模型進行翻譯後，是否也會被認為是LLM產生出來的文字?

[@miku3920]

我不認為偏見有什麼問題，人的偏見更大 為了消除AI的偏見，做更多的干預只會造成更多的錯誤與偏見

[@TheAacharge]

因为刻板印象，名字很重要 🤣

[@Shawn-p4h]

AI 有偏見不是很正常的嗎？因為人類的世界就是這個樣子，它讀到的資料也就是這個樣子。說真的，我還沒見過幼稚園老師是男的。硬要改正 AI 的答案來符合政治正確，那也很奇怪又噁心。

[@Sunsetlam]

人类社会越来越复杂了

[@Lilyhsuan2653]

您好～ 我是智策慧的瑩璇，有合作資訊寄送至信箱，再麻煩您確認一下呦！