奠定現代通信基礎的「克勞德．香農」👨‍💻｜通信大解密📱｜第二部 通信科學家的故事

[@Lumpy970253]

用 "I lov mth vry mch" 的例子來解釋資訊量，讓我覺得滿有趣的， 也隱約感覺這個資訊量可能會取決於每個人的知識背景XD，比如至少需要學過一點英語才會知道。 我個人學過一點波斯語，其實這種寫法讓我覺得很像是波斯語、阿拉伯語等這些使用阿拉伯字母系統的語言， 他們的語言寫成文字，只有長母音和單獨母音會把母音寫出來，其他時候母音都不會寫出來， 例如波斯語的彈手指 "beshkan zadan" (بشکن زدن) （相當於英文to snap）這個詞直接轉寫會變成 "bshkn zdn"。 雖然可能對當地人來說很方便，但老實說作為外國人（指非波斯語母語者），看到陌生的詞還要猜讀音還滿痛苦的XDDD 也許阿拉伯、希伯來、腓尼基這些文字最初的使用者，搞不好就有那種節省字母來讓資訊量最大化的概念呢XD

[@jeffkevin3]

其實 Shannon entropy 是不是可以說跟某些語言學的原理有關呢？光是每個字母在特定語言出現機率不等值就可以透露很多資訊了 不過語言學作為非自然科學似乎是很沒有用的領域 😢 即便我超級喜歡 但這種文科本身就沒有任何價值吧？畢竟語言就那樣，就像很多人覺得語言在 AI 就是文本拿來硬 train 一發沒什麼了不起的，人類的語言學知識毫無意義更不要說有經濟或實用價值了……