'Deepfake' scam raises concerns of AI-powered crime in China

[@shasha77]

😍 財商系列・全新上市｜滿額即贈早鳥好禮 🎁 限時倒數・免費獲得｜紙撲滿＋小禮物 🎉 專屬優惠・再享九折｜結帳輸入【七七推薦 】 👉 立刻擁有：lihi3.cc/Zb2gQ #芒狗狗繪本 #財商系列

[@GHOSTABC100]

前幾年前就有這類的犯罪可能性了 而台灣就是小玉的事件了 感覺相關的法案也該立一立了

[@jkfgnoxs]

有阿~當初就是換到蔡英文，結果民進黨秒過換臉法，超有效率的，至於其他需要修的法...再說吧....

[@桃子-x7u]

​@@jkfgnoxs不是早就有人闢謠過沒有了嗎？

[@kening0927]

應該說 會迫切影響政治人物的利益的事，會馬上被注意，這是不分黨派的。

[@LoveGa-d7l]

如果對面把抓到的AI 換臉集團收編進統戰部，然後再製作會影響台灣選情的換臉影片，那感覺會很恐怖

[@brianshih3841]

跟選舉有關的AI影片很容易被察覺，因為有大批檢警會介入調查，詐騙集團的各式高級詐騙才是台灣人該擔心的，因為中國有實名制，也有AI生成數位內容的相關法令，一旦犯案，追查源頭更簡單些，處罰AI工具的軟體商斷源，台灣目前則是通通沒有，被騙了只能認栽

[@hongchenfei]

七十年都不敢干的事现在也不敢干的😅😂

[@benzhu4267]

谁在乎台湾？这点破事也把自己想成最先受害者。世界中心是口井？

[@LLENN0420]

該怎麼說呢？前幾天某醫院就爆發出類似事件，該醫院百名醫護人員收到該郵件傳出的 AI 改圖後報警處理，後續調查發現郵件的發出地址位於 中共國

[@benzhu4267]

該怎麼說呢？前幾天某市就爆發出類似事件，該市数十名群众收到诈骗短信而被骗数万人民币，後續調查發現短信的發出地址位於 呆弯國@@LLENN0420

[@AquilaTheta]

科技發展後，法律總是最後趕到。 深深覺得台灣身為左邊國家的鄰居也要提高警覺， 希望立法院趕快針對AI制定出不會限制到科技發展、但可以保障人們不會被詐騙和受到名譽傷害的法律。 還好目前有能力發展與訓練的企業都起碼有設一些安全性，不會太快被有心人士濫用，否則AI有可能被用於詐騙和駭入 另外在這種情況下，就更加凸顯人文與品德教育的重要性。 對岸給其人民的教育是每個人都只會為自己利益想，用這種模式來讓人們遠離利他性質的社會運動， 但代價就是中國少部分受教育程度低的人民，總是會覺得即便自己不參與壞事，別人也會搶佔這片市場、有錢最重要， 因此會有較多人把金錢需求擺在正義與倫理實現前，法律不管城管抓不到就會去做

[@benzhu4267]

连互联网产业都没有的地区洗洗睡吧，不是你要操心的事情。以后把中美的AI 法律搬过来用就行了，真是吃着馒头还担心别人吃螃蟹痛风。

[@presentlee9403]

我們真是該以不左不右國為鑑

[@benzhu4267]

我們真是該以又呆又弯國為耻。@@presentlee9403

[@luffy74123]

擔心AI鑑識機構的人力太少，很容易被大量案件癱瘓

[@Mars.-yh8dp]

在理，這樣自私自利已經影響臺灣了

[@h906230]

現在除了出來見本人，基本上都不可信了，眼見不能為憑😅結果本人出來詐騙你，人性崩壞只能相信自己，悲慘😮‍💨

[@Mars.-yh8dp]

是的，本人也會詐騙！對人的信任完全崩壞

[@Mesdicara]

我覺得防範AI就是搞錯重點囉，真正該注重的還是對詐騙的認識與防範。 古往今來有太多好東西被用來做壞事情了，沒有電話的時代靠信件詐騙，有了電話就電信詐騙，AI無非是一項新技術，被用來讓把戲更細膩---然而它們的核心目的都是一樣的：錢。錢還沒轉出去你就是無敵的，儘管刁難和挑刺吧😂 永遠別忘了對對方提供的資訊進行驗證（而且不要使用對方提供的方法）

[@asd454656]

不要笑，根據以往經歷中國的東西沒多久就會傳來台灣了

[@Elsa-hl8jb]

希望政府預先防範，不要一堆人被詐騙後才來收集資料開會討論...

[@asd454656]

@@Elsa-hl8jb 很難，反映問題要層層審批，提出方案也要層層審批，一來一往速度很慢

[@rebeccawei229]

謝謝團隊分享「AI換臉議題」

[@孔-g8v]

這個帥志祺肯定也是換臉的😆😆

[@小婷學姐]

他是物理換臉。🤣🤣🤣

[@신세영-w4q]

鈔能力換臉🤣🤣

[@PopHerry]

@@신세영-w4q超毅力才對 飲食跟健身習慣真的最簡單也最困難😂

[@Mars.-yh8dp]

生理時鐘換臉

[@clisom0010]

以前有好奇過中國網路實名制怎麼還一堆人敢犯法，後來看到有人提到在中國錢才是一切，出事要打官司、疏通官員、生病重傷需要醫療、甚至移民出國時，只有錢靠得住，而一般工作收入根本無法達到目標

[@royoliver5115]

难绷

[@KokHwaTan]

有关系就没关系，没关系那就有关系了

[@user-YUANGOD]

有關係就沒關係 法律是訂好看的

[@Mars.-yh8dp]

​@@user-YUANGOD有用嗎？

[@YuqiWang-j4l]

哪里不是这样呢 全地球都一样

[@bwoyu]

真的不要急著落井下石罵中國自爽欸..., 觀察是供反思, 77片尾也有問相關意見, 台灣並不是沒發生過換臉的詐騙新聞 且各類詐騙也是猖獗

[@chiaoyangcheng9290]

對岸詐騙桶仔其實都設在台灣，台灣根本就是超●詐騙王國㊣，目前無法可管。 中國的一些電信詐騙集團總部和首腦幾乎都在台灣，中國嚴抓嚴打詐騙，台灣詐騙刑責依組織犯罪條例最重只能判十年，而且通常都判不到五年也坐不滿就假釋，對岸一堆被抓都是十幾年起跳且最重可以判到無期(50wRMB以上就可以這樣判)

[@ryana5435]

然後這留言區很多有很多讚的留言不這麼認為，直接慣例下意識先嘲諷中國，在內心覺得「贏了，大家珍惜台灣，珍惜民主自由」什麼的⋯像bot一樣😂

[@Mars.-yh8dp]

​@@ryana5435唉！還是要不得😂

[@李佳琪-s2l]

终于看到个正常台湾人了（无意冒犯），说实话，我作为大陆人还是第一次知道换脸诈骗有所谓的猖獗，😂基本都当成玩

[@Gagura-g6x]

@@Mars.-yh8dp总体来说两岸网民还真是半斤八两

[@WonGZK]

老早就猜到會發生這種事了 某些人肯定會這麼做的 之前跟人說 他還不信 只是沒想到這麼快就出現了 ( 想說 技術還沒那麼成熟 破綻很多 )

[@dustsword]

這集如果feat小玉就神了

[@3min799]

每次看到什麼ai會毀滅人類，真心覺得擔心這種未來的事，不如擔心人類互相毀滅吧

[@一隻貓-m7r]

如果真的這技術讓人類互相毀滅，某方面來說也算Ai毀滅人類吧😂

[@3min799]

@@一隻貓-m7r ai完全可以替代任何詞，不管是核彈，火炮，槍枝，一直以來都是使用者與掌權者的問題

[@陳昭翰-q7w]

這應該是今年最暖心的故事之一了😂

[@米酒-YouTube]

😂你知道火雞這種生物嗎，農場的動物無論被抓去多少，它都不會在意，都覺得與我無關，直到感恩節那天。但那時已經沒人替他說話了😂

[@holic4012]

建議各位找「小反旗」「牆國蛙哈哈」「木白狂想曲」更深加了解AI換臉及AI語音😂

[@SATAN_ACE_KING]

牛逼

[@yfliu8220]

唉...以前怕被騙開MIC，再不然視訊，現在視訊也沒用了QQ

[@LLENN0420]

安啦 ～ 從 小玉 使用那些 H+ 影片搭配國內百位知名女性臉龐進行 AI 換臉搭上影片，最後販賣賺取收益 ～ 就知道其性能的優越性與前途 😂

[@殘破篇章]

雖然這個亂象確實很無言 但中國AI換臉技術的遙遙領先和極大的基數確實幫不少亞洲區的人踩了不少雷區(不論是不是自願的) 至少能大幅減少其他人被騙的機率(不過還是拉不住傻子或不長眼的人一股腦踩下去就是了

[@Mars.-yh8dp]

自由應該是留給自愛的人。不自愛就造成他人困擾，法律應起作用才是護民安全

[@EdwinLee-m9j]

最終還是要提升整體國民資料查核能力吧，多查一些資料，多知道一點新知識，都能有效降低被詐騙風險。

[@stevelin6546]

國民：動腦好累好麻煩喔

[@SaeedHerr]

對面不只換臉，連聲音使用都很噁，跟ai(自動調校)虛擬歌手那種差超多

[@chihui7031]

對 AI 犯罪的解决方法, 不难: 1、由政府普及宣传, 网上亲友的臉不可信。 2、鼓励在认证方面, 付款人先问问题。若真是你高中好友, 必然有 共同历史。 轻松解决。

[@kindahomeylike]

其實要問共同歷史也要花腦子的，隨便指一個我的昔日朋友，問我跟他有什麼共同歷史，我還真不知從何說起…… 而且我有碰過與朋友再度相逢，聊天後才發現他把以前我們共同經歷過的一些事忘得一乾二淨……

[@chihui7031]

@@kindahomeylike 如果真的忘得一干2净, 就请不要有金钱糾葛.... 这样简单吗?

[@krusaki2000]

最實際又有商機的作法，感覺是訓練一支專門辨別AI的AI

[@不要稱讚我]

這是一種訓練方法，最後就是兩個AI互練到超強

[@henrym5034]

@@不要稱讚我 這種 AI 叫 GAN (generative adverserial network)

[@森中人]

你是在讲对抗生成网络GAN吗😂

[@latinpigchen7913]

AI犯罪問題不是要 "究責"，而是難在 如何" 跨國" 究責...？畢竟，各地法律不同，牽涉國籍、地域、金流...等都不同時，目前根本沒有確切辦法~

[@TaiWan_Shih_Yi_Ge_Guo_Jia]

台灣也有啊，那個誰不就進去了嗎😂

[@Youran82]

是不是該請小玉來說明換臉一事😂（X

[@OO-ru6zt]

其實也只是在每個詞條裡面加一個『禁止、不准、不可』而已，要不要抓，就看KPI

[@葉明-x2y]

這集找路人甲，用換臉拍攝就才更有說服力😅

[@jupa539]

有一種想像是，讓創作端和社群平台共同建立數位認證機制。 要求媒體創作軟體提供數位認證，能有個真實/非AI認證的機制，是一般影片沒辦法做出來的數位認證；同時配合社群平台去辨認媒體是否有經過數位認證，在發佈時會顯示 讓使用者至少可以辨認這個影片的可信度為何，有認證就可以先相信，沒有認證的就要三思

[@如夢似夢]

技術的發展是無法完全控制，再怎麼禁止，只要有利益就會私下研發，所以我覺得提早制定一個快速通關的法案專門處理這種快速發展的科技。 防範的方式就是跟所有朋友說我沒錢，跟家裡的人說要錢全部都要面交，電話、視訊要錢的全部視為詐騙，無法杜絕科技發展，那就面對面談吧，我也比較喜歡這樣。

[@beam882]

69歲馬老師已經紅翻天了

[@Chun1113]

擔心台灣也會這樣

[@邊緣人士]

詐騙案比例低不代表用來做其他壞事的比例低 各種盜臉已經很氾濫了

[@user-nakano5love]

新科技的誕生 往往都是善意的 只不過人類的惡意 將它扭曲了😞

[@f537964]

AI生成都要靠工具 只要讓所有工具都需要增加浮水印 或者其他辨識方式

[@曾新淯-w2c]

已經有了 🎉 但是目前只有應用在AI產圖 （避免有人拿AI圖當藝術品）目前主流的AI產圖模型 都會在裡面加一個隱形浮水印 有些專門識別的AI 看得到 希望能夠慢慢應用到其他領域

[@play005517]

另外加額外的東西沒用，要發展從本質上偵測的技術 反正技術都是公開的，大家都加浮水印，那就自己做一個沒浮水印的就好

[@pearlchendavis]

我必須說這集的志祺動作比較不生動，我覺得高機率是AI生的

[@RHuanlun]

早就在深度學習網站被換臉荼毒的我，已經見怪不怪了。

[@熊熊-x8m]

不該禁止使用但必須嚴格管制 加重刑責，只要是有心人士利用來斂財詐騙 一律重罰重審。

[@無二不作]

原來現在有這種技術喔~ 有點好奇如果要換成動漫畫角色辦不辦得到, 如果辦得到的話, 會不會以後在動畫中的某些片段看到由真人演出的動畫角色XDDD

[@逢魔龍魂]

只要網路跟現實高度連結，總有一天網路會被管制，但怎麼管制又是一個哲學問題。

[@tommyx3611]

加浮水印=假影片 那之後所謂的證據或正常影片+浮水印就可以硬拗是假的嗎… 感覺之後越來越難分辨

[@jiancurtis4691]

如果用在陪伴功能上（比方過世親人，或已故人士-鄧麗君或michael jackson…之類的）或許會是另一種療癒或商機。

[@brookyuen64]

關於社會公共議題的一期影片很有意義了

[@Xavier_LD]

上一個針對服務供應商建立問責機制的法案早就被批為文字獄作罷了 以台灣民眾的調性這根本學不來😂

[@eirene9430]

得制定Ai的全新法律系統！ 以下是個人小小舉例： 例如:只能娛樂、綜藝效果使用；若未獲得許可禁止利用他人肖像權：商業、政治、醫療行為或取代性正式用途…等

[@semian8018]

中國指鼠為鴨就是典型的忘記開AI濾鏡的範例

[@benzhu4267]

台湾名为高端的低端疫苗就是典型的忘記開AI濾鏡的範例

[@小女子-k9s]

我還看過有人用AI換臉劉德華呢！😂

[@BottleMichiyo]

覺得想要阻止應該很難，但政府其實可以從保護公眾人物隱私權利、個資、肖像權法等法條做到一定的制止，雖然不可能100%，但至少發生事情時，公眾人物及民眾都有一定的手段保護及阻止這類換臉詐騙蛋事情

[@ssd6862]

假冒纪检委是不是就能下克上了😂

[@saceket]

这个脑洞可以诶

[@nullxdd4794]

🧐确实值得关注的议题，毕竟当初美图秀秀就骗了不少人

[@SSF-V]

科技進展的初期總是會有這種東西出現，現在能做的只有等待

[@懸崖一線]

看吧~科技發達的成果，如果案件比例很低它就不會立法了，AI除了詐騙還有很多事可以做因為證明難抓才立法，不要斗內嚕

[@王致霖-k8i]

所以surve shark越來越大可以理解，市場跟客群都很多，未來真的黑你也逃不掉

[@lancemimi6094]

中國的法律本來就有很多可以值得參考的，人家都是主動出擊，我們卻總是出事了才在檢討，但好像更多的時候是法律早就立在那邊了，實際卻是擾民? 所以在執法上又寬鬆不少...惡性循環似的

[@lafede3381]

俄羅斯娜娜是不是唱愛如火的那位？😂

[@_FA01]

讓我想嘗試換臉成習OO打視訊給我朋友XD

[@accacc841]

自己挖的坑，自己填🎉

[@pitcheung5354]

一個國家靠看樣子和身份管控人民的, 被換臉成功了當然會著急...

[@ipingchang4971]

平台應該制定收益需臉與影片一致才能獲利，一但爆假全球封鎖3C帳戶使用🥸

[@robtanc5009]

先是人臉辨識,現在是換臉技術,真的是厲害國. “你好! “以後就改成”你換臉了嗎?”, 高招! 用換臉來對抗人臉辨識.

[@onion-lou]

應該直接禁止任何套用真人臉

[@slowlypleasebeny8406]

利用印表機列印假鈔　就要找印表機公司負責並限制技術？答案應該很明確　破解辨識假鈔才是正解

[@haymabazz]

想不通換臉技術除了造成詐騙和麻煩外有什麼好處耶

[@Lee487-]

中國的網紅 直播時9成必開美顏 男的還能變成大美女能騙錢.騙斗內啊好處多多.

[@ken-hu6hr]

這是一個非常嚴重的問題，應該要全面禁止這類產品，只要deepfake + 變聲器，就可以製造散播非本人的影片，當然也可以毀掉一個人

[@funtablehai9213]

遲早會氾濫的。 人類真在打開地獄的大門。

[@fa010szz]

詐騙一律死刑就好了，但是天下沒有人會特別立法來判自己的罪，可悲的人類

[@ladygraceck]

持有換臉app者，就像擁有開鎖技能或製造炸彈技術者一樣，登記列管。

[@口乙烯服莫熱飲]

這東西就跟修圖軟體一樣 會中的人就是會中

[@花冰魯]

該不會這部影片也是換臉技術，真正的志奇更帥喔！😂

[@reading_matilda]

名人是相對危險的一群，因為他們的臉部資料到處都有...

[@joe-jk2qj]

最近在 youtube 瘋狂廣告 用企業家 和 政壇名人 打投資股票廣告 好像也是AI換臉?

[@冷冷-h8u]

小玉說這種事都是我玩剩的 哈哈

[@kinlau2789]

感謝分享

[@kuma2227]

還有Ai換臉脫衣服，人總是想盡辦法用色情害人，女生普通照片都會被改成裸體，真的該立法了

[@pksealions]

弄暗水印會好一點

[@coobilayo]

AI搞出來的亂子，只有AI能解決。 AI能模擬人的外貌音調語氣句型。細微到只有AI才能分辨出真偽。 只有安裝AI的APP對所有電話及視頻進行分析查驗甚至居中幫使用者處理應對才能防堵這些問題。 前提是：你得先讓AI知道本人長什麼樣子。 這是以子之盾防子之矛。結果一定是矛愈來愈銳利而盾愈來愈厚重。 最後全部的人都會被捲入這一場AI之戰。你不安裝AI防護APP，恐怕接不到真人的電話。 然後AI很快就深度掌握了全人類的個人資料，那種深度完全不是現在這種個資搜集手段所能比擬。 到這個階段，AI就等於是控制了人類，是控制還是保護只看他是善意的還是惡意的。這是個黑箱子，連開發者自己都不知道。 就像當年的電腦病毒一樣，到最後搞不清楚到底是誰在寫病毒。 中毒了，電腦可以重灌。病毒再厲害也不過爾爾。 但是個資被掌握了，人生還能重來嗎？ 這是一條不歸路。就像全球暖化或環境保護一樣，不重視的人得利，重視的是呆子；最後沒人想做呆子，只有大家抱團一起死。 你禁止開發AI，那麼偷偷開發AI的人必然得利。馬斯克呼籲大家暫停開發AI，全世界沒人理他。果然，他也在開發自己的AI。 熵恒增，生命是自然的奇點。長遠來看沒有任何生命可以永存。別想太多。

[@Nonomijim]

把AI模擬制定成，政府限制物品，跟槍一樣。

[@小天雷]

相關技術限制廠商使用吧 可以提供給像是SOD.一本道等等專業公司 相信一定可以造福廣大人群吧 ------開玩笑的------ 說真的我還真是想再聽聽 那些已經不在的歌手的聲音 來唱那些膾炙人口的歌曲 讓喜歡的人來唱喜歡的歌

[@Subth3270]

不是阿 那些ai換臉這麼假 是怎麼被騙的🙄

[@christasi5082]

不常看影音的是真的抓不出破綻 就一開始AI繪圖也看不出真假到現在也是一眼就可以看出來也是要段時間更何況沒什麼3c歷練的人

[@Iiiowu]

看能不能進一步發展，辨識影像是不是由 AI 生成的工具？

[@貓草-x9w]

小玉很熟

[@1978Bevis]

為啥這種詐騙會在中國蓬勃發展 這很簡單阿 當一個國家普遍缺乏道德枷鎖 騙自然就成了 標配

[@uix6ubm]

这话全世界都好说 唯独台湾人说真的是有多不知耻

[@benzhu4267]

為啥传统詐騙會在台湾蓬勃發展 這很簡單阿 當一個地区普遍缺乏道德枷鎖 騙自然就成了 標配

[@1978Bevis]

@@benzhu4267 您的資訊已過時， 台灣詐騙已式微， 現在主流詐騙都在中國了， 不只是標配，還可以選配

[@maouabdnsoshxvodd]

台灣不是詐騙島嗎？怎麼什麼事都甩鍋大陸

[@tsa_8964]

暖心😂

[@淡定陀螺]

說到換臉就不得不提工地劉德華😂 還有人信以為真，現在的科技似乎超出某些見識落後的人...😨

[@ewq789789]

4:23 一邊打仗，可以一邊直播，還可以同時賣網購！ 這根本是笑話吧！🤣

[@t11227541]

做出可以辨識辨認是否有換臉的ai😂

[@Xiaobao0118小寶]

小玉又要說：這個我太熟了

[@h-kunlawliet9547]

小玉：这我熟！

[@gippona]

小玉開新事業了

[@凌風-y8e]

AI突然進步到這種程度，被中國人拿來騙人不意外啊

[@ChrisZhang531]

这话从诈骗岛蛙嘴里说出来有莫名的喜感啊

[@majorjason8232]

只要我一直講鄉音 你就ai不了我的聲音

[@dalecheong4060]

凡對於要轉賬的都留神更多吧，作為普通人只能守好自己，以為讓身邊人都知道這些危險

[@月夜音羽]

公安九課 該上線了吧

[@牧川源]

因为这个视频，关注你了😮

[@LeafYellowErE]

😂=小玉

[@Milkpuding]

可以用習維尼的臉跟聲音說出“我支持台灣獨立” 這樣會不會引發國際軒然大波

[@thomaslin2493]

感覺不錯耶

[@luffy74123]

對方也會以牙還牙回敬吧?而且你這樣換臉問過台灣政府了嗎?換臉的力量的話就應該要被監管

[@口乙烯服莫熱飲]

不會 早有了

[@千夜醬]

搞不好以後就有第二個志棋頻道，完全看不出是其他人的志棋😂

[@white-v2k]

"我們"的臉

[@bunnytom4866]

我有點懷疑不知道現在這個是不是七七?也許現在這個不是我

[@zerofx0091]

你們覺得這問題有比台灣現在醫護人員人力嚴重不足來的嚴重嗎？ 主要注意！！ 是 很嚴重的人力不足 以後你可能去抽個血 要等一個禮拜