網域名稱俱樂部


返回   網域名稱俱樂部 > 電腦與網路技術 > 數位化世界新聞與觀察評論

回覆
 
主題工具
  #1  
舊 2018-11-29, 08:10 PM
哈啦 的頭像
哈啦 哈啦 目前離線
論壇管理員
 
註冊日期: 2002-05-28
文章: 22,990
預設 第一批AI已經開始詐騙

【第一批AI已經開始詐騙】用你的聲音你的臉,說你沒說過的話

本文來源:極客視界(微信id:geekview)

作為世界上最古老的幾個職業之一,騙子可以說是與時俱進的代表了,甚至可以說是世界上擁抱新事物最積極的群體。

自從微信成為國民級社交軟件之後,各類騙子的主戰場也隨之進行轉移,從原來的電話短信詐騙進行了產業升級,成功步入了移動互聯網時代。

畢竟作為熟人社交的社交工具,微信獲取信任的成本遠遠低於其他方式,「秦始皇打錢」的時代宣告結束。

騙子們依托微信開發了非常多的詐騙方式。

比如針對年輕男性群體的「茶葉詐騙」,在早期微信還沒有完全成為熟人社交軟件之前風靡一時。

基本套路都是以武夷山某茶莊莊主外孫女在外公重病、親戚覬覦茶莊的時候走投無路,通過「搖一搖」或者「附近的人」功能,找到了天選之子的受騙者,最終一步一步的讓受騙者熱血上頭打錢買茶葉,保衛茶莊所有權。

隨著媒體的曝光,此類騙術逐漸失去了效果。

但是騙子們的招數依然層出不窮,最近媒體又爆出了一個更新的騙術:

近日,趙女士收到父親的語音留言,對方稱買菜沒帶錢要趙女士轉200元。

趙女士問了一句「爸,是你嗎?」很快收到語音答复。

趙女士一聽是父親的口音,便將錢轉了過去,結果還是被騙。

同樣受害的還有來自滄州的王女士,王女士接到同學發來的微信,讓她幫忙轉點錢,並發來語音催促。

一听就是同學的聲音,王女士好心打款500元,同樣被騙。

這種騙局主要原因,還是由於微信盜號造成的,雖然目前通行的微信版本語音是不能轉發的,但是騙子可以通過提取語音文件或者安裝「增強版微信」(一般是基於xposed框架的插件),都能達到轉發語音的效果。

雖然這種騙局技術含量不高,如果警惕性高一點,直接打電話聯繫就可以讓騙子不攻自破。

但是騙子很聰明的利用了中國人給彼此留面子的社交規則,如果是親朋好友語音跟你說借個百來塊錢,一般是不太可能去直接打電話質疑的,這樣會顯得自己很小氣。

再加上又有對方的語音,自然更不會去進一步深究,所以這樣的騙局能成功的也不意外。

但是所謂道高一尺魔高一丈,你真的以為打電話就能夠攻破騙子的騙局嗎?

現在的技術已經完全可以通過算法,來生成人的全套語音了,甚至連憤怒、高興等不同語氣情緒都能夠做到惟妙惟肖,足以以假亂真。

而所需要的材料,也僅僅只需要被生成者的幾段話。

開發這項技術的是谷歌2016 年在加拿大蒙特利爾大學建立的人工智能實驗室(MILA)。

基於聲音合成技術,MILA 在2017 年4 月份成立了Lyrebird 公司。

Lyrebird 是一種名為琴鳥的鳥類,這種鳥具有一種特殊的天賦,它不僅能模仿多種其他鳥類的聲音,它還能模仿幾乎一切它聽到的聲音。

在其網站DEMO 部分,你可以聽到了官方合成的、足以以假亂真的特朗普以及奧巴馬的聲音,而美國那邊也有記者用機器合成的句子跟家裡人打電話做實驗,他的母親完全分不清楚真假。

之所以能產生如此高還原度的合成聲音,背後的技術正是神經網絡(Neural Network)和機器學習(Machine Learning)。

神經網絡模擬電信號在人腦神經元之間的傳遞過程,對輸入數據進行處理。

它利用分層的神經元,從大量樣本數據中總結出共同特徵。

第一個用神經網絡來生成人類自然語音的,就是DeepMind 的WaveNet。沒錯,就是那個做AlphaGo 的公司。

具體的原理比較複雜,就不過多贅述了,總而言之WaveNet 可以把PS 痕跡明顯的機器語音,轉換成更加流暢自然的語音,與人類聲音之間的差異大幅降低,目前在鬼畜視頻界做的風生水起。

而Lyrebird 則更進一層,他可以基於音色、音調、音節、停頓等多種特徵,來定義某個人的聲音,然後生成更加擬真的聲音。

對於騙子來說,完全可以通過騷擾電話錄音來提取你的聲音,在Lyrebird 上進行生成,從而可以完成把我們上面說的打電話驗證真偽的這個過程給搞定。

聲音靠不住了,那就只能靠臉了。

在接到騙子的語言詐騙微信消息的時候,反手就是一記視頻通話,這樣應該騙子就慌了。

其實不止聲音可以偽造,現在連臉都可以通過AI 來進行偽造了。

比如前段時間在Reddit 上大火的明星換頭「成人短片」,一個網名為deepfakes 的程序員,他在業餘時間用家裡的電腦和開源的AI 工具fakeapp,通過機器學習算法成功移花接木,將神奇女俠女主角蓋爾·加朵的臉,移植到了一名成人女演員身上。

deepfakes 此舉一石激起千層浪,由於Fakeapp 使用門檻極低,無需安裝Python和Tensorflow 等編程語言和開源軟件庫就能運行,甚至連高性能顯卡都不用,完全可以租用谷歌的雲GPU 搞定。

一時間歐美各大女星的小電影充斥了整個社區,導致Reddit 做出了緊急封殺處理,一群老司機就此做鳥獸散。

而比成人片更可怕的還是製造假新聞,在2018年的4月份,就有人利用Fakeapp做出了一段假視頻,在視頻中美國前總統奧巴馬對著鏡頭說出了一句令人震驚的話:「川普總統完全就是個笨蛋。」

瞬間在美國造成了轟動的影響,大家在這場精心準備的玩笑中,發現了一個可怕的事實,那就是:

我們已經進入了這樣一個時代,我們的敵人可以做出看起來像任何人在任何時候說任何話的東西。

而Fakeapp 和Lyrebird 就是一套組合拳,可以圍繞臉和聲音兩個主要的辨識點去做出以假亂真的材料出來。

雖然目前這兩個技術還有著不少問題,但是我們看到在機器學習的加持下,它們正在變得越來越強大。

而這兩項技術創立的初衷,其實也並不是為了作惡。

Lyrebird 的創始人就表示,他們希望自己的這個技術能幫助那些發聲困難的人,通過官方API接口,為他們打造出自己克隆出的更真實聲音,而不再是過去那種機器發出的聲音。

而deepfakes 也表示「任何技術都可以被邪惡的動機利用,這種事情無法被禁止。我認為人人都可參與機器學習研究不是一件壞事。」

雖然這老哥車發起來是迅雷不及掩耳,但是看得出來,這更多也是一名程序員的炫技。

這個技術一旦用好了,對於影視行業後期來說,是一項重大福音,比如斯坦·李老爺子的客串彩蛋,也會一直進行下去。

deepfakes 的這番話,倒是讓人很容易想起當年快播創始人王欣在法庭上的那句「技術無罪」。

如今已經出獄的王欣,一頭扎進了區塊鏈裡面。

也許很多年以後,王欣也會想起在風聲已經變緊的情況下,他決定繼續做一個「有種」的男人的那個下午。
__________________
咖啡走路
微博


您是網站站長嗎?歡迎到站長俱樂部 一起討論吧。
按我看版規
code.club
回覆時引用此篇文章
  #2  
舊 2018-11-29, 08:12 PM
哈啦 的頭像
哈啦 哈啦 目前離線
論壇管理員
 
註冊日期: 2002-05-28
文章: 22,990
預設


__________________
咖啡走路
微博


您是網站站長嗎?歡迎到站長俱樂部 一起討論吧。
按我看版規
code.club
回覆時引用此篇文章
回覆

主題工具

發文規則
不可以發表新主題
不可以發表回覆
不可以上傳附件
不可以編輯自己的文章

啟用 BB 代碼
論壇啟用 表情符號
論壇啟用 [IMG] 代碼
論壇禁用 HTML 代碼



所有時間均為 +8。現在的時間是 05:15 PM


本站主機由網易虛擬主機代管
Powered by vBulletin® 版本 3.8.4
版權所有 ©2000 - 2024,Jelsoft Enterprises Ltd.