deepfake

【熱門】DeepFake太可怕了!以後還能分出真偽嗎?

最近大家討論這個關鍵詞︰「DeepFake」,看了假影片後你會感到恐懼,一大堆留言︰「這樣子還能出街?」、「怎樣去分真偽啊?」、「科技強大到不能這樣子用啊!」。

DeepFake的定義

83409 01

首先跟大家解釋一下什麼是「DeepFake」吧!這可以說是深度偽造的,它的英文是由「Deep Learning」(深度學習) 「Fake」(偽造) 組成的詞。它使用人工智能的人體圖像合成技術,可以將原有的圖像加到去目標的圖片、影片上。

早前我有發表過文章關係AI人臉生成器,它也是AI其中一個技術,叫生成對抗網絡 (Generative Adversarial Network),生成以假亂真的照片出來。當時應用在照片的,沒想到現在能應用到影片上。會讓不法分子利用進行惡意的行為,製作假影片、陷害目標人物,毀損他人的聲譽。

前往閱讀︰你聽過AI人臉生成器嗎?網絡照片也有假?5分鐘即了解此技術,助你分出真人照片!

DeepFake 例子

最近知名Youtuber小玉發佈了一則影片,該片一開頭是台灣高雄市長韓國瑜,說一些我聽不懂的說話。影片中途突然間換成小玉的的真實樣子、連衣著都一模一樣,看到這裡,你會想說︰「剛剛是誰的?真的假的啦?」。原本小玉花了150人民幣從網上買回來AI換臉軟件,花了30分鐘就能製作出假影片。這樣子很可怕吧?他的出意是提醒觀眾對於影片的真偽要提高警覺性,判斷影片是否真假。

有時候我們的肉眼很難能分出,若新聞媒體惡意利用此軟件,把它製作成假新聞,誤導觀眾,他們同樣要負責後果。一旦有人利用該軟件去製作虛假影片去操弄風向、陷害他人,導致他人名譽受損,他們都要負起法律責任。可怕的是小玉不是什麼工程師,擁有了該軟件就能輕鬆製作出假影片。

小玉 Youtube

DeepFake帶來的負面影響

此技術讓我們不能分出真偽,BuzzFeedVideo曾找來美國演員Jordan Haworth Peele合作,利用DeepFake技術製作出假影片。該畫面人物是奧巴馬,也把聲音轉成奧巴馬的聲音,真正的演出人物是那位演員。從影片看不出破定,若人惡意利用它向民眾發佈假新聞,若影片裡的人物是高級領袖、總理、國家級人物,就弄出很大的麻煩了。

民眾擔心不法人士利用它把目標人物應用到色情影片上,讓目標人物成為受害者,讓他們留下揮之不去的陰影、傷害。若當事人沒有進行任何色情活動,卻被別人有心利用,把她的臉應用到影片上,讓她感到很恐懼,如何跟別人解釋她沒有做過?就像人們說︰「現在有了證據 (相片、影片),有什麼理由說你是清白、沒做過?」等等類似的說話。

可見這個情況會波及到自身的聲譽、心理狀況,以及跟朋友、家人之間的關係、信任。這就是DeepFake最可怕的地方。

數位時代Youtube

經過DeepFake技術做出來的影片,有辦法破解嗎?

根據BusinessFoucus其中一篇文章寫著,IEEE PAMI 《模式分析與機器智能彙刊》上有篇論文指出,有項方法能夠準確辨識DeepFake影片,這個方法是透過心跳血流產生的微弱變化辨識出真假臉

血管遍佈人體各個區域,包括臉頰。無論何時、何地,做著什麼動作,臉部血液流動會造成輕微跳動感,造成人體皮膚出現區域性的顏色變化。這類變化稱為光體積變化描記圖法(Photoplethysmography,PPG),常見的脈搏血氧儀,其實就是辨識這種變化。

13634 2020 714 Fig1 HTML
Photoplethysmography
250px
脈搏血氧儀

研究人員發現DeepFake 的假人臉,讀取到的 PPG 信號是不穩定的。DeepFake 演算法生成的影片,產生的 PPG 信號都有很多雜訊;真實影片的雜訊卻很少。他們設計了一套基於卷積神經網路的模型,叫FakeCatcher,收集假臉的數據,透過它能分辨出假影片是否使用DeepFake技術。

區塊鍵影片平台 LBRY

04d7010b 48fc 4213 80ae f2e41d41f800

另外,你們可以透過區塊鍵影片平台去上傳影片,就像這家LBRY平台,它使用區塊鏈技術儲存用戶資料、媒體檔案、交易紀錄等等。因為區塊鏈技術是不可偽造、全程留痕、可以追溯、公開透明、集體維護,讓LBRY成為一個較可靠的數字平台。雖然這個平台沒有Youtube這麼普及、也沒有中文版,但是區塊鍵是未來發展的一個項目,相信日後會有更多類似的平台出現。

前往網站︰LBRY

總結

隨著科技日新月異,將AI應用到生活中,讓我們生活變得很方便,可是存在無數的具爭議性的話題,國家法律部門是否要制定法律來保障市民的安全呢?

相關文章

深入了解 AI 「人工智能」技術,究竟它能幫助我們什麼呢?

參考文獻︰Wiki, 數位時代, Business Focus

Leave a Comment

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *