【專題報導】科技雙面刃 深度偽造Deepfake

記者/劉有耘

近日鬧得沸沸揚揚的新聞,莫過於小玉涉嫌利用Deepfake換臉技術來謀取不當盈利,其實這並不是第一次引發如此熱議,早在2018年外媒Buzzfeed就發布一段經由AI後製過,假的歐巴馬演說影片,以此為戒提醒大家必須增加自身的媒體識讀能力,然而有關於Deepfake技術的新聞似乎都是負面報導,難道Deepfake會從此和犯罪掛鉤嗎?這項技術又能帶來什麼益處呢?

■ 網路訊息百百種,眼見不一定為憑(圖截自 / pixabay

毫無破綻的模仿大師 Deepfake

Deepfake主要是利用深度學習中的自動編碼器、及生成對抗網路兩種非監督式學習所生成,自動編碼器會先丟入編碼器抓取人臉部特徵,而解碼器則用於還原人臉,經過反覆訓練後就能夠將人臉A解碼後再將人臉B還原在人臉A的基礎建構上,以達成換臉的目的。而生成對抗網路顧名思義是由生成網路(用於生成仿冒人臉)與鑑別網路(判斷此臉為仿冒人臉還是真實人臉)兩者相互對抗,若一方失敗會對自身進行修正,在不斷成長下,最終使得生成網路能夠做出一張以假亂真的合成人臉。

蓬勃無限的商機 亦或是罪犯的得力助手

Deepfake的強大甚至足以改變產業結構,如荷蘭新創Lalaland為電商提供AI模特兒服務,企業能夠自行塑造理想中的模特兒身形、樣貌、種族等等,相較於實體模特兒需要定裝、攝影、修片等繁雜昂貴的成本,節省了70%攝影費用,點擊率增加了140%;影視業中,迪士尼在「星際大戰外傳:俠盜一號」利用此技術讓已故演員Peter CushingCarrier Fisher重返大螢幕,俄羅斯電信MegaFon也因疫情為了避免Bruce Willis暴露在感染風險下,採用了替身演員全程出演,再利用Deepfake將臉移植,娛樂方面,中國推出一款名為「ZAO」的APP,透過這款APP使用者可以將自己的臉取代影集、電影中的主角,雖然涉嫌隱私疑慮在3天就被強制下架,但新穎的軟體功能讓其在幾天內就衝上Apple Store排行榜第一名,而在醫療產業中,美國波士頓兒童醫院增強溝通計畫(Augmentative Communication Program)的負責人John Costello更是提倡Deepfake技術創造和自身相同的聲音以幫助漸凍症、亨丁頓舞蹈症、自閉症患者與他人溝通。

■ AI模特兒減少繁雜的拍攝程序及不必要的支出(圖截自 /Lalaland

Deepfake原是一個立意良善的技術,但其最廣為人知的卻是以負面新聞居多,如導致不法色情片猖獗的問題在國外早已被關注,CNN報導中提及,根據DeepTrace的統計,2019年由Deepfake製作的色情片相較於2018增長了84%,又如2019年英國的犯罪集團利用Deepfake軟體假冒一家能源公司CEO的聲音,誘騙了約24萬美元,類似的犯罪事件層出不窮;在政治方面,這項技術也帶來了極大的隱憂,巴西聖保羅的已婚州長曾經流出一段狂歡的影片使得聲勢受到嚴重的打擊,而州長聲稱這段影片是經過Deepfake假造的,更嚴重的政治危機還曾發生在加彭,當時的總理因病而導致政治勢力衰微,為了挽回局勢,加彭政府發佈了一部加彭總理的拜年影片以證自身並無病危,然而在野黨卻認定這是一部Deepfake製作的假影片,進而發起了政變。由上述可以得知,Deepfake可怕的不只是本身的造假技術,而是難以確認真實性,容易引發各說各話、操弄局面的問題。

■ 加彭政府於2019年發布的新年影片被認為是經由Deepfake後製過(圖截自 /YouTube

科技之間的抗衡 數位能力的養成

綜上所述,Deepfake目前帶來的紛擾似乎遠大於益處,因此非法行為的防治就變得極為重要,為此美國各州開始積極針對其立法,包括將Deepfake製成的色情內容定為犯罪,並且禁止在選舉中使用此技術,除了法律面外,利用科技與之對抗也是其中一種方法,有些實驗室已經開發出識別和檢測影片真實性,例如:將影片嵌入浮水印,當影片經過竄改後可解析浮水印作為驗證,平台Reality Defender致力於傷害發生之前,對有害的圖片、影片進行標記,而最容易淪為不實訊息流竄管道的社群媒體如Facebook、Twitter、YouTube也都加入針對深度偽造的審查機制。

然而這些技術迫害對於數位能力較弱的地方造成的傷害是最大的,如開發中國家可能沒有足夠的資源與其對抗,因此除了依賴外力的保護之外,個人科技素養的培養、減少數位落差也是非常重要,網路上的假訊息以多種樣貌在擴散,對於內容不應全盤相信,學會辨認何為可靠的訊息來源,以及學會查證的技巧才是治標又治本的辦法。

 

分享此新聞: