Deepfake 技術能夠創造「以假人演出，卻超真實」的虛擬影片，真實性讓人嘆為觀止，甚至開始懷疑自己的判斷能力。該項科技帶給人們的衝擊，使得社會開始省思，我們對 deepfake 技術該予以禁止嗎？或者能如何和平共處？

Deepfake 技術超擬真，分不清真人假人

「Deepfake」是英文「deep learning」（深度學習）和「fake」（偽造）的組成詞，指基於人工智慧的人體圖像合成技術的應用。此技術可將已有的圖像或影片疊加至目標圖像或影片上。

去年（2020）11 月，韓國第一位人工智慧（AI）主播於韓國 MBN 電視台首次亮相。該人工智慧主播以主播金柱夏為原型，擬真程度讓觀眾分不出來誰是原型。

無獨有偶，湯姆克魯斯（Tom Cruise）也有了 deepfake 的案例影片，成果真實到令人頭皮發毛！

該系列 deepfake 影片由比利時 VFX 電影後製特效專家 Chris Ume 製作，他創建了「deeptomcruise」抖音帳號，裡面的 deepfake 影片讓人以為是湯姆克魯斯本人演出。

Deepfake 技術與業界合作中，但有些廠商仍觀望

《BBC》報導，追蹤 deepfake 技術的美國網路安全公司 ZeroFox 的首席科技長普萊斯（Mike Price）表示：「deepfake 的商業使用案例年年遽增，但準確的數字很難抓。」

然而，美國人工智慧技術公司 Veritone 的執行長史提爾柏格（Chad Steelberg）表示，人們對於惡意使用 deepfake 的關切正持續升高，這會拖延 deepfake 的技術投資或商業使用。此外，deepfake 這個詞的「fake」，也讓許多投資者心中產生了負面觀感。「企業和投資者絕對會因此止步。」

Deepfake 倫理爭議

報導指出，紐卡斯爾大學（Newcastle University）的法學教授艾德華茲（Lilian Edwards）是研究 deepfake 的專家，她表示該技術應用在商業使用層面，有一個尚未被釐清的爭議是，誰擁有該影片的所有權？

「舉例而言，如果使用於一個已逝的往者，譬如演員史提夫·麥昆（Steve McQueen），或者饒舌歌手圖帕克（Tupac），就會有人不斷爭論他們的家人該不該擁有該影片。」艾德華茲說，「目前這在各個國家狀況不同。」

維吉尼亞大學的應用倫體學教授強森（Deborah Johnson）最近寫了篇題目為 〈 該對 Deepfake 如何是好 〉 的文章，她表示「Deepfake 是錯誤資訊的一大問題，它會破壞人們的信任制度，也不再信賴視覺體驗——我們不再相信在網路上聽到和看到的。」

強森提出的解方是「註記」。「面對 deepfake，註記可能是最簡單也最重要的辦法，如果觀眾知道他們正在觀賞的事物是人造的，他們比較不會受騙。」

deepfake 很可怕？但也有正面應用案例

牛津大學研究人工智慧的資深研究員瓦克特（Sandra Wachter）說：「我們不需要對這項技術太恐懼，只需要稍稍調整如何對應。當然我們應該要設立法律抑制如仇恨言論或復仇性愛等惡質和危險的內容，人們和社會應該要被免於暴露其中。」

「但當談到諷刺性作品，或者言論自由，我們不用完全禁止 deepfake。」瓦克特提到 deepfake 就有用在參與式的教學影片中。

南加州大學的「Shoah 基金會」擁有超過 5 萬 5 千支館藏影片，內容是納粹大屠殺倖存者的獨白。參展者可以向影片詢問問題，系統會用倖存者預錄的訪問影片即時回應。

美國人工智慧技術公司的執行長史提爾柏格表示這項科技將能夠讓子孫與人工智慧版本的已逝長輩對話，「對於我們的社會來說，這是一大突破。」

本圖/文由「BuzzOrange 報橘」授權刊登，非經同意不得任意轉載。
原文出處：Deepfake 技術讓人類不敢再信任所見所聞——「我可以相信影片中的『假人』嗎？」