草根影響力新視野 法蘭瓷編譯

即將邁入2023年之際，中國政府在 “深度偽造” 行為方面的監管也將有重大改革。北京於近日宣布管理“深度合成技術”的規定，預計從1月10開始由國家互聯網信息辦公室負責監管，將以更強硬的態度加強對網際網路內容的管理。

所謂的 “深度偽造” 是使用AI技術模擬他人的臉部動作，製造出特定人物說話或動作的影音圖像。這項技術可針對既有影片移花接木，例如將某政客的臉孔放在現有影片上，甚至製作出虛假的演說影片。這些偽造的媒體影片由於十分逼真，令大眾不易辨識真假。

圖片取自:(示意圖123rf)

以下是一些關鍵條款：

1. 如果要將某人的圖像要用於任何深度合成技術必須事先獲得對方的同意。
2. 深度合成服務不能使用在傳播假新聞。
3. 深度偽造服務需要驗證用戶的真實身份。
4. 關於圖像或影片已被技術性更改的合成內容必須事先通知該用戶。
5. 禁止違反現行法律的內容，以及危害國家安全和利益、損害國家形像或擾亂經濟的內容。

自 2020 年底以來，中國政府一直試圖控制國內科技巨頭的力量，並開始全面監管反壟斷、數據保護、新興技術等領域。就在今年稍早時，中國也針對科技公司如何使用推薦演算法訂定了新規範; 分析人士表示，這項新法律解決了兩個目標 : 更嚴格的網路審查和領先於新技術的監管。

歐亞集團地缘科技部董事Paul Triolo指出，中國當局正積極打擊反政府分子利用包括習近平在內高級領導人的深度偽造來傳播反政府的信息，試圖在AI合成內容等新技術在網路上氾濫之前就領先一步採取行動，以解決棘手的網路內容問題。

事物總是有一體兩面，深度合成技術也可以善用在教育和醫療保健等領域，發展出一些有益的應用。但此次中國政府是針對應用在製造虛假信息方面的負面作用，以解決現代社會正面臨的嚴重威脅之一，也就是大眾對所謂「有圖有真相」的信任度正在下降，對於是非真假也越來越難以判別。

Reference: 

China is about to get tougher on deepfakes in an unprecedented way. Here’s what the rules mean