針對Deepfake應用 11科企遭約談

針對Deepfake應用 11科企遭約談

中央對網絡監控的力度有增無減,國家網信辦與公安部近日表示,為針對未履行安全評估程序的語音社交軟件和涉「深度偽造」(Deepfake)技術的應用,約談了11間內地科網企業,包括阿里巴巴、騰訊、小米及字節跳動等。

收緊網禁 趕絕新軟件

國家網信辦指,當局會督促上述11間企業按照《網絡安全法》等法規要求,展開安全評估。下一步將加大巡查力度,督促互聯網企業遵守相關法律法規,「切實履行企業責任,共同維護網絡傳播等級,打造良好的網絡生態」。事實上,早前在內地網上爆紅的「螞蟻呀嘿」AI特效影片,正正就是透過外國手機程式Avatarify運用類似「深度偽造」的技術所製作而成,當時內地的抖音上甚至一度有近800萬人使用,Avatarify其後亦於本月初被內地官方下架。

除了Avatarify外,早前爆紅的手機語音社交軟件「Clubhouse」,以及加密通訊軟件Signal近期亦陸續在內地被禁。內地政治學者吳強向本報分析,這些新軟件及新技術的出現,對當局統治而言是一個潛在而不可控的危險因素,特別今年正值中共建黨百年,這是中共今年上半年活動的重中之重,絕對不容有失。事實上中共早前已為此就針對互聯網推行各式各樣的安保管控工作,因為在建黨百年的政治安全下絕對「無小事」。

據資訊顯示,「深度偽造」(Deepfake)由英文「deep learning」(深度學習)和「fake」(偽造)混合而成的新名詞,是一種利用人工智能抓取特定對象的大量照片或影片,進而組合成圖像或影像的技術。此技術不僅可以仿照名人的相貌表情,甚至是將色情片男女主角身體移花接木,製作足以亂真的影片。不過,亦有人積極研發AI技術來偵測「深度偽造」作品。

人民網