近日，荷蘭議會(huì)外交事務(wù)委員會(huì)在視頻會(huì)議軟件Zoom上被AI換臉技術(shù)所騙，對(duì)方利用Deepfake（深度偽造技術(shù)）冒名頂替俄羅斯反對(duì)派領(lǐng)導(dǎo)人阿列克謝·納瓦爾尼的參謀長(zhǎng)列昂尼德·沃爾科夫（Leonid Volkov）。

▲列昂尼德·沃爾科夫

這樣的事情并非第一次發(fā)生。此前，沃爾科夫的冒名頂替者還與拉脫維亞和烏克蘭政治家進(jìn)行了交談，與英國(guó)、愛沙尼亞和立陶宛的政治人物進(jìn)行了接觸。

荷蘭國(guó)眾議院在一份聲明中說到，眾議院對(duì)此次Deepfake換臉事件感到憤慨，并正在研究如何防止此類事件再次發(fā)生。

一、單張照片即可換臉，Deepfake成政治武器

Deepfake由深度機(jī)器學(xué)習(xí)和假照片組合而成，本質(zhì)是一種AI深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)框架，屬于深度圖像生成模型的一次成功應(yīng)用。

Deepfake技術(shù)出現(xiàn)于2017年，給影視制作等方面帶去高效、低成本制作等好處，但隨之而來也存在造假、造謠、欺詐等倫理問題，真假混淆使得人們愈發(fā)缺乏安全感。

去年，俄羅斯的兩位研究員推出了一款名為Avatarify的軟件，可以與Zoom或Skype等視頻會(huì)議軟件配合使用，將視頻會(huì)議中用戶的面容變成任意指定名人的樣子。通過Avatarify的使用，用戶只需要一張制定照片就可以完成臉部替換。

▲使用Avatarify軟件換臉（右下）

AI換臉技術(shù)運(yùn)用于視頻通話存在潛在風(fēng)險(xiǎn)，惡作劇者可能會(huì)欺騙政府做出糟糕的政策決定，還會(huì)成為政客間相互攻擊的武器。

在2020年美國(guó)大選期間，特朗普4月在推特上轉(zhuǎn)發(fā)了一個(gè)偽造拜登吐舌頭的視頻，當(dāng)晚視頻播放量超過1000萬次。隨后特朗普在5月又轉(zhuǎn)發(fā)了用自己臉替換科幻電影《獨(dú)立日》中總統(tǒng)托馬斯·懷特摩爾、發(fā)表“我們要為我們的生存而戰(zhàn)”演講的視頻。

▲特朗普推特轉(zhuǎn)發(fā)拜登換臉惡搞視頻

二、商學(xué)政界積極應(yīng)對(duì)Deepfake風(fēng)險(xiǎn)

目前，針對(duì)Deepfake，谷歌、微軟、Facebook等眾多科技巨頭都在開發(fā)各種檢測(cè)技術(shù)。但目前比較進(jìn)階的Deepfake仍然可以騙過大多數(shù)AI檢測(cè)模型。

2019年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開關(guān)于人工智能深度偽造的聽證會(huì)，公開談?wù)摿松疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。這是美國(guó)眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽證會(huì)。

會(huì)議邀請(qǐng)了四位來自不同領(lǐng)域的專家，分別是美國(guó)外交政策研究所研究員克林特·瓦茨（Clint Watts）、馬里蘭大學(xué)法學(xué)教授丹尼爾 · 希特倫（Danielle Citron）、布法羅大學(xué)人工智能研究所所長(zhǎng)大衛(wèi)·多爾曼（David Doermann）和Open AI政策總監(jiān)杰克·克拉克（Jack Clark），以系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑，共同探討“深度偽造”的風(fēng)險(xiǎn)及應(yīng)對(duì)之策。

在我國(guó)，相關(guān)監(jiān)管政策也在不斷完善。我國(guó)《民法典》第1019條明確指出，任何組織或個(gè)人不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

結(jié)語：警惕視頻通話中的AI換臉技術(shù)

荷蘭視頻會(huì)議遭AI換臉，表明當(dāng)前AI換臉技術(shù)風(fēng)險(xiǎn)已滲透到安全性較高的政界，各界應(yīng)當(dāng)加大AI換臉技術(shù)的監(jiān)管。

未來，可能需要嚴(yán)格的篩查流程來識(shí)別AI換臉技術(shù)，以此確保視頻通話中每個(gè)參與者都是真實(shí)的。

來源：Engadget