疫情后，“AI+”成為時(shí)代主旋律。然而，在隱秘的角落，由AI所引發(fā)的安全風(fēng)險(xiǎn)和“黑灰產(chǎn)”問題正與日俱增。尤其是人臉識(shí)別，作為AI技術(shù)落地最廣泛的場景之一，所面臨的安全、倫理和道德等挑戰(zhàn)愈發(fā)嚴(yán)峻。

經(jīng)過近些年的快速發(fā)展，人臉識(shí)別已和智能硬件解鎖、支付，以及公共服務(wù)等身份驗(yàn)證直接綁定在一起。因面部信息的唯一性，以及作為個(gè)人隱私中最敏感、重要的組成部分，一旦出現(xiàn)問題，將會(huì)對(duì)個(gè)人隱私、公共安全造成巨大威脅，故對(duì)技術(shù)的安全要求和標(biāo)準(zhǔn)相對(duì)更高。

2017年，一位名為deepfakes的網(wǎng)友將色情電影中演員的臉替換成好萊塢女星，并將合成視頻在Reddit網(wǎng)站上發(fā)布，引發(fā)全球熱議，遭到大眾對(duì)技術(shù)濫用的質(zhì)疑。這也為AI“換臉”技術(shù)吸引了一波關(guān)注，DeepFake（深度偽造或深度合成）就此成為該技術(shù)的代名詞，同名算法也在Github上開源，導(dǎo)致合成視頻片段大量涌現(xiàn)。

無獨(dú)有偶，2019年國內(nèi)AI換臉工具“ZAO-逢臉造戲”APP。上傳一張照片，就能把諸多明星塑造的角色換成自己的臉，漫威系列的“緋紅女巫”，《泰坦尼克號(hào)》中小李子扮演的“杰克”，或是《喜劇之王》里的“柳飄飄”。

只需幾秒，便可跨越AI換臉的高難技術(shù)門檻，實(shí)現(xiàn)和偶像互動(dòng)飆戲的美夢，如APP宣傳語所說，“只需一張照片，出演天下好戲”，很難不讓人心動(dòng)。

DeepFake技術(shù)濫用，引發(fā)全球擔(dān)憂，也為人臉識(shí)別技術(shù)的應(yīng)用推廣帶來了巨大風(fēng)險(xiǎn)。據(jù)稱，2019年底，硅谷人工智能公司Kneron曾使用DeepFake技術(shù)成功欺騙了支付寶和微信支付，并且順利通過機(jī)嘗火車站等自助終端檢驗(yàn)！

為此，各國紛紛加強(qiáng)了監(jiān)管措施，譬如，美國政府公布了《禁止惡意深度偽造法案》、《2019年深度偽造責(zé)任法案》、《2019年深度偽造報(bào)告法案》，旨在通過限制DeepFake合成技術(shù)，打擊虛假信息的傳播。

不過，凡事都有兩面性。盡管早期的Deepfake以惡搞、炫技為主要目的，但發(fā)展著發(fā)展著，就被別有用心的群體盯上，以假亂真地制作名人視頻，引發(fā)誤會(huì)。

對(duì)此，微軟出手打造了視頻鑒真工具，可以讓經(jīng)由Deepfake處理的偽造視頻原形畢露。鑒真工具可進(jìn)行逐幀分析，以驗(yàn)證圖像有無存在篡改。工具中基于Azure的組件還允許視頻創(chuàng)作者對(duì)圖像添加數(shù)字散列和證書。隨著AI算法的精進(jìn)，工具不可避免地要被淘汰。

技術(shù)是中立的，也是雙向發(fā)展的，不會(huì)因?yàn)閼峙嘛L(fēng)險(xiǎn)而停滯不前。對(duì)深度偽造的內(nèi)容不能一竿子打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對(duì)影響國家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。

我們應(yīng)當(dāng)正確看待深度偽造的功能，監(jiān)督引導(dǎo)其正確規(guī)范使用，而深度偽造只是人工智能的其中很小的一個(gè)分支，不能代表人工智能，而深度偽造使用者是人，其本身是無對(duì)錯(cuò)。對(duì)于愈加復(fù)雜的信息網(wǎng)絡(luò)，閉門造車，自掃門前雪的方式顯然是不經(jīng)濟(jì)的，引導(dǎo)AI對(duì)抗技術(shù)的商業(yè)化落地，是加強(qiáng)網(wǎng)絡(luò)安全的重要途徑之一，也是促進(jìn)AI技術(shù)應(yīng)用和推廣的安全保障。