本文作者 卜葉 趙廣立 編輯 趙廣立

最近這款名為“ZAO”的換臉APP，引起了一場腥風血雨。只需上傳一張照片，就可以把影視劇的主角替換成用戶自己。孰料，“明星癮”還沒過足，“換臉”帶來的個人信息泄露風險倒是叫人細思恐極。

ZAO宣傳語：僅需一張照片 出演天下好戲

信息時代，“臉面”不僅僅是一個人的名片，刷臉打卡、刷臉登錄、刷臉進站、刷臉付款……面部信息成為個人財產保險箱的一把鑰匙。而一旦鑰匙掌握在別人手中，將會對個人財產安全等構成極大威脅。

為此，我們訪院士、采專家，希望從更多角度解析以刷臉為代表的生物識別技術背后的安全風險，同時進一步探索：應如何設置保障措施，來應對AI技術打開的潘多拉魔盒？

人眼難辨，造假越來越容易

“人工智能帶來的安全和隱私問題早已引起國內外的關注，AI換臉只是最近出現的一個新例子而已。”中國科學院院士、清華大學人工智能研究院院長張鈸開誠布公地說。

早在20多年前，基于三維模型的AI換臉技術已經走進研究領域，但換臉的效果不盡如人意。近年來，隨著生成對抗網絡技術的引入，換臉效果大幅提升，人眼已經很難發(fā)現換臉痕跡。

中科院重慶綠色智能技術研究院智能安全技術研究中心主任石宇介紹說，其實換臉也算是深度卷積神經網絡技術在圖像處理方面的一種應用。而換臉軟件也從早期的利用傳統圖像處理算法對單個圖片進行人物換臉，進化到現在的利用深度學習技術來對視頻進行換臉。

而使用深度學習技術來對視頻進行換臉其實也早在3年前就已經出現過，但由于涉及一些法律問題的原因，曾經火爆一段時間之后的deepfake也銷聲匿跡。

直到今年早些時候的某女明星的視頻在網絡上廣泛傳播，再到近期的ZAO軟件在互聯網的大量擴散，該技術又再次吸引了公眾的眼球。但其實這一系列內容背后，都是類似的相關技術所帶來的影響。

今年早些時候某女明星的換臉視頻被廣泛傳播

但是，個人生物信息泄露引發(fā)的安全問題從未如此備受關注。

清華大學孵化的人工智能公司RealAI(瑞萊智慧)算法科學家蕭子豪認為有兩方面的原因。一方面，近年來大眾越來越關注個人隱私問題；另一方面，AI技術發(fā)展迅速，技術越來越成熟，效果越來越逼真，操作越來越簡單，使得應用領域和場景越來越多。

“以前世界頂尖科研團隊才能完成的‘換臉術’，現在尋常人躺在沙發(fā)上動動手指就能輕松實現，大大降低了造假成本�！� 蕭子豪說。

過度攫取用戶信息，濫用風險加劇

“ZAO”引發(fā)關注的一個重要原因是，該應用中含有涉及個人隱私保護的“霸王條款”。

該APP最初的用戶協議規(guī)定，用戶自行上傳的內容，一旦發(fā)布，平臺即默許已獲得用戶和影片原主人公的肖像授權，且ZAO及其關聯公司有權在全球范圍內“完全免費、不可撤銷、永久、可轉授權和可再許可”地使用、修改、編輯這些內容素材。用戶如果不同意協議，便無法使用該APP。

該規(guī)定很快引發(fā)公眾對個人信息安全及隱私保護的質疑。

與此同時，相關生物識別技術應用需要用戶上傳越來越多的個人信息。以“ZAO”為例，該APP要求用戶提供個人高清圖片外，還要求上傳點頭、眨眼等活體檢測的視頻。

ZAO用戶協議遭到用戶吐槽

蕭子豪對筆者說，軟件應用開發(fā)方獲取大量的個人生物信息后，能夠豐富訓練數據，用以模型優(yōu)化，可大大提高應用精度和準確率，進而增強用戶體驗，但這也意味著個人信息的完全暴露。

可以想象，“ZAO”收集的人臉圖像和人臉生成技術如果被濫用，將會帶來極大的風險。此前，鑒于對個人隱私獲取的擔憂，美國舊金山、薩默維爾市先后禁止人臉識別的應用。

今年8月，中國信息通信研究院發(fā)布的《人工智能數據安全白皮書》顯示，AI應用可采集的人臉、指紋、虹膜等信息具有強個人屬性，且具有唯一性。個人數據的過度采集，將加劇隱私泄露風險。

針對 “ZAO”App用戶隱私協議存在不規(guī)范行為、存在數據泄露風險等網絡數據安全問題，9月3日，工業(yè)和信息化部網絡安全管理局對北京陌陌科技有限公司（以下簡稱陌陌科技）相關負責人進行了問詢約談。

工信部約談陌陌科技

該局要求陌陌科技要“組織開展自查整改，依法依規(guī)收集使用用戶個人信息”，同時責令其“規(guī)范協議條款，強化網絡數據和用戶個人信息安全保護”。

換臉或能突破支付，數據管理僅靠自律？

ZAO引發(fā)大量關注之后，“支付寶安全中心”8月31日通過官方渠道發(fā)布聲明稱，不管換臉有多逼真，都無法突破刷臉支付。

支付寶安全中心解釋說，刷臉支付采用的是3D人臉識別技術，在進行人臉識別前，會通過軟硬件結合的方式進行檢測，來判斷采集到的人臉是否照片、視頻或者模擬生成的，能有效避免各種人臉偽造帶來的身份冒用情況。

話雖如此，但考慮到刷臉支付還沒有得到大規(guī)模應用，潛在的安全風險可能還并未浮出水面。

北京郵電大學模式識別實驗室教授鄧偉洪告訴筆者，盡管目前還沒有利用個人面部信息突破刷臉支付等功能的案例，但這并不代表刷臉功能的絕對安全。并且，造假生成技術不斷升級，未來存在突破現有刷臉支付功能的可能性。

他介紹了一種可能性：AI換臉軟件收集了大量人臉圖像，這些信息如果被濫用，技術上可以準確地恢復出用戶的三維面部信息，結合3D打印模型和面具，足夠對刷臉支付等系統進行攻擊。

3D打印人臉模型并非難事

鄧偉洪提出，管理部門和學術界應該重視這些風險問題，并制定或研發(fā)出效的防御策略。

面對這個問題，張鈸表示，至少應該加強管理和約束，包括數據的管理和合理使用。

他舉例，最近一些公司的語音合成技術已經達到足可亂真的水平，這與“換臉”技術一樣很容易被濫用。從這點出發(fā)，這些公司已經制定了自律規(guī)則，對這類AI技術加以限制使用，以保障用戶個人生物信息的安全。

“目前，個人生物信息獲取多少，又該如何使用，缺乏行業(yè)標準。如何制定規(guī)則有效管控個人生物信息的使用是當務之急。”張鈸說。

今年4月，清華大學成立了戰(zhàn)略與安全研究中心，開展國際戰(zhàn)略與安全相關的學術研究和政策研究工作。其中，AI安全政策的制定正是該中心的一項重要內容。

“真相”“假臉”難辨，防反之爭或將曠日持久

目前有沒有技術手段，能夠鑒別哪個是“真相”、哪個又是“假臉”呢？

答案是既肯定又否定。鄧偉洪告訴筆者，由于原始人臉圖像特征已經完全被覆蓋，目前沒有特別可靠的技術可以反推出原始頭像。但計算機視覺技術比人眼更精密，可以有效地檢測出因換臉留下的圖像痕跡。

他舉例說，去年美國國防部發(fā)布了一款AI偵測工具，對換臉的檢測精度可達到99%以上。加州大學伯克利分校的科研人員也提出了通過特定人物的面部行為細節(jié)，準確地“揪出”模仿各種名人的假視頻。

鄧偉洪所在的科研團隊也據此進行了初步的實驗。實驗結果顯示，假視頻的檢測率可達到98%以上。

不過，在見識了美國國防部研發(fā)的“反AI變臉”刑偵工具后，達特茅斯大學的數字取證專家Hany Farid 認為，目前的一個關鍵問題是，機器學習系統可以接受更先進的訓練，然后超越當前的反變臉工具。

這也就意味著，這些“以AI攻AI”的反變臉工具僅僅是個開始——AI視頻偽造者和數字刑偵人員之間或將展開一場長期持久的AI軍備競賽。

防反之爭或將曠日持久

技術濫用頻頻，何以解憂引人深思

引發(fā)個人信息安全及隱私保護問題的AI技術，不只有換臉。

近日，一組課堂上學生行為分析的視頻截圖在網上引發(fā)熱議。照片中，攝像頭通過計算機視覺算法獲取學生的課堂表現，并以標簽的形式計算出“聽講、閱讀、舉手、趴桌子、玩手機、睡覺”等動作次數。截圖顯示該技術方案來自曠視科技。

AI智慧教育變成“全景監(jiān)控”

盡管曠視科技隨即在9月3日回應稱此系該公司“技術場景化概念演示”，目前“僅停留在技術展示階段，尚未落地應用”，也難免教育界人士直呼，智慧課堂行為分析已變成“全景敞視監(jiān)獄”。

AI技術發(fā)展至今，以“賦能”之姿已在安防、醫(yī)療、教育、工業(yè)等各行各業(yè)帶來了巨大變化，甚至扮演著顛覆行業(yè)的角色。然而，面對一波未平一波又起的技術濫用問題，應用背后的個人隱私保護問題、信息安全問題，如何規(guī)范使用它，是一個必須回答的命題。

美國一些城市以及歐盟的做法是嚴字當頭，甚至采取禁止法案。

如前文提及，在舊金山，政府機構擅自使用人臉識別技術、“靠人臉識別技術獲得某些信息”都是被禁止的違法行為；

在瑞典，一所高中因試驗用人臉識別系統統計學生出勤率，而被瑞典數據監(jiān)管機構處以20 萬瑞典克朗（約合14.8 萬元）的罰款，理由是“數據的所有者及數據的管理者之間存在明顯的信息不對稱”。

這些做法在國內恐難直接照搬，但必要的措施，希望不會太晚。

“圍繞個人隱私、群體安全問題，對于人臉識別等技術的使用需要一個平衡。” 商湯科技聯合創(chuàng)始人徐冰在近期的一次采訪中對筆者說：“這個平衡，就是一個好的規(guī)則或規(guī)范——不僅要去規(guī)范人臉識別技術企業(yè)，還要去規(guī)范使用這些技術的政府�！�

“實際上，人臉識別技術所創(chuàng)造的價值是被認可的�！毙毂�不希望諸如人臉識別這樣的新技術只是簡單粗暴地被一禁了之： “作為發(fā)明和使用新技術的人們，都要去認真思考這些問題，并且一起努力促使新規(guī)范的形成，而不是直接禁止掉�！�

"