ZAO：中國換臉視頻應用是否威脅龐大的刷臉產業
一款名為「ZAO-逢臉造戲」的應用軟件使用AI人工智能技術風靡中國，用戶只需要一張正臉照，就能將自己替換為影視作品當中的人物。這款換臉APP迅速走紅中國社交網絡的同時，也引起巨大爭議。
應用軟件ZAO會不會對國家安全構成威脅？ ZAO於8月30日正式發佈，廣受歡迎，一度登上蘋果應用商店中國區免費下載榜榜首，其服務器也因用戶激增數次崩潰。 但隨之而來的是外界對版權、隱私、信息安全等問題的擔憂，有人指責ZAO的用戶協議導致過度收集用戶信息和過度攫取用戶授權，或擔心換臉視頻會被用於破壞人臉識別系統。 9月3日，ZAO運營團隊就爭議發佈致歉聲明，修改了此前的用戶協議。 ZAO隸屬於中國長沙深度融合網絡科技有限公司，法定代表人為中國社交軟件陌陌聯合創始人兼遊戲業務部總裁雷小亮，ZAO實為北京陌陌科技有限公司旗下產品。 9月3日同一天，針對媒體公開報道和用戶曝光的ZAO用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題，中國工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。 由於「刷臉支付」、「刷臉解鎖」在許多中國城市已成日常，ZAO的走紅還進一步引發了用戶對支付風險和財產安全的擔憂。 對此，中國互聯網巨頭阿里巴巴和旗下支付平台支付寶作出保證，目前網上製作的換臉視頻無論多逼真，都無法突破「刷臉支付」的面部識別系統。 ZAO將用戶的臉映射到已有素材庫裏的視頻中。 ZAO是什麼？爭議由何而來？ ZAO是一款使用AI技術換臉的應用程序，它將用戶提交的正面自拍映射到影視節目的剪輯片段中，替換人物角色的臉，生成逼真的視頻。 這一類使用人工智能技術進行人臉進行替換的技術被稱作Deepfakes（深度造假），所用到的算法於2017年被開發。但該技術後來被用於將色情電影角色的臉部替換為明星面部，引起巨大爭議。推特、Gfycat和Reddit等社交媒體網站都禁止了AI換臉色情視頻。 這家中國公司生產會說話的硅膠娃娃 ZAO迅速走紅的同時，一些用戶注意到，其用戶協議中包含的多項條款都隱藏法律風險。 例如，用戶進行視頻換臉操作同時就意味著，同意或確保肖像權利人授予ZAO及其關聯公司全球範圍內「完全免費、不可撤銷、永久、可轉授權和可再許可的權利」，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的肖像權利人的肖像權，以及利用技術對肖像權利人的肖像進行形式改動。 用戶必須同意用戶協議後才能使用ZAO的換臉功能，ZAO借此不光免費獲得了用戶上傳照片中肖像信息的使用權和轉授權，還將侵權的風險轉嫁給了用戶。 香港《南華早報》引述專家意見評論稱，這樣一來「軟件開發者有權在未經用戶進一步許可的情況下將該授權轉讓給任何第三方。」專家認為，這違反了中國大陸的法律。 在用戶協議條款引發大量爭議後，ZAO運營團隊公開致歉，聲稱」不會存儲個人面部生物識別特徵信息「，並修改了用戶協議，新版用戶協議刪除了上述引來爭議的表述。 但是，中國社交平台微信迅速屏蔽ZAO，以安全風險為由，禁止用戶在微信平台上上傳ZAO換臉視頻。 這款APP的火爆程度可能也超出其運營團隊的預期，ZAO新浪微博的官方帳號表示，ZAO在8月份花了700萬租服務器，但上線第一晚就已經消耗了每月服務器容量的三分之一。 8月31日上線第二天已有用戶抱怨服務器速度太慢，其微博官方賬號表示「心累」，服務器已進入滿負荷狀態。 ZAO正式發佈後，一度登上蘋果應用商店中國區免費下載榜榜首 ZAO生成視頻能否突破「刷臉支付」？ 出自中國的支付寶是全球最大移動支付平台，擁有超過8.7億用戶，它向用戶保證，ZAO創建的視頻無法突破其刷臉支付系統。 許多支付寶用戶通過刷臉支付，甚至可以在商店或餐廳消費時，直接看向攝像頭進行人臉識別，完成支付。 開發支付寶的中國阿里巴巴集團表示，刷臉支付使用了複雜的算法，以確保不被靜止照片或換臉視頻所蒙蔽。 支付寶在其新浪微博賬戶表示：「目前，網上各類換臉軟件有很多，但不管換的有多逼真，都是無法突破刷臉支付的。」 「在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。」 ZAO運營團隊也在聲明中表示：使用其應用軟件不會產生支付風險。 「刷臉支付安全門檻極高，僅通過一張照片實現的"換臉"技術完全無法突破刷臉支付的安全系統。權威支付平台也均從專業技術角度，強調『換臉』完全不可能威脅支付安全，」ZAO運營團隊說。 支付寶是全球最大的移動支付平台。 媒體關注點 外界對該應用程序的擔憂引起了中國媒體的關注。 《新京報》的一篇評論提出疑問：好玩的AI換臉，也可能威脅國家安全？ 文章表示，儘管ZAO軟件暫時還沒造成實際上的危害，但具有潛在危害：「有手機號，有面部圖像，通過技術合成，犯罪分子可以替你和你家人通話了。」因此，「有必要及早以明確的法律條款予以規範。」 《廣州日報》的一篇社論說：「換臉視頻雖好玩，但潛在安全風險不可忽視。」 《澎湃新聞》發表文章《ZAO火爆卻注定短命背後：換臉攻擊一直都存在？》，當中提到「由於人工智能技術所具有的高度的不確定性、創新性和複雜性，面對千變萬化的應用場景，目前想要所有亂象得到根治也絶非易事。」 「畢竟技術本無罪，全看使用技術的人想拿它做什麼。目前來看，更重要的是相關AI企業應該堅守自身底線。」