
早在2019年,一款名為“ZAO”的AI換臉軟件曾風靡網絡,只要提供一張照片就能成為影視劇的男女主角,讓眾多網友趨之若鶩。然而,因侵犯版權、侵害隱私、危害數據安全等問題,“ZAO”很快被下架處理。
然而,隨著技術發展和使用門檻降低,“AI換臉”的應用場景越來越多,背后的黑灰產業鏈也逐漸浮出水面。記者調查發現,目前在網絡平臺上,售賣明星換臉的淫穢視頻、提供視頻定制換臉服務、教授換臉技術等已經成為一門生意。
技術本無善惡,但技術應用需要規制。4月11日,國家網信辦發布的《生成式人工智能服務管理辦法(征求意見稿)》,在產品安全評估、數據合法性等方面作出具體規定。業內人士認為,這一規定實施后,將對包括“AI換臉”在內的生成式人工智能技術發展起到很好的規范和指導作用。
“AI換臉”的法律邊界何在?“AI換臉”服務的提供者和使用者存在哪些法律風險?如何規制和防范“AI換臉”對個人和社會造成的嚴重后果?
明星換臉視頻打包出售,定制只需兩三小時
近年來,“AI換臉”等深度合成技術快速發展,在服務用戶需求、改進用戶體驗的同時,也被一些不法人員利用,生成惡搞視頻、色情視頻在網上傳播、出售。記者注意到,在有關部門和網絡平臺不斷加強監管的背景下,一些“換臉軟件”和“定制換臉服務”轉向更隱秘的角落,形成地下黑灰產業鏈。
換臉應用“FacePlay"采取會員制的方式,為用戶提供視頻和照片換臉服務(應用頁面截圖)
記者在百度搜索關鍵詞“AI換臉”,查詢到一些標注為“廣告”的網站,仍在出售“明星換臉視頻”。根據網頁留下的QQ號,記者聯系到一個名為“深藍”的賣家,其隨后發來“百位明星合成視頻合集”的列表截圖,文件名上標注出多位大眾熟知的女明星。
“100部,打包價108元。”深藍表示,視頻文件將通過QQ文件發送,支持微信、支付寶、QQ紅包等支付方式。為了證明視頻的質量,深藍隨后發來幾張動圖,內容是幾位女明星被換臉后的淫穢視頻截圖。
另一個賣家則向記者發送了網盤鏈接。對方稱,視頻時長有幾分鐘到十幾分鐘不等,可以保證視頻質量。“如果你有特別喜歡的明星,我們可以為你提供定制服務,收費比較貴。”對方表示,一段時長約5分鐘的定制視頻要價188元,“兩三個小時就能給你”。
上述兩位賣家都聲稱,出售的明星換臉視頻是團隊自己制作的,深藍更是夸口稱“獨家發售,絕無僅有,質量有保證”。兩名賣家提供的明星換臉合成視頻流暢度極高,幾乎達到了真假難辨的程度。
實際上,演藝明星、社會名人更容易成為“AI換臉視頻”的受害者。近期,一名男性特效師將自己的臉替換到影視片段中,生成跟女星迪麗熱巴親吻視頻,引發粉絲抗議。
因不堪其擾,一些明星選擇維權。2021年8月,劉昊然工作室發布聲明稱,有人利用“AI換臉”技術傳播對劉昊然帶有侮辱性的視頻、截圖,同時含有誹謗言論的聊天記錄。該工作室表示已向警方報案。2021年9月,林俊杰因個人肖像被短視頻博主用“AI換臉”技術制作了大量的鬼畜視頻,起訴了平臺及該博主,要求其賠禮道歉并索賠27.5萬元。
相關應用仍可下載,賣家教授“AI換臉”技術
不僅有出售明星換臉成品視頻的賣家,各類提供“AI換臉”服務的App和小程序,仍在網絡中存在。更甚者,一些賣家要提供換臉技術教學服務,進一步降低這類技術的應用門檻,易造成對他人權益和社會公共安全的危害。
在手機應用商城,記者搜索“AI換臉”等關鍵詞,就有不少相關App推薦,如“AI換臉”“FacePlay”等。在某社交平臺上搜索“換臉”,也能看到不少“AI換臉”的小程序,如“AI換臉變裝”等。
記者下載了熱度最高的“FacePlay”App。該App有多款換臉模板可供選擇,包括AI繪畫、影視劇、氣質美女、男士專屬等,一鍵上傳照片便可生成換臉視頻。
要想在這些App和小程序上使用“AI換臉”功能,有些需要付費,以“FacePlay”為例,周會員17元、年會員398元。也有免費適用的App,一般用戶每日可享受一次免費“AI換臉”的機會,用完免費次數后可通過瀏覽視頻廣告獲取權限。
而在電商平臺,“AI換臉”“換臉”等關鍵詞已被屏蔽,但通過“明星視頻”“定制視頻”等更隱蔽的關鍵詞,仍能找到出售換臉軟件、定制明星換臉視頻及教授換臉技術的賣家。