「核心提示」

(資料圖片僅供參考)

近日，濫用AI換臉技術(shù)的詐騙犯罪層出不窮，連直播間也出現(xiàn)了換臉的假明星。這種情況下，有人卻在社交平臺(tái)上堂而皇之賣起“作案工具”，79元就可以買30個(gè)人臉模型。是誰在甩賣AI換臉工具？

作者 | 宋子豪

編輯 | 劉楊

自從5月底“AI詐騙正在全國爆發(fā)”登上熱搜后，利用AI換臉技術(shù)的詐騙事件頻繁發(fā)生。

近日，中國銀河證券發(fā)布公告稱：利用“AI合成技術(shù)”的詐騙手段或?qū)⒅鸩铰又磷C券行業(yè)。公告顯示，某知名經(jīng)濟(jì)學(xué)家稱，自己被人利用“AI換臉”等技術(shù)，通過視頻、語音等方式聯(lián)系投資者，騙取投資者信任，開展薦股活動(dòng)。

此前已經(jīng)有哈爾濱、福州等多地網(wǎng)警通報(bào)有關(guān)AI換臉的詐騙事件，有人10分鐘被騙了430萬。

而“AI換臉”詐騙猖獗的當(dāng)下，社交平臺(tái)上也涌現(xiàn)了一批推銷“AI換臉教程”的賬號(hào)。

這些賬號(hào)發(fā)布的視頻，主要內(nèi)容都是人物手一揮就換了一張臉。視頻還會(huì)同時(shí)搭配洗腦的音樂，簡(jiǎn)單的動(dòng)作，以及“AI換臉教程、直播實(shí)時(shí)換臉、視頻實(shí)時(shí)換臉、自定義換臉”等相關(guān)文字。

如果有用戶在視頻下面回復(fù)，他們就會(huì)在評(píng)論區(qū)引導(dǎo)，讓用戶加聯(lián)系方式詳談。

這些賬號(hào)背后的上傳者，自稱是自媒體時(shí)代的成功學(xué)導(dǎo)師，不斷追逐熱點(diǎn)，付費(fèi)傳授各種流量密碼。

只不過，這一次的“AI換臉”尚處于監(jiān)管灰色地帶，參與其中的用戶可能稍不留神，就從“知識(shí)付費(fèi)”變成“今日說法”。

1、AI詐騙之后，“換臉”教程席卷平臺(tái)

5月底，有不少網(wǎng)友發(fā)現(xiàn)，當(dāng)紅女星“楊冪”“迪麗熱巴”親自在某女裝品牌直播間帶貨。她們互動(dòng)熱情，介紹專業(yè)，短時(shí)間引來大量網(wǎng)友圍觀。

但仔細(xì)看，主播的臉又不太像明星本人，如果主播扭頭的幅度太大，居然會(huì)瞬間“顯出原形”，變出另一張臉來。更有人在不同直播間同時(shí)看到多個(gè)“楊冪”“熱巴”。一時(shí)間，“明星主播”分身有術(shù)，處處有“楊冪”，個(gè)個(gè)是“熱巴”。

經(jīng)過媒體曝光，人們才發(fā)現(xiàn)，原來部分直播間在未標(biāo)識(shí)情況下，用AI換臉技術(shù)，讓主播套上一張明星臉，誤導(dǎo)消費(fèi)者。

想起差點(diǎn)因?yàn)樘摷俚拿餍切?yīng)沖動(dòng)消費(fèi)，人們對(duì)AI換臉的魔力越發(fā)心有余悸。

視頻換臉技術(shù)出現(xiàn)已久，早在2019年，一款名為“ZAO”的換臉App就曾紅極一時(shí)，用戶只要上傳一張自己的正面照，就可以在電影角色的臉上套上自己的五官，與明星同臺(tái)飆戲。

到了2021年年初，換臉應(yīng)用程序Avatarify一度登上了App Store中國區(qū)應(yīng)用免費(fèi)榜榜首，但不到一個(gè)星期，該應(yīng)用就被中國區(qū)App store下架。

這些軟件的技術(shù)往往來自于DeepFake開源技術(shù)，依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換。

雖然當(dāng)時(shí)的換臉技術(shù)還不夠逼真，但已經(jīng)能讓一些短視頻創(chuàng)作者吸引流量。

在2021年3月，TikTok上的某個(gè)視頻賬號(hào)就通過換臉技術(shù)，制作了換臉湯姆克魯斯練習(xí)高爾夫、表演魔術(shù)、講笑話等視頻，發(fā)布沒多久就收獲了20多萬粉絲。

當(dāng)時(shí)，這種技術(shù)門檻較高。視頻制作者宣稱使用了開源的DeepFaceLab算法以及其他的視頻編輯工具，通過將傳統(tǒng)的視覺特效與DeepFake技術(shù)相結(jié)合，前后花了整整兩個(gè)月的時(shí)間制作。此外，硬件上還需要使用一對(duì)NVIDIA RTX 8000 GPU訓(xùn)練AI模型，才能達(dá)到以假亂真的效果。

隨著近兩年來技術(shù)大爆發(fā)，不僅出現(xiàn)了幾乎可以傻瓜式操作換臉的相關(guān)軟件，逼真程度也一再上升，目前已經(jīng)可以做到實(shí)時(shí)換臉，從而應(yīng)用到上面提到的直播領(lǐng)域。

但是從娛樂領(lǐng)域到商業(yè)領(lǐng)域，AI換臉還處于灰色地帶。

在此前的報(bào)道中，有法律人士認(rèn)為，使用AI換臉技術(shù)時(shí)，應(yīng)有顯著標(biāo)識(shí)，以免公眾混淆。而未經(jīng)明星同意使用其肖像直播帶貨，可能涉嫌多項(xiàng)侵權(quán)。

2023年3月，某短視頻平臺(tái)上的特效師通過把電視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，并借此宣傳售賣“特效換臉教程”，也引發(fā)了很大爭(zhēng)議，并且該賬號(hào)“特效合成師洪亮（收徒）”被平臺(tái)封號(hào)15天。

目前短視頻平臺(tái)對(duì)于這類行為提出了規(guī)范。比如2023年5月9日，抖音發(fā)布“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，其中提到創(chuàng)作者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，同時(shí)虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

而在政策監(jiān)管上，今年1月生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也指出，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。并要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

面對(duì)平臺(tái)和監(jiān)管部門的圍追堵截，換臉明星以吸引流量的路子走不通。部分博主發(fā)現(xiàn)以身犯法不行，轉(zhuǎn)身賣起了所謂的AI換臉課程。

2、79元就能“換”30張臉

此前，央視財(cái)經(jīng)曝光“主播AI換臉明星進(jìn)行直播”時(shí)提到，在網(wǎng)上購買一套AI實(shí)施換臉的模型需3.5萬元。

只過了一個(gè)多月的時(shí)間，AI換臉的價(jià)格正在迅速平民化。如今，只需要79元，一個(gè)AI換臉套餐就能幫你換30張臉。

《豹變》在社交平臺(tái)上搜到了有關(guān)“AI換臉教程，直播實(shí)時(shí)換臉，視頻通話換臉”的相關(guān)視頻，視頻下方的商品鏈接中售賣相應(yīng)的課程——不僅提供“AI換臉直播間搭建”工具包＋教程，同時(shí)“包教包會(huì)換臉直播，79元可以解鎖30張面孔”。

店鋪顯示，該課程已售13份?！侗儭吩儐柡蟛]有得到回復(fù)，截至發(fā)稿，相關(guān)產(chǎn)品已經(jīng)下架。

類似售賣AI變臉課程的賬號(hào)往往非常謹(jǐn)慎，多數(shù)賬號(hào)在視頻中并不直接宣傳賣課，而是以“帶你玩AI換臉”等字眼，吸引用戶主動(dòng)詢問。

此外，賣家還會(huì)通過大批沒有其他內(nèi)容的僵尸號(hào)，批量轉(zhuǎn)發(fā)同樣的視頻，然后在賬號(hào)簡(jiǎn)介或私信中交換聯(lián)系方式。

《豹變》從一位賣家客服那里了解到，不同的套餐價(jià)格不一樣，包括588元的入門版本、888元的基礎(chǔ)版本、1388元的進(jìn)階版本，以及2888元的專業(yè)版本。

客服表示，如果用于直播帶貨，建議購買2888元的專業(yè)版本：“我們這個(gè)活動(dòng)很劃算了，永久免費(fèi)使用，包更新，后續(xù)這個(gè)價(jià)格會(huì)變?yōu)槟昕??！?/p>

有相關(guān)行業(yè)從業(yè)者表示，類似的AI換臉技術(shù)主要來自于國外開源項(xiàng)目：“最近AI技術(shù)大爆炸，很多技術(shù)都是開源的，而且更新非?？?。國產(chǎn)自研技術(shù)也有，但都是有投資的公司做的，而且效果不理想?！?/p>

類似的開源項(xiàng)目，官方網(wǎng)站上就有使用教程。一些人搬運(yùn)到國內(nèi)之后，開始打包賣課程和教程，成本幾乎為零。

比如，B站、抖音等視頻網(wǎng)站上的很多AI換臉視頻都是通過DeepFaceLab生成的。DeepFaceLab安裝簡(jiǎn)單，更新快，功能強(qiáng)，模型多，參數(shù)豐富，對(duì)設(shè)備配置要求低。

其他熱門的軟件，比如Fake App、OpenFaceSwap等，都能在互聯(lián)網(wǎng)上找到相關(guān)資源。

對(duì)此，《豹變》向售賣課程的客服核實(shí)售賣的軟件是否屬于開源項(xiàng)目，希望對(duì)比使用界面，客服卻宣稱，自家產(chǎn)品屬于內(nèi)部軟件，不方便公開。

而其他從事AI技術(shù)科普的博主告訴《豹變》，這就是靠信息差割韭菜。

3、AI換臉的用武之地在哪？

比起其他AI技術(shù)誕生之后備受各方矚目，AI換臉技術(shù)似乎只得到違法分子的青眼?！皳Q臉”的作用總讓人想到灰色產(chǎn)業(yè)，在實(shí)時(shí)換臉技術(shù)成熟之后，沒想到最先降低的似乎是違法成本。

實(shí)際上，此前AI換臉技術(shù)常運(yùn)用于影視劇領(lǐng)域，一些曾因劣跡藝人被迫雪藏的影視劇，也是憑借AI換臉技術(shù)重見天日。而當(dāng)實(shí)時(shí)換臉成為可能后，AI換臉技術(shù)也有可能在直播領(lǐng)域找到用武之地。

通過AI換臉，品牌方可以讓不同直播間里的主播共享同一張臉，一方面可以強(qiáng)化品牌IP與主播的連接，另一方面也可以減少主播流失帶來的損失，擺脫對(duì)大主播的依賴。

此前大熱的數(shù)字人直播技術(shù)，目前還面臨著技術(shù)不夠成熟、對(duì)算力的要求過高、互動(dòng)能力不足等尷尬情況。相對(duì)來說，AI換臉技術(shù)更為經(jīng)濟(jì)實(shí)用。

而且，AI換臉技術(shù)已經(jīng)在部分特殊場(chǎng)景有所應(yīng)用。比如，對(duì)于國內(nèi)中小跨境電商商家來說，外籍主播和模特的人力成本略高，導(dǎo)致運(yùn)營壓力過大。所以，有TikTok商家通過AI換臉將英語口語能力不錯(cuò)的國內(nèi)主播、模特?fù)Q臉變成外籍主播、模特，以減少人力成本。

目前已經(jīng)有電商公司、科技公司在著手研究AI換臉技術(shù)。電商直播行業(yè)龍頭遙望科技曾于5月15日發(fā)布公告稱，與小冰公司簽訂關(guān)于《直播電商人工智能技術(shù)/產(chǎn)品戰(zhàn)略合作》的協(xié)議，雙方就AI技術(shù)、產(chǎn)品的研發(fā)、推廣等事項(xiàng)在直播、短視頻、電商等領(lǐng)域展開全面合作。其中包括AI換臉技術(shù)的研發(fā)。

騰訊旗下優(yōu)圖實(shí)驗(yàn)室、天天P圖聯(lián)合打造的AI變臉玩法等，也在嘗試能夠完成人臉替換、人臉再現(xiàn)、人臉合成甚至全身合成、虛擬環(huán)境合成等功能。

相對(duì)應(yīng)的，針對(duì)AI換臉的檢測(cè)技術(shù)也在發(fā)展。企查查顯示，2022年10月4日，百度申請(qǐng)的“人臉鑒偽方法、裝置及計(jì)算機(jī)程序產(chǎn)品”專利公布。該專利涉及人工智能技術(shù)領(lǐng)域，具體涉及深度學(xué)習(xí)技術(shù)，可用于人臉鑒偽場(chǎng)景，提高了人臉圖像鑒偽結(jié)果的準(zhǔn)確度。

對(duì)于AI換臉技術(shù)在灰色產(chǎn)業(yè)的濫用，在監(jiān)管和鑒別技術(shù)逐漸完善的情況下，類似情況應(yīng)該會(huì)得到控制。目前來看，需要更多的相關(guān)科普、反詐知識(shí)來謹(jǐn)防AI換臉詐騙。

關(guān)鍵詞：