南風(fēng)窗消息，Olga Loiek是一名烏克蘭網(wǎng)紅，金發(fā)碧眼，面容精致，她的視頻，多以芭比娃娃氣質(zhì)的造型做封面，內(nèi)容形式相對(duì)單調(diào)——對(duì)著鏡頭，分享自己的生命感悟。
作為一個(gè)名不見(jiàn)經(jīng)傳的油管小網(wǎng)紅，Olga的粉絲量少得可憐，僅一萬(wàn)多。不過(guò)，她在中文互聯(lián)網(wǎng)有一個(gè)分身，在中國(guó)生活了8年，說(shuō)著一口流利的中文，粉絲比本體多，有20多萬(wàn)。
在這里，她不叫Olga Loiek，而是叫“娜塔莎”，是俄羅斯人，熱愛(ài)中國(guó)美食和文化，想嫁個(gè)中國(guó)男人，順帶賣點(diǎn)俄羅斯產(chǎn)品。
今年1月底，Olga Loiek才了解到平行宇宙中的娜塔莎，她對(duì)另一個(gè)“自己”很吃驚，很難描述正在發(fā)生的事情。
“有人克隆了我”，她憤怒地表示。
Olga Loiek在視頻中講述自己被“克隆”
事實(shí)上，中文互聯(lián)網(wǎng)上，還有一大群“俄羅斯美女”，用著Olga Loiek的臉和聲音，她們都自稱在中國(guó)生活多年，希望嫁給中國(guó)男人，接著便會(huì)向網(wǎng)友介紹各種俄羅斯特色產(chǎn)品。
Olga Loiek不是唯一的受害者，來(lái)自瑞典的網(wǎng)紅拉納布萊克利，也在中國(guó)擁有分身。事實(shí)上，只要一點(diǎn)素材，通過(guò)唾手可得的 AI合成軟件，各式各樣充滿異國(guó)風(fēng)情的美女，便會(huì)批量產(chǎn)生。
正所謂，開(kāi)局一張臉，人設(shè)全靠編。這股AI熱潮里，錢賺得最起勁的，只有詐騙的和賣課的。隨著AI技術(shù)下沉與AI生成信息的泛濫，它似乎越來(lái)越多地影響到了人們的日常沖浪。除了無(wú)關(guān)痛癢的AI垃圾信息，你可能也會(huì)越來(lái)越頻繁地刷到一些聲稱要嫁給中國(guó)人的“異國(guó)美女”，其背后可能只是一堆虛假的數(shù)據(jù)，而她們所瞄準(zhǔn)的，往往是你的錢包。
俄羅斯美女來(lái)襲
不知道從什么時(shí)候開(kāi)始，國(guó)內(nèi)各大平臺(tái)上冒出了一群特別愛(ài)中國(guó)的“洋網(wǎng)紅”。他們說(shuō)著不太流利的中文，表達(dá)著對(duì)中國(guó)的喜愛(ài)，贊揚(yáng)中國(guó)美食、產(chǎn)業(yè)和文化。
這也讓一些別有用心的人，窺見(jiàn)了這套財(cái)富密碼。
名為“娜塔莎進(jìn)口食品”的賬號(hào)，塑造了一個(gè)不存在的俄羅斯女子“娜塔莎”，在中國(guó)生活了8年，熱愛(ài)中國(guó)文化，揚(yáng)言要嫁中國(guó)男人，其粉絲量有21萬(wàn)。相比之下，“娜塔莎”的本體，也就是文章開(kāi)頭那位Olga Loiek，本人的粉絲量?jī)H1萬(wàn)多。
@娜塔莎進(jìn)口食品的賬號(hào)吸引眾多粉絲，目前已搜不到該用戶
AI博主的門檻其實(shí)并不高，只要找到一點(diǎn)點(diǎn)素材，比如Olga Loiek的視頻和照片，再借助網(wǎng)上唾手可得的軟件，人人都可上手的教程，進(jìn)行簡(jiǎn)單的訓(xùn)練，即可快速生成。
盡管發(fā)出來(lái)的視頻看起來(lái)比較模糊，人物濾鏡很重，但很多對(duì)AI技術(shù)不了解的網(wǎng)友依然會(huì)信以為真。在評(píng)論區(qū)，粉絲們積極回應(yīng)，對(duì)娜塔莎發(fā)出了贊美，在評(píng)論區(qū)留下“你很漂亮”“我很想見(jiàn)到你”“請(qǐng)回復(fù)我消息”等留言。
這樣的娜塔莎，還不止一個(gè)。有的叫格蕾絲，有的叫安娜，無(wú)一例外，她們的櫥窗，都賣著各種俄羅斯商品。
在Olga曝光后，這些賬號(hào)消失了不少，但“俄羅斯AI美女”這門生意，依然火爆。南風(fēng)窗記者在某些電商平臺(tái)上檢索發(fā)現(xiàn)，不少商家和個(gè)人，都打著“AI俄羅斯美女”的旗號(hào)，以低至5、6元的價(jià)格，推出數(shù)字人定制業(yè)務(wù)，包含形象生成、聲音克隆和訓(xùn)練等。
Olga Loiek在視頻中曝光許多“俄羅斯AI美女”賬號(hào)
事實(shí)上，俄羅斯AI美女，早在兩年前就爆火過(guò)。
其中名氣最大，莫過(guò)于“俄羅斯娜娜”，娜娜一頭金發(fā)，一副高鼻梁深眼窩的面孔，操著一口蹩腳的“俄式中文”，每個(gè)視頻都在夸贊中國(guó)，一度在某短視頻平臺(tái)上擁有近200萬(wàn)粉絲，而櫥窗里的牛筋腸、巧克力、威化餅等，銷量非?？捎^。
@俄羅斯娜娜
當(dāng)年的AI技術(shù)還沒(méi)那么進(jìn)步，娜娜的五官輪廓，有著明顯的接合痕跡，因此遭到了人們的質(zhì)疑，最終這個(gè)假冒偽劣的“洋網(wǎng)紅”被揭穿，很快遭到了平臺(tái)的封禁。
不到一年，娜娜搖身一變，成為湖北歌手那藝娜，以一首神曲《愛(ài)如火》走紅網(wǎng)絡(luò)。當(dāng)然這都是后話。
圍獵中老年人
不僅俄羅斯美女是門流量好生意，俄羅斯大兵也不例外。去年6月，一位河南男子靠AI把自己包裝成了俄羅斯大兵“保爾·柯察鐵”。他起的這個(gè)名字就很魔幻，與《鋼鐵是怎樣煉成的》主角保爾·柯察金的名字僅一字之差，人家是“金”，他就是“鐵”。
借助粗劣的AI特效，他頂著一個(gè)锃光瓦亮的腦袋，加上濃密的絡(luò)腮胡，看上去還挺像那么回事。而他走紅的整個(gè)過(guò)程就更離譜了，“柯察鐵”假裝在前線戰(zhàn)斗，用帶著一股子河南口音的“俄羅斯普通話”，不斷在短視頻平臺(tái)向網(wǎng)友匯報(bào)戰(zhàn)況。
雖然他的言論極其荒謬甚至前后矛盾，但依然成功吸引了幾十萬(wàn)粉絲的關(guān)注。粉絲們對(duì)他深信不疑，在評(píng)論區(qū)慷慨激昂，并真金白銀地支持他，光是櫥窗里的奶粉就賣出了38萬(wàn)元。
@保爾·柯察鐵
隨著柯察鐵粉絲越來(lái)越多，質(zhì)疑的聲音終于越來(lái)越大，比如他的IP一直顯示在河南，某個(gè)視頻中所謂的戰(zhàn)場(chǎng)，被人發(fā)現(xiàn)其實(shí)是河南洛陽(yáng)的發(fā)電廠冷卻塔。最終，他的賬號(hào)被封禁。
還有一類AI賬號(hào)同樣風(fēng)靡，難辨真假的“數(shù)字洋人”，在鏡頭前分享一些心靈雞湯和老年生活方式。等到粉絲數(shù)量足夠多以后，它們就會(huì)開(kāi)始帶貨，比如販賣健康焦慮的AI洋人，就會(huì)開(kāi)始銷售一些保健品。
被網(wǎng)友質(zhì)疑為AI的博主，目前已被平臺(tái)封禁賬號(hào)
如今，一大批類似的AI賬號(hào)掩蓋在洶涌流量之下。這不禁讓人想到此前網(wǎng)絡(luò)上頻繁出現(xiàn)的“假靳東”，當(dāng)時(shí)騙到了不少中老年女性，既欺騙愛(ài)情，又欺騙財(cái)富。
現(xiàn)在的AI博主，收割對(duì)象依然是中老年人，盜臉Olga的不少AI賬號(hào)，甚至不屑于隱藏AI平臺(tái)HeyGen的logo，因?yàn)檫@些俄羅斯美女的幕后之人知道，目標(biāo)群體對(duì)這些新技術(shù)沒(méi)有足夠的判斷力，甚至，年輕人一眼就分辨出的特效，在他們眼里與真人無(wú)異。
年輕人不能幸免
看到這里，許多年輕人自認(rèn)為不會(huì)被騙。
但現(xiàn)實(shí)很殘酷，面向年輕人的AI顏值博主、種草博主，也已經(jīng)開(kāi)始批量出現(xiàn)了，這也是一門極其可觀的生意。
自媒體發(fā)展的現(xiàn)實(shí)就是“僧多粥少”。許多人還在苦苦思索自己的個(gè)人優(yōu)勢(shì)，網(wǎng)紅孵化機(jī)構(gòu)還在編造劇本，AI人已經(jīng)按著大眾喜歡的樣子去盜圖換“臉”以及“創(chuàng)造人設(shè)”了。
AI女博主人設(shè)可以是寶媽，是名媛，也可以是女學(xué)生，男博主則是精英、運(yùn)動(dòng)員、男學(xué)生。他們偽裝成正常賬號(hào)，每日模仿真人更新，讓人很難一眼看出真假。
比如博主澤茜，分享個(gè)人自拍為主，用一張照片配上音樂(lè)，如此單調(diào)的視頻風(fēng)格，卻因高顏值收獲了40多萬(wàn)粉絲，最受歡迎的一條視頻斬獲180萬(wàn)多贊。
一條高贊評(píng)論是：好不容易心動(dòng)了，你卻告訴我他是AI。
目前，該帳號(hào)并未將自己標(biāo)注為AI，但平臺(tái)給出了提示，疑似AI合成，注意甄別。
短視頻平臺(tái)上的AI男博主@澤茜.
一些平臺(tái)上已經(jīng)出現(xiàn)了專門辨別AI賬號(hào)的科普內(nèi)容，但即便是官方提示了“該內(nèi)容可能由AI生成”，底下評(píng)論還是會(huì)有許多人詢問(wèn)相關(guān)的商品，比如穿搭、首飾。
這類賬號(hào)最終的指向依然是種草帶貨，不僅賣衣服，還能賣化妝品、保健品。不用真人出鏡，投入成本低，再多復(fù)制一些類似的賬號(hào)，可以說(shuō)是賺得盆滿缽滿。
還有一些在技術(shù)上制作更加粗糙的AI種草博主也在悶聲賺大錢。比如新榜披露的AI博主“春香”的粉絲數(shù)不到10萬(wàn)，但已經(jīng)累計(jì)售賣超11萬(wàn)件商品。百萬(wàn)粉 “小姨妹”在今年二月近30天預(yù)估帶貨5萬(wàn)-7.5萬(wàn)元左右。
“小姨妹”視頻截圖
“在AI換臉之前，其實(shí)也有人用P圖軟件和剪輯軟件來(lái)?yè)Q臉，盜臉是個(gè)老問(wèn)題，只是當(dāng)前AI技術(shù)讓盜臉門檻更低，效果更好?！闭憬髮W(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤(pán)和林對(duì)南風(fēng)窗記者表示，這是技術(shù)進(jìn)步后必須面對(duì)的問(wèn)題。
其影響當(dāng)然很大，比如侵犯肖像權(quán)，誤導(dǎo)人臉識(shí)別侵害個(gè)人財(cái)產(chǎn)，或是詆毀造謠。盤(pán)和林認(rèn)為，我們不能完全解決換臉造假的問(wèn)題，但可以從技術(shù)層面加以改善。
比如可以要求相關(guān)軟件在生成AI的時(shí)候進(jìn)行標(biāo)識(shí)，結(jié)合實(shí)名制，知道這個(gè)視頻是誰(shuí)生成、發(fā)布的，并給觀眾以警示。
今年2月，小紅書(shū)發(fā)布了針對(duì)AI創(chuàng)作內(nèi)容的平臺(tái)主張，禁止任何以他人照片或視頻進(jìn)行換臉的行為。如果是AI技術(shù)創(chuàng)作的內(nèi)容，應(yīng)當(dāng)主動(dòng)聲明，并且禁止虛構(gòu)使用體驗(yàn)或效果進(jìn)行商業(yè)變現(xiàn)的行為。
小紅書(shū)發(fā)布的針對(duì)AI創(chuàng)作內(nèi)容的平臺(tái)主張
簡(jiǎn)單來(lái)說(shuō)，不能侵犯他人肖像權(quán)，也不能讓用戶混淆虛擬與現(xiàn)實(shí)，更不能靠“編造謊言”來(lái)變現(xiàn)。
抖音也曾表示AI主播在形象和內(nèi)容上均不能侵犯他人知識(shí)產(chǎn)權(quán)及其他合法權(quán)益，虛擬人主播需要進(jìn)行實(shí)名注冊(cè)，同時(shí)需要標(biāo)明“虛擬人直播”，以真實(shí)身份接受受眾的審視。
一個(gè)好的人設(shè)，無(wú)疑具有更大的商業(yè)價(jià)值，而AI技術(shù)，顯然降低了這一環(huán)節(jié)造假的門檻。
急功近利的味道
盜臉，既然是門生意，必然有上游。
馬云也說(shuō)過(guò)，AI電商時(shí)代剛剛開(kāi)始，對(duì)誰(shuí)都是機(jī)會(huì)，也是挑戰(zhàn)。在這樣的氛圍下，人人都想蹭上這趟車，哪怕是用一些不體面的方式。
“虛擬偶像”早已經(jīng)不是稀奇事，技術(shù)成本一度高昂，商業(yè)化的壓力也很大。但現(xiàn)在AI技術(shù)已經(jīng)逐步走進(jìn)大家的日常生活，“造網(wǎng)紅”的“流水線工廠”也在知識(shí)付費(fèi)領(lǐng)域?qū)映霾桓F。
虛擬偶像A-SOUL
生意可謂一門接著一門?！捌胀ㄈ四芸緼I月入過(guò)萬(wàn)嗎？”“百萬(wàn)博主都在偷偷用AI”，賣課的“AI導(dǎo)師”也批量出現(xiàn)。
他們將自己包裝成技術(shù)大牛，先是肯定這項(xiàng)技術(shù)劃時(shí)代的意義，跟不上的人類，必然被淘汰，借助這種邏輯，為普通人制造焦慮，然后再指出一條路——來(lái)買我的課吧。
當(dāng)記者咨詢一位賣AI課程的“導(dǎo)師”，AI號(hào)究竟如何變現(xiàn)時(shí)，對(duì)方直接發(fā)過(guò)來(lái)一句“50元”，就是如此直接。
當(dāng)然了，很多“AI導(dǎo)師”的課程質(zhì)量并不高。前段時(shí)間，自稱清華博士的網(wǎng)紅“李一舟”被推至風(fēng)口浪尖，他通過(guò)售賣AI課收入高達(dá)5000萬(wàn)的信息刷屏，被不少人質(zhì)疑類似的課程其實(shí)是在“割韭菜”。
多位買過(guò)他課程的網(wǎng)友都表示課程內(nèi)容其實(shí)很“水”，網(wǎng)上都能找到很多免費(fèi)的教程。并且買了他的課以后，很多環(huán)節(jié)還有誘導(dǎo)繼續(xù)付費(fèi)的暗示，套路很多?！皯{本事賺錢”的李一舟，AI課程已經(jīng)全網(wǎng)下架了。
李一舟的部分課程簡(jiǎn)介
這些AI培訓(xùn)和課程，就是利用了人們對(duì)未來(lái)未知的恐慌，以及不切實(shí)際和急功近利的心態(tài)。
現(xiàn)如今，研究和拆解AI俄羅斯美女帶貨的人也很多。還有公司會(huì)專門盜用真人搜集素材做出模型，定制口播視頻，讓普通人“造假”一鍵生成。然后，他們會(huì)告訴你，如何在文案上為消費(fèi)者提供“情緒價(jià)值”，以及如何選品。
可怕的是，如果每個(gè)人都能用上這些AI模版和技術(shù)，生產(chǎn)出相似的“網(wǎng)紅”和內(nèi)容，那又是多么枯燥無(wú)味的一個(gè)世界。真正的問(wèn)題不是出在AI上，而是以技術(shù)之名行無(wú)恥商業(yè)行為的人身上。
正如盤(pán)和林所說(shuō)，解決AI“造假”問(wèn)題的根本，在于管住人，而不是限制技術(shù)發(fā)展。
在AI共創(chuàng)的時(shí)代，工具能幫人降低效率，但好的內(nèi)容依然應(yīng)當(dāng)是有價(jià)值的，讓人有探索欲的，無(wú)論它是不是AI。
想當(dāng)初，網(wǎng)紅之所以能夠吸引大家的注意，恰恰是因?yàn)橐靶U生長(zhǎng)的他們足夠真實(shí)、足夠生動(dòng)。
當(dāng)年因自然和真實(shí)“出圈”的丁真
網(wǎng)紅產(chǎn)業(yè)一躍成為了互聯(lián)網(wǎng)顯學(xué)，隨著更多新技術(shù)的加持，讓那些想入局的人不必販賣自己的形象和生活，就可以隨意創(chuàng)造，或者說(shuō)從頭到尾地“瞎編”。最終，只是為了賺到別人口袋里的錢。
可悲的是，在網(wǎng)絡(luò)上沖浪的我們，不只是消費(fèi)者。
一些真人搞笑視頻博主下面經(jīng)常有網(wǎng)友留言，“這么多年不帶貨，不打廣告，純折磨”?？此曝?zé)備實(shí)則寵溺的語(yǔ)氣，也道出了部分人的心聲——人與人之間，即便是在網(wǎng)絡(luò)世界里，也需要一些超越消費(fèi)關(guān)系的聯(lián)結(jié)。
文中配圖來(lái)源于網(wǎng)絡(luò)
編輯：周楊責(zé)編：張松濤審核：馮飛
