新華報(bào)業(yè)網(wǎng)
據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，隨著人工智能技術(shù)的普及，人工智能生成內(nèi)容技術(shù)也就是AIGC技術(shù)正在改變社交媒體生態(tài)。有個(gè)創(chuàng)意，它能幫你生成文字；有了文字，它還能接著生成圖片，進(jìn)而做出視頻，為自媒體博主打開(kāi)了無(wú)限想象空間。
但是，本來(lái)是幫助提升創(chuàng)作效率的工具，卻被一些人拿來(lái)造假起號(hào)，也就是通過(guò)AI批量生產(chǎn)虛假內(nèi)容來(lái)積累粉絲。記者調(diào)查發(fā)現(xiàn)，目前，多個(gè)社交平臺(tái)上都出現(xiàn)大量“AI起號(hào)秘籍”相關(guān)內(nèi)容，不少內(nèi)容聲稱(chēng)“AI暴力起號(hào)，三天爆萬(wàn)粉，每日輕松變現(xiàn)300+”“用AI制作美女視頻，條條播放10W+”——這些AI生成內(nèi)容多以俊男靚女、育兒百科、健康養(yǎng)生為主，大都低俗獵奇。有些AI生成的人物形象足以以假亂真，還有人傳授繞過(guò)平臺(tái)“AI打標(biāo)”經(jīng)驗(yàn)。
一旦起號(hào)成功，這些賬號(hào)就會(huì)隱藏AI引流內(nèi)容，開(kāi)始掛櫥窗帶貨、引流賣(mài)課。有的賬號(hào)還被明碼標(biāo)價(jià)放到賬號(hào)交易網(wǎng)站上，形成了一條“起號(hào)—轉(zhuǎn)型—轉(zhuǎn)賣(mài)”的灰色產(chǎn)業(yè)鏈。背后哪些隱患不容忽視？
一張外國(guó)面孔，用流利的中國(guó)話科普育兒知識(shí)，這樣的視頻，你會(huì)多看兩眼嗎？某育兒短視頻賬號(hào)上，大量類(lèi)似內(nèi)容打著“外國(guó)幼兒教育專(zhuān)家”旗號(hào)輸出觀點(diǎn)。但是這看似專(zhuān)業(yè)的視頻里，有不少說(shuō)法都極端絕對(duì)，暗藏誤導(dǎo)風(fēng)險(xiǎn)。
實(shí)際上，這些所謂“外國(guó)專(zhuān)家”是AI生成的虛擬形象。在一堂AI數(shù)字人視頻教學(xué)課程中，這個(gè)育兒賬號(hào)是導(dǎo)師口中的成功起號(hào)案例。“我們就是做的這種展現(xiàn)形式，一個(gè)人物是AI數(shù)字人、虛擬人，不是真人，但是他很像真人。不僅嘴動(dòng)頭動(dòng)，身體也在動(dòng)。這個(gè)賬號(hào)，我們團(tuán)隊(duì)的小伙伴已經(jīng)做到了39萬(wàn)粉絲，賣(mài)貨21萬(wàn)的戰(zhàn)績(jī)。”
打造一個(gè)優(yōu)質(zhì)自媒體賬號(hào)并非易事，從創(chuàng)意到文案腳本，再到拍攝制作，每一個(gè)作品都需要?jiǎng)?chuàng)作者親力親為，通常會(huì)耗費(fèi)大量時(shí)間。
現(xiàn)在，各大社交平臺(tái)上出現(xiàn)了大量“AI起號(hào)”相關(guān)分享，宣稱(chēng)零門(mén)檻、易操作、漲粉快、可變現(xiàn)。
記者調(diào)查發(fā)現(xiàn)，這些起號(hào)教程教授的思路基本一致：僅需要借助兩三個(gè)AI工具，按“文生圖、圖生圖、圖生視頻”的標(biāo)準(zhǔn)化流程，幾分鐘就能制作一段時(shí)長(zhǎng)五秒的美女跳舞視頻。這些視頻中虛擬人動(dòng)作雖然略顯僵硬，但形象逼真。
一位從業(yè)者表示，他的課程費(fèi)用為499元，內(nèi)容包含從賬號(hào)搭建、視頻制作到內(nèi)容變現(xiàn)的全流程一對(duì)一輔導(dǎo)。“我會(huì)教你通過(guò)AI生成圖，再變成視頻。不管是人物類(lèi)還是動(dòng)物類(lèi)，逼真程度基本很真實(shí)。如果起號(hào)，速度一般都很快，7天至10天就差不多起來(lái)了，如果快一點(diǎn)，可能幾天就起來(lái)了。如果爆一條視頻，可能就會(huì)有幾千粉絲。”
一位主打“顏值博主人設(shè)”的博主告訴記者，自己選用了一張相貌平平的男生照片，AI工具在此基礎(chǔ)上生成了一張高顏值男生照片。對(duì)比前后照片，人物臉型發(fā)型、五官比例、皮膚質(zhì)感都有了較大改變，衣著和環(huán)境也有一些改變。但記者在該內(nèi)容評(píng)論區(qū)觀察發(fā)現(xiàn)，多數(shù)網(wǎng)友并未察覺(jué)這是AI生成的虛擬形象。
目前，各平臺(tái)已普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注。這位博主告訴記者，自己花了900元學(xué)費(fèi)學(xué)習(xí)AI起號(hào)技術(shù)，主要就是為了購(gòu)買(mǎi)他人在AI工具中預(yù)配置的鏡像文件。用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺(tái)的AI內(nèi)容強(qiáng)制標(biāo)注機(jī)制。
記者：你做的這個(gè)會(huì)被平臺(tái)判定疑似AI嗎？
博主：很少。我的14個(gè)作品里只有一兩個(gè)會(huì)有這種情況。如果被判定為AI作品，可以把作品下架，然后重新發(fā)布。
記者發(fā)現(xiàn)，如今不少AI虛擬人創(chuàng)作者為避免作品被平臺(tái)限流，會(huì)在發(fā)布時(shí)主動(dòng)標(biāo)注內(nèi)容由AI生成。但各平臺(tái)也有一部分未主動(dòng)標(biāo)注的AI作品沒(méi)有被系統(tǒng)識(shí)別出來(lái)。有從業(yè)者坦言，隨著各平臺(tái)監(jiān)測(cè)升級(jí)，“不標(biāo)注等于高風(fēng)險(xiǎn)”。“保證不被系統(tǒng)檢測(cè)出就是無(wú)法保證，只是通過(guò)自己的一些維度去減少被系統(tǒng)檢測(cè)為AI作品的機(jī)會(huì)。目前來(lái)講，如果人物視頻動(dòng)起來(lái)，其幅度不能太大，如果大了，就很容易出現(xiàn)問(wèn)題。假如哪一天被系統(tǒng)識(shí)別出來(lái)，要求人臉識(shí)別，識(shí)別不出來(lái)怎么辦？這號(hào)不是廢了嗎？”
記者調(diào)查了解到，AI賬號(hào)起號(hào)成功后大都會(huì)隱藏此前引流內(nèi)容，改頭換面成為帶貨賬號(hào)；有的順勢(shì)打出“AI起號(hào)實(shí)戰(zhàn)”噱頭，將自身包裝成“成功案例”售賣(mài)起號(hào)課程；還有一部分賬號(hào)被明碼標(biāo)價(jià)進(jìn)行售賣(mài)。
實(shí)際上，在AI的加持下，起號(hào)的成本和門(mén)檻被降低，大量此類(lèi)賬號(hào)進(jìn)入了賬號(hào)交易市場(chǎng)。某賬號(hào)交易網(wǎng)站客服告訴記者，他們網(wǎng)站有不少可供選擇的AI起號(hào)賬號(hào)，價(jià)格相對(duì)于其他類(lèi)型賬號(hào)更加便宜。“1萬(wàn)粉絲的美女號(hào)，1900元已經(jīng)是最低了。給你推薦的這個(gè)賬號(hào)是AI的，這個(gè)就是最便宜的。如果確定購(gòu)買(mǎi)，付款下單之后，雙方會(huì)簽署協(xié)議，簽署之后，賣(mài)家會(huì)協(xié)助換綁手機(jī)號(hào)，換綁成你的手機(jī)號(hào)交接賬號(hào)。”
實(shí)際上，多數(shù)社交平臺(tái)明確禁止賬號(hào)轉(zhuǎn)賣(mài)。以記者在網(wǎng)站上咨詢(xún)的某平臺(tái)賬號(hào)為例，平臺(tái)在其服務(wù)協(xié)議和相關(guān)規(guī)則中就規(guī)定，賬號(hào)僅限本人使用，禁止以任何形式贈(zèng)與、借用、出租、轉(zhuǎn)讓、售賣(mài)或以其他方式許可他人使用該賬號(hào)。
對(duì)此，中國(guó)政法大學(xué)傳播法研究中心副主任朱巍表示：“轉(zhuǎn)讓賬號(hào)風(fēng)險(xiǎn)確實(shí)比較大，這個(gè)賬號(hào)以前可能有一些違法違規(guī)的情況，要是有銷(xiāo)售產(chǎn)品的行為，一旦出現(xiàn)問(wèn)題就要承擔(dān)相關(guān)責(zé)任，會(huì)遇到很多不可預(yù)測(cè)的法律問(wèn)題。”
當(dāng)前，人工智能技術(shù)給人們生產(chǎn)生活帶來(lái)便利的同時(shí)，也出現(xiàn)不少風(fēng)險(xiǎn)挑戰(zhàn)。為了促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，近日，四部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。新規(guī)自2025年9月1日起施行。朱巍表示，新規(guī)正式落地后，此類(lèi)亂象將得到遏制。
朱巍介紹：“顯性標(biāo)識(shí)就是被編輯的音視頻、文檔等，里面帶水印，有明確提示。還有一種情況，就是第三方平臺(tái)生成的東西，有一些隱性標(biāo)識(shí)。這意味著在肉眼上看不到任何標(biāo)識(shí)，如果放到一些平臺(tái)上，在人工智能審核時(shí)，就會(huì)發(fā)現(xiàn)生成內(nèi)容里面有隱性標(biāo)識(shí)。以后再起號(hào)時(shí)，即便做得再好，強(qiáng)制性的標(biāo)記也會(huì)存在，很難做到以假亂真了。”（記者 譚朕）
Android版
iPhone版
