不能放任AI造假起號(hào)泛濫成災(zāi)
□新派融媒體評(píng)論員 薛靜
外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……據(jù)新華社報(bào)道，社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿(mǎn)滿(mǎn)”讓很多網(wǎng)友信以為真。記者調(diào)查發(fā)現(xiàn)，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。近期，多個(gè)平臺(tái)對(duì)“AI起號(hào)”現(xiàn)象開(kāi)展專(zhuān)項(xiàng)治理行動(dòng)，清理違規(guī)內(nèi)容并封禁部分賬號(hào)。
起號(hào)，指在社交媒體或電商平臺(tái)開(kāi)設(shè)新賬號(hào)，通過(guò)運(yùn)營(yíng)吸引粉絲、獲取流量，最終實(shí)現(xiàn)商業(yè)轉(zhuǎn)化。
互聯(lián)網(wǎng)時(shí)代，流量意味著利益。隨著AI的普及，起號(hào)門(mén)檻大幅降低。在“單賬號(hào)月入過(guò)萬(wàn)”的利益驅(qū)動(dòng)下，一些操作者瞄準(zhǔn)情感、養(yǎng)生、美妝等易引發(fā)共情的領(lǐng)域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準(zhǔn)吸引特定群體，通過(guò)電商帶貨、賬號(hào)轉(zhuǎn)賣(mài)等方式變現(xiàn)，形成“起號(hào)、轉(zhuǎn)型、轉(zhuǎn)賣(mài)”的灰色產(chǎn)業(yè)鏈。
社交平臺(tái)上有眾多網(wǎng)友求購(gòu)和出售賬號(hào)，2.5萬(wàn)粉絲的AI養(yǎng)生號(hào)售價(jià)6000元，11萬(wàn)粉絲的AI寵物號(hào)售價(jià)1.6萬(wàn)元……AI造假起號(hào)并非簡(jiǎn)單的技術(shù)游戲，而是涉嫌多項(xiàng)違法的嚴(yán)肅問(wèn)題。AI生成的內(nèi)容，大多依靠獵奇、低俗實(shí)現(xiàn)快速傳播，極易讓人陷入謠言和虛假信息產(chǎn)生的“信息繭房”，擾亂正常的網(wǎng)絡(luò)秩序。
根據(jù)反電信網(wǎng)絡(luò)詐騙法，任何單位和個(gè)人不得非法買(mǎi)賣(mài)、出租、出借互聯(lián)網(wǎng)賬號(hào)。多個(gè)網(wǎng)絡(luò)平臺(tái)規(guī)定，賬號(hào)僅限本人使用，禁止以任何形式出租、轉(zhuǎn)讓、售賣(mài)或以其他方式許可他人使用賬號(hào)。AI虛擬人物、賬號(hào)實(shí)際操控人、轉(zhuǎn)售用戶(hù)之間的信息錯(cuò)位，不僅違反監(jiān)管規(guī)定，更為數(shù)據(jù)安全埋下了風(fēng)險(xiǎn)隱患。
治理此類(lèi)亂象，需要各方共同努力。作為網(wǎng)絡(luò)服務(wù)提供商，平臺(tái)在內(nèi)容審核方面承擔(dān)著責(zé)任和義務(wù)，通過(guò)要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注、將違規(guī)賬號(hào)下架處理、封禁批量起號(hào)商家等方式，最大限度杜絕AI造假現(xiàn)象。監(jiān)管部門(mén)也應(yīng)加強(qiáng)監(jiān)管力度，沿著起號(hào)、養(yǎng)號(hào)鏈條溯源，嚴(yán)厲打擊背后相關(guān)利益機(jī)構(gòu)，阻斷灰色產(chǎn)業(yè)鏈。隨著AI技術(shù)的不斷迭代升級(jí)，監(jiān)管方、平臺(tái)方也需及時(shí)更新技術(shù)庫(kù)，用更強(qiáng)大的技術(shù)能力對(duì)不法分子形成絕對(duì)壓制。當(dāng)然，整治AI造假起號(hào)也離不開(kāi)大眾參與，例如鼓勵(lì)網(wǎng)友舉報(bào)可疑賬號(hào)、引入專(zhuān)業(yè)機(jī)構(gòu)開(kāi)展評(píng)估等，充分調(diào)動(dòng)公眾參與亂象治理的積極性。
AI的價(jià)值在于擬人化服務(wù)而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。遵守“技術(shù)向善”的規(guī)則，在法律法規(guī)框架內(nèi)，引導(dǎo)AI技術(shù)正向應(yīng)用，方能最大化體現(xiàn)AI的價(jià)值。莫讓技術(shù)成為造假的“幫兇”，守住底線(xiàn)，才能讓網(wǎng)民安心共享數(shù)字時(shí)代紅利。
編輯:馮淑杰 張興紅
一審:姜健 李敬友
二審:孫瑞永
三審:管延會(huì)
