外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，“細節(jié)滿滿”讓很多網(wǎng)友信以為真。記者調查發(fā)現(xiàn)，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現(xiàn)。近期，多個平臺對“AI起號”現(xiàn)象開展專項治理行動，清理違規(guī)內容并封禁部分賬號（據(jù)8月11日新華網(wǎng)）。
所謂“起號”，即通過批量生產內容快速積累粉絲、提升賬號商業(yè)價值，進而形成可交易或變現(xiàn)的網(wǎng)絡資產。隨著生成式AI工具的普及，“起號”門檻大幅降低。在“單賬號月入過萬”的利益驅動下，一些操作者瞄準情感、養(yǎng)生、美妝等易引發(fā)共情的領域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準吸引特定群體，通過電商帶貨、賬號轉賣等方式變現(xiàn)，形成“起號、轉型、轉賣”的灰色產業(yè)鏈。
從法律層面來看，AI造假起號絕非技術游戲，而是涉嫌多項違法的嚴肅問題。根據(jù)反電信網(wǎng)絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號，情節(jié)嚴重者可追究刑事責任。同時，廣告法明確禁止虛假宣傳，AI生成的虛擬人物若隱瞞“非真人”身份進行商業(yè)推廣，已涉嫌欺騙消費者，經(jīng)營者需承擔相應責任。平臺作為網(wǎng)絡服務提供者，若未履行審核義務，放任虛假賬號泛濫，同樣需要承擔管理責任。
治理此類亂象，面臨著多重現(xiàn)實挑戰(zhàn)。一方面，技術對抗的“貓鼠游戲”持續(xù)上演，造假者通過壓縮文件、修改代碼等方式規(guī)避平臺AI識別，增加了監(jiān)管難度；另一方面，法律適用存在模糊地帶，AI生成內容的標注義務、虛擬賬號的歸屬等問題缺乏細化規(guī)定，導致追責時常陷入“取證難、認定難”困境。加之賬號交易多通過加密聊天工具進行，資金流向隱蔽，也給溯源打擊帶來挑戰(zhàn)。
技術每前進一步，治理就要跟進一步。事實上，監(jiān)管部門的治理腳步從未停歇。中央網(wǎng)信辦今年4月啟動的“清朗·整治AI技術濫用”專項行動，7月開展的“清朗·整治‘自媒體’發(fā)布不實信息”專項行動，均將AI造假列為重點整治內容，體現(xiàn)了對新技術濫用問題的高度重視。
魔高一尺，道高一丈?？紤]到如今AI造假能力之強，要徹底鏟除AI造假“起號”的灰色產業(yè)鏈，關鍵在于以技術優(yōu)勢形成絕對壓制。相較于不法分子，監(jiān)管部門與網(wǎng)絡平臺手握更雄厚的技術資源、更完整的數(shù)據(jù)鏈條和更強大的研發(fā)能力，能夠通過技術賦能實現(xiàn)對新技術違法犯罪的“冒頭即打、露頭就滅”。平臺需構建“識別—攔截—溯源”技術體系，用深度模型精準識別偽裝的AI內容，建立違規(guī)賬號“黑名單”，定向阻斷變現(xiàn)鏈條，讓造假者無利可圖。監(jiān)管部門可搭建全國性監(jiān)測平臺，追蹤賬號交易異常，解碼隱蔽交易信息，聯(lián)動打擊產業(yè)鏈節(jié)點。同時，要暢通技術化舉報渠道，形成全民監(jiān)督合力，讓灰色產業(yè)鏈失去滋生土壤。
AI的價值在于擬人化服務而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。我們期待以專項行動為契機，加快推動AI造假治理向以技術對技術、以技術管技術的進階，讓數(shù)字空間真正成為滋養(yǎng)文明的沃土。
（責任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號 
