不能放任AI造假起號泛濫成災
□新派融媒體評論員 薛靜
外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學……據(jù)新華社報道，社交媒體上，一些AI生成的視頻關注度頗高，“細節(jié)滿滿”讓很多網(wǎng)友信以為真。記者調查發(fā)現(xiàn)，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現(xiàn)。近期，多個平臺對“AI起號”現(xiàn)象開展專項治理行動，清理違規(guī)內容并封禁部分賬號。
起號，指在社交媒體或電商平臺開設新賬號，通過運營吸引粉絲、獲取流量，最終實現(xiàn)商業(yè)轉化。
互聯(lián)網(wǎng)時代，流量意味著利益。隨著AI的普及，起號門檻大幅降低。在“單賬號月入過萬”的利益驅動下，一些操作者瞄準情感、養(yǎng)生、美妝等易引發(fā)共情的領域，用AI生成“銀發(fā)奶奶”“美女博主”等形象精準吸引特定群體，通過電商帶貨、賬號轉賣等方式變現(xiàn)，形成“起號、轉型、轉賣”的灰色產(chǎn)業(yè)鏈。
社交平臺上有眾多網(wǎng)友求購和出售賬號，2.5萬粉絲的AI養(yǎng)生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元……AI造假起號并非簡單的技術游戲，而是涉嫌多項違法的嚴肅問題。AI生成的內容，大多依靠獵奇、低俗實現(xiàn)快速傳播，極易讓人陷入謠言和虛假信息產(chǎn)生的“信息繭房”，擾亂正常的網(wǎng)絡秩序。
根據(jù)反電信網(wǎng)絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號。多個網(wǎng)絡平臺規(guī)定，賬號僅限本人使用，禁止以任何形式出租、轉讓、售賣或以其他方式許可他人使用賬號。AI虛擬人物、賬號實際操控人、轉售用戶之間的信息錯位，不僅違反監(jiān)管規(guī)定，更為數(shù)據(jù)安全埋下了風險隱患。
治理此類亂象，需要各方共同努力。作為網(wǎng)絡服務提供商，平臺在內容審核方面承擔著責任和義務，通過要求對AI生成作品進行顯著標注、將違規(guī)賬號下架處理、封禁批量起號商家等方式，最大限度杜絕AI造假現(xiàn)象。監(jiān)管部門也應加強監(jiān)管力度，沿著起號、養(yǎng)號鏈條溯源，嚴厲打擊背后相關利益機構，阻斷灰色產(chǎn)業(yè)鏈。隨著AI技術的不斷迭代升級，監(jiān)管方、平臺方也需及時更新技術庫，用更強大的技術能力對不法分子形成絕對壓制。當然，整治AI造假起號也離不開大眾參與，例如鼓勵網(wǎng)友舉報可疑賬號、引入專業(yè)機構開展評估等，充分調動公眾參與亂象治理的積極性。
AI的價值在于擬人化服務而非擬人化欺騙，在于賦能發(fā)展而非助力亂象。遵守“技術向善”的規(guī)則，在法律法規(guī)框架內，引導AI技術正向應用，方能最大化體現(xiàn)AI的價值。莫讓技術成為造假的“幫兇”，守住底線，才能讓網(wǎng)民安心共享數(shù)字時代紅利。
編輯:馮淑杰 張興紅
一審:姜健 李敬友
二審:孫瑞永
三審:管延會
