警惕謠言插上AI之翼
警惕謠言插上AI之翼
近日，一則“有頂流明星在澳門輸了10億”的信息在互聯網平台傳播，配有所謂“現場照片”和“聊天記錄”，引發網民熱議，相關話題頻繁登上熱搜。3月14日，公安部網安局發布消息稱，該信息系網民為博取流量使用AI輸入社會熱點詞捏造的謠言。人工智能的進步正在推動社會發展，但與此同時，它也為謠言的制造提供便利。AI謠言呈現出哪些新特點？又該如何精准施策、有效應對？連日來，記者對此進行了採訪。
一鍵生成
AI謠言門檻低危害大
“河南清豐縣第二初級中學著火”“四川涼山發生山體滑坡災害”……中國互聯網聯合辟謠平台數據顯示，在互聯網虛假信息舉報中，利用AI技術生成謠言現象頻發，混淆視聽、誤導認知，造成不良影響。
2月23日“山西網警”消息，網民為博眼球吸引流量，利用AI軟件合成忻州市某中學發生“火災”的圖片並發布到個人短視頻社交賬號中，相關人員已被查處。記者用市面上流行的多款人工智能軟件測試發現，在對話框內輸入“火災”這一主題有關的內容創作指令，30秒即可生成邏輯通順、標題吸睛的“爆款文案”，包括現場救援細節的圖片和音視頻，讓人真假難辨。
同類案例還有3月5日新疆阿克蘇地區拜城縣發生4.5級地震，震后僅3小時，某短視頻平台便出現“已致3人死亡、65戶房屋倒塌”的謠言，配以AI拼接的房屋坍塌圖片和方言配音的“災民呼救”視頻。經核查，這是造謠者利用AI技術手段拼接網絡舊圖，發布與此次地震不符的圖文、音視頻等虛假信息誤導公眾。實際上，經當地政府全面摸排，此次地震未造成人員傷亡和財產損失。
3月13日，公安部網安局微信公眾號發布典型AI謠言場景包括：偽造熱點事件，用AI生成“某地重大事故”圖文或視頻，配煽動性標題博流量﹔捏造名人言論，篡改語音、合成視頻，假借權威人士發布虛假政策解讀﹔炮制偽科普，利用AI生成“科學數據”，兜售偽劣產品，如“AI檢測抗癌神藥”等﹔嫁接虛假証據，將無關圖片通過AI換臉、換背景，捏造“維權証據”“聊天記錄”。
“AI的出現讓造謠的成本大幅降低。”AIGC提示詞工程師趙鈺琦表示，當前AI網絡謠言具有迷惑性強和規模大的特征。根據輸入指令的不同，AI在短期內能夠批量生成大量內容不同的網絡謠言，且隨著AI技術的高度發展，謠言制造者能夠精准模仿真實人物的聲音、外貌乃至行為模式和語言邏輯，使得謠言內容在感官上極具欺騙性。此外，AI謠言的制作者往往圍繞熱點事件或敏感話題來做文章，通過虛構事實、張冠李戴、移花接木等將虛假信息與真實新聞事件進行惡意關聯，以“標題黨”“震驚體”等形式制造矛盾沖突點，短時間就能獲得百萬瀏覽量。
牟利造假
AI謠言涉嫌違法
為何AI會“說謊”。趙鈺琦認為，AI軟件是靠提示詞和上下文來工作的，它的每一句回答，都嚴重依賴提問者的“引導”，提問者給的信息越多、越清楚，它回答得就越靠譜，反之面對缺失信息的情況，模型會自動編造看上去“合理”的細節填補，最終形成AI幻覺。在多起AI謠言背后，造謠者的動機是復雜多樣的，既包括部分網民對AI軟件的“試水”或尋求存在感、刺激感，也包括犯罪分子為了牟取非法利益，編造AI網絡謠言，以便實施電信網絡詐騙等犯罪活動。
近一年裡，已經有不少“AI內容”灰色產業鏈曝光。南昌一家MCN機構因編造“西安爆炸”事件遭到警方調查。警方評估顯示，負責人一共經營了5家MCN機構，運營賬號842個，一天能AI生成4000-7000篇文章，全程基本不需要人工參與。經初步的估算，每天的收入在1萬元以上﹔西安警方公布了一起AI造謠案件：涉案人員通過“翠綠筆墨”AI寫作軟件，將熱門社會新聞重新拼湊、替換同義詞，並批量生成內容，日均產量高達19萬篇，流向6000多個自媒體賬號，以獲取平台流量分成，警方提取了該軟件7天保存的文章，發現總量超過100萬篇，涉及時事新聞、社會熱點、社會生活等各方面。
天津東方律師事務所律師張卓越告訴記者，編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制﹔造成嚴重后果的，處三年以上七年以下有期徒刑。如果行為人不僅制作、傳播虛假信息，而且目的是騙取互聯網平台上不特定多數人的財產，則涉嫌詐騙罪。
內容標識
構建多方協同治理機制
為治理AI造假亂象，營造風清氣正的網絡環境，今年2月，中央網信辦發布2025年“清朗”系列專項行動通知，指出今年的重點是整治AI技術濫用亂象，強化生成合成內容標識，打擊借AI技術生成發布虛假信息、實施網絡水軍行為等問題，規范AI類應用網絡生態。
為AI內容加標識，是目前解決“深度偽造”“虛假信息傳播”等問題的主要措施之一，也是國內監管機構著力推進的方向。近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），將於2025年9月1日起施行。
工業和信息化部信息通信經濟專家委員會委員劉興亮認為，通過強制標識，可以有效遏制虛假行為、政治謠言等高風險內容的傳播，防范技術濫用對經濟社會穩定造成的威脅。《辦法》首創“顯式+隱式”雙標識體系，文字水印、語音提示等顯式標識可以直接提示用戶辨別內容的真實性，降低了誤導風險﹔元數據、數字水印等隱式標識，可以通過技術手段實現內容溯源，為監管部門提供取証依據。二者結合起來就可以形成事前警示+事后追責的全鏈條治理。
此外，《辦法》要求服務提供者、傳播平台、應用商店共同履行標識義務，有助於構建多方協同的治理機制。平台是AI謠言的主要傳播渠道，要斬斷AI造謠的利益鏈，還需要平台有所作為。抖音、快手、微信、小紅書等社交平台，都已要求用戶在上傳內容時聲明是否由AI生成。張卓越表示，平台應健全完善謠言審核識別機制，對AI生成內容第一時間添加明確標識，加大對涉及重大事件、敏感話題中圖片、視頻的真偽核查，及時甄別、攔截、處置不實信息和賬號。同時，建立便捷的舉報和投訴渠道，對於多次利用AI造謠的用戶，平台不妨採取“封號”等禁止性措施，規范內容發布、傳播等行為。劉興亮認為，互聯網應用分發平台需要檢查AI服務的資質，用戶發布AI生成內容時需要主動聲明，形成技術+制度+公眾參與的共治格局。（劉聰）
山西日報、山西晚報、山西農民報、山西經濟日報、山西法制報、山西市場導報所有自採新聞（含圖片）獨家授權山西新聞網發布，未經允許不得轉載或鏡像﹔授權轉載務必注明來源，例："山西新聞網-山西日報 "。
凡本網未注明"來源：山西新聞網（或山西新聞網——XXX報）"的作品，均轉載自其它媒體，轉載目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責。
