胡欣紅

近期，多地公安機關發(fā)布了多起利用AI工具實施造謠的相關案件。上海市公安局城市軌道和公交總隊發(fā)布警情通報：兩名營銷人員為博取關注造謠地鐵站發(fā)生持刀傷人的情況，被上海警方依法處以行政拘留。其中一人使用AI軟件生成視頻技術，編造了地鐵行兇的虛假視頻等不實信息發(fā)布到網(wǎng)上，造成惡劣社會影響。

信息時代，各種資訊滿天飛，有些事情本身就真假難辨，容易混淆視聽。謠言往往具有傳播速度快、影響范圍廣的特點，一旦形成規(guī)模，就會對社會秩序和社會穩(wěn)定造成威脅。使用AI技術讓造謠更加便捷和高效，并提升了謠言的數(shù)量級和傳播力，進一步加劇了謠言的危害性。去年，上海發(fā)生一起女童走失事件，一個造謠團伙以“標題黨”“震驚體”方式，惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。該團伙利用AI工具等生成謠言內容，通過114個賬號矩陣，在6天內發(fā)布268篇文章，多篇文章點擊量超過100萬次。

鑒于自媒體造謠嚴重傷害了網(wǎng)絡生態(tài)，監(jiān)管部門依法加大了對網(wǎng)絡謠言的打擊力度。今年4月，中央網(wǎng)信辦部署在全國范圍內開展為期兩個月的“清朗·整治‘自媒體’無底線博流量”專項行動，整治的重點之一是“擺拍發(fā)布涉及國內外時事、社會民生等領域虛假事件信息。拼湊剪接網(wǎng)絡視頻圖片，篡改事件發(fā)生的時間、地點、人物等要素，以假亂真欺騙公眾”。

不得不說，目前網(wǎng)絡造謠的成本還是太低了。據(jù)央視報道，江西南昌一家MCN機構使用AI技術，最高峰一天生成4000至7000篇謠言，最高的一條收入700元，初步估算每天收入1萬元以上，但相關責任人僅僅被處以行政拘留5日。

《刑法》第291條規(guī)定：“編造虛假的險情、疫情、災情、警情，在信息網(wǎng)絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑?！睋?jù)此，對網(wǎng)絡造謠（及故意或惡意傳謠）行為，除治安處罰外，情節(jié)嚴重的應追究刑事責任，切實提高其造謠成本，方能以儆效尤。

AI造謠呈現(xiàn)出門檻低、批量化、識別難等特點，亟待加強監(jiān)管，斬斷背后利益鏈條。線下的懲處力度固然要加強，線上的技術監(jiān)管和追蹤也要更新迭代。利用AI技術批量造謠往往涉及大量的網(wǎng)絡活動和數(shù)據(jù)傳輸，相關部門應加強對網(wǎng)絡空間的監(jiān)管和追蹤，及時發(fā)現(xiàn)和處置謠言信息。

對于涉及的網(wǎng)絡平臺，也應追究其監(jiān)管責任。用技術解決技術，用魔法打敗魔法，在大數(shù)據(jù)和新技術面前，識別利用AI炮制的垃圾信息，并沒有那么困難。如果平臺未能有效監(jiān)管和清理謠言信息，應依法對其進行處罰，并責令其加強內容審核和管理。此外，網(wǎng)絡平臺、媒體機構等應加強自律，遵守法律法規(guī)，不傳播未經(jīng)證實的信息。各行業(yè)之間也應加強合作，共同打擊利用AI批量造謠的行為。

“造謠一張嘴，辟謠跑斷腿。”當前也亟須通過教育和宣傳，幫助公眾提高對謠言的識別能力，做到理性看待網(wǎng)絡信息，避免被謠言誤導。尤其是看到聳人聽聞的信息時，不妨多留個心眼，讓子彈再飛一會兒，切莫落入信息陷阱之中，甚至盲目跟風轉發(fā)評論，有意無意助紂為虐。