當網絡謠言遇上AI……
2024年05月27日11:22 來源:新華社
“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”“甘肅紅十字會收取160萬元暖手袋管理費”……這些所謂“有圖有視有真相”的重磅“消息”,曾在網上廣泛傳播,引起大量網民關注。
令人大跌眼鏡的是,警方事后的調查發現,這些聳人聽聞的“消息”,是不法分子使用AI制作的網絡謠言!盡管警方緊急辟謠、澄清事實,可謠言已經領跑真相一大截,讓很多人信以為真,給當事方帶來極大困擾。
AI加持下的互聯網,給人們生活場景的豐富、生產效率的提升帶來了全新機遇。但當謠言披上AI的外衣時,謠言和真相更難辨認,造謠的門檻和成本極大降低,傳播的效率和產生的影響成倍增加,成為亟需治理的一道網絡新課題。
1
近日,多地警方通報了一批利用AI造謠的典型案例。
去年12月,甘肅積石山發生6.2級地震,張某某利用AI軟件,編造了“甘肅紅十字會采購暖手袋,收取160萬元管理費”“甘肅執法隊扣押救災貨車”等不實信息,并通過多個網絡平臺進行發布,對當地抗震救災工作造成嚴重影響。
今年2月,杜某利用AI技術,編造了“某著名女星命運多舛、含恨離世”的短視頻,上傳網絡后引起廣泛傳播,嚴重影響了當事人的生活和聲譽。
一份近期審結案件的材料顯示,不法分子利用AI技術,以熱點新聞和隨機網絡視頻為素材,短時間內就制作出約1萬條虛假視頻新聞,其中發布出去的20多條視頻,涉及多個省份,瀏覽量超過百萬。
清華大學新聞與傳播學院新媒體研究中心今年4月發布的一份報告顯示,經濟領域已成AI謠言的高發地,餐飲外賣、快遞配送等民生行業是AI謠言的重災區。
2
當網絡謠言遇上AI,后者低成本、高效率、操作簡單的特點,使謠言視頻的批量化生產成為可能。AI謠言的視頻形態,也契合了部分網民“有圖有視頻就有真相”的認知,使得AI謠言常常一經上網,就能迅速傳播。
從查獲的典型案例來看,“吸睛引流”“變現牟利”等,是不法分子屢屢提及的高頻詞。
自媒體時代,“注意力經濟”為很多人提供了發家致富的機遇。但一些人信奉“流量至上”,為了流量,什么技術都敢用、什么手段都敢使,甚至把沖撞道德底線、踐踏法律紅線當作“流量密碼”,獵奇、八卦、低俗、編造假新聞等等,都成為追求流量的工具。
AI造謠更衍生出一條條黑灰產業鏈。
去年國慶假期,“4歲女童海邊走失”發生后,上海警方發現十余個散布“走失女童曾被丟棄”等虛假信息的自媒體賬號,并在進一步偵查中打掉一個“水軍”團伙。該團伙借助AI技術,批量制造不實帖文,大量轉發炒作,非法獲利4萬余元。
3
前述清華大學的研究報告,以80余件涉AI謠言案例進行統計,發現涉案所受處理當中,占比最大的是行政處罰,包括罰款和行政拘留,約占一半;而實施刑事拘留和判刑的,不足兩成;其余則是封禁賬號、信息清理、批評教育等。
同謠言造成的破壞相比,不少網友認為,懲處造謠的力度還不夠剛硬。只有進一步完善法律法規,實施更強有力的懲處,才能發揮震懾作用,遏制AI謠言黑灰產業蔓延勢頭。
AI謠言傳播的相關網絡平臺,也不能忘記平臺的主體責任。加大人力、財力、技術等多方面投入,在內容甄別、謠言攔截、防止擴散等方面展現更多主動作為,堅決阻斷謠言傳播鏈條,切實肩負起社會責任。
走好群眾路線,發動廣大網友,激發網友參與舉報AI謠言的熱情,共同筑起防范AI謠言傳播的銅墻鐵壁。
唯有如此,AI這種新生產工具才能揚長避短,不為謠言生產、傳播助紂為虐,而為社會發展進步貢獻更多正向力量。(記者 魯暢)