• 推薦
  • 熱點
  • 網(wǎng)視
  • 綜合
  • 政務
  • 時政
  • 社會
  • 縣區(qū)
  • 鳴宿
  • 金融
  • 房產(chǎn)
  • 教育
  • 健康
  • 汽車

有圖未必有真相 AI造謠要警惕

2024年08月03日10:40   來源:“公安部網(wǎng)安局”微信公眾號

0

  近年來,以大數(shù)據(jù)、人工智能(AI)等為代表的信息技術日新月異。與此同時,利用AI工具合成技術編造謠言,甚至生成逼近真實的圖片、音視頻,顛覆了“有圖就有真相”的常規(guī)認知,讓人難辨真假。今天,網(wǎng)警帶你了解AI工具造謠背后的真相!

  【AI造謠的定義】

  AI造謠指的是利用人工智能技術生成虛假信息,包括文字、圖片、音視頻等,以此來制造網(wǎng)絡謠言。

  【AI造謠典型案例】

  案例一:利用AI軟件編造“山體滑坡致8人遇難”網(wǎng)絡謠言

  2024年1月23日,有網(wǎng)民在某平臺發(fā)布文章稱:“云南山體滑坡災害 已致8人遇難”。經(jīng)查,違法行為人楊某某為獲取流量牟利,搜集網(wǎng)絡上的相關信息后,利用AI軟件生成了“云南山體滑坡災害 已致8人遇難”的虛假新聞信息,并發(fā)布在網(wǎng)絡平臺上,造成不良社會影響。目前,公安機關已依法對楊某某進行行政處罰。

  案例二:利用AI軟件編造“喜德縣地震”網(wǎng)絡謠言

  2024年6月9日,有網(wǎng)民在某視頻平臺發(fā)布視頻稱:“5月27日,四川省涼山彝族自治州發(fā)生5.0級地震,震中位于喜德縣,地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡,災情嚴重”。經(jīng)查,5月27日涼山發(fā)生5.0級地震,震中位于木里縣,無人員傷亡,部分房屋受損,違法行為人羅某某為吸引眼球、獲取流量,利用AI軟件生成虛假地震災情圖片,并在某短視頻平臺散布不實信息。目前,公安機關已依法對羅某某進行行政處罰。

  案例三:利用AI軟件編造“女子電動車被扣后猝死”網(wǎng)絡謠言

  2024年6月,某網(wǎng)絡平臺出現(xiàn)一條關于“執(zhí)法與人性的碰撞:五旬婦女電動車被查扣猝死”的消息。該文章稱:“澄城縣一婦女為了照顧病重的父親匆忙趕路,卻遇到交警執(zhí)法,在哀求無果、電動車被扣后,情緒瞬間崩潰,心臟病發(fā)作最終未能挺過這一關”。這篇“情節(jié)曲折”的文章引發(fā)網(wǎng)民廣泛關注,給當?shù)卦斐蓸O大的負面影響。經(jīng)調(diào)查,田某利用AI工具,加工生成了“澄城縣城的一婦女電動車被查扣猝死”的虛假信息并發(fā)布至其某平臺賬號。目前,田某對自己通過AI軟件編造謠言的情況供認不諱,公安機關依法對田某處以行政處罰。

  以上案例均是通過AI軟件合成的不實信息,不法分子為了賺取平臺獎勵或吸引流量,使用AI軟件自動生成文章,并與實際圖片進行嫁接,發(fā)布在網(wǎng)絡平臺上,造成不良社會影響,嚴重擾亂社會公共秩序。

總共: 1頁   
作者:編輯

西楚網(wǎng)新媒體矩陣

  • 頭條號
  • 鳳凰號
  • 百家號
  • 企鵝號
  • 網(wǎng)易號
  • 大魚號
  • 搜狐號
  • 一點資訊
  • 快傳號

南京厚建軟件 LivCMS 內(nèi)容管理系統(tǒng)http://www.hogesoft.com 授權用戶:http://m.38w92y.cn