今年1月，某網絡平臺出現一條關于“西安爆炸”的消息。消息稱：1月10日晚11時48分，突然一聲巨大的爆炸聲在城市中響起。文字下方還配發了所謂爆炸的圖片。這條看起來聳人聽聞的消息很快在網上傳播，甚至包含了時間、地點等關鍵信息，極具迷惑性，那么真相到底如何呢？
警方調查到，消息的發布賬號歸屬于江西南昌的一家MCN機構。這家公司的實際控制人為王某某。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：我們接到西安警方的通報，說我們轄區有一個MCN機構，西安發生了一個爆炸，發布了這么一條信息，他們經過本地的核實，并沒有發生類似的事件。在這種情況下，我們就初步判定該MCN機構發布的信息涉嫌網絡造謠，屬不實信息。我們立刻對該公司負責人進行了約談，同時勘察了該公司的辦公場所，并對使用的電腦和軟件工具進行了現場取證。
在約談中，警方從王某某處得知，網上發布的西安發生爆炸這條謠言，從文本到圖片，竟然全都是通過AI生成的。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：違法人員王某某通過國內一個網站，該網站是專門提供近期可能生成熱點的一些新聞報道，或者說正在發生或即將發生的一類的事情，分級分類提供給寫作者一些關鍵性的關鍵詞，通過該網站生成關鍵詞就形成了文章的標題。
王某某通過具有語音交互功能的AI軟件，只需說出關鍵詞，軟件便會自動在網絡上抓取相關信息，生成幾百到上千字的文本，并配上貌似和事件具有相關性的虛假圖片，從而形成一段看起來信息量很大，實際上子虛烏有的內容。違法人員王某某將AI生成的這些內容，使用另一款軟件自動上傳到該MCN機構控制的多網絡平臺不同的賬號上，并對外發布。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：以新聞撰稿人的角度、方向、語氣，對下列關鍵詞如“爆炸”“民生”等等信息，要求AI軟件生成文章、新聞熱點類的圖片，全程基本不需要人工參與，所以導致在操作過程中產生了這樣的謠言信息。
通過AI軟件生成內容的方式，這家MCN機構短時間內生成了大量的文章，最高峰一天能生成4000至7000篇。今年3月28日，警方傳喚了王某某。王某某對自己通過AI軟件編造大量謠言的情況供認不諱。據王某某供述，生成這些文章，主要是想讓自己運營的賬號關注點贊量更高，從中賺取流量。
警方在調查過程中發現，該MCN機構在網絡上發布的內容以民生類信息為主，大部分看似與百姓生活密切相關，卻會通過在其中加入夸張故事情節、獵奇性成分，或編造不實信息，以此來獲取網民關注度和點贊量，進而實現流量變現。
王某某將AI自動生成的文章，發布在平臺，平臺再根據文章的點贊數和閱讀量支付其相應的報酬。通過這種方式，王某某在短時間內獲得了高額報酬。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：王某某生成文章之后推送到各平臺，然后通過關注閱讀的方式，閱讀量比如說達到1萬，它就是系數1，然后再乘以關注、轉發、評論，再乘以一個1.5的系數，最終生成平臺支付給他的報酬。同時如果有廣告收入的話，另行支付。他平均每天通過AI工具發布的是4000到7000條信息，最高的一條收入是700元。經初步的估算，每天的收入在1萬元以上。
民警發現，該MCN機構發布的網絡謠言中，獵奇性強的內容往往更吸引眼球。比如，王某某利用AI生成的一篇“某地產公司創始人被控制”的文章，在網上關注度較高，據警方介紹，這一條內容的收入也較高。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：因為該信息屬于“熱點新聞”，同時這篇文章的故事性和獵奇性也比較強，所以引發的社會關注度比較高。
經警方調查，王某某共經營了5家MCN機構，運營賬號842個，自今年1月以來，其中一家MCN機構利用其賬號陸續在某平臺上發布了“西安2024年1月10日發生爆炸，導致建筑、車輛炸毀、人員傷亡”等多條謠言信息。
江西南昌市公安局高新分局網絡安全保衛大隊大隊長 李毅：都是在同一平臺，用不同的名稱或類型發布大家關注的不同類別的信息，比如民生類、社會熱點類的。
經查，王某某的行為構成傳播謠言虛構事實擾亂公共秩序。目前，南昌警方依據中華人民共和國治安管理處罰法相關規定，依法對王某某處以行政拘留5日，責令涉案MCN機構停業整改。
模仿新聞風格 AI生成謠言迷惑性更強
利用AI技術，模仿新聞風格，一鍵生成的謠言信息迷惑性更強。而涉及險情或災情的虛假消息，更能獲取高流量。在重慶，公安機關就查處了一起個人利用AI軟件造謠的案件，他編造的民房爆炸謠言，讓他以為能實現流量變現。這起案件被公安部列為打擊整治網絡謠言違法犯罪典型案例。
2023年12月25日，一則“重慶巫溪一民房發生爆炸事故，4人不幸遇難，官方緊急介入調查”的消息在某網絡平臺上發布，全文500余字，以新聞報道的口吻提供了重慶巫溪縣“突發爆炸事故，現場情況十分慘烈”“發現了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關，調查組將進一步搜集證據”等細節，短時間內這則所謂的“突發新聞”便獲得了幾萬次的點擊量。閱讀量暴漲，讓之前在網上發文沒有任何流量的康某某一開始還有些興奮。
違法行為人 康某某：當時我發了20多條，沒有啥收益，后來看了一個爆炸的新聞點贊好幾十萬，我就輸了一個“重慶爆炸”，它就自動生成了，我就復制它的標題和文章進行發表。
就這樣，康某某因為看到一篇關于爆炸事故的新聞關注度高，就在AI文本生成軟件里輸入了“重慶”“爆炸”的關鍵詞，生成了上述這篇毫無根據、隨意編造的虛假“新聞”，并發布在自己的網絡賬號上。
康某某之所以制造謠言，是因為得知在某知名網絡平臺創作發布文章，可以根據閱讀、評論、轉發數量等獲取相關流量收益，每千人有效閱讀量有1至2元的獎勵。為了獲取收益，康某某在看到一則爆炸事故的老新聞點擊量巨大后，便想到了編造虛假消息，來博取流量。但他的這種行為已經觸犯了法律。
違法行為人 康某某：到了晚上7點多，這篇文章的曝光量已經上萬了，有效閱讀量也是上千，然后民警就給我打電話了。
重慶市公安局網安總隊民警 陳鵬：經過我們核實，這是徹頭徹尾的一條謠言，因為影響比較惡劣，我們就把相關情況通報給了屬地警方梁平區公安局，對造謠人進行責任追究。
警方找到康某某時，他還沉浸在自己終于打造了爆款內容的喜悅之中，對于可能因此要承擔的法律責任毫無概念。
重慶市梁平區公安局龍門派出所民警 毛云燦：康某某也是承認了自己利用AI工具生成了一篇虛假文章并發表在網上這一事實。但康某某顯然沒有意識到自己的行為已經觸犯了相關法律，他認為只要自己將這篇文章給刪掉，就沒有事了，但其實他這樣的行為，需要承擔相應的法律后果。
康某某為了增加自己賬號的曝光度、閱讀量，就毫無底線地蹭網絡熱點，編造虛假消息，以此想獲取平臺給的獎勵，實現流量變現。經警方查證，康某某對其虛構事實擾亂公共秩序的違法行為供認不諱。
重慶市梁平區公安局龍門派出所民警 毛云燦：康某某的行為違反了治安管理處罰法第二十五條之規定，公安機關依法對其行政拘留三日，收繳其違法所得，并封禁了其網絡賬號。
重慶市公安局網安總隊民警 陳鵬：在互聯網科技時代，當下AI技術不但能生成文本，還能生成逼近真實的圖片和音視頻，這就完全顛覆了我們常規認知里的“有圖就有真相”，使我們對網絡謠言本身難辨其真假。也使網絡謠言的社會危害性變得更大。網絡并非法外之地，對于在互聯網上發布不實言論、擾亂社會秩序的，公安機關將堅決依法堅決處理，對于造成惡劣影響、情節嚴重的，公安機關將依法追究其法律責任。
設計好劇本 對罵引流再直播約架
博取流量，漲粉獲利的無底線惡意炒作行為，嚴重擾亂社會秩序。在河南鄭州，有兩名網絡主播事先設計好劇本，組織人員相互謾罵引流，再直播約架。正當兩幫人在準備碰面時，被警方及時制止并控制。
6月8日晚上10時多，鄭州市公安局鄭東新區分局接到舉報稱，在一網絡直播平臺上，一個網名叫“老某”的博主正和一個網名叫“江某”的博主在網上“約架”。
河南鄭州市公安局鄭東新區分局商務區派出所教導員 徐航：接到報案之后，我們立即進去這個直播間看，然后尋找這些人位置，我們出動警力將這些人現場控制。
警方了解到，兩名“約架”的主播在網絡平臺都擁有數十萬粉絲，平時的經濟來源也都是依靠網絡直播，而所謂的“約架”，其實是他們早就設計好的劇本。當天，他們組織人員通過互相謾罵，煽動粉絲對立情緒，并發布視頻預熱引流。然后，雙方又通過網絡直播開始線下“約架”，在一個半小時內，吸引7.8萬人次圍觀，造成惡劣社會影響。
鄭州市公安局鄭東新區分局商務區派出所教導員 徐航：當時總點擊量有十幾萬，因為他們開播時間不長，一個多小時，刷禮物大概有2000多元錢。我們進直播間的時候看到當時同時在線就有8000多人，在網絡上影響是非常不好的。
在這起案件中，除了兩名網絡主播外，還有8名男子參與，他們當中年齡最大的29歲，最小的19歲。目前，10名嫌疑人因涉嫌尋釁滋事被警方依法采取刑事強制措施。
鄭州市公安局網監支隊民警 張效仆：他們這種為了博取流量、漲粉獲利的無底線惡意炒作行為嚴重擾亂社會秩序，破壞網絡環境，影響青少年的價值觀，必須堅決依法打擊。在此我們要提醒網絡主播，網絡空間不是法外之地，作為網絡主播應當以身作則，去積極地傳播正能量，利用自身的正面影響力，來引導粉絲形成正確的價值觀，無底線的惡意炒作博取流量，最終會自食其果。
法學專家：平臺應履行相應監管責任
不管是利用AI編造駭人聽聞的虛假消息，還是直播對罵，目的都是賺取平臺流量補貼，實現流量變現。法學專家表示，大量不實信息對普通網民來說，有時候很難直接判斷它是否為謠言，而平臺對于相關信息應該盡到監管責任。
西南政法大學法學院教授 陳偉：如果平臺盡不了這個責任，對社會公眾來說，篩選尤其困難。相關的規定也確立了，平臺方要履行相應的監管責任，以及防范這些不良的信息或者虛假信息上傳到網絡帶來的后續性的影響。
有的網絡平臺向流量高的內容和用戶支付報酬，在某種程度上會刺激一些想要賺錢的網絡用戶，去發布一些虛假信息。法學專家表示，平臺在刺激創作的同時，也應該盡到更多的責任去消除虛假信息的傳播。
西南政法大學法學院教授 陳偉：報酬的支付里面，也要行使到積極的引導性作用，不應該通過發布虛假信息提升流量。這些散布者一旦出現，對他的相關的懲罰機制，或者對他的事后相關的警示、封號等這樣一些方式，都應該考慮到。
造謠容易，辟謠難。造謠者付出的代價是否太低，導致謠言不斷滋生？法律專家建議，在法律法規上應該讓造謠者付出更大的成本。
西南政法大學法學院教授 陳偉：要體現出違法性的成本的體現。在行政處罰里面不光涉及行政拘留，也還涉及行政性的罰款等，還包括對賬號采取的封號等這樣一些措施，我們都要及時性地跟進，以匹配違法成本和最終承擔責任之間的比例，以防范其他人會看到這樣一個成本過低，會帶來對行為人的遏制作用很有限的情形。
來源：杭州網警