2024年10月，一則標題為“大媽擺攤賣水果被罰16萬，監管局回應不交就罰145萬”的文章在網絡上廣為流傳，引發眾多網民關注和議論。經調查，這篇文章是一家公司AI炮制出來的，它的背后，隱藏著怎樣一個產業鏈？
先尋找高熱度文章 再用AI仿寫洗稿
仔細查閱這篇文章可以發現，除了博眼球的標題，文章內容也非常具體，聲稱“在山東濟南，65歲吳大娘為給兒子攢錢結婚，擺攤賣水果，卻因為沒有執照被市場監管局執法人員要求罰款，如果拒絕配合還要提升賠款數額至145萬”。
如此聳人聽聞的描述引起了網友的關注。
經民警查明，當地根本沒有發生過這一事件。濟南市場監管局隨即發布了辟謠聲明，并將相關證據提交給了警方。
這則虛假信息出自湖南長沙的一家傳媒公司，隨后濟南警方與長沙警方聯合辦案，發現這篇引發熱議的文章，居然是該傳媒公司通過AI工具生成的。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：2024年10月5日，公司的運營人員彭某先是在網上找到了一篇類似的熱點文章，把文章復制之后，放到AI里面。他們把標題、事情的發生地、時間、金額等內容進行更改，也就是所謂的“洗稿”，生成了這樣的文章。
聚焦虛假糾紛 制造對立情緒引流獲利
警方調查發現，湖南的這家傳媒公司日常發布的文章主要聚焦虛假的社會矛盾糾紛，而之所以選擇這樣的題材，是因為他們發現，矛盾沖突越激烈的文章，閱讀量就越高，也更容易讓自己的賬號盈利。
長沙市公安局開福分局網安大隊民警 韓捷：完全虛假的，實際不存在的這篇文章，在發布到網上的時候，吸引讀者、網民去瀏覽、去關注，從而實現流量變現的目的，獲得廣告費用的分成。
在這家公司的運營流程手冊上可見，法律類文章要能引起公憤，比如農民被罰、執法部門執法不當，開出天價罰款、政府霸占農民土地不還等等，總之他們的宗旨就是：用戶看完感到憤怒的，就是一篇合格的文章。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：特別是標題這一塊，要能夠引起人憤怒，能夠把人的情緒值拉滿，就是一篇好文章。他們會從網上自己搜，通過類似的公眾號上搜一些點贊量、閱讀量、轉發量比較高的文章。流量，是他們選取文章的唯一標準，而不是真實性。
提煉關鍵詞生成假信息 再人工修改細節
不僅原始網絡文章不去核實真偽，該公司還利用AI技術把未經核實的信息直接轉到軟件上，通過AI提煉文章的核心內容，將時間、人物、地點等信息作為關鍵詞再提問給AI，由AI生成一篇核心意思幾乎一樣、但具體內容又完全不同的虛假信息，最后再由人工夸大部分細節，增加能引起觀眾情緒的內容，一篇能夠煽動觀眾情緒的虛假文章就出現了。
虛假文章所屬賬號代運營方負責人 李某：原始文章真實性沒法去考證，主要是把AI生成的一些機械詞，比如說不人性化的詞、不通順的詞、咬文嚼字的詞，把它修改成通俗一點的。
在山東濟南市場監管局發布辟謠后，該賬號迅速刪除了這篇虛假文章。但文章造成的惡劣影響已不可挽回。
記者：按照你們以往的慣例，一旦有人投訴，你們也是這樣的工作流程嗎？
虛假文章所屬賬號代運營方負責人 李某：一般都是第一時間下架。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：一種賭徒心理，因為地點隨便一寫，天南海北都有，但如果說當地引起重視了，過來調查，大不了刪了就是了。刪一篇文章，很簡單，但是這個政府也好，公安也好，要找到這個地方，過來打處，那是很費功夫的。
依據《中華人民共和國治安管理處罰法》，公安機關對代運營該賬號的公司法定代表人李某，以及編寫該文章的員工彭某，分別處以行政拘留3日的處罰。
同款假信息除地點人物不同 內容基本一致
在多個平臺輸入“擺攤”“罰款”等關鍵詞，多條各地“小攤販被相關監管部門天價罰款”的虛假文章仍然存在。
這些文章都是以博眼球的罰款金額當作標題，內容多為小攤販擺攤賣草莓、香蕉、煙葉等被罰款，文章除了地點、人物不同，其余的內容基本一致。
長沙市公安局開福分局網安大隊民警 韓捷：公安機關以及國家網信部門都會對這種網絡謠言進行打處和監測，希望各個從事這個行業的MCN機構，或者是賬號運營者，一定要對自己產出的內容進行內容的審核，確保信息的真實合規。
文章聳人聽聞還有配圖 調查后發現是謠言
利用AI技術，對他人發布的文章、信息進行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創內容，這種行為被稱為“洗稿”。
2024年4月，一條內容為“上海某地驚現‘骨灰房’”的文章發布在網絡平臺上。文章除了聳人聽聞的文字，還配有相關圖片，引發網友的廣泛關注和討論。
不過，警方調查核實后發現，這篇文章所講的內容完全是不切實際的謠言，隨即立案開展調查。很快，警方找到了這篇文章的發布者王某。
上海市寶山區人民檢察院檢察官 陳偉東：發現發帖人是住在云南某縣的，然后找到她，她講這個稿子不是我寫的，是人家無償提供給她的，她不過是提供她的賬號予以發布。
兼職群里發布信息 教學員“洗稿”牟利
據發帖人王某說，一個月前，她加入了一個兼職微信群，看到有人在群里發布信息稱，可以教人在網絡平臺上注冊賬戶，并發帖掙錢。
王某看到后立即回應了對方，表示想要參加學習，隨后便根據對方的指引注冊了某網絡平臺賬號。對方在傳授王某一些自媒體的學習方法后，表示會每天向王某賬戶的草稿箱里發送已經寫好的文章，第二天再通過王某的手機將這些文字發布，只要文章有瀏覽量王某就能賺取傭金。
謠言稿件分發給學員 再由學員發布
據王某說，開始的時候，她面對賬號內存入的信息還會瀏覽一下內容，后來便逐漸不再對存入的文章內容進行關注。她每天會發布三四十條信息，而那條“上海某地驚現‘骨灰房’”的不實信息正是對方發給她的。
依據王某提供的線索，警方展開調查，一舉抓獲了為王某提供謠言文章牟利的犯罪團伙成員徐某、羅某、闞某三人。據徐某等人交代，這條謠言并不是他們人工編寫，而是利用購買來的軟件自動“洗稿”生成完成的。
被告人 闞某：他就是把賬號登進去，然后有指令，把文章用那個文件的模式放進去，然后它會自動改寫，然后自動存到草稿箱里面。
“洗稿”后與原文查重率不超過25%
經查，從2024年1月開始，徐某、羅某等人在網絡上以傳授兼職掙錢、薅羊毛、撿漏等為由頭，吸引招攬學員實名注冊網絡平臺賬號。
徐某等人從網絡中截取關注度高的熱點文章上傳到購買來的一款AI軟件，將這些熱點文章重新“洗稿”生成一篇新的偽原創文章。
據了解，經過徐某等人“洗稿”后的文章與原文查重率不超過25%，這也是為了滿足其發布平臺的審核要求。
上海市寶山區人民檢察院檢察官 陳偉東：他有指令的，第一個，標題要勁爆，第二個，結論要有爭議的結論。第三，改寫內容要吸人眼球。
偽原創文章自動分發 學員點擊發布即可
據徐某等人交代，這款軟件會將生成后的偽原創文章，自動分發到學員的網絡平臺賬戶草稿箱內，學員點擊發布即可。根據瀏覽量的不同，平臺會給文章上傳者一定的獎勵，徐某團伙通過收取一定比例的傭金，或者收取賬戶草稿箱存稿費，實現牟利。
而這些通過“洗稿”生成的文章，如“三星堆遺址挖出航母、核潛艇”“英語退出高考”等均為不實信息，而這些明顯虛假的文章就有近千條。
上海市寶山區人民檢察院檢察官 陳偉東：信息來源沒有審核過，自動截取的這些文章真的假的不知道，他們沒有甄別過。它通過AI技術進行修改、編撰、替換，都不是原創，都是虛假的，因為把時間、要素、人物、地點等等都已經進行了修改。
有償發布虛假信息 掌控1100多個賬號
經查，徐某等人掌握和控制的可以供發布洗稿后文章、信息的賬號，最多的時候有1100多個，共計非法獲利人民幣5萬余元。
檢察機關以非法經營罪對三人提起公訴
檢察機關認為，徐某、羅某、闞某三人結伙，違反國家規定，以營利為目的，編撰虛假信息，通過網絡有償提供發布，擾亂市場秩序，情節嚴重。
2024年12月，上海市寶山區人民檢察院以非法經營罪對徐某等三人提起公訴。
檢察官提醒，網民、自媒體從業者，應遵守法律法規和職業道德規范，尊重原創作品和知識產權，同時增強法律意識和自律意識，避免“洗稿”發布虛假信息等違法行為的發生。同時，相關軟件生產者和網絡平臺更應切實負起監管、審核職責。
