海外留學生Karen最近遭遇了一場數字幻滅——她在社交平臺上反復咨詢的“學長”，實際是盜取他人內容拼接的虛擬賬號錢投網，“感覺自己被騙了，體驗很不好。”
類似Karen遇到的情況，對于社交平臺用戶來說并不陌生，實際上，隨著科技的發展，各種虛假內容在各個網絡平臺甚囂塵上，其對于內容平臺、內容社區根基的侵蝕性正在逐漸顯現。針對這一問題，小紅書主動出擊，對虛假內容進行嚴厲打擊。今年6月12日，小紅書“打擊虛假”治理開放日在北京舉行，其公布的社區虛假內容治理成績斐然，充分顯示了一個以真實為基因的內容社區所具有的社會責任意識。
高效精準可持續，小紅書為“打假”三管齊下
“鋼鐵保姆”機器人引發市民搶購？霸總創業三年成功買下8000平辦公樓？知名藝人在視頻中推薦“三無”化妝品？這些聳動而帶有引導性的內容，其實都是虛假內容。在“打擊虛假”治理開放日現場，小紅書向公眾公布了2025年上半年社區虛假內容治理成果。數據顯示，通過建設虛假內容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質AIGC筆記60萬篇；通過持續建設“同質化識別”能力，全面提升處置手段，升級機器對抗，共封禁批量造假黑灰產賬號超1000萬個。這一成果不僅證明了小紅書在打擊“虛假”方面的嚴厲程度，同時也從側面反映出了，虛假內容在以小紅書為代表的社交平臺上的泛濫，打擊“虛假”刻不容緩。
據小紅書虛假內容治理負責人蒂法介紹，虛假不實內容、虛假人設和AIGC造假是小紅書當前打擊“虛假”的三大重點。在她看來，虛假內容的出現對于小紅書的健康生態影響巨大，“打擊‘虛假’將作為小紅書的長期治理重點，持續投入人力和技術力量，不斷提升治理效果。”
小紅書黑灰產賬號治理負責人必行在活動現場介紹了黑灰產賬號從建號到養號再到牟利的整個流程，“黑灰產賬號進行全鏈路批量造假，對社區生態和秩序的危害十分巨大。”基于此，小紅書社區自2024年11月中啟動了小紅書黑灰產賬號治理專項，專項開展1個月，封禁126萬黑灰產賬號；開展3個月，封禁320萬黑灰產賬號；開展7個月，封禁超1000萬黑灰產賬號。“（小紅書）對黑灰產堅決打擊，絕不讓步半分”，必行表示。
無論是虛假內容，還是黑灰產賬號，都具有數量巨大、隱蔽性強、變體快和對抗強等特征，鑒于此，小紅書治理團隊從多個角度入手，以進一步提升打擊效果。
在虛假不實內容治理方面，小紅書建構了“前置攔截、事中追蹤、分析回掃”的“前中后”全鏈路治理體系；上線了內容信息量模型，筆記摘要提取模型，AIGC謠言診斷模型等15個識別大模型，并建立了真實信源庫和謠言庫，實現了對虛假內容的實時攔截和批量回掃，半年共處置虛假筆記320萬篇。
在虛假人設治理方面錢投網，小紅書設置了內容前置審核制度，采用了賬號關系挖掘分析策略，并上線多個圖像及視頻識別模型，通過綜合筆記內容和賬號信息進行分析判斷，對虛假人設進行精準打擊，半年共處置虛假人設賬號1萬個。
此外，小紅書還不斷加大對AIGC識別模型的研發投入，進一步提高識別精準度，減少虛假低質AI內容的曝光。同時，平臺對AIGC生成內容做主動標識工作，提升信息透明度。半年共處置治理虛假低質AI筆記60萬篇。
而針對黑灰產賬號，小紅書治理團隊則從識別能力和處置能力兩方面重點入手。截至目前，小紅書已經上線50多個模型，建立了以“同質化識別”為核心的風控體系，將對黑灰產的識別召回率提升了72%。而在處置能力方面，小紅書則不斷優化處置策略，極大提升黑灰產作惡成本；全面升級機器對抗，用機器判罰大規模代替人工判罰，大幅提高對黑灰產賬號的處置量級及時效性。
值得一提的是，在線上治理的同時，小紅書案件調查團隊還向多地警方和市場監督部門積極提供線索，對黑灰產團伙進行線下打擊。目前有7起案件在偵辦中，后續警方和市場監督部門將根據調查結果采取各種處罰措施，涉及犯罪行為的還將進一步追究刑事責任。
需要認識到的是，由于人類社會信息傳播的本源性困境，虛假內容存在著無法被徹底消滅的事實，尤其是伴隨著傳播技術的迭代、信息環境的復雜化，這一情況愈發常見，“應對當前互聯網虛假內容快速增長與傳播，需要各平臺積極打擊，更多全社會共同參與。”中國人民大學傳播學副教授董晨宇在開放日現場說道。
建立具有可持續性的舉報機制，鼓勵用戶參與共治，是幫助減少虛假內容在網絡泛濫的有效舉措之一。在開放日上，小紅書審核培訓師給現場觀眾上了一節“打假”志愿者培訓課，展示了近10個不同類型的造假案例，引發了觀眾的鑒假熱潮。在場多位觀眾表示，會將學到的鑒假方法應用到對虛假內容的鑒別和舉報中。
在6月11日的中國網絡文明大會上，小紅書副總裁許磊介紹：目前，小紅書已經建立了較為完善的虛假信息舉報制度。其不僅開通了監管網站、APP客戶端舉報、舉報熱線和舉報郵箱四種途徑，還在常態化轉發重要辟謠稿件的基礎上，搭建起辟謠專區，為用戶提供一站式辟謠信息服務；官方賬號“薯管家”更是每周定期發布辟謠筆記，以幫助用戶判斷虛假內容。
許磊還表示，小紅書是“普通人創作內容”的社區，“分享真實的內容”和“真誠分享”不僅是平臺用戶自發形成的內容創作準則，也是小紅書的社區價值觀。因此，打擊虛假，提倡真實是小紅書的必然選擇。
治理開放日現場，小紅書黑灰產賬號治理負責人必行介紹，為了進一步鼓勵用戶分享自己的“真實體驗”，小紅書在嚴打虛假內容之外，還特別設立了“真誠分”賬號體系，從分享動機、內容質量多方面判斷賬號是否真誠，從而對真誠的創作者給予流量傾斜，對虛假低質的雜音噪聲進行壓制，也用堅決的態度，對虛假內容說“不”。
治理網絡虛假內容刻不容緩
從“反詐開放日”，到“打擊‘虛假’治理開放日”，小紅書作為廣受用戶歡迎的內容社區，主動承擔社會責任，在內容治理方面做出了積極的表率作用，多角度全方位的鏈路、機制等設計都是其嚴厲治理虛假內容的決心的體現，而這也從側面反映出了虛假內容對于當前網絡安全與健康方面的影響之巨大。
目前情況來看，隨著現代信息技術的迭代，人工智能生成內容成為市場熱點，人們甚至無需親臨現場、真實體驗，就能構建出一篇活靈活現的“體驗式分享”，并將之在社交平臺進行發布，進而影響到巨量的受眾。技術的發展不僅加快了虛假內容的生產流通速度，同時也大規模降低了虛假內容的制作門檻，導致其對網絡生態內容的健康發展產生的負面影響越來越大。
不僅如此，網絡世界消弭了時空的界限，虛假內容可以在任何時間任何地點被發布到社交平臺之上，而時差的存在則從客觀程度上延長了虛假內容的存活時間，使其影響范圍變得越發之廣。
更為重要的是，當信息過載，受眾的注意力被迅速分散，以至于其很難在短時間內對其進行真假判斷，尤其是面對包裝精致的虛假內容時，主動判斷其真假的難度更是明顯上升，這一情況的發生不僅會造成信任機制的動搖，也會造成經濟秩序的破壞，無論是對于受眾個體、平臺，還是對于企業、整個社會而言，都弊大于利，治理虛假內容，已然成為了構建健康和諧的網絡生態的重要環節，刻不容緩。
2025年，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局制定并發布《人工智能生成合成內容標識辦法》，規定“服務提供者提供的生成合成服務，包括文本、音頻、圖片、視頻、虛擬場景等，均應在適當位置添加顯著的提示標識；服務提供者提供生成合成內容下載、復制、導出等方式時，應當確保文件中含有滿足要求的顯式標識”。這一將于今年9月1日實施的辦法不僅標志著我國在生成式人工智能領域邁出了構建安全可信生態的關鍵一步，同時也在提升受眾警惕性和優化平臺審核效率方面邁出了積極的一步，為打擊網絡虛假內容泛濫，構建“清朗”網絡空間提供了助力。
互聯網的出現錢投網，帶來了信息的高速交流，它突破了地域與時空的限制，構建起了一個虛擬但真實的世界，對于“真實分享”的渴求與“真誠分享”的舉動成了推動互聯網世界持續發展的源動力。320萬篇被處置的虛假筆記，即是小紅書對社區進行治理的答卷，也是其向“虛假”說“不”的旗幟，未來，以“真實”與“真誠”為基因的小紅書也將積極通過技術手段、用戶共治、機構協作等方式方法，持續打擊虛假內容，在為用戶構建真實分享平臺的同時，助力構建安全清朗的網絡空間，讓真誠成為數字時代的通行證。
個人配資提示：文章來自網絡，不代表本站觀點。
