下載APP
報料
關于
北京青年報 2025-06-23 11:28:26
當你刷到“‘鋼鐵保姆’機器人引發(fā)市民搶購”的消息時，需警惕這不過是條假資訊；看到“霸總創(chuàng)業(yè)三年成功買下8000平辦公樓”這類內(nèi)容，也別急著羨慕，所謂的“霸總”只是用來吸引流量的“假人設”；而當知名藝人在視頻中推薦“三無”化妝品，同樣不必驚訝，這很可能是AIGC（人工智能生成內(nèi)容）造假的產(chǎn)物。
針對社媒平臺上各類博眼球的虛假資訊，平臺出手，對“幕后”的黑灰產(chǎn)賬號開展封禁治理。同時，專家建議網(wǎng)友“擦亮雙眼”，發(fā)現(xiàn)虛假信息及時向平臺進行舉報。
【典型案例】
當網(wǎng)友在社媒平臺搜索“出國考試”相關內(nèi)容時，可能會被“掛幾家騙子公司”“騙子公司虛假宣傳真厲害”這類筆記標題吸引，點進用戶“xx學長的留學日記”等賬號發(fā)布的內(nèi)容。
實際上，黑灰產(chǎn)組織針對留學輔導機構(gòu)發(fā)布負面內(nèi)容存在固定套路：他們常以夸張標題吸引點擊，文中點名多家規(guī)模較大的留學輔導機構(gòu)并附上logo，但正文內(nèi)容十分模糊，雖對機構(gòu)進行負面定性卻不闡述具體問題。這些筆記的真實目的是誘導用戶私信獲取更多信息，當用戶私信后，對方會誘導將溝通再轉(zhuǎn)移至微信渠道，最終推薦與之合作的機構(gòu)產(chǎn)品。
需要注意的是，黑灰產(chǎn)組織的賬號常以學長、學姐等虛假人設批量出現(xiàn)。他們并非只針對頭部企業(yè)，而是將行業(yè)里幾乎所有企業(yè)、機構(gòu)都裹挾其中，不和他們合作的就會被抹黑，這使得用戶很難獲得真實信息，進而難以作出符合自身需求的決策。
【應對策略】
據(jù)了解，社媒平臺上，虛假不實內(nèi)容、虛假人設和AIGC造假三類“虛假”信息頻發(fā)。黑灰產(chǎn)組織批量制造黑灰產(chǎn)賬號，通過虛假、重復、低質(zhì)內(nèi)容騙取用戶流量；養(yǎng)號漲粉后，又會發(fā)布虛假、惡意營銷內(nèi)容，或者銷售灰色商品，提供灰色服務，甚至從事違法活動，從而實現(xiàn)不當牟利。從建號到養(yǎng)號再到牟利，黑灰產(chǎn)賬號進行全鏈路批量造假，對社區(qū)生態(tài)和秩序的危害十分巨大。
針對這些現(xiàn)象，小紅書平臺開展了黑灰產(chǎn)賬號治理行動，對黑灰產(chǎn)堅決打擊。2025年上半年，平臺通過建設虛假內(nèi)容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質(zhì)AIGC筆記60萬篇；通過持續(xù)建設“同質(zhì)化識別”能力，全面提升處置手段，升級機器對抗，共封禁批量造假黑灰產(chǎn)賬號超1000萬個。
在線上治理的同時，平臺調(diào)查團隊還向多地警方和市場監(jiān)督部門積極提供線索，對黑灰產(chǎn)團伙進行線下打擊。目前有7起案件在偵辦中，后續(xù)警方和市場監(jiān)督部門將根據(jù)調(diào)查結(jié)果采取各種處罰措施，涉及犯罪行為的還將進一步追究刑事責任。
【專家建議】
除了平臺對虛假信息重拳出擊，網(wǎng)友看到這類虛假信息時，也可主動進行舉報，共同維護良好網(wǎng)絡風氣。
為了確保舉報渠道暢通，小紅書開通了監(jiān)管網(wǎng)站、App客戶端舉報、舉報熱線和舉報郵箱四種途徑。同時，在常態(tài)化轉(zhuǎn)發(fā)重要辟謠稿件的基礎上，搭建了辟謠專區(qū)，為用戶提供一站式辟謠信息服務。
人民大學傳播學教授董晨宇接受記者采訪時表示，應對當前互聯(lián)網(wǎng)虛假內(nèi)容快速增長與傳播，需要各平臺積極打擊，全社會共同參與?！疤摷賰?nèi)容無法完全被消滅，但可以通過科普、舉報、公眾傳播學素養(yǎng)的提升，將虛假控制在較低的水平線?！?/p>
責編：施泉江
一審：施泉江
二審：李茁
三審：唐婷
來源：北京青年報
我要問
湘公網(wǎng)安備 43010502000374號