下載APP
報料
關于
網(wǎng)信中國 2025-09-05 20:39:01
從創(chuàng)意領域的自動化文本生成、多模態(tài)內(nèi)容創(chuàng)作，到醫(yī)藥領域的影像輔助診斷與藥品開發(fā)預測，再到AI賦能的個性化教育、規(guī)?；r(nóng)業(yè)生產(chǎn)等，生成式人工智能正全面融入經(jīng)濟社會的肌理骨骼，推動數(shù)字社會生產(chǎn)力躍升。然而，技術紅利往往同風險挑戰(zhàn)如影隨形。生成式人工智能系統(tǒng)性動搖了社會信任的“視覺真實”基礎：當AI能夠以假亂真地炮制具有嚴密邏輯的網(wǎng)絡謠言，“數(shù)字復活”已故名人進行商業(yè)推廣，利用合成影像實施金融詐騙時，圖像和視頻不再可信，“眼見為實”的既定認知正遭受前所未有的沖擊，更從根本上侵蝕社會交往的信任基石。
面對人工智能帶來的機遇與挑戰(zhàn)，習近平總書記強調(diào)，“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關法律法規(guī)、政策制度、應用規(guī)范、倫理準則，構建技術監(jiān)測、風險預警、應急響應體系，確保人工智能安全、可靠、可控”。在這一治理思路引導下，從2023年1月《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》的實施，到同年7月《生成式人工智能服務管理暫行辦法》的發(fā)布，再到2025年9月1日《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）及配套強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》（以下簡稱《標識標準》）的正式生效，兩年時間內(nèi)，我國迅速構建起覆蓋合成技術、生成服務與內(nèi)容標識，容納原則、規(guī)則與標準的多層次治理體系。作為生成式人工智能治理的最新一環(huán)，《標識辦法》與《標識標準》為AI生成內(nèi)容設置全覆蓋的“身份認證”標識，以技術性規(guī)范重新錨定圖像真實，一方面為公眾提供辨別依據(jù)，重塑數(shù)字信任；另一方面也為安全監(jiān)管與合規(guī)應用劃定底線邊界。真正以標識之“規(guī)”，筑起生成式人工智能可信、可控、可持續(xù)的發(fā)展之“道”。
一、守護公眾信任：從“眼見為實”到“標識為準”
生成式人工智能技術重塑信息生產(chǎn)與傳播機制同時，也以高度仿真性模糊真實與虛假的邊界，其最大的挑戰(zhàn)在于，傳統(tǒng)以視覺感官經(jīng)驗為基礎的信息真?zhèn)伪鎰e機制失效，并由此引發(fā)真實性信任危機。《標識辦法》及其配套《標識標準》的出臺，不僅是防范技術濫用的重要制度回應，更是構建數(shù)字時代新型可信傳播機制的關鍵探索。其深遠意義在于，在“眼見為實”的主觀信任機制失效當下，以生成標識的客觀技術標準取代主觀判斷，并塑造人機協(xié)作內(nèi)容生產(chǎn)的信任范式。
《標識辦法》及其配套《標識標準》設定若干關鍵機制，一是強制性的生成內(nèi)容標識義務要求；二是詳細規(guī)范標識應包含的內(nèi)容要素、呈現(xiàn)方式、機器可識別格式等技術細節(jié)。通過構建標準化、可驗證的技術披露機制，實質(zhì)確立人機協(xié)同內(nèi)容生產(chǎn)的倫理底線，有助于從源頭上為公眾提供辨識真?zhèn)蔚囊罁?jù)，并幫助逐步建立“標識為準”的新信任認知。技術透明有助于保護消費者知情權和選擇權，也能督促技術提供方和內(nèi)容生產(chǎn)者履行社會責任，促進人工智能技術在信任框架內(nèi)健康發(fā)展。
從更深層次看，內(nèi)容標識也為一般網(wǎng)絡用戶構筑重要的“認知底線”，防范用戶對AI技術的過度依賴。諸多研究已初步揭示，長期依賴人工智能生成的內(nèi)容可能使人類面臨創(chuàng)造表達能力退化和情感鈍化風險。通過強制性的內(nèi)容標識特別是顯性標識，用戶得以清晰區(qū)分人類原創(chuàng)內(nèi)容與人工智能生成內(nèi)容，幫助其在信息消費中做到從被動接受到理性辨識判斷，避免被誤導欺騙，抵御能力退化風險。
二、引領產(chǎn)業(yè)發(fā)展：從“野蠻生長”到“負責任創(chuàng)新”
生成式人工智能技術浪潮爆發(fā)以來，產(chǎn)業(yè)界經(jīng)歷一段“野蠻生長”時期，因技術標準缺失與監(jiān)管框架滯后，市場上出現(xiàn)的生成服務質(zhì)量參差不齊、應用邊界模糊，深度合成技術濫用問題突出、AI生成虛假信息事件頻發(fā)，不僅損害了個體用戶權益，威脅社會公共秩序，也阻礙了產(chǎn)業(yè)的健康發(fā)展。對于產(chǎn)業(yè)界而言，《標識辦法》及《標識標準》適時出臺，為產(chǎn)業(yè)從無序擴張轉向有序發(fā)展劃定關鍵的制度邊界與合法軌道。
《標識辦法》圍繞生成合成內(nèi)容生產(chǎn)、分發(fā)與傳播的全產(chǎn)業(yè)鏈條，為生成合成服務提供者、信息內(nèi)容傳播服務提供者與互聯(lián)網(wǎng)應用程序分發(fā)平臺設定相應的標識添加、核驗與審核義務。這些義務設置短期看雖會為企業(yè)帶來一定的合規(guī)成本，但從長遠看，制度化的義務安排有助于降低技術濫用引發(fā)的負外部效應，一方面提升用戶對生成內(nèi)容消費的接受度與信任度，另一方面維持并擴大市場的可持續(xù)規(guī)模，為產(chǎn)業(yè)良性發(fā)展奠定基礎。從全球視角看，依托標識技術實現(xiàn)人工智能生成內(nèi)容治理已成為國際監(jiān)管與行業(yè)界共識，在此情況下，我國率先推出人工智能生成合成內(nèi)容標識的強制性國家標準，不僅推動企業(yè)切實履行標識義務、降低跨境合規(guī)風險，更顯著增強了中國企業(yè)在全球人工智能市場競爭中的軟實力，為促進國際標準互認與合作提供了“中國方案”。
更為重要的是，《標識辦法》及配套標準以強制性的規(guī)范效力，提示并推動行業(yè)邁向“負責任創(chuàng)新”的成熟新階段。在標識義務約束下，企業(yè)須從單一追求技術突破，轉向兼顧商業(yè)利益與社會責任，將倫理和法律考量深度融入技術開發(fā)、產(chǎn)品設計與應用傳播的全流程。這意味著產(chǎn)業(yè)生態(tài)的深層重構——企業(yè)的核心競爭力不再僅僅體現(xiàn)在模型規(guī)?；蛏赡芰ι希窃絹碓蕉嗟伢w現(xiàn)在技術的可控性、內(nèi)容的安全性、應用的可持續(xù)性等社會維度。同時，標識標準建設也將促使產(chǎn)業(yè)鏈上下游企業(yè)加強協(xié)作，共同構建包含內(nèi)容標識、質(zhì)量評估、風險監(jiān)測、用戶反饋在內(nèi)的完整技術體系與治理生態(tài)，避免技術孤島和惡性競爭。
三、凈化網(wǎng)絡生態(tài)：協(xié)同共治的標識實踐
從更為系統(tǒng)、宏觀的網(wǎng)絡信息內(nèi)容生態(tài)治理而言，《標識辦法》與《標識標準》的實施，是構建多元協(xié)同、健康清朗網(wǎng)絡生態(tài)的關鍵舉措?；趦?nèi)容標識的技術與制度實踐，有助于建立政府、企業(yè)與用戶間的良性協(xié)同互動機制。
傳統(tǒng)治理模式下，政府承擔絕大多數(shù)監(jiān)管責任，企業(yè)被動合規(guī)，用戶則處于信息接收的末端，治理效率有限且難以適應人工智能生成合成內(nèi)容海量化、隱匿化的新特征?！稑俗R辦法》以內(nèi)容標識為紐帶，為政府、企業(yè)、用戶三大主體構建了協(xié)同互動的制度基礎。標識制度通過打通信息黑箱，明確各方角色與義務，為各方參與治理提供共同的信息基礎與責任共擔機制。政府可根據(jù)統(tǒng)一標識更加精準地識別和監(jiān)管AI生成內(nèi)容，提升治理效能；企業(yè)從被動執(zhí)行轉向主動履責，通過標識技術和管理創(chuàng)新承擔主體責任；用戶則借助內(nèi)容標識增強辨別能力，并通過用戶反饋與舉報機制參與社會監(jiān)督。在透明、共享的基礎上構建起了多元協(xié)同的治理新架構。
同時，內(nèi)容標識也為信息質(zhì)量提升與網(wǎng)絡生態(tài)自凈提供內(nèi)在動力。在行為引導層面，內(nèi)容標識作為生態(tài)自我識別、自我糾正的“催化劑”，賦予用戶更強的內(nèi)容辨識能力和選擇主動權，以透明理性的信息內(nèi)容選擇形成內(nèi)容生產(chǎn)的市場正向反饋；也為平臺建立更加精細化的內(nèi)容管理體系提供了技術支撐，促使平臺基于標識信息和用戶反饋，不斷優(yōu)化內(nèi)容推薦策略，實施差異化治理。而在內(nèi)容生產(chǎn)層面，內(nèi)容標識要求促使內(nèi)容生產(chǎn)者、提供者更注重信息內(nèi)容的真實性、準確性，其統(tǒng)一規(guī)范要求也將促成行業(yè)標準與自律規(guī)范的形成，引導信息生產(chǎn)與供給向著更為安全、可信、可控方向發(fā)展。
四、展望未來：人機協(xié)同信息生產(chǎn)的信任基礎
伴隨人工智能生成合成內(nèi)容標識制度的全面落地，我國在生成式人工智能治理領域邁出了系統(tǒng)性、前瞻性的一步。《標識辦法》與《標識標準》的實施，不僅是對當前技術濫用問題的響應，更是面向人機協(xié)同信息生產(chǎn)新范式所構建的信任基礎。
展望未來，標識制度需與國際治理體系接軌。生成式人工智能的內(nèi)容傳播跨越國界，標識標準的互認與協(xié)同已成為全球人工智能治理的當前焦點。借此國內(nèi)標識規(guī)范統(tǒng)一建設的契機，我國應積極推動標識標準的國際化，促進內(nèi)容標識國際合作框架的構建。這不僅有助于中國企業(yè)“走出去”，也能在國際規(guī)則制定中注入中國智慧。
標識制度實踐亦應成為人機協(xié)同社會中公眾素養(yǎng)提升的契機。未來教育體系應加強媒介素養(yǎng)與人工智能通識教育，使公眾不僅能夠“識標識”，更能夠“懂標識”“用標識”，形成理性判斷與技術使用的能力。只有當公眾具備對AI生成內(nèi)容的批判性認知，標識才能真正發(fā)揮其信任錨點的作用。
人工智能的發(fā)展不僅是技術問題，更是社會命題，人工智能的發(fā)展也需要經(jīng)歷復雜的“社會適配”過程。中國生成式人工智能治理體系建設，為國際社會應對人工智能治理挑戰(zhàn)提供寶貴的制度范本與中國經(jīng)驗。唯有在技術規(guī)范、法律底線與倫理共識的共同支撐下，才能構建起真正可持續(xù)、可信賴的人機協(xié)同未來。
責編：李傳新
一審：李傳新
二審：楊丹
三審：楊又華
來源：網(wǎng)信中國
我要問
湘公網(wǎng)安備 43010502000374號