日前,中央網信辦秘書局、市場監管總局辦公廳聯合印發《智能社會發展與治理標準化指引(2025版)》(以下簡稱《指引》)。
《指引》提出了智能社會發展與治理的基本原則和要求,明確了常見智能技術應用場景、社會影響及其觀測評估指標,規定了人工智能社會實驗的一般程序和要求,構建了包括基礎通用、發展與治理原則、場景應用、技術和方法、效果評價等五部分內容的智能社會發展與治理標準體系,為各地方、各部門、科研院所、企事業單位等開展智能社會發展與治理理論研究和實踐活動提供技術支撐和規范指引。
《指引》提出,開展人工智能社會實驗,推進智能社會發展與治理標準化工作須遵循三方面原則。一是增進福祉,注重和諧。在社會發展層面,應以社會高質量發展為目標,建設人與智能技術相和諧的社會環境,提升生活水平與社會福利,促進經濟社會可持續發展。相關內容包括但不限于:促進和諧共生。推動社會和智能技術協同發展,降低智能技術發展造成社會沖突的風險,以技術進步促進社會發展,增強社會向心力、塑造社會凝聚力。遵守公序良俗。堅持有益社會的價值導向,堅守智能技術全生命周期中應遵循的基本倫理價值和道德觀念,以科技向善引導文明行為,保障社會規范。確保公平普惠。保證智能技術應用中秉持公正平等,充分考慮社會各界多元需求,采取有效措施防止產生偏見歧視,最大限度實現惠及全民的技術覆蓋,保障全社會共享技術創新成果。
二是以人為本,保障權益。在個人權益層面,應保障人類各項基本權利,尊重個人利益訴求,以技術進步促進個人發展。相關內容包括但不限于:保障基本權利。在智能技術發展中保障個人生命健康、人身自由、私人財產等權利不受侵犯,切實保障智能技術在產品設計、系統搭建、應用服務過程中符合法律法規和各項要求,確保安全、合法、高效。體現關懷救濟。充分尊重對智能技術接受程度和使用意愿的個體化差異。提升各類群體技術適應性,努力彌合技術鴻溝,為無法接觸技術或者技術使用困難的個體提供替代方式,促進人機和諧友好交互。保證知情同意。在產品與服務中使用智能技術應明確告知用戶,明示智能產品與服務的功能與局限,保障用戶的知情、同意等權利。尊重用戶選擇,為使用或者退出智能產品與服務提供簡便易懂的解決方案。
三是包容創新,持續優化。在技術治理層面,應保障智能技術安全和系統可控,為智能技術的研發、應用與共享提供敏捷包容的發展環境。相關內容包括但不限于:實現責任可溯。明確智能技術研發和使用等相關方的責任,建立倫理沖突和技術事故的問責機制。強化智能技術研發過程安全管理和風險評估能力,實現智能技術的可審核、可監督、可追溯。強調審慎敏捷。持續評估智能技術發展水平與社會影響,避免技術濫用與誤用,禁止違規惡用。根據智能技術特征優化監管模式,建立敏捷的響應與協調機制,及時發現和解決可能引發的風險。促進包容開放。推進智能社會發展與治理多元參與,推動政府部門、科研院所、教育機構、企業、社會團體、社會公眾互動協調。促進跨學科、跨領域、跨地區、跨國界交流合作,推動形成具有廣泛共識的智能社會發展與治理框架和標準規范。 (作者:子千)
(二)中觀層面.........................................................5
(三)宏觀層面.........................................................6
四、人工智能社會實驗規程........................................7
(一)實驗準備,組織應用........................................7
(二)實驗開展,科學測量........................................8
(三)實驗反饋,綜合評估........................................9
五、智能社會發展與治理標準體系框架.......................9
(一)基礎通用標準.................................................10
(二)發展與治理原則標準.......................................10
(三)智能社會發展與治理場景應用標準...................11
(四)技術和方法標準..............................................13
(五)效果評價標準.................................................14
人類社會正邁向以人工智能為關鍵技術支撐的智能社會。總結形成智能社會發展與治理的經驗規律和理論,超前探索智能社會發展與治理的標準規范,完善適應智能社會發展與治理的體制機制,將有效支撐國家治理體系和治理能力現代化建設。為落實中共中央、國務院《關于加快建設全國統一大市場的意見》和《國家標準化發展綱要》的要求,深入推進人工智能社會實驗,加快形成適應智能社會發展與治理的標準體系,充分發揮標準化的基礎性、引領性作用,特制定《智能社會發展與治理標準化指引(2025 版)》。
一、總體要求
(一)基本內涵
智能社會發展與治理的標準化,是指圍繞智能社會發展與治理的現實或潛在問題,基于人工智能社會實驗等科學循證方法,探究智能技術帶來的社會影響及其作用機理,圍繞智能技術社會應用的基本原則、測試優化方法和效果評估,制定、發布和實施規范性文件的活動。
(二)工作目標
建立健全科學合理的智能社會發展與治理標準研究制定、實施反饋、優化完善的工作機制,建成覆蓋智能技術主要社會應用場景、有效保障技術全生命周期良性健康發展的標準體系,為推動智能社會發展與治理標準化創新打下良好基礎。
(三)主要內容和適用范圍
本指引提出了智能社會發展與治理的基本原則和要求,明確了常見智能技術應用場景、社會影響及其觀測評估指標,規定了人工智能社會實驗的一般程序和要求,構建了智能社會發展與治理的標準體系框架。
本指引適用于智能技術社會應用與評估領域的標準化活動,為智能社會發展與治理相關工作提供技術支撐,同時可為國家智能社會治理實驗基地建設等專項工作提供規范。各地方、各部門、科研院所、企事業單位等開展智能社會發展與治理理論研究和實踐活動時,可參考使用本指引。
二、智能社會發展與治理原則
開展人工智能社會實驗,推進智能社會發展與治理標準化工作,須遵循以下三方面原則。
(一)增進福祉,注重和諧
在社會發展層面,應以社會高質量發展為目標,建設人與智能技術相和諧的社會環境,提升生活水平與社會福利,促進經濟社會可持續發展。相關內容包括但不限于:一是促進和諧共生。推動社會和智能技術的協同發展,降低智能技術發展造成社會沖突的風險,以技術進步促進社會發展,增強社會向心力、塑造社會凝聚力。二是遵守公序良俗。堅持有益社會的價值導向,堅守智能技術全生命周期中應遵循的基本倫理價值和道德觀念,以科技向善引導文明行為,保障社會規范。三是確保公平普惠。保證智能技術應用中秉持公正平等,充分考慮社會各界多元需求,采取有效措施防止產生偏見歧視,最大限度實現惠及全民的技術覆蓋,保障全社會共享技術創新成果。
(二)以人為本,保障權益
在個人權益層面,應保障人類各項基本權利,尊重個人利益訴求,以技術進步促進個人發展。相關內容包括但不限于:一是保障基本權利。在智能技術發展中保障個人生命健康、人身自由、私人財產等權利不受侵犯,切實保障智能技術在產品設計、系統搭建、應用服務過程中符合法律法規和各項要求,確保安全、合法、高效。
二是體現關懷救濟。充分尊重對智能技術接受程度和使用意愿的個體化差異。提升各類群體技術適應性,努力彌合技術鴻溝,為無法接觸技術或者技術使用困難的個體提供替代方式,促進人機和諧友好交互。
三是保證知情同意。在產品與服務中使用智能技術應明確告知用戶,明示智能產品與服務的功能與局限,保障用戶的知情、同意等權利。尊重用戶選擇,為使用或者退出智能產品與服務提供簡便易懂的解決方案。
(三)包容創新,持續優化
在技術治理層面,應保障智能技術安全和系統可控,為智能技術的研發、應用與共享提供敏捷包容的發展環境。相關內容包括但不限于:
一是實現責任可溯。明確智能技術研發和使用等相關方的責任,建立倫理沖突和技術事故的問責機制。強化智能技術研發過程安全管理和風險評估能力,實現智能技術的可審核、可監督、可追溯。
二是強調審慎敏捷。持續評估智能技術發展水平與社會影響,避免技術濫用與誤用,禁止違規惡用。根據智能技術特征優化監管模式,建立敏捷的響應與協調機制,及時發現和解決可能引發的風險。
三是促進包容開放。推進智能社會發展與治理多元參與,推動政府部門、科研院所、教育機構、企業、社會團體、社會公眾互動協調。促進跨學科、跨領域、跨地區、跨國界交流合作,推動形成具有廣泛共識的智能社會發展與治理框架和標準規范。
三、智能技術社會應用場景與影響評估
推動智能社會發展與治理,必須厘清智能技術的應用場景,識別、界定、觀測和評估相關社會影響,對可能出現的風險和挑戰做好應對。根據智能技術的作用對象,可將智能社會發展與治理的應用場景及影響劃分為微觀、中觀、宏觀三個層面。
(一)微觀層面
智能技術作用于個人的主要場景包括:自動駕駛、智能家居、智能客服等。如利用生物特征識別、行蹤軌跡等敏感信息進行身份驗證;通過智能傳感技術感知周圍環境進行輔助駕駛;智能監測個人健康狀況為醫師診斷和治療提供輔助參考;基于推薦算法的智能檢索和信息推送服務等。上述應用場景中,可能產生的影響包括:心理狀態、行為模式、價值觀念、社會關系等的變化。如人臉識別技術應用對個人安全感的影響;自動駕駛對個人出行范圍、社交網絡和就業的影響;網絡游戲對用戶沉迷、過度消費、家庭關系變化的影響等。評估智能技術在微觀層面產生的影響,可觀測的指標包括:一是個體行為。如測量移動應用程序測量使用頻率、用戶使用意愿,收集用戶興趣熱點、活動軌跡等行為偏好。二是個體感知。如通過問卷調查收集個人的風險認知、技術接受程度等心理動態,以及幸福感、獲得感和安全感等主觀感受。
(二)中觀層面
智能技術作用于組織與行業的主要應用場景包括:智慧教育、智慧醫療、智慧金融等。如線上教育平臺利用大數據智能技術進行師生畫像、知識推送并提供虛擬教師;醫療機構運用圖像識別技術、自然語言處理進行醫學影像智能識別并提供輔助診斷參考;金融機構運用智能技術開展市場預測、風險評估、投資分析業務等。
上述應用場景中,可能產生的影響包括:業務流程、組織關系、職責分工和組織運行模式等的變化。如智能制造技術應用對行業和組織管理流程再造的影響;智能電網應用對供電企業能源分配和管理方式的影響等。
評估智能技術在中觀層面產生的影響,可觀測的指標包括:一是經濟效益變化情況。如通過在線銷量數據分析智能推薦技術應用前后對銷售效益的影響;通過生產效率、質量控制等數據觀測智能制造技術應用對產品制造流程的影響。二是組織治理或者行業協同水平變化情況。如通過收集企業戰略轉型動向、產業生態發展情況、組織響應速度等數據,觀察智能技術應用對戰略實施情況、行業協同效能、組織結構適應性等的影響。
(三)宏觀層面
智能技術作用于社會的主要應用場景包括:數字政府、智慧城市、數字鄉村、智能應急管理等。如通過建立城市大腦監測調度城市運行情況;利用能源大數據預測用能需求、經濟發展等。上述應用場景中,可能產生的影響包括:公共治理方式、社會服務能力、應急響應流程、公眾參與模式等的變化。如互聯網平臺信息傳播對于社會輿論的影響;數字金融技術應用對于金融體系和經濟安全的影響;智能應急管理對于風險管理能力的影響,數字鄉村建設中移動應用程序使用對鄉村治理結構的影響等。
評估智能技術在宏觀層面產生的影響,可觀測的指標包括:一是政府治理與決策的效率和效果。如通過數字公共服務平臺的數據變化,分析智能技術應用對政府響應與資源調配速率的影響;通過經濟運行數據變化,觀察智能技術應用對區域經濟增長率、節能減排的貢獻等。二是公共服務質量的優化改進情況。如通過終端傳感器運行數據或輿情監測數據,分析公共服務均衡度與滿意度的改善等。
四、人工智能社會實驗規程
人工智能社會實驗是國家智能社會治理實驗基地探索智能社會發展與治理路徑的關鍵方法,也是智能社會發展與治理標準化的基礎方法之一。人工智能社會實驗通過識別、界定、觀測和評估特定智能技術社會應用場景的影響,分析可能帶來的治理挑戰,總結應對措施,形成解決方案和標準。其規程主要包括組織應用、科學測量和綜合反饋三個階段。
(一)實驗準備,組織應用
一是明確技術與應用場景。聚焦突出問題,選取具有典型代表性的技術和應用場景,觀測技術對微觀個人、中觀組織或宏觀治理的綜合影響。應用場景可選擇已有場景,或新建場景,若為新建場景,應充分評估,減少重復建設。
二是明確參與主體。實驗要有明確的應用主體、研究主體、技術主體,各建設主體間分工明確。應用主體具備建設實驗場景的條件,研究主體具有智能社會發展與治理研究能力和相關領域政策制定經驗,技術主體具有搭建實驗場景所需的技術水平。
三是明確實驗方案。各主體應建立組織實施機制,明確溝通協商程序,共同設計實驗方案,為實驗場地、經費、數據等提供必要保障,解決場景建設、實驗布點、成果轉化等環節出現的問題。
四是防范倫理風險。方案要明確倫理風險預警機制,制定應急預案,注重全流程倫理風險防控,開展必要的倫理審查,確保實驗符合法規政策、社會倫理、科研倫理。例如,抽樣分組要充分考慮弱勢群體的公平性,以符合科研倫理。
(二)實驗開展,科學測量
一是選取測量要素。圍繞實驗要解決的社會問題或要達到的治理目標,選取科學合理的測量要素。要素應體現技術應用對微觀個人、中觀組織或宏觀治理的綜合影響。
二是明確測量指標。將測量要素轉變為內涵清晰、概念準確的可測度變量。例如,將人工智能技術對組織運轉模式、行為軌跡等影響,轉變為機構調整、出行方式等可測量的具體數據指標。
三是科學抽樣與分組。選擇合理的實驗類型和規范的抽樣方法,科學設置實驗組和控制組,充分考慮弱勢群體、特殊群體等因素,保證實驗數據的科學性和代表性。
四是數據收集與分析。依據科學、規范的社會科學測量手段,綜合利用觀察記錄、問卷調查、大數據捕捉與社會計算等方法,進行數據收集和處理,并開展恰當的定性或定量分析。
(三)實驗反饋,綜合評估
一是綜合集成。綜合技術發展可能、社會個體的接受程度、經濟文化環境等因素,形成技術標準、技術規范、政策建議等實驗成果。
二是實驗評價。對實驗過程和成效進行評價,內容包括實驗場景建設情況、組織與保障機制、風險防范與倫理審查、工作計劃執行效果、實驗成果及轉化等。
三是成果反饋。實驗成果反饋給各有關方面,以提供智能技術賦能社會發展與治理的經驗與政策建議。
五、智能社會發展與治理標準體系框架
標準是人工智能社會實驗工作的重要成果。為充分發揮標準在智能社會發展與治理中的基礎性、引領性作用,應整體部署和系統推進,構建適應技術創新需要、滿足產業發展需求、支撐智能社會建設的智能社會發展與治理標準體系。智能社會發展與治理標準體系框架結構包括基礎通用、發展與治理原則、智能社會發展與治理場景應用、技術和方法、效果評價等五個部分,如圖 1 所示。
(一)基礎通用標準3. 風險跟蹤與評價標準。規范針對人工智能社會實驗過程中產生的倫理風險與社會問題,包括圍繞風險跟蹤與評價的科學性、有效性、準確性,提出風險識別、風險預防、風險監測、風險跟蹤與預防評估的方法等。