發(fā)展和完善人工智能的社會治理體制機(jī)制
近年來，以DeepSeek等為代表的預(yù)訓(xùn)練大模型持續(xù)取得突破，人工智能正在快速嵌入社會運行體制機(jī)制。在技術(shù)創(chuàng)新與社會治理的共振中，社會治理方式將面臨前所未有的范式變革：算法與規(guī)范交織、智能決策與透明度碰撞、技術(shù)創(chuàng)新與潛在風(fēng)險沖突等，形成了新時期社會治理的多重張力。當(dāng)前，中國正在書寫人工智能的社會治理新篇章——既要在技術(shù)快速迭代中堅守以人民為中心的理念，又要在體制機(jī)制創(chuàng)新中開辟人機(jī)互動共生新場景。這關(guān)乎中國式現(xiàn)代化，關(guān)乎人類文明走向，折射出中國智慧對全球未來現(xiàn)代性的回應(yīng)能力。
一、人工智能推動我國社會治理健康高質(zhì)量發(fā)展
我國始終堅持發(fā)展人工智能與“以人為本”理念相結(jié)合，以增進(jìn)人類福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提。
人工智能已應(yīng)用到公共安全、政務(wù)服務(wù)、社會服務(wù)等諸多社會治理領(lǐng)域，技術(shù)賦能社會治理水平不斷提升。人工智能構(gòu)建起了以數(shù)據(jù)處理等為基礎(chǔ)的立體化治安防控體系。如人工智能攝像頭集成人臉識別、行為分析、多目標(biāo)追蹤技術(shù)等，大大提升了破案率和公共安全能力。人工智能網(wǎng)絡(luò)犯罪監(jiān)測系統(tǒng)幫助識別和攔截電信詐騙，維護(hù)了市場穩(wěn)定和社會利益。人工智能賦能基層治理，助力社區(qū)事件自動分撥，降低社區(qū)沖突和矛盾投訴量，夯實了基層治理基礎(chǔ)。隨著實踐的深入，有關(guān)部門進(jìn)一步完善數(shù)據(jù)安全、算法透明度等監(jiān)管體制機(jī)制，落實主體責(zé)任，以人工智能治理推進(jìn)國家治理體系和治理能力現(xiàn)代化。
人工智能健康發(fā)展的宏觀環(huán)境不斷優(yōu)化?！渡墒饺斯ぶ悄芊?wù)管理暫行辦法》對促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會公共利益，保護(hù)公民、法人以及其他組織的合法權(quán)益作出明確規(guī)定。黨的二十屆三中全會對人工智能治理作出了進(jìn)一步戰(zhàn)略部署，要求“完善生成式人工智能發(fā)展和管理機(jī)制”。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，自2025年9月1日起施行，要求進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識活動。此外，企業(yè)在開發(fā)大模型過程中，把社會主義核心價值觀和中華優(yōu)秀傳統(tǒng)文化融入設(shè)計，努力實現(xiàn)價值對齊，避免技術(shù)異化，如，某大模型探討用“禮”作為算法公平性評估維度，探索本土化倫理框架，謹(jǐn)慎對待文化內(nèi)涵和現(xiàn)實復(fù)雜性，推動傳統(tǒng)文化與人工智能倫理結(jié)合。我國已逐步形成“中央政策引導(dǎo)+地方場景創(chuàng)新+企業(yè)技術(shù)落地”的人工智能發(fā)展環(huán)境和治理生態(tài)，推動人工智能社會治理從“數(shù)字化”向“數(shù)智化”邁進(jìn)。
二、讓“人工智能+”行動擁有更多的社會治理場景
十四屆全國人大三次會議審議通過的《政府工作報告》提出，“持續(xù)推進(jìn)‘人工智能+’行動，將數(shù)字技術(shù)與制造優(yōu)勢、市場優(yōu)勢更好結(jié)合起來，支持大模型廣泛應(yīng)用，大力發(fā)展智能網(wǎng)聯(lián)新能源汽車、人工智能手機(jī)和電腦、智能機(jī)器人等新一代智能終端以及智能制造裝備?！?/p>
在社會治理領(lǐng)域，要繼續(xù)推動人工智能治理融入國家治理體系和治理能力現(xiàn)代化。從全球范圍看，圍繞人工智能安全問題，多個國家已經(jīng)開展了國際合作，在技術(shù)層面交流互鑒，但各國在人工智能安全、隱私保護(hù)、倫理道德等領(lǐng)域的政策仍存在分歧。各國通過法律法規(guī)引導(dǎo)和規(guī)范人工智能發(fā)展方向，尤其在通用大模型、基礎(chǔ)算力等領(lǐng)域，調(diào)動資源進(jìn)行人工智能研究與開發(fā)。各國制定各自的技術(shù)標(biāo)準(zhǔn)影響著人工智能技術(shù)的適用性，如在自動駕駛領(lǐng)域，數(shù)據(jù)、算法和算力上的差異會導(dǎo)致人工智能推理結(jié)果的差異?；趪野踩?，各國制定嚴(yán)格措施保護(hù)數(shù)據(jù)隱私，這在一定程度上限制了數(shù)據(jù)使用、模型訓(xùn)練。算法設(shè)計受文化和社會環(huán)境影響，會導(dǎo)致推理結(jié)果差異。因此，積極推行國際合作，制定國際標(biāo)準(zhǔn)，確保人工智能系統(tǒng)在不同國家的互操作性和公平性十分重要。進(jìn)行國際合作和數(shù)據(jù)共享可以提升人工智能系統(tǒng)推理能力，縮小不同模型對同一問題回答的差異。開源開放是破除技術(shù)壁壘、實現(xiàn)普惠發(fā)展的關(guān)鍵路徑。開源開放可以打破閉源人工智能生態(tài)圍欄，其既有積極的一面，也有潛在的風(fēng)險。開源促進(jìn)開發(fā)者協(xié)作，加速技術(shù)創(chuàng)新迭代，使更多國家和機(jī)構(gòu)以低成本獲取先進(jìn)技術(shù)，助力解決全球公共問題，但其也會被惡意利用，進(jìn)行網(wǎng)絡(luò)攻擊或傳播虛假信息，會導(dǎo)致自主創(chuàng)新能力下降，削弱技術(shù)創(chuàng)新動力。因此，需在開源開放與自主創(chuàng)新之間找到平衡，不斷提升人工智能全球治理能力。
在人文社會科學(xué)領(lǐng)域，面對人工智能技術(shù)的迭代和顛覆式發(fā)展，需要構(gòu)建自然科學(xué)與人文社會科學(xué)的跨學(xué)科對話機(jī)制、完善知識生產(chǎn)體系、強(qiáng)化社會價值引領(lǐng)，通過學(xué)術(shù)共同體建設(shè)與制度創(chuàng)新縮小認(rèn)知鴻溝，推動人工智能與哲學(xué)、法學(xué)、經(jīng)濟(jì)學(xué)等學(xué)科的聯(lián)合攻關(guān)，不斷提升人文社會科學(xué)的水平和質(zhì)量，建立中國特色哲學(xué)社會科學(xué)自主知識體系，為提升我國綜合國力和國際競爭力作出貢獻(xiàn)。
在社會傳播領(lǐng)域，要建立媒體正向引導(dǎo)體制機(jī)制。隨著人工智能快速發(fā)展，要構(gòu)建“科學(xué)傳播+內(nèi)容治理+公眾教育”的三位一體治理機(jī)制，通過制度約束、技術(shù)賦能與認(rèn)知提升構(gòu)建健康有序的人工智能輿論生態(tài)。對傳播有關(guān)人工智能謠言的賬號實施處罰，把造成惡劣影響自媒體列入處罰名單。訓(xùn)練深度學(xué)習(xí)大模型識別謠言的能力，自動標(biāo)記謠言，限制謠言傳播。
在社會公眾領(lǐng)域，創(chuàng)造健康有序的社會環(huán)境。發(fā)展人工智能必須建立提升社會成員人文和數(shù)字素養(yǎng)體制機(jī)制。針對人工智能可能引發(fā)的“社會焦慮”，要通過系統(tǒng)性社會治理創(chuàng)新，構(gòu)建“技術(shù)認(rèn)知提升+社會責(zé)任共擔(dān)+公共價值共識”的系統(tǒng)性治理框架，化解技術(shù)不確定性造成的公眾疑慮、擔(dān)心。構(gòu)建科學(xué)認(rèn)知普及體系，破除“信息繭房”。增強(qiáng)決策透明度和公眾參與度，能使決策更好地反映民意，提高決策民主性。在智慧城市系統(tǒng)設(shè)置相關(guān)感知模塊，通過社交媒體語義分析、社區(qū)調(diào)查等方式捕捉居民關(guān)于人工智能的焦慮熱點。組織以技術(shù)人員為主體的人工智能技術(shù)支持隊伍，通過技術(shù)專家與心理咨詢師合作，深入基層化解公眾對人工智能的恐懼，把風(fēng)險治理轉(zhuǎn)化為共識構(gòu)建，塑造“人機(jī)共生”時代的文明新形態(tài)。
三、堅定不移以人為本發(fā)展有溫度的人工智能
人工智能作為一項顛覆性技術(shù)，實現(xiàn)其有效治理必須從工具管理轉(zhuǎn)向系統(tǒng)治理，這需要構(gòu)建涵蓋技術(shù)研發(fā)、應(yīng)用部署、社會影響評估的全周期、系統(tǒng)性治理體制機(jī)制。
當(dāng)前，最緊迫的任務(wù)是建立人工智能系統(tǒng)熔斷機(jī)制，即當(dāng)發(fā)現(xiàn)群體性認(rèn)知操控、系統(tǒng)性社會風(fēng)險時，人工智能系統(tǒng)可以自動觸發(fā)熔斷。這需要實現(xiàn)社會物理學(xué)模型與監(jiān)管系統(tǒng)深度融合，形成技術(shù)與社會雙反饋的人工智能社會治理閉環(huán)。要部署實時監(jiān)測模塊，及時識別輸入數(shù)據(jù)中的異常情況。如在金融風(fēng)險控制中，要基于異常檢測算法攔截欺詐性交易。人工智能社會治理的核心在于通過“技術(shù)+制度”綜合設(shè)計，引導(dǎo)人工智能沿著正確的進(jìn)化方向發(fā)展，使其自發(fā)符合人類利益和人類文明演進(jìn)脈絡(luò)。此外，應(yīng)對技術(shù)激進(jìn)主義帶來的潛在風(fēng)險，必須在技術(shù)層面保證人工智能的安全性、透明性、系統(tǒng)性、前瞻性、問責(zé)性、評估性等，這涉及算法、數(shù)據(jù)、測試、安全等諸多維度。
要把開發(fā)可解釋性的算法工具擺在人工智能社會治理的重要位置，確保人工智能決策邏輯對開發(fā)者、監(jiān)管者和用戶透明。在涉及醫(yī)療診斷、司法量刑等高風(fēng)險領(lǐng)域，必須強(qiáng)制要求算法的可解釋性，避免暗箱操作，堅持社會公平正義原則。為此，要引入公平性評估指標(biāo)，檢測并修正算法中的性別歧視、種族歧視等社會文化偏見，探索開發(fā)在不共享原始數(shù)據(jù)前提下的聯(lián)合訓(xùn)練模型，允許其在加密數(shù)據(jù)上直接計算，保護(hù)數(shù)據(jù)全流程安全，完善和建立數(shù)據(jù)清洗與標(biāo)注標(biāo)準(zhǔn)。
在政務(wù)人工智能系統(tǒng)中引入第三方安全審計，確保系統(tǒng)無邏輯后門、技術(shù)方法在特定條件下的行為符合預(yù)期等。在開發(fā)初期就要考慮安全準(zhǔn)則嵌入問題。建立人工智能系統(tǒng)動態(tài)升級體制機(jī)制，及時發(fā)現(xiàn)問題，及時修復(fù)漏洞。對于已經(jīng)部署的大模型，要進(jìn)行周期性再訓(xùn)練，防止數(shù)據(jù)漂移帶來的性能下降等問題。加快建立人工智能安全技術(shù)國家標(biāo)準(zhǔn)，制定安全閾值與測試方法。積極參與國際標(biāo)準(zhǔn)制定，促進(jìn)各國之間的技術(shù)標(biāo)準(zhǔn)互認(rèn)。
總之，推動人工智能的社會治理健康發(fā)展，是新時代社會治理的新問題新任務(wù)。要立足實際、面向未來，積極深入探索這一新時代重大課題，必須按照黨的二十屆三中全會精神要求，堅持系統(tǒng)觀念，處理好經(jīng)濟(jì)和社會、政府和市場、效率和公平、活力和秩序、發(fā)展和安全等重大關(guān)系，增強(qiáng)改革系統(tǒng)性、整體性、協(xié)同性。要堅持統(tǒng)籌發(fā)展和安全的原則，用“技術(shù)創(chuàng)新+制度創(chuàng)新+文明演進(jìn)”回應(yīng)技術(shù)變革。人工智能技術(shù)迭代和顛覆式發(fā)展已經(jīng)超越簡單的風(fēng)險管控邏輯，必須建構(gòu)“技術(shù)發(fā)展+技術(shù)監(jiān)管+社會調(diào)適+文明演進(jìn)”的綜合治理協(xié)同構(gòu)架，以“技術(shù)防范+制度韌性+文明進(jìn)步”化解人工智能技術(shù)發(fā)展的不確定性，以文化自覺抵御工具理性異化，以人類命運共同體理念重塑全球人工智能治理規(guī)則。人工智能的真正挑戰(zhàn)不在于機(jī)器能否超越人類智能，而在于人類能否在技術(shù)革命中守住社會公平正義的底線和人類文明的底色，把算法社會演進(jìn)轉(zhuǎn)化為實現(xiàn)人類自由全面發(fā)展的新契機(jī)，讓人工智能技術(shù)在人類文明智慧照耀下走向技術(shù)向善的星辰大海，不斷造福人類。（中共中央黨校（國家行政學(xué)院）督學(xué)、社會和生態(tài)文明教研部教授 丁元竹）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號