□ 本報記者 邢東偉 翟小功

當前，全球人工智能技術快速迭代并應用到各行各業(yè)，進入爆發(fā)式發(fā)展階段。在創(chuàng)造更多發(fā)展機遇的同時，以AI為代表的新興技術也帶來風險挑戰(zhàn)。

3月25日，博鰲亞洲論壇2025年年會在海南博鰲舉行，AI成為四大議題之一。從現(xiàn)場令人驚嘆的科技展示，到各分論壇上唇槍舌劍的思想交鋒，AI熱度持續(xù)飆升。

與會中外嘉賓形成共識，要多方協(xié)作、動態(tài)治理、倫理優(yōu)先、法治保障、技術透明，平衡推進人工智能的應用與治理。既不扼殺創(chuàng)新動力，又能有效防范可能出現(xiàn)的風險，建立安全、可靠和值得信賴的人工智能系統(tǒng)，讓科技成果惠及全人類。

AI平權化發(fā)展

“今年全球最熱的一件事就是人工智能的飛躍發(fā)展，AI的每一個進展都如此激動人心”“中國在人工智能等多個領域的發(fā)展令人印象深刻”……

在“在AI應用中塑造核心競爭力”“AI：如何做到應用與治理的平衡推進”“加強數(shù)字能力建設，跨越數(shù)字鴻溝”等分論壇上，《法治日報》記者聽到多位嘉賓如此感慨。

“在全球人工智能產業(yè)的飛速發(fā)展中，DeepSeek帶來的影響力尤為突出?！敝袊こ淘涸菏?、清華大學智能產業(yè)研究院（AIR）院長張亞勤表示，DeepSeek是近兩年人工智能領域最大的、系統(tǒng)性、規(guī)模性的創(chuàng)新，也是中國對全球的重要貢獻。

中國社會科學院大學教授、國務院原副秘書長江小涓從經(jīng)濟學角度分析稱，DeepSeek打破了寡頭壟斷的局面，推動AI產業(yè)進入充分競爭階段，實現(xiàn)從技術能力向產業(yè)能力的轉變，構建起傳統(tǒng)市場經(jīng)濟的競爭格局。

“今年春節(jié)期間，眾多企業(yè)CEO都在研究如何將DeepSeek應用到企業(yè)運營中?！碑咇R威中國副主席劉建剛表示，DeepSeek作為低價、開源的推理大模型，提供了可快速部署的技術架構，有力推動了AI平權化發(fā)展。他提出，未來AI就像水和電一樣，會成為一種基本資源，人人都能使用。

據(jù)香港特區(qū)政府創(chuàng)新科技及工業(yè)局局長孫東介紹，當前，人工智能技術正重塑全球經(jīng)濟格局。香港已經(jīng)將人工智能列為關鍵產業(yè)，持續(xù)推進“人工智能+”行動，積極推動人工智能創(chuàng)新并賦能各行各業(yè)發(fā)展。

乘著數(shù)字化轉型浪潮，人工智能正以超乎想象的速度重塑企業(yè)運營模式。飛書產品副總裁施凱文提出，AI第一次讓“三流人才”能夠做出“一流人才”的工作成果，為企業(yè)發(fā)展帶來全新契機。

新加坡貿工部前首席經(jīng)濟學家、南洋理工大學經(jīng)濟學教授陳光炎表示，中國在人工智能領域取得了顯著成就，全球競爭力不斷增強，中國有望成為下一個全球生產力革命的推動者。

構建AI安全護欄

隨著AI技術“狂飆式”發(fā)展，一個令人不安的場景或從科幻電影走向現(xiàn)實：本應協(xié)助人類的AI，可能因為算法偏差或外部操縱，作出違背倫理、違反法律、危及人類利益的決策。

“與蒸汽機、電力等增強人類體力的技術不同，AI直接賦能人類大腦，涉及計算與認知的深度融合?！鄙虾？茖W智能研究院首席戰(zhàn)略官、復旦大學經(jīng)濟學教授楊燕青將AI特性描述為“類人”，這使得AI既能帶來生產力提升，也可能引發(fā)威脅人類生存的風險。

在中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅看來，人工智能的發(fā)展應用和安全之間不是相互掣肘的關系。

“AI技術發(fā)展的同時，可以同步構建有效的‘安全護欄’?！痹憬ㄗh，將倫理安全融入AI開發(fā)的底層設計，并視為“第一性原則”，不可刪除、不可違背。AI的倫理安全應成為技術發(fā)展的基因，確保其與人類價值觀保持一致。

張亞勤進一步將AI風險分解為可信度與可控性兩個層面。他指出，可信度要求AI在執(zhí)行任務時遵循人類期望、倫理規(guī)范和國家法律，不產生誤導性、有害或不公平的結果；可控性則確保人類能有效監(jiān)控、干預和糾正AI行為，避免失控或不可預測的后果。

張亞勤表示，就可能存在的風險而言，設定技術紅線與邊界是關鍵。如限制智能體自我復制，以降低失控風險。

針對通過制定標準能否解決人工智能的安全性問題，vivo首席安全官魯京輝指出，安全性問題不能簡單地通過制定法律或規(guī)則解決，需要形成共識，但技術共識無法消弭政治分歧，需正視地緣現(xiàn)實。

歐盟《人工智能法案》于2024年實施，對高風險AI系統(tǒng)設定了嚴格的透明度和問責要求。今年3月，我國出臺《人工智能生成合成內容標識辦法》，在全球率先提出保障人工智能安全可信的“中國方案”。

掀起AI新浪潮

AI將把人類帶向何方？如何推進人工智能全球治理？論壇期間，一系列問題成為中外嘉賓熱議的焦點，引發(fā)人們對人工智能未來走向的無限遐想。

記者注意到，很多嘉賓通過類比電的發(fā)現(xiàn)、蒸汽機的發(fā)明，指出人工智能對人類社會的變革才剛剛開始。如今的人工智能，雖已在部分領域落地，但未來很可能催生全新的業(yè)務模式，重塑社會形態(tài)。

“當前，國內人工智能行業(yè)的發(fā)展，正在從生成式AI走向Agent智能，從預訓練走向推理，從信息智能走向物理智能、具身智能。”張亞勤表示，其中，相較人形機器人，無人駕駛作為具身智能最具潛力且最易落地的應用，有望率先實現(xiàn)大規(guī)模商用。

曾毅提出，自然演化規(guī)律正逐步融入人工智能的計算體系，未來人工智能需在計算機制上借鑒自然機制，包括人類學習、發(fā)育和演化機制，有望推動人工智能邁向新高度。

香港科技大學首席副校長郭毅可表示，人工智能的發(fā)展方向與工業(yè)革命單純追求效率不同，更注重個性化。以浙江一家成衣制造公司為例，借助AI實現(xiàn)成衣個性化定制，最大程度滿足了個人需求。

施凱文認為，AI的發(fā)展如同移動互聯(lián)網(wǎng)的崛起，正處于蓄力階段。未來幾年，AI將從硬件到軟件實現(xiàn)全面更新?lián)Q代，為經(jīng)濟增長創(chuàng)造新的需求和發(fā)展思路。

清華大學公共管理學院院長朱旭峰提出，未來，機器人文明可能全面取代人類文明。或者人類通過技術改造自身，突破生命倫理限制，應對人工智能的挑戰(zhàn)。

當全球眾多國家與機構積極探討人工智能合作契機時，美國卻反其道而行之?！懊绹拗萍夹g流動、設置關稅等行為，嚴重阻礙了全球技術的整體進步?！迸餐虒W院戰(zhàn)略學教授、前諾丁漢大學商學院（中國）院長卡爾·費說。

英國勵訊集團公共事務總裁、愛思唯爾董事長池永碩認為，全球AI發(fā)展不應被單一國家主導，應摒棄狹隘的民族主義和企業(yè)競爭思維，重視全球合作的重要性。