當前，全球人工智能產業(yè)規(guī)模已達1.8萬億美元，人工智能技術在各行各業(yè)的滲透融合逐步深入，核心領域呈現(xiàn)三大特征：一是?認知智能跨越?。GPT-5等大模型在醫(yī)療診斷、法律咨詢等專業(yè)領域準確率超過90%，引發(fā)教育、醫(yī)療等行業(yè)結構性變革?。二是?實體智能融合。美國波士頓動力的Atlas機器人已實現(xiàn)建筑工地全場景作業(yè)，中國“天工”機器人突破柔性抓取技術，推動制造業(yè)自動化率提升至68%?。三是?公共決策參與度增強。比如，美國的法院已開始試點AI量刑輔助系統(tǒng)，我國杭州的城市大腦3.0啟動建設，邁入“AI智辦”時代。

在人工智能技術不斷推動顛覆性創(chuàng)新的同時，也給社會治理乃至人類文明帶來了新問題和新挑戰(zhàn)。主要表現(xiàn)在算法權力問題、真實世界中的人際關系出現(xiàn)“數(shù)字真空”?、人類?創(chuàng)造力的異化等。對此，要加快探索完善人工智能倫理準則、規(guī)范及問責機制，明確人工智能的價值底線。

建立完善倫理約束框架。首先要堅持?立法先行?，研究制定《人工智能倫理審查法》，設立算法透明度、公平性、可問責性的法定標準，對醫(yī)療診斷等高風險系統(tǒng)實施準入審查?。其次是進行?分級監(jiān)管，建立分級風險清單，按照風險程度初步可分為禁止、限制和鼓勵三個級別，比如，禁止AI操控核設施，限制情緒識別技術商業(yè)應用，鼓勵氣候預測模型開發(fā)等?。

重塑技術治理體系。建立完善?權力制衡機制，吸納哲學家、社會學家（占比不低于40%）參與國家人工智能倫理和治理機構，對公共領域AI系統(tǒng)實施動態(tài)倫理評估?。建設?技術免疫工程?，在自動駕駛等系統(tǒng)中強制植入生命優(yōu)先權、公平性原則，從硬件層面約束算法邏輯?。

推進全球協(xié)同治理。推動國際?規(guī)則對接?，在G20等框架下探索建立人工智能倫理互認機制，統(tǒng)一跨境數(shù)據(jù)流動、知識產權保護等標準，減少“監(jiān)管套利”空間?。建立完善?風險聯(lián)防機制，?創(chuàng)建國際AI安全預警網絡，對自主武器、基因編輯等高風險研發(fā)行為實施全球溯源追蹤與聯(lián)合懲戒?。

總之，守牢人工智能的價值底線是事關人類文明主導權的重要課題。只有通過前瞻性的制度設計、穿透性的技術治理和包容性的社會政策，才能讓人工智能真正成為照亮人類世界未來的火炬?。

（作者伍愛群系全國政協(xié)委員、上海航天信息科技研究院院長、華東師范大學特聘教授）