當前，全球人工智能技術發展已進入快車道，新一輪科技革命正在重塑經濟和社會結構。2025年政府工作報告首次將“人工智能﹢”單獨列為政策章節，明確提出要持續推進“人工智能﹢”行動，將數字技術與制造優勢、市場優勢更好結合起來，支持大模型廣泛應用。據數據公司IDC預測，到2028年中國人工智能總投資規模將突破1000億美元，5年復合增長率為35.2%。然而，技術快速發展的同時，AI詐騙、AI侵權等新型違法犯罪行為層出不窮，給數據安全、知識產權保護和社會倫理帶來嚴峻挑戰。近日，在2025中關村論壇“科技與法治論壇”現場，與會嘉賓就如何通過立法為人工智能“保駕護航”進行深入探討。

人工智能安全風險逐漸顯露

“過去常說‘有圖有真相’，如今哪怕有視頻也可能是精心設計的騙局。”論壇上，清華大學智能法治研究院院長、清華大學法學院教授申衛星分享了一個案例：某企業財務人員收到一封轉賬郵件，憑借日常反詐意識準確識別出這是釣魚郵件。然而，不一會，又收到一段“公司CFO召開高管會議”的視頻，視頻中CFO神態自若，并明確指示其進行轉賬操作。隨后，財務分15次給5個賬戶轉了兩億港幣，全程未察覺視頻系偽造。

這并非個案。公安部數據顯示，近兩年來，全國共發生“AI換臉”類詐騙案近百起。奇安信集團副總裁段繼平透露：“除了金融詐騙，AI技術還被用于制造虛假新聞、侵犯知識產權等違法行為。從AI換臉詐騙到偽造身份盜取賬戶，犯罪手段已形成完整產業鏈，甚至出現定制化AI犯罪服務。”

傳統法律遭遇“數字鴻溝”

面對AI技術帶來的新型法律問題，現有法律體系顯得有些滯后。全國人大常委會委員、全國人大憲法和法律委員會副主任委員、清華大學法學院院長周光權坦言，“由于人工智能技術迅猛發展，現有法律制度體系難以囊括或銜接人工智能技術引發的各類問題，出現了一定程度滯后。”

中國人民大學法學院教授、未來法治研究院副院長丁曉東也表示，人工智能發展高度依賴訓練數據，但許多現有的個人信息保護、著作權和數據互聯制度誕生于傳統工業時代，在人工智能時代已顯脫節，難以適應大規模數據匯聚和規模效應的需求。

盡管監管部門已采取行動，如國家互聯網信息辦公室出臺《人工智能生成合成內容標識辦法》，明確規定自9月1日起，AI生成內容必須添加“AI”標識。但專家們認為，僅靠規則難以完全填補漏洞。

段繼平建議，大模型安全治理需要政策規范與技術手段并重，通過動態監管和全流程防控，確保AI應用的健康發展，在段繼平看來，不僅要事前對大模型生成內容進行合規性約束，還要保證事中出現問題時可以實時監測、攔截，事后實現精準溯源和取證，形成一套“技術對抗﹢源頭治理”的總體方案。

法治護航下的創新發展

在剛剛過去的全國兩會期間，人工智能安全防護、大模型數據安全、監管立法成為政協委員們熱議的焦點議題。多位委員指出，我國人工智能領域的法律規范存在諸多空白，呼吁加快立法進程。

實際上，從國際層面來看，許多國家已經認識到人工智能立法的重要性并付諸行動。2022年美國發布《人工智能權利法案藍圖》，為技術發展劃定倫理邊界，2024年歐盟通過《人工智能法案》，建立起分級監管框架。

“目前我國在大數據和人工智能立法領域呈現‘頂層規劃＋地方試點＋行業協同’的特點。”北京市人民檢察院第四分院檢察長劉惠表示，未來需要進一步填補法律空白，強化技術安全和倫理規范，推動數智技術和法治的深度融合。

全國政協委員、中華全國律師協會監事長呂紅兵建議加快制定一部有關生成式人工智能的行政法規。在他看來，制定一部既要解決當下問題，又能充分考慮長遠的人工智能法難度極大，可以選擇生成式人工智能這一社會最關心最直接最現實的“切口”，重點加快出臺有關生成式人工智能全方位規范的立法。

全國政協委員、金杜律師事務所高級合伙人張毅提出，立法應當堅持以人民為中心，保障人的主體地位和權益，遵循“以人為本、智能向善、造福人類”的原則。

申衛星表示，科學合理的法律規制有利于提升應用部門和消費者對于人工智能產品的信任度。人工智能技術的可持續發展不僅是技術競爭，也是法治軟實力競爭，人工智能立法已經成為各國彰顯人工智能治理國際競爭力和話語權的重要標志。對于立法形式，申衛星建議：“應以綜合立法為主，兼顧單行法的配套，考慮好與既有法律之間的關系。”

“要采取具有問題導向、試錯性質、有彈性的立法思路，通過行業實踐等多種規制手段逐步探索形成數字經濟發展所需要的法律制度。”北京大學電子商務法研究中心主任薛軍表示。丁曉東則建議在個人信息保護方面，對目的必要性原則作擴張解釋，以廣泛匯聚合理利用為前提，輔助程序性保護機制和個人信息拒絕權。在數據互聯方面，構建合理預期機制，完善爬蟲技術責任規則等，在保護權益與促進創新之間尋求平衡。

周光權表示，當前，社會各界對人工智能相關法律的制定充滿期待，全國人大常委會也在緊鑼密鼓地開展相關調研工作。“立法研究既要積極，又要穩慎，統籌好發展與安全的關系，確保人工智能安全發展。既要通過立法為新技術新產業發展提供法律保障，又要深入研究相關法律和倫理問題，有效應對新技術的不確定性所帶來的新挑戰。”（記者 馬嘉悅）