當視頻通話裡的“熟人”開口借錢，當知名人物的頭像被一鍵復刻……人工智能技術在賦能發展的同時，也給社會安全防線帶來挑戰。

如何讓人工智能這匹千裡馬既跑得快又跑得穩？最高人民法院9月7日發布關於依法審理涉人工智能糾紛案件的意見，加強數字時代民事權益司法保障，促推人工智能健康有序發展。

意見共5個部分24條，精准聚焦社會各界普遍關注的“AI換臉擬聲”、“AI幻覺”侵權、“網絡開盒”、“大數據殺熟”、自動駕駛、AI模型訓練等問題，針對性明確涉人工智能糾紛案件實體裁判和訴訟程序規則。

幾張照片、幾十秒錄音，就足以制造出以假亂真的“數字替身”……利用人工智能技術的造假、侵權行為，如何依法規制？

最高法研究室副主任司艷麗表示，針對“AI換臉擬聲”等行為，意見明確未經同意利用人工智能處理自然人的姓名、肖像等，生成可識別該自然人的虛擬數字形象並使用、公開的，構成對姓名權、肖像權等人格權益的侵害﹔未經同意使用自然人聲音作為訓練語料，模仿其音色、語調和發音風格生成可識別的合成人聲的，構成對聲音權益的侵害。

同時，操控虛擬形象、合成聲音實施不當行為或者發表不實言論、降低他人社會評價的，構成對名譽權的侵害，依法追究行為人的侵權責任。

一段時間以來，AI算法引發的“大數據殺熟”屢被曝光，“仿冒名人帶貨”也備受關注。

“我們不能讓消費者都長出‘火眼金睛’，法律必須及時亮劍，維護消費者合法權益。”最高法研究室主任周加海說。

意見明確，針對同一商品或者服務，經營者利用算法在交易價格等交易條件上實行不合理的差別待遇，侵害他人合法權益造成損害的，人民法院應當依法認定其承擔相應的侵權責任﹔利用人工智能“仿冒名人帶貨”且構成欺詐，消費者主張懲罰性賠償的，人民法院依法予以支持。

實踐中，一些生成式人工智能經常出現答非所問、信息不准確等“AI幻覺”現象，不僅給用戶帶來困擾，也可能侵害他人合法權益。

對此，意見針對“AI幻覺”侵害人格權等問題作了規定，明確生成式人工智能自動生成的內容侵害人格權益，經權利人通知，人工智能服務提供者未及時採取停止生成侵權內容等必要措施的，應當對造成的損害依法承擔侵權責任。

同時，網絡用戶通過輸入侵權提示詞等方式惡意誘導生成式人工智能生成侵權內容並造成他人損害的，該網絡用戶依法承擔侵權責任，經權利人通知，人工智能服務提供者未及時採取停止生成侵權內容、屏蔽相關生成指令等必要措施，權利人請求該網絡用戶、人工智能服務提供者承擔民事責任的，人民法院依法予以支持。

遭遇AI換臉等侵權，如何及時制止侵權行為？

“意見專門對人格權侵害禁令的依法適用予以明確。”司艷麗舉例說，受害者有証據証明其被AI換臉造“黃謠”，如不及時制止將使其合法權益受到難以彌補的損害的，可以向人民法院申請人格權侵害禁令。人民法院審查后既可以責令網絡用戶停止有關侵權行為，也可以責令網絡服務提供者、人工智能服務提供者及時採取必要措施，以阻止損害的進一步擴大。

人工智能浪潮加速到來，但方向必須可控。唯有不斷完善法律規制，強化平台責任，加強公眾教育，才能在技術飛躍的時代，守護好每個人的合法權益。

（新華社記者馮家順）