《人工智能擬人化互動服務管理暫行辦法》從今天起開始施行。但近段時間，有關《暫行辦法》所謂“新規”的截圖已在社交平台熱傳，不少網友甚至據此分析仿生機器人的產業發展。北京日報記者調查發現，網絡熱傳的內容實際上是AI生成內容與真實法規混雜形成的不准確信息。當前，各類AI工具被廣泛用於法律咨詢、法條解讀，但其中存在法條釋義偏差、新舊法規混用、法律適用場景錯配等問題。

　　AI法律解讀謬誤頻出

　　在有關《暫行辦法》的網傳截圖中，有自媒體引用AI說法，將該《暫行辦法》解讀為針對機器人、具身智能等產品出台的新規。截圖還出現了“成年人聊天也將受到限制”“未成年人不能使用AI陪伴App”等《暫行辦法》中沒有的內容。

　　“看到這種帶有法規名稱的截圖，很多人都會默認是真的。”有網友對記者說。

　　記者了解到，AI生成錯誤法律信息、輸出錯誤法律指引的情況時有發生，這些不准確的法律解讀，極易引發公眾對法律規定的誤讀，甚至有人誤將AI虛構或寫錯的法條、司法解釋及案例等材料提交至司法機關，干擾訴訟活動。

　　通州法院就曾發現，在一起商事糾紛案件中，有律師利用AI工具生成了與案情相似，但案號並不存在的案例﹔市二中院在審理一起繼承糾紛案件中發現，當事人提交的由AI生成的裁判依據中，沒有一條是准確的現行法律規定﹔還有的法院在審理勞動合同糾紛案時，發現一則上訴狀引用的法律條文根本不存在。

　　逐一核驗 不能照搬

　　多位法律界、媒體界人士對記者表示，由於AI幻覺（即AI會生成看似真實、合理，實則存在錯誤的內容）的存在，引用廢止法條、援引錯誤法律依據、編造虛假案例、張冠李戴地分析法律問題等情況，在當前AI生成內容中並不少見。

　　AI編造出的法條、司法解釋或者釋法說理往往“以假亂真”，相比於低級錯誤，更具有迷惑性。

　　記者隨機嘗試用一款AI軟件解讀此前修訂的商標法。AI軟件稱，第11條是新增“動態標志”可注冊商標的條款，但“動態標志”的規定實際上在商標法的第14條中出現。當這些錯誤內容被用戶引用、轉載后，很容易形成二次甚至多次傳播，進一步放大誤導效應。

　　北京煒衡律師事務所律師殷梓介告訴記者，有同行就曾發生過因使用AI而錯誤引用法條的情況。“本來應該引用A法條，AI卻引用成了B法條，兩者對應不上，但使用者沒有進一步核對。”殷梓介說，AI可以幫助檢索和梳理信息，“使用AI時，一定要要求其標明法律、司法解釋、案例等原始出處，再逐一進行核驗，不能直接照搬。”

　　對AI生成內容應明確提醒

　　北京澤霄律師事務所律師李帥建議，公眾應對網絡平台上一些吸引眼球的法律內容的標題保持警惕。

　　“一些網絡內容打著‘重磅首發’‘新法修訂’等旗號，但實際上並沒有新的法律法規出台。”李帥表示，涉及法律規定時，應優先查閱國家有關部門正式發布的法律法規原文，或參考專業機構、權威媒體發布的解讀。

　　“AI能夠提高信息獲取效率，但對於法律規范的理解和適用，目前仍離不開人工核驗和專業判斷。”李帥建議，無論是法律從業人員、自媒體創作者還是普通公眾，在引用AI生成的法律內容時，需樹立審慎心態，逐一核對法律條文，引用案例時應通過權威渠道核實案例真實性和適用性，規避法律風險。專業人員更應加以謹慎，避免因引用錯誤信息影響專業信譽和公信力。

　　上海秦兵（北京)律師事務所主管律師劉馨遠提出，AI大模型公司在算法和安全評估上應做好充分的預案，對於AI生成的法律內容要進行強制標示和明確提醒，比如可以在生成內容中標明：AI生成的法律內容可能不准確，應征詢專家意見。（北京日報記者 徐慧瑤）