法治護航人工智能科技向善(以案說法)

人工智能快速發展,在賦能千行百業、助推經濟社會發展的同時,利用AI進行違法犯罪、AI數據權屬爭議等新問題也隨之出現。
透過幾個具有代表性的司法案例,看司法機關如何通過積極穩妥審理相關案件,運用法治方式厘清法律邊界、做好規制監管、強化司法指引,護航人工智能向上向善。
——編 者
生成AI作品 可享有著作權
【案情】李某使用AI軟件制作了一張圖片。他為這張圖片加上“AI繪畫”等標簽,發布在自己的社交平台上。之后,李某發現這張圖片被博主劉女士擅自使用,還截去了署名水印。李某認為劉女士的行為侵犯了自己的著作權,便將劉女士訴至法院。
涉案圖片與一般的繪畫或攝影作品不同,是利用AI技術生成的,那麼它是否符合著作權法中關於作品的定義?李某是否擁有著作權?
李某認為,使用AI軟件進行繪畫時,需要設置相關提示詞、模型以及其他參數,並進行反復調試,最終才能得到想要的效果。AI軟件只是制作工具,自己才是圖片的主導者,因此應享有相關圖片著作權。
【說法】法院審理認為,本案中,圖片以線條、色彩構成,有審美意義,可以認定為作品,且具備“智力成果”和“獨創性”要件。通過設計提示詞,不同的人會生成不同的結果,這種差異可以體現人類的獨創性智力投入。涉案圖片是基於原告的智力投入直接產生,而且體現出原告的個性化表達,因此可以認定涉案圖片屬於著作權法中規定的作品,李某可以被認定為作者,享有著作權。最終,法院作出判決,認為被告侵犯原告署名權和信息網絡傳播權,應該對原告賠禮道歉,並賠償原告經濟損失。
法官提示,利用人工智能生成的內容,是否構成作品,何人能被認定為作者,需要個案判斷,不能一概而論。關鍵在於查明人類使用AI模型是否給人以創作空間,以及生成的內容是否體現了人的獨創性智力投入。本案裁判明確了利用人工智能生成圖片的“作品”屬性和使用者的“創作者”身份,對於保護人工智能生成作品創作,具有重要意義。
保護AI數據 釋放商業價值
【案情】A公司是一家從事人工智能領域數據服務的公司,曾用近3年時間採集相關語音數據,形成一個語音數據集,並將其有償授權給企業做人工智能相關訓練使用。
A公司發現,這個語音數據集中的一個數據子集,被挂在B公司官網上供注冊用戶下載。A公司認為,這侵害了自己的數據財產權、著作權和商業秘密,同時構成不正當競爭行為,遂將B公司起訴到法院。
對此,B公司認為,A公司訴請保護的數據財產權益目前並無明確法律依據﹔涉案數據集為互聯網上公開的開源數據集,並不構成商業秘密。
【說法】法院審理認為,本案中,特定數據集的選擇、編排因不具有獨創性而不構成著作權法規定的作品,但由於A公司對數據的合法收集形成付出了大量技術、資金、勞動等實質性投入,在原始數據上添附了更多的商業價值,能夠滿足人工智能模型研發主體對特定數據集的需求,可為持有者帶來交易機會與競爭優勢等商業利益,屬於反不正當競爭法所保護的合法權益。B公司未經合法授權或未遵循開源協議規定,獲取、使用相關數據集,違反數據服務領域商業道德,構成不正當競爭。
此外,該案審理過程中,國家知識產權局在多地推行了數據知識產權工作試點,為符合條件的申請方發放數據知識產權登記証書。A公司為涉案的語音數據集申請到一份《數據知識產權登記証》。最終,法院作出判決,認為被告B公司侵權,應賠償原告A公司相關經濟損失。
法官認為,雖然目前對數據立法的相關條款有待進一步完善,但是通過裁判,傳遞了這樣的司法導向和指引:在一定條件下,數據成為生產要素,具有商業價值,應當予以保護。
濫用AI換臉 最終難逃懲處
【案情】傅某在社交平台上發布“廣告”,聲稱可通過“AI換臉”技術,幫助他人通過相關平台的人臉驗証,以登錄非本人賬號。
原來,傅某使用相關軟件,用“客戶”提供的頭像制作換臉視頻,預存在手機相冊中,再點擊客戶要求通過的人臉驗証鏈接,採用軟件控制相關平台的人臉識別系統,讀取到其指定的預先制作的人臉視頻,以此通過平台的人臉驗証。甚至客戶隻提供身份証號,傅某即從某些非法平台上購買相關公民信息,以制作換臉視頻。
傅某被公安機關抓獲后,被檢察機關以非法控制計算機信息系統罪提起公訴。
【說法】傅某辯稱,其只是借助AI軟件,使得系統讀取到的是其預先制作的人臉視頻,並未“控制”平台的識別系統,刑法也未明確通過AI換臉幫助他人通過實名認証的行為定性為犯罪。
法院經審理認為,傅某使用軟件程序,改變手機系統原本調用自身攝像頭的方式,並用虛擬攝像頭助手程序讀取指定的人臉視頻,實現替換攝像頭的功能。這種對后台系統進行干擾的行為,接近一種控制行為,符合“非法控制計算機信息系統罪”的犯罪特征。此外,傅某為制作驗証視頻而購買他人身份信息,構成侵犯公民個人信息罪。二罪是目的和手段的關系,屬於刑法上的“牽連犯”,故從一重罪處斷,也就是以非法控制計算機信息系統罪追究傅某刑事責任。
法官提示,網絡用戶一方面要保護自身合法權益,另一方面不能觸犯法律紅線。對於監管機構而言,則需要持續跟進AI技術發展前沿,研判潛在行業風險,充分利用現有的算法備案機制、算法安全評估機制、科技倫理評估機制等,做好人工智能相關治理。
利用AI造謠 依法予以嚴懲
【案情】“浙江一工業園突發大火,‘視頻曝光’,整個廠房都燒透了!伴有爆炸聲,火光沖天!傷亡不明!”前不久一則“圖文並茂”的“新聞”在網上廣為流傳,引起不少網友關注。很快,相關部門予以辟謠。原來這則“新聞”是利用AI技術制作的一則謠言。
張某、陳某二人選取網絡熱點,復制新聞的標題、關鍵詞並利用AI軟件自動生成文案和視頻,將其發布至網絡平台供人瀏覽,以博取流量,進而牟利。虛假造謠視頻累計閱讀觀看量超167萬次,造成惡劣社會影響。二人被公安機關抓獲並由檢察機關提起公訴。
【說法】法院審理認為,利用AI技術自動合成災情、險情等虛假視頻,在網絡平台上傳播,嚴重擾亂社會秩序的,應當以編造、故意傳播虛假信息罪定罪處罰。對於是否達到“嚴重擾亂社會秩序”的程度,應當結合虛假信息的發布數量、點擊轉發量、對社會公共秩序的影響及相關職能部門採取的應對措施等因素進行綜合判斷。張某、陳某利用AI技術編造虛假的險情、災情、警情,嚴重擾亂社會秩序,其行為已構成編造、故意傳播虛假信息罪。
法官提示,上述案件是人工智能時代編造、故意傳播虛假信息罪的典型,該案警示網絡用戶在使用AI生成圖片、音視頻時,應注意甄別圖片、音視頻的真實性,尤其需警惕具有情緒煽動性、利益誘導性的內容。如發布AI生成內容,還應履行添加標識的義務,從而避免他人混淆,以防被不法分子利用。此外,通過認定與追究編造、故意傳播虛假信息罪的刑事責任,可以有效淨化網絡內容,遏制人工智能時代虛假信息的泛濫之勢,保障包括網絡秩序在內的社會公共秩序的安定。
案例來源:最高人民法院
《 人民日報 》( 2025年04月10日 19 版)
分享讓更多人看到
- 評論
- 關注