書單推薦 新書推薦 |
生成式人工智能法律實務 ![]() 技術演進的加速與應用場景的深化,如同硬幣的兩面,在釋放技術前所未有的創(chuàng)新潛能之時,也折射出復雜的法律風險與倫理挑戰(zhàn)。本書聚焦生成式人工智能的技術機理與產(chǎn)業(yè)發(fā)展、技術和產(chǎn)品合規(guī)要點以及其域外合規(guī)要覽,以生成式人工智能全生命周期為視角,涵蓋了從產(chǎn)品準備階段到訓練過程階段,以及內(nèi)容輸出階段的各個關鍵合規(guī)節(jié)點,力求理論與實務的緊密結(jié)合,希望通過理論深度與實務精度的雙重打磨,為讀者構(gòu)建一個既能理解為什么,又能知道怎么辦的知識體系。 前沿理論 技術機理與產(chǎn)業(yè)發(fā)展 合規(guī)要點 技術和產(chǎn)品合規(guī)要點 監(jiān)管動態(tài) 域外合規(guī)要覽 在科技演進的長河中,總有一些里程碑式的節(jié)點,不僅重新定義了技術的疆界,更深刻地重塑了人類與世界互動的范式,并對現(xiàn)有的社會結(jié)構(gòu)、倫理規(guī)范及法律體系帶來了深遠的機遇與挑戰(zhàn)。2022年,以ChatGPT為代表的大型語言模型橫空出世,其所展現(xiàn)出的顛覆性交互與內(nèi)容生成能力,猶如平地驚雷,宣告了生成式人工智能時代的到來。這場由生成式人工智能驅(qū)動的技術浪潮,迅速從實驗室走向公眾,在全球范圍內(nèi)點燃了對人工智能及其未來的無盡想象與熱烈討論,清晰預示著一場堪比工業(yè)革命與信息革命的深刻變革正在加速降臨。生成式人工智能,正以其前所未有的力量,叩響著一個全新時代的大門。 正當ChatGPT引發(fā)的技術浪潮席卷全球、其深遠影響尚在持續(xù)發(fā)酵之際,人工智能技術演進的歷史腳步卻從未有片刻停歇,生成式人工智能領域不斷涌現(xiàn)出具有理論突破性與實踐創(chuàng)新性的新興力量。我國的人工智能初創(chuàng)企業(yè)深度求索(DeepSeek)的技術突破具有重要戰(zhàn)略意義。其相繼推出的DeepSeek-R1和DeepSeek V3模型,成功在降低算力依賴的同時保持了卓越性能,實現(xiàn)了效能與成本的優(yōu)化平衡。其在代碼生成、深度推理、乃至模型開源策略等方面所展現(xiàn)的特色與突破,進一步印證了生成式人工智能技術的蓬勃生命力與無限可能,為全球生成式人工智能的技術發(fā)展注入了東方智慧,彰顯了技術創(chuàng)新道路的多樣性與包容性。 如果說ChatGPT的出現(xiàn)點燃了生成式人工智能的引線,掀起了第一波全球性的關注與應用探索熱潮,那么DeepSeek等后續(xù)優(yōu)秀模型的涌現(xiàn),便象征著這場技術革命正加速向縱深發(fā)展。這些新一代模型不再局限于追求無所不能的通用性,而是日益聚焦于特定應用場景進行深度優(yōu)化,致力于實現(xiàn)更高的運行效率、更優(yōu)的成本效益、更精深的專業(yè)能力以及更靈活的部署選項。這種向縱深發(fā)展的趨勢,一方面顯著拓寬了生成式人工智能技術的應用版圖,使其影響力迅速超越最初的獵奇體驗和內(nèi)容輔助創(chuàng)作階段,加速滲透至軟件開發(fā)、科學研究、金融分析、教育醫(yī)療等關系國計民生的核心生產(chǎn)力領域;另一方面也驅(qū)動著圍繞生成式人工智能的產(chǎn)業(yè)生態(tài)系統(tǒng)日趨復雜和繁榮。參與主體不再局限于少數(shù)科技巨頭,更多元化的創(chuàng)新力量,包括活躍的開源社區(qū)以及不同規(guī)模和背景的科技企業(yè),都在積極投身其中,共同塑造著這一新興領域的發(fā)展格局與未來走向。 技術演進的加速與應用場景的深化,如同硬幣的兩面,在釋放技術前所未有的創(chuàng)新潛能之時,也折射出復雜的法律風險與倫理挑戰(zhàn),將合規(guī)問題推至人工智能治理的前沿領域。當以DeepSeek為代表的生成式人工智能模型以超越傳統(tǒng)認知的效率生成代碼、構(gòu)建文本、創(chuàng)作藝術作品時,一系列具有挑戰(zhàn)性的法律問題隨之浮現(xiàn):首先,是數(shù)據(jù)獲取合法性邊界與知識產(chǎn)權法律框架的調(diào)適問題。生成式人工智能的核心能力植根于對海量數(shù)據(jù)的深度學習與特征提取,這些訓練數(shù)據(jù)不可避免地涵蓋了受著作權法保護的作品、個人信息保護法規(guī)制的事關個體隱私的數(shù)據(jù)乃至商業(yè)秘密視域下的專有知識。模型訓練過程是否構(gòu)成對原作品的合理使用仍然存在爭議;模型生成內(nèi)容的權利歸屬如何在人類創(chuàng)作者、模型開發(fā)者與最終用戶之間進行合理配置,尚缺乏系統(tǒng)性的規(guī)范依據(jù);當模型輸出與既有作品呈現(xiàn)高度相似性時,侵權認定的構(gòu)成要件與責任閾值如何科學設定,亟待規(guī)范性重構(gòu)。其次,是內(nèi)容生成與責任體系的模糊地帶。人工智能生成內(nèi)容可能包含事實偏差、認知偏見、侵犯人格權的表述,甚至被惡意引導用于網(wǎng)絡攻擊、詐騙等違法活動。當算法邏輯取代部分人類判斷,成為信息生產(chǎn)的關鍵源頭,內(nèi)容的真實性、準確性與合法性責任如何在多層次且復雜的產(chǎn)業(yè)鏈條中進行合理分配?傳統(tǒng)的法律責任體系如何適應這一技術變革?責任主體的認定與歸責原則的構(gòu)建,均需要法律理論的創(chuàng)新突破與實務經(jīng)驗的系統(tǒng)總結(jié)。最后,是企業(yè)技術創(chuàng)新與法律合規(guī)的辯證關系。生成式人工智能的發(fā)展速度遠超傳統(tǒng)法律的演進周期,催生治理滯后與技術失控的潛在風險。生成式人工智能的競爭本質(zhì)上是技術創(chuàng)新、產(chǎn)品應用、人才儲備與制度建設的系統(tǒng)性競爭。我國科技企業(yè)的合規(guī)能力不僅關乎產(chǎn)品開發(fā)的源頭治理效能,更為負責任的人工智能創(chuàng)新提供了落地機制。生成式人工智能的出現(xiàn),使得企業(yè)合規(guī)管理呈現(xiàn)出前所未有的復雜性與重要性,也內(nèi)含對科技企業(yè)的法律合規(guī)體系具備更高的適應性、前瞻性與實踐操作性的系統(tǒng)要求。 在生成式人工智能時代,上述治理挑戰(zhàn)的有效解決,將成為決定生成式人工智能健康發(fā)展的關鍵變量。正是在這樣波瀾壯闊而又頗具挑戰(zhàn)的時代背景下,在以DeepSeek為代表的生成式人工智能技術持續(xù)深化、應用場景日益廣泛而法律合規(guī)挑戰(zhàn)日益凸顯的關鍵節(jié)點上,本書應運而生。本書的撰寫,旨在回應當前社會各界對于理解和應對生成式人工智能法律風險的迫切需求,為在洶涌浪潮中航行的科技企業(yè)、產(chǎn)品開發(fā)者、法律從業(yè)者以及研究人員提供一個清晰、系統(tǒng)、實用的合規(guī)框架。 本書的貢獻,不僅在于對生成式人工智能法律議題的系統(tǒng)性梳理與理論化解讀,亦在于其對法律規(guī)范體系與技術發(fā)展動態(tài)互動關系的深度剖析。本書以生成式人工智能全生命周期為視角,涵蓋了從產(chǎn)品準備階段到訓練過程階段,以及內(nèi)容輸出階段的各個關鍵合規(guī)節(jié)點。此外,本書就生成式人工智能的基準和評估,以及生成式人工智能部署環(huán)節(jié)的合規(guī)以及域外合規(guī)動態(tài)也進行了系統(tǒng)梳理,力求做到理論與實務的緊密結(jié)合。我們深知,面對日新月異的技術和尚在形成中的法律規(guī)則,空泛的理論探討難以滿足合規(guī)實踐的迫切需求。因此,本書在闡釋基本合規(guī)原理的同時,還側(cè)重于提煉合規(guī)要點,探討風險評估與合規(guī)管理策略,并嘗試提出具有可操作性的解決方案。我們希望通過理論深度與實務精度的雙重打磨,為讀者構(gòu)建一個既能理解為什么,又能知道怎么辦的知識體系。 在形成本書的編撰構(gòu)想后,我們深感榮幸能夠與中國法治出版社建立出版合作關系,由此得以邀請來自法律實務領域的一線資深專家共同探索生成式人工智能合規(guī)治理的理論基礎與實踐路徑。本書編者群體長期耕耘于人工智能產(chǎn)業(yè)界與法律實務領域的前沿地帶,既深度參與人工智能企業(yè)內(nèi)部合規(guī)體系的構(gòu)建與實施,又持續(xù)關注人工智能法律政策研究的前沿動態(tài),具備理論研究與實踐經(jīng)驗的雙重背景。我們期冀本書能夠為人工智能領域的理論研究者與法律實務工作者提供一個理解生成式人工智能產(chǎn)業(yè)發(fā)展與合規(guī)治理的系統(tǒng)性知識框架,為其把握技術演進趨勢與規(guī)范生態(tài)演化提供多維度的分析視角與合規(guī)指引。在此,謹向參與本書編寫的世輝律師事務所王新銳律師團隊的馮博林、李慧、梁釗、羅雨、臧翌晗、朱贊、劉洋、夏文燕、鄢布凡、余揚橫波、劉雨薇、陳思行、劉冉、楊葳葳、王靚迪、楊芷瑤、陳緣、張旖琳、江婷婷律師,金杜律師事務所吳涵律師團隊的張浣然、劉暢、羅嗣昊、高彤悅、陳琳珺、吳舸、吳仁浩、王儲、董方倩、劉陽律師以及某互聯(lián)網(wǎng)公司法律研究中心陳晨老師團隊的李軼夫、董昱誠表謝意。值得特別致謝的是,植德律師事務所合伙人時蕭楠律師基于其豐富的在日法律實務經(jīng)驗,為本書提供了關于日本人工智能規(guī)制體系的第一手資料與合規(guī)要點分析。上海君倫律師事務所高級合伙人、副主任金昌華律師就韓國人工智能立法的最新發(fā)展態(tài)勢提供了詳實的制度梳理,雖因篇幅所限未能全部收錄于本書定稿,但其學術貢獻仍值得特別感謝。與此同時,我們向中國法治出版社的程思老師、于昆老師致以誠摯謝意。本書的籌備、編輯與出版凝聚了他們的心血和智慧。他們的專業(yè)和嚴謹為本書的順利出版提供了堅實保障。 面對生成式人工智能合規(guī)這一嶄新課題,我們期望本書能提供一個可靠的思考支點,引發(fā)更多有價值的討論與實踐。對于科技企業(yè)而言,它可以作為構(gòu)建內(nèi)部合規(guī)體系、評估產(chǎn)品風險、制定發(fā)展戰(zhàn)略的一個基礎參考;對于法律專業(yè)人士而言,它可以提供理解新興技術法律問題的系統(tǒng)框架和實務工具;對于技術開發(fā)者而言,它可以幫助其在創(chuàng)新過程中更好地融入法律與倫理考量,實現(xiàn)負責任的創(chuàng)新;對于政策制定者和研究者而言,它可以為完善相關法律法規(guī)、推動人工智能治理提供一些有益的借鑒。 科技向善,法治護航。愿本書能襄助各位讀者朋友在這場顛覆性的技術變革中找到合規(guī)的航標,行穩(wěn)致遠。 張 欣 2025年8月于惠園 張欣,對外經(jīng)濟貿(mào)易大學法學院教授、博士生導師、黨委委員,對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任。國家萬人計劃青年拔尖人才、北京市社科基金青年學術帶頭人、首都巾幗科技領航導師。主要研究人工智能治理和平臺治理,兼任全國平臺經(jīng)濟治理標準化技術委員會副秘書長,世界互聯(lián)網(wǎng)大會特聘專家,中國法學會網(wǎng)絡與信息法學研究會理事、宣傳委員,中國法學會立法學研究會理事,中國法學會法理學研究會理事。 陳晨,知名互聯(lián)網(wǎng)公司法律研究中心主任,中國法學會網(wǎng)絡與信息法學研究會常務理事,中國廣告協(xié)會法律與道德委員會副主任,中國藥品監(jiān)督管理研究會藥品流通監(jiān)管研究專業(yè)委員會委員,對外經(jīng)濟貿(mào)易大學法學院、中國政法大學法律學院校外導師,致力于人工智能、互聯(lián)網(wǎng)醫(yī)藥平臺、互聯(lián)網(wǎng)廣告合規(guī)等相關產(chǎn)業(yè)的法律政策研究工作。 王新銳,畢業(yè)于清華大學法學院,北京世輝律師事務所管理合伙人、合規(guī)業(yè)務負責人,執(zhí)業(yè)領域主要為數(shù)據(jù)合規(guī)及人工智能,兼任B20、ICC等國際組織合規(guī)工作組中方專家及北京市律師協(xié)會數(shù)字經(jīng)濟與人工智能領域法律專業(yè)委員會副主任,持續(xù)獲得錢伯斯、《亞洲法律雜志》(ALB)、《法律500強》(The Legal 500)、《商法》等多個國內(nèi)外法律評級機構(gòu)推薦,專業(yè)觀點經(jīng)常被新華社、人民網(wǎng)等主流媒體及政府網(wǎng)站引用。 吳涵,畢業(yè)于武漢大學和北京大學,北京市金杜律師事務所合規(guī)業(yè)務部合伙人,執(zhí)業(yè)領域主要為網(wǎng)絡安全、數(shù)據(jù)合規(guī)及人工智能治理,兼任互聯(lián)網(wǎng)協(xié)會互聯(lián)網(wǎng)法治工作委員會副秘書長等,榮獲《亞洲法律雜志》(ALB)中國十五佳網(wǎng)絡安全和數(shù)據(jù)保護律師及十五佳TMT律師,以及錢伯斯《大中華區(qū)法律指南》、《法律500強》(The Legal 500)領先律師明日之星等稱號。 第一編 生成式人工智能的技術機理與產(chǎn)業(yè)發(fā)展 第一章生成式人工智能的前世今生 / 003 一、生成式人工智能與人工智能生成內(nèi)容的定義 / 003 二、生成式人工智能的發(fā)展歷程 / 005 (一)前深度學習時代(20世紀50年代20世紀80年代) / 006 (二)深度學習時代(20世紀80年代至今) / 006 三、生成式人工智能的技術原理 / 008 (一)芯片層 / 009 (二)深度學習框架層 / 010 (三)模型層 / 011 (四)應用層 / 012 四、生成式大模型的技術特點 / 014 (一)生成式大模型以海量數(shù)據(jù)為學習基礎 / 014 (二)生成式大模型以深度神經(jīng)網(wǎng)絡為學習架構(gòu) / 016 (三)人類可以對大模型進行一定程度的干預 / 017 (四)生成式大模型是基于概率預測生成內(nèi)容 / 018 五、生成式人工智能的應用 / 019 (一)從一個例子看人工智能在應用中發(fā)揮的重要作用 / 019 (二)從應用場景看人工智能原生應用 / 021 (三)從投融資角度看人工智能原生應用 / 023 六、AIGC產(chǎn)業(yè)發(fā)展情況和展望 / 024 (一)MaaS打造AIGC新業(yè)態(tài) / 026 (二)AIGC應用從to-B和to-C兩端構(gòu)建生態(tài) / 027 (三)聊天機器人應用場景多樣化 / 027 (四)多模態(tài)、跨模態(tài) / 028 (五)AI Agent(智能體)將獲得更廣闊的角色價值與發(fā)展空間 / 028 第二章生成式人工智能的風險 / 029 一、硬件層:人工智能芯片短缺風險 / 029 二、數(shù)據(jù)層 / 031 (一)數(shù)據(jù)質(zhì)量風險 / 032 (二)數(shù)據(jù)安全風險 / 035 (三)使用版權數(shù)據(jù)做預訓練的侵權風險 / 037 (四)數(shù)據(jù)爬取導致的不正當競爭風險 / 040 (五)數(shù)據(jù)孤島與數(shù)據(jù)交易不足風險 / 041 三、算法層 / 043 (一)算法安全風險 / 048 (二)算法公平風險 / 050 (三)算法透明度風險 / 052 (四)算法歸責風險 / 054 四、應用層 / 055 (一)內(nèi)容安全風險 / 055 (二)著作權法律風險 / 058 (三)新型不正當競爭和壟斷風險 / 061 (四)侵犯人格權、肖像權等風險 / 063 (五)倫理風險 / 065 第二編 生成式人工智能技術和產(chǎn)品合規(guī)要點 第三章生成式人工智能產(chǎn)品準備階段的合規(guī)要點 / 073 一、訓練數(shù)據(jù)集合規(guī)要點 / 073 (一)數(shù)據(jù)來源合規(guī) / 073 (二)數(shù)據(jù)集的預處理工作 / 091 (三)數(shù)據(jù)安全 / 099 二、算法/模型合規(guī)要點 / 104 (一)準入類資質(zhì) / 104 (二)算法備案 / 110 (三)算法機制機理審核研究 / 117 (四)安全評估 / 125 (五)科技倫理審查 / 131 第四章生成式人工智能模型訓練階段的合規(guī)要點 / 138 一、訓練階段 / 138 (一)預訓練 / 139 (二)優(yōu)化訓練 / 141 二、訓練階段的合規(guī)要點 / 146 (一)采取完善的數(shù)據(jù)治理措施 / 147 (二)編制技術文件 / 148 (三)日志記錄和保存義務 / 148 (四)解釋說明的義務 / 149 (五)管理優(yōu)化訓練中的標注人員 / 149 (六)模型的安全性測評 / 150 三、內(nèi)容輸出階段 / 151 (一)知識產(chǎn)權合規(guī)要點 / 151 (二)信息發(fā)布審核 / 153 (三)平臺內(nèi)容管理 / 154 (四)標識要求 / 156 (五)協(xié)助監(jiān)管 / 158 (六)生態(tài)治理 / 158 第五章生成式人工智能的基準和評估 / 161 一、安全性評估標準 / 161 (一)評估模型欺騙或模型出逃的風險 / 161 (二)評估被濫用的風險 / 164 (三)安全評估的方法及要求 / 165 二、合規(guī)評估標準 / 167 (一)算法備案的合規(guī)標準 / 167 (二)歐盟高風險人工智能系統(tǒng)的合規(guī)標準 / 171 第六章生成式人工智能部署環(huán)節(jié)的合規(guī) / 180 一、大模型垂直部署 / 180 (一)保證數(shù)據(jù)質(zhì)量的義務 / 180 (二)全周期的內(nèi)容評估義務 / 181 (三)大模型開發(fā)者的提示義務 / 181 二、基于API調(diào)用的部署 / 182 (一)開源合規(guī) / 184 (二)數(shù)據(jù)合規(guī) / 185 (三)安全評估和算法合規(guī) / 188 (四)內(nèi)容合規(guī) / 189 三、基于插件模式的部署 / 190 (一)插件模式下反饋信息的合規(guī)問題 / 190 (二)生成式人工智能基于插件模式調(diào)用第三方程序合規(guī)問題 / 193 四、一站式大模型集成平臺 / 195 (一)內(nèi)容管理 / 195 (二)用戶管理 / 196 (三)應急處理 / 199 第三編 生成式人工智能域外合規(guī)要覽 第七章歐盟生成式人工智能合規(guī)框架 / 206 一、歐盟生成式人工智能合規(guī)監(jiān)管體系概述 / 206 (一)歐盟生成式人工智能技術產(chǎn)業(yè)現(xiàn)狀 / 206 (二)歐盟生成式人工智能治理的基本原則 / 209 (三)主要監(jiān)管部門及職責 / 212 二、主要規(guī)定與歷史沿革 / 216 (一)監(jiān)管法律及其歷史沿革 / 216 (二)主要監(jiān)管及激勵措施 / 218 三、合規(guī)要點 / 221 (一)高風險人工智能系統(tǒng)的合規(guī)要求 / 221 (二)有限風險人工智能系統(tǒng)的合規(guī)要求 / 233 (三)通用人工智能模型提供者的合規(guī)要求 / 235 第八章美國生成式人工智能合規(guī)框架 / 237 一、美國生成式人工智能合規(guī)監(jiān)管體系概述 / 237 (一)美國生成式人工智能治理的基本原則 / 237 (二)主要治理主體及職責 / 241 二、主要規(guī)定與歷史沿革 / 251 (一)美國生成式人工智能聯(lián)邦監(jiān)管立法及政策概述 / 251 (二)《人工智能基礎模型透明法案》重點制度框架 / 254 三、合規(guī)要點 / 256 (一)生成式人工智能大模型訓練數(shù)據(jù)合規(guī) / 256 (二)知識產(chǎn)權保護合規(guī) / 259 (三)產(chǎn)品準入及前置程序合規(guī) / 263 (四)內(nèi)容安全及倫理安全 / 265 第九章英國生成式人工智能合規(guī)框架 / 267 一、英國生成式人工智能合規(guī)監(jiān)管體系概述 / 267 (一)英國生成式人工智能治理的基本原則 / 267 (二)主要監(jiān)管部門及職責 / 268 (三)監(jiān)管框架思路、依據(jù)、風險 / 269 二、主要規(guī)定與歷史沿革 / 271 (一)《國家人工智能戰(zhàn)略》提出的未來立法監(jiān)管規(guī)劃 / 271 (二)英國生成式人工智能監(jiān)管規(guī)則概覽 / 274 三、英國治理體系特征 / 276 (一)秉承去中心化監(jiān)管理念,以行業(yè)自主治理為主 / 276 (二)重點行業(yè)治理特點與制度 / 279 四、合規(guī)要點 / 283 (一)確定適用的人工智能監(jiān)管規(guī)范與范圍 / 283 (二)追蹤主管行業(yè)立法與監(jiān)管措施 / 285 (三)關注持續(xù)性合規(guī)義務與成本 / 285 (四)關注人工智能訓練數(shù)據(jù)的版權合規(guī) / 286 第十章日本生成式人工智能合規(guī)框架 / 288 一、日本生成式人工智能合規(guī)監(jiān)管體系概述 / 288 (一)日本生成式人工智能治理的基本原則 / 288 (二)主要治理主體以及職責 / 289 二、主要法律規(guī)定與監(jiān)管文件 / 290 (一)《日本AI法》 / 290 (二)日本生成式人工智能治理的現(xiàn)有法律適用 / 291 (三)日本生成式人工智能現(xiàn)有監(jiān)管體系 / 292
你還可能感興趣
我要評論
|







