一级这一部分的大纲
这 12 条风险回答四个问题:
- 拿别人的作品训练模型合法吗?(第 47、51、52 条)公司认为属于「合理使用」,但法院还没有定论;美国以外很多地方没有合理使用制度;抓取网页、扫描图书的数据来源可能被告,Reddit 已经起诉。
- 个人数据和隐私怎么管?(第 48、49 条)欧盟《通用数据保护条例》等法律越来越多、互相不一致;公司为了 AI 安全还要处理个人和敏感数据。
- 会不会被黑、被偷?(第 50 条)模型权重是国家级黑客的头号目标,公司说防线曾有已知缺口;有人用假身份应聘;某些国家可以依法强迫员工或供应商配合情报机构,还不许通知公司;智能体带来新的攻击面。
- 知识产权官司有多少?(第 53–58 条)Bartz 案以 15 亿美元和解(2026 年 7 月获法院批准);多家音乐出版商告公司侵犯歌词版权;对部分客户的知识产权赔偿没有上限;Claude Code 写的代码可能不知不觉带上开源「传染性」许可证。
二级一句话抓住核心
Anthropic 的模型建立在大量别人的数据之上,又是各国情报机构眼里的高价值目标:前者带来一连串版权和数据官司(已经付出 15 亿美元和解金),后者要求它防住国家级黑客和内鬼,而它承认防线曾有缺口。
这里要分清三件事:
- 训练数据的版权和输出内容的版权是两类官司:前者问「拿来训练合不合法」,后者问「模型生成的东西有没有侵权」。两类公司都在被告。
- Bartz 和解不等于法律有了结论:和解只了结了这一案;公司仍坚持训练属于合理使用,其他案子和别家公司的判决都可能形成不利先例。
- 网络安全事件和模型被滥用不同:前者是有人攻进公司系统(比如偷权重),后者是有人用公司的模型去攻击别人(风险二讲过)。
三级把核心拆开讲清楚
1. 第 47 条:拿别人的作品训练模型合法吗?
- 美国和其他国家的法院,还没有权威地回答「用受版权保护的作品训练 AI 是否合法」「开源许可证如何适用于 AI 训练」。
- 公司善意地相信自己对训练数据拥有足够的权利或抗辩理由,部分依据是:训练属于版权法上的**「合理使用」**。
- 但很多美国以外的地方一般不承认合理使用,只有类似的例外,而且解释不确定。
- 如果法院不同意(比如采纳 Bartz 案中的推理),后果可能是:要付大笔许可费;禁令限制使用或分发用这些数据训练出来的模型;甚至从头重训受影响的模型。
- 即使公司自己的做法不同,别家 AI 公司的败诉也可能形成全行业适用的先例。
要掌握的点:版权是悬在所有大模型公司头上的一把剑。最坏情况不是赔钱,而是「模型不能用了,要重训」。
2. 第 48、49 条:个人数据和隐私怎么管?
- 公司受欧盟《通用数据保护条例》(GDPR)、美国各州和各行业的隐私法约束,这些法律不统一、互相重叠甚至冲突,而且在被套用到 AI 上时解释不清。
- 原告律师、州总检察长正在就数据处理、隐私、网络安全起诉 AI 公司。
- 公司在训练、改进和推理中曾经遇到操作失误,或被主张其对个人、敏感、机密数据的使用和其义务不一致。
- 为了 AI 安全要处理敏感数据(第 49 条):安全工作有时要求访问、收集、处理个人和敏感数据,这本身又带来合规和泄露风险。这和风险(二)里的「零数据留存」两难是同一个问题的两面。
3. 第 50 条:会不会被黑、被偷?
这一条很长,可以拆成六块:
(一)已经发生过的:安全措施被突破、未经授权访问网站、网络、系统和账号,个人、机密或专有信息被访问和盗用等,已经发生过。
(二)国家级黑客
- 公司曾经面对钓鱼攻击和其他网络攻击,包括国家和国家支持的行为者。
- 模型权重、公司和财务数据、核心知识产权,是国家支持的间谍活动和窃取的高价值目标;安全研究人员已把前沿 AI 公司列为外国情报机构的优先目标。
- 尚未公开发布的模型尤其可能成为目标。例如,Mythos 因为发现网络漏洞的能力很强,可能被国家支持的黑客专门针对。
- 公司承认,安全项目的某些方面可能不足以应对最老练的对手,而且过去曾在一段时间里带着已知的防御局限或缺口运行,将来也可能如此。
- 权重一旦被偷:对手可以跳过大量研发投入、抹掉公司的竞争优势、引发国家安全担忧,还能在没有任何安全机制和监控的情况下部署模型。
(三)内鬼
- 公司曾经并将继续被一些人盯上:他们用假身份求职,或带着别有用心、恶意的动机来应聘公司和其供应商。
- 已经入职的员工也可能被国家支持的行为者、竞争对手收买、胁迫,或者凭证、设备被攻破。
- 远程和分布式办公、依赖第三方供应商,都限制了公司的可见性。
- **在某些司法管辖区,员工、供应商或设施运营商可能被依法强制配合当地政府(包括情报和安全机构),向其提供公司系统、数据或模型权重的访问;当地法律可能禁止他们通知公司,公司也几乎无法挑战。**由于这种配合在当地合法、又是在授权范围内操作,公司的安全控制可能发现不了。
(四)AI 特有的攻击
- 软件供应链攻击已经在行业里出现。
- 提示词注入;通过大量 API 查询复制或逆向公司的模型;对抗性输入;投毒训练数据;在持续集成和部署流水线里注入恶意代码,再经由 AI 辅助开发流程被传播放大。
- 智能体的新攻击面:对手可以篡改智能体读取的外部数据、接口返回、文档或网页,让它做出有害动作;也可以劫持正在运行的智能体会话,用客户已经登录的凭证和权限去做坏事。后果可能同时波及多个客户部署。防火墙、输入校验、访问控制等传统手段可能不完全有效。
- 防范措施也可能误伤,错误地封禁正常用户。
(五)其他已发生的问题
- 公司曾经在部署之后才发现模型、平台和应用里的错误、漏洞或缺陷(如幻觉),曾经导致服务中断、有害输出,或个人、专有信息被未经授权披露,包括影响客户网络和数据的安全事件。
- 针对公司、客户和合作方网络的攻击,已经被 AI 放大,包括公司自己的模型:用来自动化、规模化攻击,冒充员工或高管。
- 办公室和数据中心还面临物理入侵,可能绕过网络防御直接接触模型权重。
- 单个事件看起来不大,合在一起可能就很重大。
(六)事件报告要求
| 地区 | 法律 | 要求 |
|---|---|---|
| 欧盟 | GDPR | 涉及个人数据、可能危及个人权利的事件要通知监管 |
| 欧盟 | 网络与信息安全指令(NIS2) | 重大网络安全事件分阶段通知 |
| 欧盟 | AI 法案 | 有系统性风险的通用 AI 模型提供者,要及时跟踪、记录、报告严重事件 |
| 美国纽约州 | SHIELD 法案(数据泄露通知) | 数据泄露通知 |
| 美国纽约州 | 《负责任 AI 安全与教育法》(RAISE 法案) | 前沿模型提供者专门的事件报告要求 |
| 美国加州 | 《前沿 AI 透明度法》 | 同上 |
保险可能不够,也可能买不到。
要掌握的点:这一条最需要记住的是三个「已发生」:曾有已知的防线缺口;曾被假身份求职者盯上;曾在部署后才发现缺陷并导致信息泄露。再加上一个结构性风险:在某些国家,员工和供应商可以被依法要求偷偷配合情报机构。
4. 第 51、52 条:数据从哪里来?会不会被告?
训练数据来源:互联网上的公开信息、从第三方许可或委托制作的数据集、自己模型生成的合成数据,用于预训练和后训练。
收集方法:网页抓取或爬取、扫描图书等。公司会尽量遵守法律、robots.txt 声明以及付费墙、登录等技术措施,但不一定总能做到;也不一定能判断抓到的内容是否受隐私或版权保护。
数据来源记录:如果训练数据的来源、出处、流转记录不完整,会在监管问询、诉讼取证、投资尽调时带来麻烦。
Reddit 案:Reddit 起诉公司,称公司不当访问其平台上的帖子,侵犯其权利。
| 时间 | 进展 |
|---|---|
| 2025 年 7 月 3 日 | 公司申请把案件移送联邦法院 |
| 2026 年 3 月 30 日 | 案件被发回州法院 |
| 现在 | 仍在审理,公司继续抗辩 |
客户和第三方提供的数据(第 52 条):如果公司或数据来源方对数据没有足够权利(包括用于训练),可能要限制功能、隔离数据,甚至重训模型。
5. 第 53 条:知识产权官司有多少?
| 案件 | 指控 | 状态 |
|---|---|---|
| Bartz 等诉 Anthropic(作家集体诉讼) | 构建和运行模型时非法复制享有版权的图书 | 2025 年 9 月以 15 亿美元达成和解,2026 年 7 月获地区法院批准 |
| Concord Music Group 等诉 Anthropic(两宗)、BMG、Round Hill Music、Sony Music Publishing 等 | 多家音乐出版商指控侵犯歌词版权,以及非法删除版权管理信息 | 审理中 |
| Reddit 诉 Anthropic | 访问并复制其平台上的帖子 | 审理中 |
- 部分知识产权法有法定赔偿,风险更大。
- 公司还面临专利侵权索赔;一些对手的专利组合比公司大得多。
- 对客户的赔偿义务:公司为合同方承担某些第三方侵权索赔的赔偿,这些赔偿可能不受责任上限条款约束。部分协议要求公司对「模型或模型输出侵犯第三方知识产权」的索赔进行抗辩和赔偿,没有责任上限;对外部评估方也有类似的无上限赔偿(风险二提过)。
要掌握的点:Bartz 案的 15 亿美元,就是摘要利润表里 2025 年那一行「Bartz 和解」。还有一批音乐出版商的案子没结,而公司对部分客户的知识产权赔偿是无上限的。
6. 第 54–58 条:保护自己的知识产权和其他知识产权问题
- 第 54 条 保护自己:现任或前任员工等内部人员可能盗用模型权重、训练数据、算法、研究成果;第三方过去曾经侵犯或规避公司的知识产权;维权诉讼曾经代价高昂;专利可能拿不到或被宣告无效;商业秘密靠保密协议;第三方曾经注册相同或相似的商标并试图维权,曾经对公司的商标申请提出异议,商标若被成功挑战,可能被迫换品牌。
- 第 55 条 开源软件:部分开源许可证要求公开或按同样条款授权包含开源代码的软件(俗称「传染性」或 copyleft 许可)。公司在开发中使用 Claude Code,AI 生成的代码可能在不知情的情况下纳入或复现了开源代码,从而让这些许可义务适用于公司,甚至要求公开部分专有源代码。企业客户也可能因此限制使用公司的产品。
- 第 56 条 第三方授权技术:授权方可能终止授权,或其技术本身侵权。
- 第 57 条 替换供应商:公司自研或和伙伴合作的方案,替换了以前的软件、服务、基础设施供应商,这些供应商可能以违约、侵权、不正当竞争等理由起诉。
- 第 58 条 从对手挖人:公司曾经并将继续从其他 AI 和科技公司招人,也有员工离职去对手公司;可能被指控盗用前雇主的商业秘密。
四级对照招股书深读与应用
1. 这部分披露的已发生事件
| 时间 | 事件 |
|---|---|
| 2024 年 8 月 | 作家提起 Bartz 集体诉讼(业务章披露) |
| 2025 年 7 月 3 日 | Reddit 案申请移送联邦法院 |
| 2025 年 9 月 | Bartz 案以 15 亿美元达成和解 |
| 2026 年 3 月 30 日 | Reddit 案发回州法院 |
| 2026 年 7 月 | 地区法院批准 Bartz 和解 |
| 未注明时间 | 安全措施被突破、未经授权访问;钓鱼攻击;带着已知防御缺口运行;假身份求职者;部署后发现缺陷并导致信息泄露;攻击被 AI(包括自家模型)放大;数据使用被主张不合规;第三方侵犯公司知识产权;第三方注册相似商标、对公司商标申请提出异议 |
2. 和前面几章对照
| 前面的说法 | 这里的对应 | 怎么看 |
|---|---|---|
| 摘要:2025 年 Bartz 和解 15 亿美元 | 2025 年 9 月和解,2026 年 7 月获批;案由是作家指控非法复制图书 | 这是一次性费用,所以调整后指标把它剔除了 |
| 风险(二):零数据留存让公司难以发现滥用 | 第 49 条:为了安全又必须处理敏感数据 | 隐私和安全互相拉扯 |
| 风险(二):对外部评估方无上限赔偿 | 第 53 条:对部分客户的模型和输出侵权索赔也无上限赔偿 | 或有负债的范围比想象的大 |
| 风险(二):推迟预训练一个多月,以加强防止权重外泄 | 第 50 条:权重是国家级黑客头号目标,Mythos 可能被专门针对 | 两处说的是同一件事的原因和措施 |
| 风险(一):越来越依赖 Claude 写代码 | 第 55 条:AI 写的代码可能带进「传染性」开源许可 | 闭环的又一个副作用 |
3. 用在自己的工作里
- 训练数据要留档:每一批数据记录来源、授权方式、获取时间和方法。出了问题能证明来源,尽调时也能拿得出来。
- 智能体安全要单独设计:智能体读到的网页、文档、接口返回都可能是攻击载体。高风险动作(付款、发消息、删数据)不能只凭外部输入就执行;会话凭证要限时、限范围。
- AI 生成代码要做许可证扫描:用 AI 写的代码,上线前跑一遍开源许可证和代码相似度检查。
- 赔偿条款要设上限:给客户的知识产权赔偿承诺,尽量设上限;确实不能设上限的,要单独登记为或有负债。
- 防内鬼从招聘开始:远程招聘要核实身份;接触核心资产(模型、密钥、客户数据)的权限要最小化,并有审计记录。
自测
- 公司认为用版权作品训练模型合法的主要依据是什么?为什么在美国以外不一定适用?
- 如果法院判训练不属于合理使用,最坏的后果是什么?
- Bartz 案和解了多少钱?什么时候获批?
- 除了 Bartz 案,原文列出了哪些正在进行的知识产权诉讼?
- 公司承认在网络安全方面有过哪些「已发生」的情况?
- 为什么说某些司法管辖区的法律会带来公司发现不了的内部威胁?
- 智能体带来了哪些新的攻击方式?
- Claude Code 写代码为什么可能带来开源许可风险?
参考答案
- 版权法上的「合理使用」原则。很多美国以外的司法管辖区一般不承认合理使用,只有类似例外,而且解释不确定。
- 除了支付高额许可费,还可能被禁止使用或分发用这些数据训练的模型,甚至要从头重新训练受影响的模型。
- 15 亿美元,2025 年 9 月达成和解,2026 年 7 月获地区法院批准。
- 多家音乐出版商(Concord Music Group 等两宗、BMG、Round Hill Music、Sony Music Publishing 等)指控侵犯歌词版权和删除版权管理信息;Reddit 诉 Anthropic。
- 安全措施曾被突破、发生过未经授权访问;面对过包括国家级行为者在内的钓鱼和网络攻击;曾带着已知的防御局限或缺口运行;曾被假身份求职者盯上;曾在部署后才发现缺陷并导致信息泄露;攻击曾被 AI(包括自家模型)放大。
- 在某些地方,员工、供应商或设施运营商可能被依法强制向当地情报和安全机构提供系统、数据或模型权重的访问,而且法律可能禁止他们通知公司;这种配合在当地合法、又在授权范围内进行,公司的安全控制可能发现不了。
- 篡改智能体读取的外部数据、接口返回、文档或网页,诱导它做有害动作;劫持正在运行的会话,用客户已登录的凭证和权限去做坏事;后果可能同时波及多个客户。
- AI 生成的代码可能在不知情的情况下纳入或复现开源代码,如果是「传染性」许可证,可能要求公司公开或按同样条款授权自己的专有源代码。