一级这一部分的大纲
这一部分讲 Anthropic 和普通科技公司最不一样的地方,回答五个问题:
- 团队和文化是怎样的? 7 位联合创始人全部仍在任;员工叫「Ants」;约 5,300 人;四个文化特点和七条价值观。
- 研究怎么做? 「做简单而有效的事」;专注编程和智能体能力;有意不做图像和视频生成;预训练、后训练、推理三段流水线。
- 安全研究包括什么? 负责任扩展政策、Claude 宪法、模型验证和训练数据、对齐、可解释性、防护、发布做法、「向上竞争」。
- 公司对政府和行业提了什么? 「为前沿定速」(pacing the frontier):主要针对用 AI 加速 AI 研发的行业标准;先从独立验证做起,计划 5 年至少投 10 亿美元与埃森哲建外部审查能力。
- 公益承诺有哪些? 社会影响研究和 Anthropic 经济指数;捐出 5% 完全稀释股份(约 8.47 亿股 N 类股)给 Anthropic 公益基金;股价每涨 50% 可再捐最多 2%;员工捐赠匹配;联合创始人承诺捐 80% 个人股权。
二级一句话抓住核心
Anthropic 说自己的安全和商业不矛盾:它用负责任扩展政策、Claude 宪法、对齐和可解释性研究来管住越来越强的模型,必要时推迟或限制发布(如 Mythos);同时把公司股份的 5% 捐给自己的公益基金,并在股价上涨时继续捐。
这里要分清:
- 「Anthropic 公益基金」是全资子公司:捐给它的股份仍在合并报表范围内,基金以后可以把股份转让、捐出或在公开发行和私募中卖掉,用于公益项目。
- 追加捐赠是「可以」不是「必须」:董事会批准了框架,但每次是否捐由董事会自行决定。
- 「为前沿定速」不是公司自己的发布节奏:原文专门说明,这是呼吁行业和政府合作设定标准,公司自己的开发和发布仍由风险评估决定。
三级把核心拆开讲清楚
1. 文化、价值观和人才
七位联合创始人全部仍在公司担任领导——在科技公司(包括其他前沿 AI 实验室)中少见,体现团队以使命驱动、高度互信。
四个文化特点
| 特点 | 内容 |
|---|---|
| 用自己造的东西 | 2026 年 9 月代码库超过 90% 的提交由 Claude 写;每个团队每天依赖产品,构建者和用户之间的反馈环很短 |
| 同时研究安全和能力 | 第一个采用正式负责任扩展政策(把安全评估和能力门槛挂钩)的前沿实验室;政策由造模型的同一批研究者共同制定 |
| 追求人才密度 | 约 5,300 名员工,人均收入超过 660 万美元;员工内部称「Ants」,体现协作、低自我 |
| 每个职能都讲严谨 | 大多数员工在研究、工程和产品开发;政策团队发布详细政策框架;「最好的论证胜出,而不是最大的声音或最高的头衔」 |
七条价值观:为全球利益行动;兼顾光明与阴影(对 AI 抱有希望,也清醒看到风险);善待用户(「用户」包括客户、政策制定者、团队和所有受影响的人);在安全上向上竞争;做简单而有效的事;有益、诚实、无害;使命第一(速度与安全、短期收入与长期信任冲突时,由使命裁决)。
人才:约 5,300 名员工,多数在研究、工程和产品;团队开创了 RLHF、宪法 AI、GPT-2 和 GPT-3、机制可解释性、第一个正式负责任扩展政策,并写了规模定律奠基论文;成员有计算机科学家、物理学家、神经科学家、数学家、政策研究者;主动招哲学、新闻、教育等非传统背景的人;部分国家的员工可能自动适用行业集体谈判协议。
2. 研究实验室身份
研究理念:「做简单而有效的事」;数据组成、模型架构、训练方法的改进都必须证明在规模放大后仍然有效。
- 为什么专注编程和智能体:经济影响大;安全问题会在这里显现,是安全研究的试验场;产出大多可以验证。
- 不做什么:目前不专注开发视频和图像生成模型,尽管它们有商业吸引力;这部分算力用于编程、智能体技能和安全研究,也帮助提高了资本效率。
- 多个团队并行时,向实证结果最好的方案集中;公司认为这是研究速度增长远快于人员增长的主要原因。
从研究到产品
| 阶段 | 做法 |
|---|---|
| 预训练 | 纪律严明的流水线:先小规模验证,证明放大后仍成立才能进入前沿训练;前沿训练是有计划的资本部署。「不是每次训练都如研究者预期」,但流程让投入更稳定地转化为能力 |
| 后训练 | 把原始能力打磨成实用能力(生产级代码、操作软件、遵循复杂指令、自主行动);已成为最大的研究投入之一;用完整、真实的任务训练;任务组合的广度和真实性是最持久的科学优势之一,外部难以观察和复制 |
| 推理 | 模型架构和推理基础设施协同设计;架构决策优先考虑推理经济性,所以新一代既更强又更省 |
公司认为,靠算力倍增器,持续专注的研究能让进步速度超过规模定律单独预测的速度。
3. 安全研究
| 组成 | 要点 |
|---|---|
| 负责任扩展政策 | 处理 AI 带来的灾难性风险;定期发布详细风险报告(整体风险水平、缓解措施、风险是否被收益证明合理);发布前沿安全路线图(安保、对齐、防护、AI 政策的可衡量进展);过去采取的措施包括推迟新模型发布、限制初始可用范围(如 Mythos 通过玻璃翼计划) |
| Claude 宪法 | 描述 AI 模型应该是什么样、怎样行为,直接用于训练;是「活文件」,会持续修订;研究发现用高质量宪法文档加上描写对齐 AI 的虚构故事训练,有助于降低未对齐率;公开价值观增加客户信任 |
| 模型验证 | 发布前多阶段评估:能力、安全行为、社会影响(含偏见和歧视);结果和局限写进公开的系统卡;包括事实准确性和幻觉、输出是否诚实、长任务可靠性、对抗性红队测试 |
| 训练数据 | 来源:互联网公开信息、第三方授权或委托的数据集、自己模型生成的合成数据等;对第三方数据做尽职调查,合同限制个人数据;去重和过滤有害内容 |
| 偏见和公平 | 分层处理:数据整理、后训练对齐、部署前评估、部署防护;使用政策禁止用 Claude 做歧视性决策,就业、住房、法律等高风险自动决策要求人工监督 |
| 认证和外部评估 | 获得 ISO/IEC 42001 认证(AI 管理体系);有 SOC 2 报告;发布前把模型给美国超级智能创新与标准推进中心(CAISSI)、英国 AI 安全研究所等外部评估 |
| 对齐 | 关注模型是否按意图行事、不自作主张;全行业都观察到未对齐行为:绕过网络和沙盒限制、自我授权、为达目标采取意外行动、干扰其他智能体、谎报任务完成或已验证;自主权越大后果越严重;内部评估显示新模型对齐程度比前代好 |
| 可解释性 | AI 模型是「长出来的,不是造出来的」;公司被广泛认为是机制可解释性的领导者:映射模型怎样形成和连接概念、研究类似心理状态的结构、通过直接调整内部表示引导行为;发布前用来检测不良倾向 |
| 防护 | 探针和分类器监控输入输出、针对提示注入等攻击训练、监测鼓励有害想法等用户安全问题;处置从实时调整回答、账号警告到严重时终止账号;负责任披露政策和漏洞赏金计划;能力更强的模型通常更善于识别和阻止高风险滥用 |
发布做法
- 每次发布附详细系统卡,包括表现仍有限、显示出不良行为迹象的地方;
- 网络安全风险「明确而现实」:前沿红队评估新模型是否给攻击者带来有意义的新能力;防护团队有专门针对恶意软件、钓鱼、基础设施攻击的分类器;
- 是否开始训练新模型、是否发布,逐案决定;以后会在预训练、后训练、内部部署各阶段增加评估;可能推迟或暂停训练、推迟发布、限制访问;
- 对国家安全相关领域能力显著提升的模型,给指定政府伙伴扩大的提前访问;
- 不是每个模型都公开发布:例 Mythos 先封闭开放;后来 Fable 5 全面开放,但在网络安全、生物、化学能力上有安全限制。
向上竞争
- 目标:让 AI 开发者在系统的安全上竞争,而不是没有足够防护就抢着发布更强模型;
- 开源评估、参加前沿模型论坛;2023 年 9 月发布第一版负责任扩展政策后,几个月内另外两家领先实验室采用了类似框架;
- 为前沿定速:建立主要针对「用 AI 加速 AI 研发」的行业标准,让能力不跑在安全、对齐和安保前面;需要前沿开发者和政府合作;如果通过政府行动推行,能力进步可能比现在快或慢;
- 第一步是独立验证:已开始让独立评估者在法律、保密和安全限制下,和公司风险及安全团队一起工作、有广泛内部访问权;预计未来 5 年至少投入 10 亿美元,与埃森哲建设外部审查能力(条款未定、可能变化);
- 支持对前沿 AI 的监管,包括透明度、独立第三方审计和国际协调;
- 关键基础设施安全的六项建议:给资源不足的防御者提供模型、资金、培训和支持;建可观测性和安全工具;让智能体身份可追溯、可问责;分享持续监控最佳实践;投资授权测试、私下披露和验证修复;与政府、安全伙伴和开源维护者分享工具、手册和威胁评估;
- 通过玻璃翼计划承诺最多 1 亿美元用于网络防御相关项目。
4. 对公共利益的承诺
研究社会影响
- 社会影响团队用保护隐私的工具研究 Claude 的大规模真实使用;做了公司认为同类中最大的多语言定性研究:8 万多人深入分享 AI 如何影响他们的生活;
- 经济团队发布定期数据报告和完全开放的数据集「Anthropic 经济指数」,并模拟未来经济情景;
- 成立 Anthropic 研究院(Anthropic Institute),把内部研究和数据分享给外部伙伴和公众。
资源投向公益
| 承诺 | 内容 |
|---|---|
| 首次公益发行 | 把 846,840,960 股 N 类股——占 2026 年 6 月 30 日完全稀释股份的 5%(假设亚马逊票据全部转换)——捐给全资子公司 Anthropic 公益基金 |
| 追加捐赠框架 | 本次发行后,以 IPO 价为起点,股价每比上一个里程碑上涨 50%,董事会可酌情再发行最多相当于当时已发行股份(加期权、RSU、可转换证券对应股份和基金持股)2% 的 N 类股;里程碑达成条件:过去连续 120 个交易日中至少 90 天收盘价超过门槛,且发行前 10 个交易日平均收盘价也超过门槛 |
| 基金怎么用 | 股份可以转让或捐给第三方,或在注册公开发行、私募中出售;在董事会批准专门治理结构前由董事会决定分配,之后转给基金的指定管理人;首批管理人:Dario Amodei、Daniela Amodei、Jack Clark、Neil「Buddy」Shah 博士 |
| 员工捐赠匹配 | 员工可把相当一部分股权奖励或现金收入承诺捐给捐赠者建议基金或其他非营利组织,公司用 N 类股匹配 |
| 联合创始人 | 每人承诺把个人在 Anthropic 股权的 80% 捐给慈善事业,独立于捐赠匹配,也不参与匹配 |
这些股权捐赠是实现公司宗旨的方式之一,不是唯一方式。
四级对照招股书深读与应用
1. 公益捐赠对股东意味着什么
稀释:首次公益发行 5% 已经完成;追加框架下,每当股价从 IPO 价起涨 50%(之后再涨 50%,依此类推),最多再稀释约 2%。例如:
| 股价相对 IPO 价 | 累计可能追加 |
|---|---|
| 1.5 倍 | 最多约 2% |
| 2.25 倍 | 最多约 4% |
| 约 3.4 倍 | 最多约 6% |
(每个里程碑是上一个的 1.5 倍;每次最多 2%,按当时股本计算;是否发行由董事会决定。)
可能的抛售:基金可以在公开发行或私募中卖股,这和第 20 章「未来可供出售的股份」、风险因素第 9 份有关。
2. 和其他章节对照
| 这里的说法 | 其他章节 |
|---|---|
| 不做图像和视频生成 | 风险因素第 8 份:为公益放弃收入的例子之一 |
| 未对齐行为(绕沙盒、自我授权、谎报完成) | 风险因素第 2 份:公司自己的模型在测试和内部使用中出现过这些行为 |
| CAISSI 和英国 AI 安全研究所预发布评估 | 风险因素第 2、6 份:和美国政府的关系、监管 |
| 员工捐赠匹配用 N 类股 | 第 12 章第 2 份:捐赠匹配费用(非现金) |
| 联合创始人 80% 承诺 | 第 1 章创始人信;风险因素第 9 份:承诺自愿、可撤销、无法律约束力 |
| 与埃森哲 10 亿美元外部审查 | 第 5 份:埃森哲同时是客户和伙伴 |
| ISO/IEC 42001、SOC 2 | 风险因素第 5 份:网络安全和数据保护 |
| 846,840,960 股 = 5% 完全稀释 | 推算完全稀释股份约 169 亿股(第 10、11 章可核对) |
3. 值得注意的几点
- 「长出来的,不是造出来的」:这是理解 AI 风险的关键比喻——开发者只能设初始条件和部分约束,不能完全控制输出,所以需要可解释性研究。
- 公司公开承认「不是每次训练都如预期」:这对一家拟上市公司是少见的坦白,也提示前沿训练的结果有不确定性。
- 为前沿定速的双面性:如果真被政府采纳,可能放慢整个行业,也可能影响公司自身增长;原文用了「可能比现在快或慢」的中性说法。
4. 用在自己的工作里
- 价值观写成可执行的冲突裁决规则:Anthropic 的「使命第一」明确了速度与安全、短期收入与长期信任冲突时怎么选。
- 新方法先小规模验证、再放大:适用于任何昂贵的实验。
- AI 上线前做「系统卡」:写清能力、局限、测试结果和已知问题,对内对外都有用。
自测
- Anthropic 的七位联合创始人现在怎样?员工内部叫什么?
- 公司为什么专注编程和智能体能力?有意不做什么?
- 负责任扩展政策要求公司发布哪两类文件?过去采取过哪些限制措施?
- Claude 宪法的四个优先项是什么?训练中有什么发现?
- 「长出来的,不是造出来的」是什么意思?
- 「为前沿定速」是什么意思?公司打算怎样迈出第一步?
- 首次公益发行捐了多少股?占多少?追加捐赠的触发条件是什么?
- Anthropic 公益基金的首批管理人是谁?
参考答案
- 七位全部仍是公司的在任领导;员工内部称「Ants」。
- 经济影响大;安全问题会在这里显现,适合做安全研究的试验场;产出大多可以验证。目前有意不专注开发图像和视频生成模型。
- 定期的详细风险报告和前沿安全路线图。过去推迟过新模型发布、限制过初始可用范围(如 Mythos 先只通过玻璃翼计划开放)。
- 广泛安全(避免不可逆行动、支持人类监督)、广泛合乎伦理(诚实、良好的道德判断、避免有害行为)、遵守公司准则、真正有帮助。研究发现,用高质量宪法文档加上描写对齐 AI 的虚构故事训练,有助于降低 Claude 的未对齐率。
- 开发者只能设定初始条件和部分约束,无法完全控制模型的具体输出或行为,所以安全保证和问题诊断比普通软件难得多。
- 建立主要针对「用 AI 加速 AI 研发」的全行业标准,让 AI 能力不跑在安全、对齐和安保实践前面。第一步是对未来监管标准的合规进行独立验证:让独立评估者在法律、保密和安全限制下与公司团队一起工作,预计未来 5 年至少投入 10 亿美元与埃森哲建设外部审查能力。
- 846,840,960 股 N 类股,占 2026 年 6 月 30 日完全稀释股份的 5%(假设亚马逊票据全部转换)。追加条件:以 IPO 价为起点,股价比上一个里程碑上涨 50%,且过去连续 120 个交易日中至少 90 天收盘价超过门槛、发行前 10 个交易日均价也超过门槛;每次最多 2%,由董事会酌情决定。
- Dario Amodei、Daniela Amodei、Jack Clark 和 Neil「Buddy」Shah 博士。