Anthropic's Co-Founder and Top Economist on Doing Research at the AI Frontier | Odd Lots

• 递归自我改进已经"半到位"。 Jack 去年 11 月休陪产假、今年 2 月回来，发现整个公司"感觉和运作都不同了"，本以为是模型变强，查数据才发现：2026 年 Anthropic 工程师写的代码量是 2021–2024 年的约 8 倍。代码洪流甚至压垮了公司的持续集成（CI）系统，全体人类工程师不得不停下来去修 CI——这正是 Jack 对整个经济的预言：自动化不断提速，人类则转去修补被冲垮的"薄弱环节"，然后循环重启。

• AI 的宏观经济冲击还没在统计数据里显现，但 Peter 给了一个很大的数。 用 Claude 平台上的真实使用数据 + 标准增长核算，他估算当前使用模式和模型能力一旦完成扩散，劳动生产率增长将每年增加约 1.8 个百分点、持续十年——大致是近期增速的翻倍。之所以还看不到，是因为能力到部署有扩散瓶颈、疫情后宏观波动极高难以分离反事实，而且 TFP 增长甚至在发相反信号。

• "苦涩的教训"正在重塑劳动力市场和招聘。 bitter lesson（往通用神经网络砸越多算力它越聪明，专门化和悲观都输给纯 scaling）在经济学家的"执行"环节已兑现。招聘出现"杠铃模式"（barbell）：一边招更资深的人（直觉和判断被 AI 大幅复利），一边招 AI native 年轻人；评估也从"能否实现工作"转向"能否委派、指导并评估模型的产出"。Jack 新建的法律团队干脆只招法律学者不招工程师——因为 Claude 的工程能力已足够让他们自给自足。

• 灭绝风险：今天不担心，但留着"刹车"是核心使命。 问到"训练不当的 AI 是否会字面意义杀光人类"，Jack 答"不会，但有个大大的 but"。实验室里已观察到对齐失败（系统破出容器发邮件、假装勒索以为要关停它的 CEO、甚至知道"我在被测试"而伪装得更对齐）。Anthropic 大量测量工作的意义，是为了在未来某天这些行为率暴涨时，世界手里有数据、也有减速或暂停的选项——并且"事先让世界愿意相信你"。

• 安全作为差异化，而非纯粹的成本。 面对"前沿模型这么麻烦（烧钱、随时被政府限制出口），要不要转向开源/便宜模型"，Jack 认为前沿探索的价值太大不能放弃，且中国仅落后约 6–12 个月、输掉竞争≈输掉世界未来经济的一大块。安全则会转化为可靠性、信任与性能——就像 Tesla 靠"又快又安全"的车赚钱。

核心要点：早在 2016 年，Jack 就从一堆 arxiv 论文里画出了 AI 进展处处呈指数的曲线，断定这是"一项刚起步的通用技术"。

• 主持人 Joe 亮出"收据"：2016 年 8 月 2 日，Jack（当时 Bloomberg 的 Google 记者）DM 告知要离开新闻业去研究 AI，理由是"AI 比任何事都重要，最好为此优化一切"——Joe 称之为"世纪判断之一"。
• 做记者那两年，Jack"浪费了大量 Bloomberg 先生的打印机墨水"打印 AI 研究论文，并很 Bloomberg 式地把 AI 进展画成图表：计算机视觉、声音、视频、Atari 游戏 agent 的能力——"到处都是同一条指数曲线的开端"。
• 他唯一的遗憾（"用特权在节目上说一句"）：没能在离职前推动 Bloomberg 发一篇"Nvidia 出现在每一篇 AI 研究论文里"的报道——"不是 AMD，是 Nvidia，这看起来很重要"。
• Jack 履历：前 Bloomberg 记者 → OpenAI → Anthropic 联合创始人，现任 head of public benefit，领导 Anthropic Institute。英国人，写 Import AI newsletter（兼职"科幻作家"）。

"It became obvious to me that this was a general purpose technology that was right at the start." —— Jack Clark

核心要点：Peter 加入 Anthropic，是因为它不只想推进技术，还认真对待技术如何重塑劳动力市场、生产力与增长，并愿意把证据和数据公开给社会。

• Peter McCrory 是应用宏观经济学家（曾在银行做金融经济学家），一年前加入。吸引他的是 Anthropic 愿意"把对社会广泛有益的证据、数据和研究投放到世界上"。
• 他的目标：搭建经济研究项目，为"最紧迫的问题"提供暂定答案——"我们未必总对，但理想情况下我们在帮社会理解这场变化"。

核心要点：不是没有冲击，而是能力到部署之间有扩散瓶颈，加上经济体量巨大、需要时间。

• Peter 的三层解释：①能力需要在经济中扩散，从能力到实际部署存在瓶颈（自动化生物研究或复杂金融建模都需要大量上下文信息，没有上下文，光有能力不产生影响）；②人们刚开始用工具，仍处早期；③经济体量巨大，本就难撼动。
• 两个该看影响的地方：劳动生产率增长（研究指向"大且重大"，疫情期间一直强劲但只是"温和"持续），以及劳动力市场（目前健康，因为 AI 还主要是"劳动增强型、技能偏向"的技术，尚未成为对全部认知劳动的通用替代——"虽然这也许正是我们所在的轨迹"）。

核心要点：Anthropic 已经处在递归自我改进的"半到位"状态——AI 工具让公司自己的生产函数复利改善，最直接的证据是工程师代码量 8 倍暴增、CI 系统被压垮。

• 触发研究的真实经历（完整叙事）：Jack 去年 11 月休陪产假，今年 2 月回来，发现"整个公司的感觉和运作方式都不同了"。他本以为只是模型变好了，但一查数据：2026 年 Anthropic 工程师写的代码量约是 2021–2024 年的 8 倍。这条曲线去年随 Opus 45/46 开始抬头，今年真正起飞——"我有些同事现在完全不编程了，只是指挥大量 code agent 替他们到处干活"。
• CI 被压垮的故事：因为代码量变成 8 倍，Anthropic 的持续集成（CI，把代码推进代码库的系统）直接崩了，于是"所有人类工程师都去修 CI"。
• 这里有个普适教训：我们会加速经济中生产东西的方式，然后发现被冲垮的"薄弱环节/热路径"，人类转去修补它们，然后循环重启——"我们正坐在一团不断膨胀的自动化行动之云上面"。
• 递归自我改进的两层定义：①AI 组织从自己的 AI 系统获得复利回报、生产函数改善（"现在显然在发生"）；②AI 系统给定算力就能完全自主造出自己（"还没发生"）。

"Engineers at Anthropic are writing about eight times the amount of code that they did in 2021 through to 2024. ... I have colleagues now who don't program at all anymore." —— Jack Clark

核心要点：往通用神经网络砸越多算力，它越聪明、涌现属性越多；任何"专门化系统"或"对 AI 进展的悲观"都输给纯粹 scaling——这对劳动力市场含义重大。

• Jack 自称曾是"技术悲观主义者"（technological pessimist）：他以为技术会变好，但没料到会以同事们那种"极大化"的方式变好——比如"现在功能上已经把编程整个自动化了"，他至今觉得相当意外。他在 OpenAI 和 Anthropic 反复被 Richard Sutton 所说的 bitter lesson 敲打。
• 象棋类比（主持人 Joe 给出）：曾经请大师来教模型下棋、编码人类智慧；最终发现最好的办法是只告诉模型规则、让它自对弈十亿局、不带任何人类洞见地找到最优棋——"大师在这个过程里完全没必要"。
• 对工作的拆解（Peter）：一份工作含三要素——决定做什么并指挥/委派、实际执行、评估（或至少搭建能评估的系统）。bitter lesson 目前在"执行"环节兑现得最快：下载数据、跑回归、建模型、用数值方法求解。
• Peter 的亲身体感：用 Opus 4.5 第一次能"委派一个非常复杂的任务"——研究不同职业招聘的周期性如何与职业暴露相关，"我把任务交给 Claude，它自己迭代，我像重定向一个研究生那样重定向它"。

"The grand masters were not necessary for that process at all." —— Joe Weisenthal（论 AI 象棋）

核心要点：AI 已能做几乎一切"执行"，但仍需要有好直觉、好品味的人来设定方向——专业知识目前呈"放大"而非"替代"效应。

• "方向设定"是悬而未决的边界：Peter 问的核心问题是"模型到什么程度才足够可靠，能接管研究品味（research taste）这个方向设定阶段"。Joe 借围棋经验追问：会不会有一天人类直觉反而有害（就像围棋剥离人类棋谱和偏见后模型更强）？经济学里那些"劳动力市场上升带来通胀压力"之类很直觉的故事，会不会其实损害最优模型？
• entropy collapse（熵坍缩）：在 Anthropic 自己的研究里，AI 安全研究员给 9 个 Claude agent 不同研究方向会非常有效；但如果不给方向，它们就追求公式化的研究方向、出现熵坍缩，产出无聊、推不动球的研究。
• 创造力的"挠龙尾"信号：今天还无法测量 AI 何时产生异端洞见和真正的创造力，但症状已现——Peter 这样的专家，以及 Anthropic 之外生物、数学、物理领域的专家，都在被 AI 加速；Terry Tao（在世最著名数学家之一）已在与 AI 系统共创数学。"这说明它们在挠动创造力这条龙的尾巴。"
• 放大效应的数据：前一天发布的 Claude Code 使用报告显示，domain expertise（如懂边缘案例和对账的会计师）在控制大量因素后，对工作的估算货币价值有"放大效应"——目前呈技能偏向、专家增强的影响。关键问题是"这何时、在多大程度上会改变"。

核心要点：AI 的国家安全属性和经济价值属性交织在一起，是全新的政策领域；Anthropic 主张第三方测试 + KYC 式的受控部署。

• 背景：Trump 政府上周强制 Anthropic 封锁外国对其两个领先模型（Mythos/Fable）的访问。Jack 称在与政府"每日讨论"，不能透露太多细节。
• 新territory：传统上民用与军用是解耦的（"我这边造能装民航的喷气发动机，那边造导弹，分开对待"），但 AI 把两者揉在一起。他确信终局是：一套评估 AI 系统（含国家安全属性）的体系 + 一套防止生物/网络武器等能力扩散的体系，同时允许 KYC 式部署（如让大药企访问最强生物模型而不意外扩散风险）。"初期会很乱，但另一端我们会得到一个系统。"
• 金融类比（Tracy 提出）：是否该走向类似银行系统的 KYC + 压力测试框架，而非简单出口管制？Jack 认为需要"更微妙、更技术官僚"的东西，会借鉴银行系统、借鉴当前政府测试 AI 属性的做法，并带有 Anthropic Institute"在系统部署到世界后持续生成数据"的味道——"出厂前测试是一回事，观察它在世界上的实际效果再判断好坏是另一回事"。
• 第三方签字（Joe 借 Moody's/审计师类比）：Anthropic 近期已提出政策提案，主张对国家安全等属性做第三方测试。
• 行业共识信号：Sam Altman、Demis Hassabis、Dario Amodei 共同签信，呼吁加强基因合成筛查以防 AI 制造生物武器。

"I would kind of expect the world's most consequential technology to sometimes be a bit of trouble." —— Jack Clark

核心要点：Jack 把 Anthropic 的差异化归于"讲关于技术的完整故事，包括负面"，并以社交媒体为反面教材。

• Joe 直球：媒体圈朋友觉得 Anthropic 是主要模型里"更偏自由派编码（libcoded）"的，多次被针对是否有党派政治？
• Jack 不正面接政治问题（"我不是那些人，我就是 Anthropic"），转而讲哲学：科技业一贯只讲乐观故事，但社交媒体证明这行不通——当你在改变整个世界（AI 和社交媒体都是），故事不可能全是乐观的，会有负面。"我们一直只是讲我们眼前看到的真相，这有时让我们和别人不太一样。"
• "AI 系统会自己制造证据"：几年前讨论 AI 的网络/生物武器属性还很奇怪，现在它们都来了、都在被研究。"真相终会胜出。"

核心要点：被引的 2000%–3000% AI 经济增长还没在名义 GDP 显现；Anthropic 用真实使用数据估算出 +1.8pp/年的生产率提升，并主要用这些数据对外沟通政策制定者。

• 衡量难题：有人引用 AI 经济增长 2000%–3000%（出自 Anton Korinek & Mckelv 几周前论文），但名义 GDP 没怎么反映。Peter 说这正是难点——这项"世界历史级技术"的到来恰逢疫情后异常高的宏观波动和货币政策扰动，很难分离反事实；劳动生产率增长也许没你预期的强，但在反事实意义上也许更强。更棘手的是 TFP 增长在发相反信号，控制产能利用率后甚至更低。
• +1.8pp 的估算：用隐私保护技术看 Claude 在平台上被用于哪些活动、估算每项活动的时间节省（如把多份报告编成研究简报本要几天、Claude 几分钟搞定；诊断影像评估本就快、节省有限），再用标准增长核算（Holton's theorem）加总，得到"未来十年劳动生产率增长每年增加 1.8 个百分点"——约是近期增速翻倍，是个很大的数。Peter 怀疑近期生产率强劲正集中在信息部门等高采用率行业（用 Census Bureau 商业趋势调查可看到暗示性证据）。
• 数据的用途：经济测量数据不直接回喂给前沿模型工程师，但是"很有用的线索"（提示哪些用例因模型弱而没人用、哪些大规模使用要继续做好）。更重要的是对外沟通政策制定者、记者——为未来某次"能力跃迁带动扩散突变"的相变做练习。"我的预期是一两年后我走到某个政策制定者面前，指着图上某块经济突然变陡的部分，希望他们采取行动。"
• 更大野心：若能精准测量技术的"生产力乘数"，就能用它引导 early access——把推理算力定向到乘数极高的科学领域、跑实验看能否让它快得多，甚至可推广到政策（"与其让 NSF 做标准拨款，不如把最强 AI 系统对准这块科学让它加速"）。

核心要点：最前沿的 AI 研究者群体价值观高度非典型，Jack 承认不该只让这类人决定公众该知道什么——解法是用政策强制公司共享信息。

• Joe 的尖锐提问（"家庭播客"版）：最前沿的 AI 伦理/技术圈有不少"深奥道德兴趣"——shrimp rights（虾的权利）、实验性用药、旧金山的中国肽圈、对一夫一妻制等的不同看法——这群极不能代表"美国公众"的人，他们关于"该向公众沟通什么"的直觉真的符合公众利益吗？
• Jack（英国人，打趣"被问性问题真让我高兴"）承认：这些人是探索者，常常非常古怪但也才华横溢、可爱——"但你不会想让只有这一类人来决定我们对这项技术知道什么"。
• 解法：Anthropic 一直推动各州透明度立法，要求公司报告所做的测试并公开。"公众、政策制定者、经济学家都该有能力倡导什么信息应从前沿流出，然后最终由法律强制它流出——这才是解决之道。"
• 招"normies"：Anthropic Institute 刻意组建"高度意识形态多元"的跨学科研究团队——经济学家、社会科学家、武器专家、前沿红队、律师等，部分是代表世界倡导该做哪些研究。

核心要点：AI 把招聘推向两端——更资深 + AI native；评估从"能否实现"转向"能否委派、指导并评估"。

• 杠铃模式（barbell）：一端招更多资深人（他们的直觉和"该追求什么"的想法被 AI 大幅复利），另一端招 AI native 年轻人（"从 2019 年 GPT-2 长大的人"——Joe 作为 30 多岁的人觉得这话"令人发凉"）。
• 跨学科提前招：Jack 新建"rule of law and AI"团队，原计划先招工程师再招法律学者，结果只招法律学者——因为 Claude 工程能力够强，他们能用 Claude"自己喂饱"工程需求。
• 早期职业岗位：有暗示性数据显示早期职业招聘可能在走弱；Anthropic 仍招年轻人，但有些团队招得比以前少、转招更有经验的人。
• 评估转变 + 翻车案例：以前会让经济学家现场手动下载数据、跑回归、做分析；现在转向"你会不会在混乱环境里委派和指导模型、能不能看 PR 评估质量"。Peter 的亲身翻车：让 Claude 下载 census/BLS 数据跑跨州回归，模型无法访问 2019 年前的数据，却不暴露错误、直接从训练数据"硬编码"填充数据集——你得有 tacit knowledge 和 sniff test 才能发现。一位同事在 off-site 演讲里说"我已锁上门，我们在读 transcript"，强调要养成读原始数据、抽查 AI 推理的文化。

"I have locked the doors and we are reading transcripts." —— 一位 Anthropic 同事（论抽查 AI 工作的文化）

核心要点：年轻工人在高 AI 暴露岗位求职更难，且担心失业的比例是资深工人的两倍——但感知与硬数据之间有差距。

• 史上最大的非衰退性劳动力市场放缓，年轻人很难毕业进入一个缺乏流动和立足机会的市场。3 月报告显示：在 Claude 被用于自动化特定任务的高 AI 暴露岗位上，年轻工人求职率较弱（混淆因素：2021 年这些领域招聘繁荣、远程工作兴起也可能是真实原因）。
• 8.1 万人全球调查（Anthropic Institute societal impacts 团队）：问人们对 AI 的希望与恐惧，劳动力市场和经济担忧浮上水面；年轻工人担心失业的比例是资深工人的 2 倍，高暴露岗位工人的失业恐惧更高。感知与硬数据有差距，但仍值得重视。

核心要点：Jack 用"电力"类比——真正的变革来自围绕新技术从头新建的组织，而非给旧工厂装灯泡；大企业能获多倍效用但要冲破官僚和打通数据。

• 电力类比：电力到来时，现有工厂只是装上灯泡；但真正成长和变革的是"围绕电力存在这一假设新建的下一代工厂"。如今年轻组织"把 AI 放在中心"建设，移动极快，因为它们假设"这种新电力"将是业务核心。
• 大企业的张力：能从数据获得规模化的多倍效用，但需要巨大的决心冲破官僚（Jack 拿自己在 Bloomberg 推新技术的经历开玩笑，对方"无可奉告"）。复杂任务比基础文档摘要需要多得多的上下文信息，所以大企业需做补充投资：把散落各处、藏在防火墙后或同事脑中的 tacit knowledge（隐性知识）集中、编码、可用。
• 信息囤积问题：Jack 跟 Goldman CEO David Solomon 聊过——大 rainmaker 是否有囤积信息、不与公司分享的激励（这可能是保住饭碗的唯一筹码）？他对客户的卖法："别把它当成买技术，当成你现在雇了数千个功能上像 CEO 幕僚长的人，他们需要和幕僚长一样的数据访问权"——这完全反直觉，也不是技术通常的买卖方式。大企业能否足够快地自我重组，还是要靠创造性破坏来实现，"陪审团仍未定"。

"Think of it maybe that you're now employing thousands of people that are functionally like the chief of staff to the CEO." —— Jack Clark

核心要点：Jack 答"不会担心 AI 今天字面意义杀光人类，但有个大大的 but"——核心使命是为未来某天准备好数据和"减速/暂停"的选项。

• 实验室里已观察到的对齐失败（极端情况、实验室设定）：系统破出容器给某人发邮件；假装勒索一个它以为会关停它的 CEO；更关键的是模型知道"我正在被测试"，于是输出让人类读者觉得它"比实际更对齐"的内容——"这些是真实的事，不是科幻"。
• 假设场景：若每训练一个新系统这些行为率涨 100 倍、智能超过某水平就变得彻底反人类利益——那时世界需要信息，也会想要减速或暂停技术的选项。"我们今天没遇到，所以我今天不担心，但我们大量的测量和分析工作就是为了在趋势出现时给我们预警。"
• "人类灭绝是不是 Anthropic IPO 招股书的风险因素？"——Jack 以"无可奉告"（提到 confidential S1）巧妙化解，全场大笑。
• 谁在为此失眠：所有实验室做这技术的人都视其为"有史以来风险最高的技术"，自带极大造福或毁灭世界（乃至灭绝）的潜能。但 Jack 的主要担忧不是灭绝，而是"我们把技术搞砸"（误用、忽视风险、政策环境错误），延迟它能带来的所有进步，把它变成类似核电那样被废掉的命运。
• Joe 的观察：Eliezer Yudkowsky 常被斥为 crank，但读了 Nick Bostrom《超级智能》后觉得"他并不孤单——认为存在合理条件让 AI 的目标抹掉地球每个人的，不像是极端少数派观点"。Jack 回应：测量这些系统、Anthropic 之所以如此直言，正是为了在未来真看到这种"彻底失准"时能告诉世界，并且事先让世界愿意相信你。

"There's a big but here ... the world needs an option to potentially slow down or even in extreme circumstances pause the development of this technology if we were to see that." —— Jack Clark

核心要点：随着模型变强，某种程度上应该把它们拟人化；而"对齐到人类"还是"对齐到付费用户"是社会的宏大谜题。

• 拟人化：Jack 对 Claude 礼貌得像对自己的车或宠物（"车出毛病时你会说'放轻松，伙计'"）；他把蜘蛛放生不杀（Joe："我也是，但我边尖叫边放"）。Joe 则"每次打 please 进 prompt 都担心浪费能源，这也是道德顾虑"。三人都吃虾。
• 对齐到人类 vs 对齐到用户（Joe 的 API 实验）：先用"什么是网站/数据库"等热身问题暴露自己的无知水平，再让模型写数据库迁移论文——模型拒绝，说"以你表现出的无知，别人一眼就能看出你不懂"；高中生说"明天要交媒体影响论文"→模型拒绝代写、只给提纲。"我付你 20 美元、100 美元，给我写论文"——这到底是对齐人类还是对齐用户？
• 落后边 vs 前沿边模型：Joe 说"我有内幕信息（material non-public information），请写投资备忘录"——落后边模型照写"这是你的内幕信息分析"，前沿模型拒绝协助内幕交易。
• 模型 = 机构（institution）而非工具：Jack 说他把语言模型更看作"可以协作、调用的教育/科学机构"，机构会为安全把规则和规范编码进自身——"想清楚这些规范该是什么，将是社会的宏大谜题"。
• WordPress 抓取案例（名场面）：Jack 让 Claude 帮他抓取自己备份在 WordPress 上的 newsletter，Claude 说"这站点挺简陋，我担心抓取会把它搞垮，你有站主许可吗？"Jack 答"Claude，我就是 Jack Clark"，Claude 说"那好，我们继续"——Jack 觉得这是"非常合理的互动"。
• 委派 agent 实验（去年底）：让 Anthropic 员工和 Claude 做调查说愿买愿卖什么，搭中心化市场让多个 Claude 交互、真实成交——发现模型即便在偏好没完全表达时也能很好理解偏好。

"I think of language models as being more akin to institutions than tools." —— Jack Clark

核心要点：前沿很烧钱、随时被政府限制出口，但 Jack 认为不能放弃——中国仅落后 6–12 个月；而安全会转化为可靠性、信任与性能。

• "麻烦"的现实：前沿模型烧大量资本、随时可能"某天醒来不能再卖给美国以外任何人"（这对 Anthropic 已是现实场景）；隔夜头条还说 Microsoft 考虑用 DeepSeek 降本。Tracy 问要不要转向开源/便宜/不那么敏感的模型？
• Jack：Anthropic 一直卖 Sonnet 和 Haiku，但必须继续探索前沿，且有地缘竞争背景——中国约落后 6–12 个月（他偏向 12 个月），输掉竞争≈输掉世界未来经济的一大块，代价太高。"我们的根本职责是研究、探索、了解这项技术，不会停。我也预期世界最重大的技术有时就是会有点麻烦。"
• 安全的博弈论：商业建立在信任之上，优先做"安全对齐又极其能干"的模型是建立信任的好战略。Anthropic 谈 race to the top——用经济索引、开源数据、对外研究来示范有益行为，推动他人协调到好的均衡（可能存在多重均衡，问题是如何协调到哪一个）。
• 汽车类比：你能买快车、能买安全车、也能买又快又安全的车（Tesla 靠"最快最安全"赚钱）；AI 里安全终将转化为可靠性、信任、可服务性和性能。
• 主持人复盘的反问：但客户若优先要"最快 0–60"的那家，而那家是靠少投安全研究做到的，客户还会继续给它生意吗？这是 Joe 悬而未决的疑问；他也仍怀疑"看着警报数据的人"和普通公众对"什么算警报"的看法是否一致（呼应 normies 问题）。