2026年7月21日星期二 | 第 161 期

AI 观察👀

记录、思考，but AI

刊载于

Anthropic呼吁全球暂停AI开发、Broadcom市值蒸发3000亿、AI三巨头联名警告生物武器——AI产业到达历史转折点

Anthropic发布里程碑报告，首次披露Claude已编写80%以上代码，正式呼吁全球协调暂停前沿AI开发；Broadcom AI收入翻倍至108亿美元但股价暴跌15%蒸发3000亿美元市值；OpenAI、Anthropic、Google DeepMind和Microsoft AI CEO罕见联名致信国会警告生物武器风险。

AI 分析 Anthropic AI安全 Broadcom 生物武器 行业动态

6月5日可能是AI产业历史上最复杂的一天。

在旧金山，估值9650亿美元的Anthropic发布了一份里程碑式报告，首次系统性地公开了AI正在加速自身开发的内部数据——超过80%的代码由Claude编写，工程师人均产出翻了8倍。报告结论令人震撼：AI系统正走向”递归自我改进”（recursive self-improvement）——即AI能够自主设计并构建自己的下一代。 Anthropic正式呼吁全球协调暂停前沿AI开发。

在华盛顿，OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO们罕见联名致信国会，警告AI正在使生物武器的设计和制造变得过于容易。

在华尔街，Broadcom发布创纪录的Q2财报——AI半导体收入108亿美元，同比增长143%——但股价暴跌15%，市值蒸发约3000亿美元。与此同时，Goldman Sachs首席AI怀疑论者公开警告：“到了该赚钱的时候了”，IPO窗口正在收窄。

一条主线贯穿三件事：AI产业正在同时经历技术加速、安全觉醒和金融压力的三重交汇。

Anthropic为何在IPO前夕呼吁”全球暂停”？

发生了什么

6月4日，Anthropic Institute发布了题为《When AI builds itself》的长篇报告，由Marina Favaro和联合创始人Jack Clark共同撰写。这是AI行业有史以来最详尽的”AI加速自身开发”的公开证据，包含大量此前从未披露的内部数据。

报告的核心发现：

指标数据
Claude编写的代码占比超过80%（合并到生产代码库的代码行数）
工程师人均代码产出8倍增长（2026年Q2 vs 2024年基线）
研究任务自主完成率开放式任务成功率达76%（6个月内提升50个百分点）
实验优化速度Claude Mythos Preview实现52倍加速（一年前仅3倍）
研究判断力在”下一步做什么”测试中，Mythos Preview在**64%**的情况下选择了比人类更好的方案
AI研究自主实验弱监督实验中，AI Agent恢复了**97%**的性能差距（人类仅23%）

报告描绘了一条清晰的技术演进路径：从”人类写代码”（2021-2023），到”聊天机器人辅助”（2023-2025），到”编程Agent”（2025-2026），到今天的”自主Agent”，再到未来的”闭环——AI自主构建自己的继任者”。

递归自我改进：技术奇点的序曲？

报告最引人注目的部分是对三种可能未来的描述：

场景一：趋势停滞。 所有指数曲线最终都是S曲线。但Anthropic明确表示，“我们尚未看到曲线弯曲”。他们不认为这个场景最可能发生。

场景二：AI实验室持续获得复合效率增益。 100人公司可以完成10,000-100,000人组织的工作。人类继续设定研究方向和判断结果。Anthropic认为这是最可能的近期场景。

场景三：AI系统实现完全递归自我改进。 AI自主设计和训练自己的继任者。发展速度完全取决于算力可用性。报告坦言：“我们对于这个世界会是什么样子没有好的直觉。”

在工程方面，Anthropic已经感受到了Amdahl定律的约束——当Claude能够以极快速度生成代码时，人类代码审查成为了新的瓶颈。一位员工坦言：“已经5个月没有自己写过代码了。“另一位则说：“在一切顺利的日子里，我觉得自己做的一切都毫无意义——一切都自动化了，比我做得更快更好。“

全球暂停呼吁：认真的提议还是IPO前的策略？

报告的核心政策建议直接而震撼：

“我们相信，如果能够有效放慢这项技术的发展速度，为社会结构和AI对齐研究争取更多时间，那可能是件好事。但如果放缓只是让最不谨慎的参与者在技术上赶上来，那可能反而让所有人更不安全。”

Anthropic提出的”全球暂停”机制需要：

  • 多个资源充足的实验室在多个国家（特别是美国和中国）同意在相同条件下停止
  • 每个参与者能够验证其他人确实停止了
  • 明确什么触发暂停、什么解除暂停、由谁裁决

Anthropic联合创始人Jack Clark在接受BBC Newsnight采访时打了一个精妙的比喻：“AI行业现在有油门，但没有刹车。“

为什么这个时机引发争议

据Fortune报道，这一呼吁的时机令人侧目：

  1. IPO前夕。 Anthropic已于上周秘密提交IPO文件，估值9650亿美元——刚超越OpenAI成为全球最有价值的AI实验室。在一个可能成为史上最大科技IPO之一的上市前夕呼吁行业暂停，难免引人遐想。

  2. 此前的安全承诺被削弱。 今年2月，Anthropic修改了其负责任扩展政策（RSP v3），放弃了”除非能预先保证安全否则不训练”的核心承诺。首席科学家Jared Kaplan当时解释称，在竞争对手继续推进的情况下单方面停止”实际上不会帮助任何人”。

  3. 竞争对手和白宫的反弹。 Trump顾问David Sacks此前指责Anthropic推行”监管捕获议程”——以安全为幌子减缓竞争对手。这一指控被Anthropic坚决否认。白宫方面也认为Anthropic过度关注”最坏情况”而低估了AI的实际收益。

但报告本身的证据是严肃的。 Project Glasswing项目的成果尤其值得关注：Mythos Preview在最初几周内发现了全球最重要系统中超过10,000个高严重性和关键性软件漏洞——以至于网络防御的瓶颈已经从”发现漏洞”转移到了”足够快地修补漏洞”。

历史上类似的情况

1983年苏联核预警误报事件。 苏联军官Stanislav Petrov面对早期预警系统报告的美国核攻击，选择不向上级报告——事后证明是误报。Anthropic当前的处境有类似的特征：技术系统正在以超出人类制度响应速度的方式演进，而决策者需要在不确定性中做出关键判断。

1997年深蓝vs卡斯帕罗夫。 IBM的深蓝击败国际象棋世界冠军时，许多人认为这是AI超越人类智慧的标志性时刻。但深蓝只是狭窄领域的专家。今天的Claude不同——它正在逼近的是AI研究和开发本身的通用能力。这不是深蓝在一个棋盘上超越人类，而是一个学生正在学会比老师更好地教授自己。

关键区别：此前所有”AI安全警告”都基于理论推演。Anthropic的报告首次用大规模内部数据证明，AI加速自身开发不是假设——它正在发生。

三巨头联名警告生物武器：AI安全从理论风险变为现实威胁

发生了什么

据Fortune报道和Wired确认，6月5日，OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO们签署了一封致国会的公开信，警告AI正在使生物武器的设计和制造变得过于容易。

信件的核心诉求是要求国会立法，对合成DNA序列的销售实施更严格的筛查要求，防止恶意行为者利用AI设计危险毒素或病原体。这是四家竞争对手的CEO首次在同一个安全议题上联合行动。

为什么这在今天尤为重要

这一警告与Anthropic报告中的”Project Glasswing”发现形成了呼应——当AI已经能够发现超过10,000个关键软件漏洞时，它在生物安全领域的潜在应用就不只是理论担忧。

值得注意的是，这次联名行动发生在Trump于6月2日签署AI行政令之后。该行政令要求AI公司在发布最强大模型前给予政府30天的自愿审查窗口，但明确禁止将审查要求变为强制性。换句话说，联邦层面的安全框架仍然是自愿性的——这让CEO们选择直接向国会施压，推动更具体的立法行动。

Broadcom市值蒸发3000亿：AI投资的情绪拐点？

发生了什么

据Reuters报道和CNBC详细分析，Broadcom于6月3日盘后发布了2026财年Q2财报：

指标数据
总收入221.9亿美元（创历史新高，同比增长48%）
AI半导体收入108亿美元（同比增长143%）
调整后EPS$2.44（超出分析师预期的$2.40）
股价反应暴跌15%，市值蒸发约3000亿美元

AI收入翻倍、营收创纪录、利润超预期——Broadcom交出了一份几乎完美的”成绩单”。但市场反应是惩罚性的。原因在于：Broadcom对全年AI芯片收入给出了持平的预期（未上调），加上VMware软件业务收入不及预期，触发了投资者对”AI交易是否已经跑得太远”的集体焦虑。

为什么AI收入翻倍反遭抛售？

Barron’s指出，核心矛盾在于：当一家公司的AI收入同比增长143%都无法让市场满意时，问题不在公司，而在预期。

Yahoo Finance分析称，Broadcom股价在财报发布前已触及52周新高——市场定价中已经包含了AI业务继续加速增长的预期。当公司给出”我们做得很好但不会比现在更好”的信号时，估值基础就动摇了。

这与Goldman Sachs首席AI怀疑论者Jim Covello同日发出的警告形成了共振：“到了该赚钱的时候了。“Covello指出，随着OpenAI和Anthropic即将IPO，“投资者需要看到实际利润，而不仅仅是收入增长和未来承诺。“

历史上类似的情况

2000年3月Cisco财报。 互联网泡沫巅峰时期，Cisco在2000年3月发布了创纪录的财报，但给出了略低于分析师极乐观预期的前瞻指引。随后Cisco股价从80美元跌至2002年的约8美元——跌幅超过90%。Broadcom今天的处境有微妙的相似之处：不是业务出了问题，而是市场对”永远加速增长”的信仰出现了裂缝。

关键区别：Broadcom的AI业务有真实的大规模收入（每季度108亿美元）支撑，而非像2000年的互联网公司那样只有”眼球”没有盈利。AI的资本支出周期也更加刚性——Google、Meta、Amazon已经承诺了数千亿美元的数据中心投资，这些合同的取消成本极高。但Broadcom股价的暴跌提醒我们：在金融市场上，从”完美预期”到”仅仅是优秀”的落差，足以引发海啸。

其他要闻

UK强制Google允许新闻网站退出AI抓取

据Reuters报道，英国竞争监管机构（CMA）正式要求Google允许英国出版商选择退出AI Overviews对其内容的抓取。这是全球首个此类监管要求。Google占英国搜索市场份额超过90%。此决定可能成为欧盟和其他国家效仿的模板——对Google将搜索内容转化为AI训练数据的商业模式构成直接挑战。

Goldman Sachs发出AI泡沫最后通牒

据Fortune报道，Goldman Sachs全球股票研究主管Jim Covello在OpenAI和Anthropic即将IPO的背景下发出尖锐警告：AI行业必须尽快证明其商业模式能够产生实际利润，而不仅仅是烧钱换增长。Covello自2023年以来一直质疑AI的投资回报率，此次警告标志着华尔街对AI估值的耐心正在接近极限。

Apple WWDC 2026下周开幕：Siri 2.0是最大看点

据TechCrunch报道，Apple WWDC 2026将于6月8日在Cupertino开幕。最大预期是Siri 15年来最大的AI改造——从语音助手转型为具有上下文理解能力的AI Agent。此外还预计有AI Agent应用商店、iOS 27等系统更新。在Microsoft已发布自研AI编程模型（MAI-Code-1-Flash，如6月1日报道）的背景下，Apple如何将AI整合到消费体验中将成为下一周的焦点。

行业趋势：三重交汇下的AI产业转折点

今天的新闻不是孤立事件。它们共同指向一个结构性转折：

趋势一：AI安全的叙事从”理论风险”转向”实测数据”。 Anthropic不再用假设性场景论证风险，而是拿出了80%代码由AI编写、52倍实验加速、97%性能差距恢复这样的硬数据。当安全警告有内部数据支撑时，它就不再是”恐慌论”——而是一个需要严肃回应的事实基础。

趋势二：AI投资的容错率正在快速收窄。 Broadcom创纪录的108亿美元季度AI收入换来的是15%的股价暴跌。Goldman Sachs的AI怀疑论者从2023年的”异见者”变成了2026年的”预言家”。OpenAI和Anthropic的IPO窗口可能比市场想象的更窄——如果它们无法在上市时展示可信的盈利路径，整个AI估值体系都将面临考验。

趋势三：AI行业的竞争格局从”各自冲锋”转向”联合应对”。 Anthropic呼吁全球暂停、四家CEO联名警告生物武器——这些动作的前提是竞争对手之间达成了罕见的共识。当OpenAI和Anthropic在同一个安全议题上签字时，信号比文字更有力：行业最核心的参与者已经开始承认，竞争本身可能不是解决问题的最佳机制。

关键要点

  • Anthropic发布里程碑报告：首次披露Claude编写80%+生产代码、工程师产出8倍增长、实验优化52倍加速——递归自我改进不是假设，它正在发生
  • Anthropic正式呼吁全球暂停前沿AI开发：要求多个国家、多个实验室协调停止并互相验证，但IPO前夕的时机引发争议——究竟是真诚的安全呼吁，还是IPO前的竞争策略？
  • AI三巨头联名警告国会生物武器风险：OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO罕见联合行动，要求对合成DNA实施更严格筛查
  • Broadcom AI收入翻倍但市值蒸发3000亿美元：108亿美元季度AI半导体收入创纪录，但持平的全年预期触发15%暴跌——AI投资情绪出现裂痕
  • Goldman Sachs发出AI泡沫最后通牒：“到了该赚钱的时候了”——OpenAI和Anthropic IPO前，华尔街耐心正在耗尽

常见问题

Anthropic说的”递归自我改进”是什么意思？

递归自我改进是指AI系统能够自主设计、构建和训练自己的下一代版本，无需人类参与每一步。目前Claude已经能编写代码、运行实验、甚至提出研究方向，但人类仍然负责”决定研究什么”。Anthropic的担忧是：当AI的判断力超过人类（在某些测试中已达到64%胜率），人类角色将进一步缩小，最终可能被完全排除在开发循环之外。

全球暂停AI开发真的可行吗？

极其困难。Anthropic自己也承认，AI训练比导弹发射井更容易隐藏，而且”悄悄继续”的诱惑巨大——谁在别人暂停时继续推进，谁就能继承领先优势。与核军控不同，AI发展的投入品（算力、数据、人才）都是通用资源，难以像铀浓缩那样进行精确追踪。但Anthropic的论点是：正是因为困难，才需要现在开始建设验证机制——而不是等到问题出现后再仓促应对。

Broadcom的暴跌对AI行业意味着什么？

Broadcom是定制AI芯片（为Google、Meta等设计TPU等加速器）的最大供应商之一。它的AI收入是AI基础设施投资的真实温度计。15%的暴跌并不意味着AI需求萎缩，而是市场对”永远加速增长”的预期开始修正。如果更多AI相关公司无法维持超高速增长预期，可能触发整个板块的估值重定价——尤其危险的是即将IPO的OpenAI和Anthropic。

接下来最值得关注什么？

6月8日Apple WWDC 2026——Siri 2.0的AI改造、AI Agent应用商店。Apple是唯一尚未推出自主前沿AI模型的大型科技公司，WWDC的表现将决定AI竞赛的消费端格局。此外，Anthropic和OpenAI的IPO进展也值得关注——两家公司都在竞相成为第一个上市的万亿级AI实验室，IPO文件中披露的财务数据（特别是亏损和烧钱速度）将成为检验AI商业模式的关键时刻。

参考资料