Anthropic呼吁全球暂停AI开发、Broadcom市值蒸发3000亿、AI三巨头联名警告生物武器——AI产业到达历史转折点

--- title: 'Anthropic呼吁全球暂停AI开发、Broadcom市值蒸发3000亿、AI三巨头联名警告生物武器——AI产业到达历史转折点' description: 'Anthropic发布里程碑报告，首次披露Claude已编写80%以上代码，正式呼吁全球协调暂停前沿AI开发；Broadcom AI收入翻倍至108亿美元但股价暴跌15%蒸发3000亿美元市值；OpenAI、Anthropic、Google DeepMind和Microsoft AI CEO罕见联名致信国会警告生物武器风险。' pubDate: 2026-06-06 tags: ['AI', '分析', 'Anthropic', 'AI安全', 'Broadcom', '生物武器', '行业动态'] --- 6月5日可能是AI产业历史上最复杂的一天。在旧金山，估值9650亿美元的Anthropic发布了一份[里程碑式报告](https://www.anthropic.com/institute/recursive-self-improvement)，首次系统性地公开了AI正在加速自身开发的内部数据——超过80%的代码由Claude编写，工程师人均产出翻了8倍。报告结论令人震撼：**AI系统正走向"递归自我改进"（recursive self-improvement）——即AI能够自主设计并构建自己的下一代。** Anthropic正式呼吁全球协调暂停前沿AI开发。在华盛顿，[OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO们罕见联名致信国会](https://fortune.com/2026/06/05/openai-anthropic-microsoft-ceos-congress-bioweapon-safeguards/)，警告AI正在使生物武器的设计和制造变得过于容易。在华尔街，[Broadcom发布创纪录的Q2财报](https://investors.broadcom.com/news-releases/news-release-details/broadcom-inc-announces-second-quarter-fiscal-year-2026-financial)——AI半导体收入108亿美元，同比增长143%——但股价暴跌15%，[市值蒸发约3000亿美元](https://www.reuters.com/business/broadcom-tumbles-revenue-miss-clouds-ai-boom-bets-2026-06-04/)。与此同时，[Goldman Sachs首席AI怀疑论者公开警告](https://fortune.com/2026/06/05/is-ai-a-bubble-worth-it-short-term-early-goldman-skeptic-covello-profits/)："到了该赚钱的时候了"，IPO窗口正在收窄。 **一条主线贯穿三件事：AI产业正在同时经历技术加速、安全觉醒和金融压力的三重交汇。** --- ## Anthropic为何在IPO前夕呼吁"全球暂停"？ ### 发生了什么 6月4日，Anthropic Institute发布了题为[《When AI builds itself》](https://www.anthropic.com/institute/recursive-self-improvement)的长篇报告，由Marina Favaro和联合创始人Jack Clark共同撰写。这是AI行业有史以来最详尽的"AI加速自身开发"的公开证据，包含大量此前从未披露的内部数据。报告的核心发现： | 指标 | 数据 | |------|------| | Claude编写的代码占比 | **超过80%**（合并到生产代码库的代码行数） | | 工程师人均代码产出 | **8倍增长**（2026年Q2 vs 2024年基线） | | 研究任务自主完成率 | 开放式任务成功率达**76%**（6个月内提升50个百分点） | | 实验优化速度 | Claude Mythos Preview实现**52倍**加速（一年前仅3倍） | | 研究判断力 | 在"下一步做什么"测试中，Mythos Preview在**64%**的情况下选择了比人类更好的方案 | | AI研究自主实验 | 弱监督实验中，AI Agent恢复了**97%**的性能差距（人类仅23%） | 报告描绘了一条清晰的技术演进路径：从"人类写代码"（2021-2023），到"聊天机器人辅助"（2023-2025），到"编程Agent"（2025-2026），到今天的"自主Agent"，再到未来的"闭环——AI自主构建自己的继任者"。 ### 递归自我改进：技术奇点的序曲？报告最引人注目的部分是对三种可能未来的描述： **场景一：趋势停滞。** 所有指数曲线最终都是S曲线。但Anthropic明确表示，"我们尚未看到曲线弯曲"。他们不认为这个场景最可能发生。 **场景二：AI实验室持续获得复合效率增益。** 100人公司可以完成10,000-100,000人组织的工作。人类继续设定研究方向和判断结果。**Anthropic认为这是最可能的近期场景。** **场景三：AI系统实现完全递归自我改进。** AI自主设计和训练自己的继任者。发展速度完全取决于算力可用性。报告坦言："我们对于这个世界会是什么样子没有好的直觉。" 在工程方面，Anthropic已经感受到了Amdahl定律的约束——当Claude能够以极快速度生成代码时，**人类代码审查成为了新的瓶颈**。一位员工坦言："已经5个月没有自己写过代码了。"另一位则说："在一切顺利的日子里，我觉得自己做的一切都毫无意义——一切都自动化了，比我做得更快更好。" ### 全球暂停呼吁：认真的提议还是IPO前的策略？报告的核心政策建议直接而震撼： > "我们相信，如果能够有效放慢这项技术的发展速度，为社会结构和AI对齐研究争取更多时间，那可能是件好事。但如果放缓只是让最不谨慎的参与者在技术上赶上来，那可能反而让所有人更不安全。" Anthropic提出的"全球暂停"机制需要： - **多个资源充足的实验室**在**多个国家**（特别是美国和中国）同意在相同条件下停止 - 每个参与者能够**验证**其他人确实停止了 - 明确什么触发暂停、什么解除暂停、由谁裁决 Anthropic联合创始人Jack Clark在接受[BBC Newsnight采访时](https://www.straitstimes.com/business/companies-markets/anthropic-calls-for-pause-of-global-ai-development)打了一个精妙的比喻："AI行业现在有油门，但没有刹车。" ### 为什么这个时机引发争议 [据Fortune报道](https://fortune.com/2026/06/05/anthropic-ai-pause-development-recursive-self-improvement/)，这一呼吁的时机令人侧目： 1. **IPO前夕。** Anthropic已于上周秘密提交IPO文件，估值9650亿美元——刚超越OpenAI成为全球最有价值的AI实验室。在一个可能成为史上最大科技IPO之一的上市前夕呼吁行业暂停，难免引人遐想。 2. **此前的安全承诺被削弱。** 今年2月，Anthropic修改了其负责任扩展政策（RSP v3），[放弃了"除非能预先保证安全否则不训练"的核心承诺](https://fortune.com/2026/06/05/anthropic-ai-pause-development-recursive-self-improvement/)。首席科学家Jared Kaplan当时解释称，在竞争对手继续推进的情况下单方面停止"实际上不会帮助任何人"。 3. **竞争对手和白宫的反弹。** Trump顾问David Sacks此前指责Anthropic推行"监管捕获议程"——以安全为幌子减缓竞争对手。这一指控被Anthropic坚决否认。白宫方面也认为Anthropic过度关注"最坏情况"而低估了AI的实际收益。 **但报告本身的证据是严肃的。** Project Glasswing项目的成果尤其值得关注：Mythos Preview在最初几周内发现了全球最重要系统中超过**10,000个高严重性和关键性软件漏洞**——以至于网络防御的瓶颈已经从"发现漏洞"转移到了"足够快地修补漏洞"。 ### 历史上类似的情况 **1983年苏联核预警误报事件。** 苏联军官Stanislav Petrov面对早期预警系统报告的美国核攻击，选择不向上级报告——事后证明是误报。Anthropic当前的处境有类似的特征：技术系统正在以超出人类制度响应速度的方式演进，而决策者需要在不确定性中做出关键判断。 **1997年深蓝vs卡斯帕罗夫。** IBM的深蓝击败国际象棋世界冠军时，许多人认为这是AI超越人类智慧的标志性时刻。但深蓝只是狭窄领域的专家。今天的Claude不同——它正在逼近的是**AI研究和开发本身的通用能力**。这不是深蓝在一个棋盘上超越人类，而是一个学生正在学会比老师更好地教授自己。 **关键区别**：此前所有"AI安全警告"都基于理论推演。Anthropic的报告首次用大规模内部数据证明，AI加速自身开发不是假设——**它正在发生**。 --- ## 三巨头联名警告生物武器：AI安全从理论风险变为现实威胁 ### 发生了什么据[Fortune报道](https://fortune.com/2026/06/05/openai-anthropic-microsoft-ceos-congress-bioweapon-safeguards/)和[Wired确认](https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/)，6月5日，OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO们签署了一封致国会的公开信，警告AI正在使生物武器的设计和制造变得过于容易。信件的核心诉求是要求国会立法，对合成DNA序列的销售实施更严格的筛查要求，防止恶意行为者利用AI设计危险毒素或病原体。这是四家竞争对手的CEO首次在同一个安全议题上联合行动。 ### 为什么这在今天尤为重要这一警告与Anthropic报告中的"Project Glasswing"发现形成了呼应——当AI已经能够发现超过10,000个关键软件漏洞时，它在生物安全领域的潜在应用就不只是理论担忧。值得注意的是，这次联名行动发生在Trump于6月2日签署AI行政令之后。该[行政令](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/)要求AI公司在发布最强大模型前给予政府30天的自愿审查窗口，但明确禁止将审查要求变为强制性。换句话说，联邦层面的安全框架仍然是自愿性的——这让CEO们选择直接向国会施压，推动更具体的立法行动。 --- ## Broadcom市值蒸发3000亿：AI投资的情绪拐点？ ### 发生了什么据[Reuters报道](https://www.reuters.com/business/broadcom-tumbles-revenue-miss-clouds-ai-boom-bets-2026-06-04/)和[CNBC详细分析](https://www.cnbc.com/2026/06/03/broadcom-avgo-earnings-report-q2-2026.html)，Broadcom于6月3日盘后发布了2026财年Q2财报： | 指标 | 数据 | |------|------| | 总收入 | **221.9亿美元**（创历史新高，同比增长48%） | | AI半导体收入 | **108亿美元**（同比增长143%） | | 调整后EPS | **$2.44**（超出分析师预期的$2.40） | | 股价反应 | **暴跌15%**，市值蒸发约**3000亿美元** | AI收入翻倍、营收创纪录、利润超预期——Broadcom交出了一份几乎完美的"成绩单"。但市场反应是惩罚性的。原因在于：Broadcom对全年AI芯片收入给出了**持平的预期**（未上调），加上VMware软件业务收入不及预期，触发了投资者对"AI交易是否已经跑得太远"的集体焦虑。 ### 为什么AI收入翻倍反遭抛售？ [Barron's指出](https://www.barrons.com/articles/broadcom-earnings-stock-price-278daece)，核心矛盾在于：**当一家公司的AI收入同比增长143%都无法让市场满意时，问题不在公司，而在预期。** [Yahoo Finance分析](https://finance.yahoo.com/markets/stocks/articles/broadcom-q2-2026-earnings-ai-111613207.html)称，Broadcom股价在财报发布前已触及52周新高——市场定价中已经包含了AI业务继续加速增长的预期。当公司给出"我们做得很好但不会比现在更好"的信号时，估值基础就动摇了。这与Goldman Sachs首席AI怀疑论者Jim Covello同日发出的[警告](https://fortune.com/2026/06/05/is-ai-a-bubble-worth-it-short-term-early-goldman-skeptic-covello-profits/)形成了共振："到了该赚钱的时候了。"Covello指出，随着OpenAI和Anthropic即将IPO，"投资者需要看到实际利润，而不仅仅是收入增长和未来承诺。" ### 历史上类似的情况 **2000年3月Cisco财报。** 互联网泡沫巅峰时期，Cisco在2000年3月发布了创纪录的财报，但给出了略低于分析师极乐观预期的前瞻指引。随后Cisco股价从80美元跌至2002年的约8美元——跌幅超过90%。Broadcom今天的处境有微妙的相似之处：不是业务出了问题，而是市场对"永远加速增长"的信仰出现了裂缝。 **关键区别**：Broadcom的AI业务有真实的大规模收入（每季度108亿美元）支撑，而非像2000年的互联网公司那样只有"眼球"没有盈利。AI的资本支出周期也更加刚性——Google、Meta、Amazon已经承诺了数千亿美元的数据中心投资，这些合同的取消成本极高。但Broadcom股价的暴跌提醒我们：**在金融市场上，从"完美预期"到"仅仅是优秀"的落差，足以引发海啸。** --- ## 其他要闻 ### UK强制Google允许新闻网站退出AI抓取据[Reuters报道](https://www.reuters.com/legal/litigation/uk-regulator-enforces-new-competition-requirements-google-search-2026-06-03/)，英国竞争监管机构（CMA）正式要求Google允许英国出版商选择退出AI Overviews对其内容的抓取。这是全球首个此类监管要求。Google占英国搜索市场份额超过90%。此决定可能成为欧盟和其他国家效仿的模板——对Google将搜索内容转化为AI训练数据的商业模式构成直接挑战。 ### Goldman Sachs发出AI泡沫最后通牒 [据Fortune报道](https://fortune.com/2026/06/05/is-ai-a-bubble-worth-it-short-term-early-goldman-skeptic-covello-profits/)，Goldman Sachs全球股票研究主管Jim Covello在OpenAI和Anthropic即将IPO的背景下发出尖锐警告：AI行业必须尽快证明其商业模式能够产生实际利润，而不仅仅是烧钱换增长。Covello自2023年以来一直质疑AI的投资回报率，此次警告标志着华尔街对AI估值的耐心正在接近极限。 ### Apple WWDC 2026下周开幕：Siri 2.0是最大看点据[TechCrunch报道](https://techcrunch.com/2026/06/04/what-to-expect-from-wwdc-2026-siris-highly-anticipated-revamp-and-apple-intelligence-updates/)，Apple WWDC 2026将于6月8日在Cupertino开幕。最大预期是Siri 15年来最大的AI改造——从语音助手转型为具有上下文理解能力的AI Agent。此外还预计有AI Agent应用商店、iOS 27等系统更新。在Microsoft已发布自研AI编程模型（MAI-Code-1-Flash，[如6月1日报道](/blog/2026-06-01-computex-keynote-feynman-arm-chip-war-copilot-credits)）的背景下，Apple如何将AI整合到消费体验中将成为下一周的焦点。 --- ## 行业趋势：三重交汇下的AI产业转折点今天的新闻不是孤立事件。它们共同指向一个结构性转折： **趋势一：AI安全的叙事从"理论风险"转向"实测数据"。** Anthropic不再用假设性场景论证风险，而是拿出了80%代码由AI编写、52倍实验加速、97%性能差距恢复这样的硬数据。当安全警告有内部数据支撑时，它就不再是"恐慌论"——而是一个需要严肃回应的事实基础。 **趋势二：AI投资的容错率正在快速收窄。** Broadcom创纪录的108亿美元季度AI收入换来的是15%的股价暴跌。Goldman Sachs的AI怀疑论者从2023年的"异见者"变成了2026年的"预言家"。OpenAI和Anthropic的IPO窗口可能比市场想象的更窄——如果它们无法在上市时展示可信的盈利路径，整个AI估值体系都将面临考验。 **趋势三：AI行业的竞争格局从"各自冲锋"转向"联合应对"。** Anthropic呼吁全球暂停、四家CEO联名警告生物武器——这些动作的前提是竞争对手之间达成了罕见的共识。当OpenAI和Anthropic在同一个安全议题上签字时，信号比文字更有力：**行业最核心的参与者已经开始承认，竞争本身可能不是解决问题的最佳机制。** --- ## 关键要点 - **Anthropic发布里程碑报告**：首次披露Claude编写80%+生产代码、工程师产出8倍增长、实验优化52倍加速——递归自我改进不是假设，它正在发生 - **Anthropic正式呼吁全球暂停前沿AI开发**：要求多个国家、多个实验室协调停止并互相验证，但IPO前夕的时机引发争议——究竟是真诚的安全呼吁，还是IPO前的竞争策略？ - **AI三巨头联名警告国会生物武器风险**：OpenAI、Anthropic、Google DeepMind和Microsoft AI的CEO罕见联合行动，要求对合成DNA实施更严格筛查 - **Broadcom AI收入翻倍但市值蒸发3000亿美元**：108亿美元季度AI半导体收入创纪录，但持平的全年预期触发15%暴跌——AI投资情绪出现裂痕 - **Goldman Sachs发出AI泡沫最后通牒**："到了该赚钱的时候了"——OpenAI和Anthropic IPO前，华尔街耐心正在耗尽 --- ## 常见问题 ### Anthropic说的"递归自我改进"是什么意思？递归自我改进是指AI系统能够自主设计、构建和训练自己的下一代版本，无需人类参与每一步。目前Claude已经能编写代码、运行实验、甚至提出研究方向，但人类仍然负责"决定研究什么"。Anthropic的担忧是：当AI的判断力超过人类（在某些测试中已达到64%胜率），人类角色将进一步缩小，最终可能被完全排除在开发循环之外。 ### 全球暂停AI开发真的可行吗？极其困难。Anthropic自己也承认，AI训练比导弹发射井更容易隐藏，而且"悄悄继续"的诱惑巨大——谁在别人暂停时继续推进，谁就能继承领先优势。与核军控不同，AI发展的投入品（算力、数据、人才）都是通用资源，难以像铀浓缩那样进行精确追踪。但Anthropic的论点是：正是因为困难，才需要现在开始建设验证机制——而不是等到问题出现后再仓促应对。 ### Broadcom的暴跌对AI行业意味着什么？ Broadcom是定制AI芯片（为Google、Meta等设计TPU等加速器）的最大供应商之一。它的AI收入是AI基础设施投资的真实温度计。15%的暴跌并不意味着AI需求萎缩，而是市场对"永远加速增长"的预期开始修正。如果更多AI相关公司无法维持超高速增长预期，可能触发整个板块的估值重定价——尤其危险的是即将IPO的OpenAI和Anthropic。 ### 接下来最值得关注什么？ **6月8日Apple WWDC 2026**——Siri 2.0的AI改造、AI Agent应用商店。Apple是唯一尚未推出自主前沿AI模型的大型科技公司，WWDC的表现将决定AI竞赛的消费端格局。此外，**Anthropic和OpenAI的IPO进展**也值得关注——两家公司都在竞相成为第一个上市的万亿级AI实验室，IPO文件中披露的财务数据（特别是亏损和烧钱速度）将成为检验AI商业模式的关键时刻。 --- ## 参考资料 - [When AI builds itself - Anthropic Institute](https://www.anthropic.com/institute/recursive-self-improvement) - [Anthropic calls for global freeze in AI development - The Straits Times](https://www.straitstimes.com/business/companies-markets/anthropic-calls-for-pause-of-global-ai-development) - [Anthropic warns AI could soon build itself — Fortune](https://fortune.com/2026/06/05/anthropic-ai-pause-development-recursive-self-improvement/) - [Anthropic Urges Global Pause in AI Development - WSJ](https://www.wsj.com/tech/ai/anthropic-urges-global-pause-in-ai-development-flags-self-improvement-risk-99cefb73) - [AI CEOs warn Congress about bioweapons - Fortune](https://fortune.com/2026/06/05/openai-anthropic-microsoft-ceos-congress-bioweapon-safeguards/) - [OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons - Wired](https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/) - [Broadcom Q2 2026 Financial Results - Broadcom Investor Relations](https://investors.broadcom.com/news-releases/news-release-details/broadcom-inc-announces-second-quarter-fiscal-year-2026-financial) - [Broadcom set to shed $300 billion in value - Reuters](https://www.reuters.com/business/broadcom-tumbles-revenue-miss-clouds-ai-boom-bets-2026-06-04/) - [Broadcom Q2 2026 earnings - CNBC](https://www.cnbc.com/2026/06/03/broadcom-avgo-earnings-report-q2-2026.html) - [Broadcom AI Revenue Surge Masks a VMware Warning - Investing.com](https://www.investing.com/analysis/broadcom-ai-revenue-surge-masks-a-vmware-warning-200681517) - [Goldman AI skeptic warns clock is running out - Fortune](https://fortune.com/2026/06/05/is-ai-a-bubble-worth-it-short-term-early-goldman-skeptic-covello-profits/) - [UK orders Google to let publishers opt out of AI scraping - Reuters](https://www.reuters.com/legal/litigation/uk-regulator-enforces-new-competition-requirements-google-search-2026-06-03/) - [Trump AI Executive Order - White House](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/) - [What to expect from WWDC 2026 - TechCrunch](https://techcrunch.com/2026/06/04/what-to-expect-from-wwdc-2026-siris-highly-anticipated-revamp-and-apple-intelligence-updates/) - [Anthropic's RSP v3 - EA Forum](https://forum.effectivealtruism.org/posts/DGZNAGL2FNJfftwgE/responsible-scaling-policy-v3-1) - [Recursive Self-Improvement Edges Closer - IEEE Spectrum](https://spectrum.ieee.org/recursive-self-improvement)