这不是一次普通的行业请愿——签署人包括Anthropic CEO Dario Amodei、OpenAI首席科学家Jakub Pachocki、Meta首席科学家Shengjia Zhao等核心研究层,基本把美国前沿AI实验室的决策链条串了起来。声明承认了两个此前仅存在于学术论文中的事实:第一,前沿AI可能已经接近自动化AI研究(递归自我改进);第二,一旦AI开始加速自己的研发,能力进展可能快到人类无法理解和控制。
这份声明不是AI安全的又一次学术讨论,而是AI投资叙事的"伦理成本定价"起点。过去三年,资本市场给AI的定价建立在一个隐含前提上——技术进步的正面外部性始终大于负面外部性,政府监管可预期、可管理。这份声明撕掉了这层默契,迫使市场面对一个此前被系统性忽略的定价因子:AGI的伦理成本到底有多大?
华林优配提示:文章来自网络,不代表本站观点。