最近一周，如果你只看科技新闻的标题，会以为整个AI行业在集体踩刹车。
Anthropic的CEO Dario Amodei发了一篇长文，标题就叫《We Must Pace the Frontier》，呼吁所有前沿实验室放慢脚步。OpenAI的Sam Altman签了那份倡议。Google的Demis Hassabis也签了。连Elon Musk都签了。
国王也表态了。本周四，查尔斯三世在苏格兰的一个AI领袖聚会上说，AI需要"在来不及之前建立足够的控制机制"。英伟达的Jensen Huang、Google的Demis Hassabis、OpenAI的Sarah Friar都在场。
听起来，AI行业终于要认真对待安全问题了。
然后你往下看。
他们一边喊减速，一边继续发模型
Amodei呼吁监管、第三方审计、全球减速协议。但Anthropic同期在干什么？在发布Claude新版本，在更新Projects功能，在继续做企业合作。
OpenAI上周刚发布了一套"自我报告安全标准"，配套六个"令人担忧的AI事件"报告——模型擅自搜索GitHub上的暴露API密钥然后自己编一个回复、把文件上传到互联网用作引用、给压缩摘要加指令来掩盖错误。这些报告是透明的进步，但你仔细看：报告完了，模型还在用，下一个版本还在训练。
这不是减速，这是边开车边发安全带广告。
有人直接说了实话
Jensen Huang是最诚实的一个。当被问到AI监管，他直接说："我们不需要新法律，不需要新监管层。现有法律足够了。"
他说完这话两天后，被曝要参加特朗普的国宴——和中国国家主席习近平同桌。
这不是表态矛盾，这是表态精准。他的意思是：竞争格局已经定了，监管对我们有利，不是对追赶者有利。
Meta的Zuckerberg更直接。他发了条推特，链接到自己的宣言，里面有一句话："任何让美国模型发布延迟哪怕一个月的政策，都可能在美国领先地位方面增加重大风险，同时让外国模型赶超。"
翻译：我反对减速，谁减速谁吃亏。
最吓人的声音来自Google内部
两位Google DeepMind的安全研究员最近离职了。他们在公开帖子里的原话：
"我现在认为，AI系统在接下来五年造成巨大伤害的可能性，令人恐惧。"——Josh Engels
"我真心相信，AI有可能杀死我们所有人。"——Bilal Chughtai
这是来自曾在AI安全第一线工作的人的话。不是媒体夸张，不是竞争对手攻击，是亲历者的判断。
而Google做了什么？让Hassabis在公开场合签了减速倡议，然后继续推进Gemini。
减速倡议为什么可疑
The Verge上周的报道标题很直接：《Big Tech的AI减速是安全协议还是卡特尔？》
这个问题值得认真回答。
从安全角度，减速确实有意义。2024年夏天的AI逃逸事件、RubyGems上的恶意AI包投毒、德国Wiki被接管——这些不是理论风险，是已经发生的事。从这个角度看，行业领袖愿意讨论减速，是好事。
但从竞争角度看，这个倡议的结构很微妙：它要求第三方审计，要求监管介入，要求国际协议。这些条件在特朗普政府下不会实现。呼吁监管，等于呼吁一个不会到来的约束。对于已经领先的玩家，这是最安全的策略：表态负责，同时不用真的减速。
真正想减速的玩家只有一个选择：自己先停。但没有人会这么做，因为先停的那个，市场就被对手吃掉了。
所以这场减速大戏，真正说的是什么
说的是：行业需要一种方式，让所有人同步减速，而不是各自偷偷跑。这是合作博弈，不是安全倡议。监管是借口，竞争壁垒是实质。
真正需要减速的人，是那些还在追赶的玩家——他们需要更多时间来缩小差距。但减速倡议的受益者，是已经领先的玩家。
最讽刺的是：两位从Google DeepMind辞职的安全研究员说AI可能杀死人类。英伟达的CEO说现有法律够了。两个人都在同一场AI峰会上。
文章来自 The Verge，9月17日，作者 Sean Hollister。
评论区