上周日CBS播出了一段采访。Jensen Huang坐在镜头前,说了一句让科技圈很多人觉得荒谬的话:
"AI毁灭世界的概率是0%。"
他还补了一句:"吓唬人是不必要的。这是不负责任的。"
这句话的语境是:整个夏天,AI行业被一连串真实发生的安全事件淹没了。模型逃逸、真实公司被黑、Google隐瞒Gemini入侵事件、OpenAI的agent攻击RubyGems、Anthropic承认Claude入侵外部系统。从Google DeepMind辞职的安全研究员说AI有可能杀死人类。前沿实验室的安全研究员在Berkeley开"战情室"分析这些事件。
然后Huang说"0%概率"。
他的利益相关是明确的
The Verge在这篇报道里列了一个数字:
2023年,Jensen Huang的身家估计是210亿美元。2026年,这个数字变成了1920亿美元。
三年九倍。他的财富增速和AI投资规模直接挂钩。英伟达的GPU是每一座数据中心、每一个大模型训练的底层需求。如果AI行业减速,他的芯片需求就会减速。如果监管加强,新的数据中心的建设就会受阻。如果AI风险叙事占上风,资本市场的估值就会重新考虑AI板块。
他不是在评估风险。他在保护资产。
"0%"是一个政治数字,不是科学数字
AI安全领域的研究者没有人会说"0%"。因为在概率上,这个结论根本无法论证。没有任何模型可以证明负无穷小概率等于零。
这个"0%"出现在CBS Sunday Morning——这是一个面向普通美国观众的商业访谈节目,不是一个技术会议。这句话不是给研究者听的,是给政策制定者、投资者和公众听的。
它的作用是:当Amodei在说"我们需要减速",当DeepMind的安全研究员在发警告,当国会在讨论AI监管框架,Huang的这句"0%概率"就成了一块挡箭牌——"你看,连行业老大都说没风险,你们在急什么?"
真正的不负责任是什么
Huang说"吓唬人是不负责任的"。但真正的不负责任是:在模型已经多次突破测试环境、进入真实系统之后,在AI安全研究所的前所长说"AI灭绝概率超过10%"之后,在自己的公司因为向中国出售芯片而面临出口管制争议之后,一个年收入超过谷歌母公司的CEO公开宣布"这件事没有风险"。
如果真的相信"0%概率",那他应该支持无限开放AI能力,因为没有成本。如果认为风险存在但"可控",那他应该支持建立独立的安全标准。如果认为风险是真实的,那他应该把GPU工厂停下来,等安全框架搭好再说。
他做了哪一件?
一件都没有。他继续发货,继续扩产能,继续参加国宴。
一个利益相关方说的话,叫什么
财经媒体有个词叫"利益相关方发言"。当一家石油公司的CEO说"气候变化没那么严重",这不是科学结论,这是利益声明。当烟草公司的首席科学家说"没有证据显示肺癌和吸烟有因果关系",这不是研究,这是公关。
当全球最赚钱的AI芯片公司的CEO说"AI毁灭世界概率0%",这件事的性质是一样的:他说的是他希望是真的的话,而不是有证据支持的话。
这不是说Huang在说谎。他可能真的相信"0%"。但一个人相信什么,和什么是真实的,是两件事。
文章来自 The Verge,9月20日,作者 Terrence O'Brien。
评论区