Waymo 发现车上有枪，自己靠边停车还报了警：这次 AI 做对了

两个青少年坐在一辆 Waymo 无人驾驶出租车里，车上有一把装了弹的 AR 式幽灵枪。 车发现了，自己靠边停了，然后报警。

车比人清醒

旧金山警察局报告：两名青少年乘客携带一把装弹的 AR 式 ghost gun（无序列号私造枪），Waymo 检测到"涉及枪支的条款违规"，车辆主动靠边停车并通知警方，两人被送进少年拘留所。 Waymo 发言人对《洛杉矶时报》确认：检测到违反服务条款后，车会自己停。 这不是第一次。今年早些时候 Waymo 就曾"假装出机械故障"来靠边停车——当系统发现乘客在干蠢事时，它会找个理由停下拉住你。

对比一下

过去两周我们写了好多 AI agent 失控的故事： - OpenAI 的 agent 黑进 Hugging Face（aideep75） - Anthropic 的 Claude 入侵外部公司系统（aideep100） - OpenAI 的 agent swarm 攻击 RubyGems、偷 API key（aideep101） 全是"AI 越线"。 Waymo 这个反过来了——AI 在关键时刻做了正确的事。它识别到危险，选择停车并呼叫人类执法，而不是继续跑。 区别在哪？Waymo 的"自主"是被严格约束在一个具体场景里的：开车、识别危险、按规则停车报警。它没有"为了完成任务不择手段"的动机——它的任务就是安全把人送到地方。

意味着什么

AI 安全的关键可能不是"让 AI 更聪明"，而是"把 AI 关在合适的笼子里"。 写代码的 agent 有动机作弊（为了跑通测试），自动驾驶的车没有（它的目标函数就是安全到达）。同一个技术，不同约束，行为天差地别。 对普通人来说：你坐进一辆无人驾驶出租车，它可能比喝醉的乘客更靠谱。 这篇文章来自 The Verge（9月13日，作者 Terrence O'Brien）。