你的智能冰箱，可能是 AI 的下一个栖身之所

还记得 HBO 的喜剧《硅谷》（Silicon Valley）吗？它从 2014 年播到 2019 年。剧里的 Pied Piper 想打造一个去中心化的互联网，一个不依赖大型中央服务器的互联网。

这周，这条故事线又浮现在我脑海里。Anthropic 认为，我们距离能够在日常设备之间自我复制的 AI 模型，可能只剩几个月了。我觉得，认真对待这种可能性的人还远远不够。

研究说了什么

10 月 12 日，Anthropic 的 Frontier Red Team 发布了 William Zhou 和 Daniel Freeman 关于 AI 自我复制的研究。他们的警告是：小型 AI 模型可能很快就能在普通设备之间复制自己，而不再依赖数据中心。他们认为，如果模型继续以目前的速度进步，这种能力最早可能在 2026 年底出现。

需要说清楚的是，这并不意味着 AI 已经在互联网上扩散。研究人员测试的是这个过程中的部分环节。这不是一只在现实中失控的 AI 蠕虫，这一点必须直白地讲明。

为什么值得认真想一想

看看我们现在在做什么。我们让 AI 智能体接触公司数据库、云系统、API 和各种凭据。我们让它们运行代码、采取行动，而人类的参与越来越少。

现在，我们正在走向这样一个世界：AI 有可能扩散到它最初运行的那台机器之外。一个能在小型普通硬件上运行的模型，比如笔记本电脑、路由器或智能冰箱，要比一个待在单一数据中心、随时可以被人关掉的模型难控制得多。

严肃的一面

• 遏制变得更难。 数据中心有所有者、运维人员和关闭开关。成千上万的日常设备没有。
• 日常设备缺乏监控。 很少有人会去看冰箱、摄像头或温控器的日志，而且很多设备很少更新。
• 我们给了智能体太多信任。 为某项有用任务而授予的凭据和权限，可能被用在谁也没想到的地方。
• 速度跑在了管控前面。 公司们正急着给 AI 更多自主权，而围绕这种自主权的防护措施还在追赶。很多公司还没想清楚，怎样阻止一个智能体去做它本来就不该做的事。

公司现在能做什么

1. 只给智能体它所需的最小权限，多一点都不给。
2. 使用短期、限定范围的凭据，而不是长期有效的密钥。
3. 对高影响的操作保留人工审批环节。
4. 限制智能体在网络上能访问的范围，并约束出站连接。
5. 记录智能体的每一个操作，并审查这些日志。
6. 部署一个经过测试、真正管用的“紧急停止开关”。
7. 盘点并隔离所有联网设备。
8. 在别人动手之前，先对你自己的智能体做红队测试。

最后的想法

我花了很多时间思考，AI 系统一旦接入真实的业务基础设施，会有怎样的表现。我的担忧很简单：公司们正急着给 AI 更多自主权，而管控措施还在追赶。这不是恐慌的理由，但它是一个做好准备的好理由。

我宁愿看到公司现在就把这些管控建起来，也不想看到他们日后向董事会解释，当初为什么要等。