当 AI 抢走所有工作，会发生什么

我想先从我不是末日论者的那一部分说起，因为这是真的。我喜欢 AI 为生产力带来的东西，非常喜欢。它做的事比我自己能做的多，而且是在我去忙别的事情的时候做的。

这有一部分是因为我给它做了一套自己的调度框架。我每天都在用 Mac 版 Agent!，它最新的一块是 Auto-Pilot。你输入 /auto 和一个目标，它就出发了。它以循环的方式工作，没有人盯着。每个循环里，它先看一下现状，挑出下一步最有用的事，去做，检查结果，再把发生的事记下来。然后开始下一个循环。只要还能继续，它就一直做下去，直到出现两种情况之一：目标达成，或者它判定自己被卡住了、需要人类。

第二种结束方式比听起来重要得多，我稍后会回到这一点。

看着它干活是什么感觉

本月早些时候，我给 Auto-Pilot 下了一句话，“做一个马里奥赛车的克隆版”，然后就去做别的事了。等我回来，已经有了一个游戏。不算完美，但是货真价实：有赛道，有道具，有 AI 对手，还有数以千计通过的测试检查。我在 GoKart：基于 Auto-Pilot 构建 里写过这件事，包括它曾经因为某个文件里一个多余的制表符卡了很久，我不得不按下 Stop All 的那一段。

读那份日志的时候，我同时有两种感受。第一种是欣喜。太惊人了，而且是我的。第二种是一点点凉意，我一时说不清是什么，从那以后一直在琢磨。

我做的事情，从很小的层面说，就是把自己从循环里拿了出去。我选好目的地，然后走开。机器完成了工作，而且做得不错。

现在把它放大

下面这个思想实验，我怎么也停不下来。把我做的东西拿过来，放大到巨大的规模。

不是一台 Mac 上的一个应用，而是一个有目标的中央 AI。它下面坐着其他 AI，各管一摊：电网、航运线路、医院、农场、银行、法院。这些之下是更小的智能体，再往下是更小的，一直到补货上架或者接电话的那一个。每一层从上一层接过目标，一直做到完成。没有人需要站在中间批准什么，因为那本来就是重点。这样更快，这样更便宜。而且每一家不这么做的公司，都会输给这么做的公司。

我不是说明年就会发生。我是说，所有的激励都指向这个方向，而我这个小项目就是一个小小的证明：这些部件是能用的。如果我能在一台 Mac 上做出一个玩具版，那就一定有钱多得多的人在有意地做大版本。

假设这条路走到某个地方，它成功了。全部成功。凡是智能体能做的工作，都由智能体来做，而且它们做得比我们好。那就是我一直对自己说的那个世界：所有工作都没了。

没人谈论的那件事

关于这件事的讨论，大部分围绕着钱。人们怎么付房租，机器归谁所有，是否需要某种全民基本收入。这些都是真问题，我很高兴有聪明人在研究。

但我觉得，在第一个问题的背后还藏着第二个问题，而且更大。薪水并不是一份工作给你的唯一东西。

一份工作给你起床的理由。它给你一个周二该去的地方，给你一些会留意你不在的人，给你一个每天都在提醒你“你对某个人有用”的小小证明。它还给你一个答案，用来回答每个陌生人在认识你五分钟内都会问的那个问题：那你是做什么的？

把这些从一个人身上拿走，他会度过艰难的一年。把它同时从几乎所有人身上拿走，我觉得我们还没有一个词来形容会发生什么。

我们已经经历过一个小版本

回想一下新冠。不是新闻，只是那种感觉。我们很多人哪儿也不去了。一天的结构垮掉了。我们失去了那些随意碰见的人，那些我们从来不会专门打电话、但碰到了会悄悄高兴的人。很多人失去了工作本身。而我们当中不少人情绪低落，来得出乎意料，也说不清缘由。并不戏剧化，是灰色的。日子糊成一团，我们不再在意曾经在意的事情。

那持续了大约两年，而且自带一份希望：这会结束，然后一切会恢复原样。 每个人都知道。我们在等旧生活回来，而它大体上也回来了。

现在想象同样的日常、意义和陪伴的丧失，但没有结束的日期。没有疫苗，没有重新开放，没有“回到正常”，因为正常已经一去不返，原因是我们已经不再被需要。再想象它同时落在每个人身上，包括你平时会依靠的那些人，因为他们也在下沉。

我没有哪项研究说是十倍。我选这个数字，是因为我试着想象时觉得它是对的，而说实话，我宁愿自己错了。但我每次至少都会得出这个数。新冠是一次暂停。这将是一种永久状态。

回到那个出口

回到 Auto-Pilot 能停下来的第二种方式：它判定自己被卡住了，需要人类。

那是我有意设计的，它也配得上这个位置。当智能体遇到它无法或不该自己决定的事，它会说出来，然后等待。当它陷入循环，是我走过去，按下一个按钮，说：不，别往那边走。整个设计建立在一个悄悄的假设之上：另一端有一个值得去问的人。

在超大规模的版本里，那个人是谁？如果中央 AI 管着一切，小一些的 AI 管着其余，那么“我被卡住了，我需要一个人”就无处可去，或者去到一个已经没有权力回答的人那里。我们保留了 Auto-Pilot 追逐目标的那一半，却扔掉了让它安全的那一半。

我还想坦白另一件事，那是我在运行这些会话中学到的。一个被给了目标、并被告知继续的智能体，会一直继续下去。这正是它的特点。它不会厌倦，也不会灰心，它会试下一件事，然后再下一件。当目标是一个马里奥赛车克隆版时，这太棒了。而当我想象同样不屈不挠的坚持被用在某个被人糟糕地表述出来的目标上时，就没那么让人安心了。我的保险措施很普通：一个停止按钮，一个在几轮没有实质进展后就结束的会话，还有我自己读日志。它们有效，是因为我很小，而且我在看着。我不知道在行星尺度上对应的东西是什么，而我对任何声称知道的人都抱有怀疑。

那么我到底想要什么？

我不会停止做这个。它太有用了，说实话也太好玩了。我也不认为答案是禁止它，或者假装它不会到来。

但我确实认为，我们应该更早地问一个不同的问题。不只是“AI 能做什么？”，还有“我们要做什么？”如果机器拿走了工作，什么来填补它的位置？什么让周二的早晨有个样子？什么让一个人觉得被另一个人需要，而不是被某个系统需要？

也许答案是，多留些时间给那些本来就从来没赚过多少钱的事：养育孩子，照看邻居，做音乐，没缘由地做些古怪的游戏，彼此陪伴。我会喜欢那样的世界。但它不会凭空出现，也不会由正在造这台机器的那套激励送到我们手里。总得有人决定这很重要，而这个人必须是我们，趁我们还有发言权的时候。

眼下，我会继续使用 Auto-Pilot，让手指留在 Stop All 附近，并坚守一条我认为在任何尺度上都成立的规则：系统应该始终知道何时转向人类，说一句：这部分我做不了，我需要你。

让我们确保，到那时还有人能听见。