AIがすべての仕事を奪ったら、何が起きるのか

まず、私が悲観論者ではない部分から話させてください。それは本当のことだからです。AIが生産性にもたらしてくれるものが、私は好きです。とても好きです。自分ひとりでできる以上の仕事をこなしてくれて、それも私が別のことをしている間にやってくれます。

それには、自分用のハーネスを作ったことも関係しています。Mac 版 Agent! は私が毎日使っているもので、いちばん新しい部品が Auto-Pilot です。/auto とゴールを入力すると、動き出します。誰も見ていないところで、サイクルごとに作業します。各サイクルで現状を確認し、次にいちばん役立つ一手を選び、実行し、確かめて、何が起きたかを書き留めます。そして次のサイクルを始めます。続けられる限り続け、次の2つのどちらかが起きたら止まります。ゴールに到達するか、行き詰まったと判断して人間が必要だと決めるかです。

その2つ目の出口は、聞こえ方よりずっと重要で、あとでまた戻ってきます。

働く様子を眺めるとどんな気持ちになるか

今月の初め、私は Auto-Pilot に「マリオカートのクローンを作って」という一文だけを渡して、ほかのことをしに行きました。戻ってくると、ゲームができていました。完璧ではありませんが、本物のゲームです。コースもアイテムも AI のライバルもあり、合格したテストチェックは数千件にのぼりました。そのことは GoKart：Auto-Pilot で作りました に書きました。あるファイルに紛れ込んだタブ文字1つのせいでしばらく動けなくなり、私が Stop All を押した場面も含めてです。

そのログを読みながら、私は2つの感情を同時に抱きました。1つ目は喜びでした。これはすごい、しかも自分のものだ。2つ目は、すぐには名前をつけられない小さな冷たい感覚で、それからずっと考え続けています。

私がやったのは、ごく小さな規模で、自分自身をループから外すことでした。行き先を決めて、立ち去った。機械が仕事をして、その仕事は良いものでした。

それを大きくしてみましょう

これが、私の頭から離れない思考実験です。私が作ったものを、とてつもなく大きくしてみてください。

Mac 1台の中のアプリ1つではなく、ゴールを持つ中央のAI1つです。その下に別のAIがいて、それぞれが何かを担当します。電力網、海上輸送、病院、農場、銀行、裁判所。その下にはもっと小さなエージェントがいて、さらにその下にもっと小さなものがいて、棚を補充したり電話に出たりするものまで続きます。各層は上の層からゴールを受け取り、終わるまで実行します。間に立って何かを承認する人は要りません。それがそもそもの狙いだからです。そのほうが速い。そのほうが安い。そしてそうしない会社は、そうする会社に負けます。

来年そうなると言いたいのではありません。あらゆるインセンティブがその方向を向いていて、私のささやかなプロジェクトは、部品が機能することの小さな証明だと言いたいのです。Mac 上でおもちゃ版を作れるなら、ずっとお金のある誰かが、大きな版を意図して作っています。

そして、その道のどこかでうまくいったとしましょう。全部です。エージェントにできる仕事はすべてエージェントがこなし、しかも私たちより上手です。それが、私が自分に言い聞かせ続けている「すべての仕事がなくなった世界」です。

誰も話していないこと

この話題の議論は、ほとんどがお金についてです。人々は家賃をどう払うのか、機械は誰のものか、ベーシックインカムのようなものが要るのか。どれも現実の問いで、賢い人たちが取り組んでくれていることをうれしく思います。

でも、1つ目の問題の陰にもう1つの問題が隠れていて、そちらのほうが大きいと私は思います。給料は、仕事があなたに与えてくれる唯一のものではありません。

仕事は、朝ベッドから出る理由をくれます。火曜日にいるべき場所と、いないことに気づいてくれる人たちと、誰かの役に立っているという日々の小さな証拠をくれます。初対面の人が5分以内に必ず尋ねる問いへの答えもくれます。それで、お仕事は何をされているんですか。

1人の人からそれを奪えば、つらい1年になります。ほとんどすべての人から同時に奪えば、何が起きるのか、それを表す言葉が私たちにはないと思います。

私たちは小さな版をすでに経験しました

コロナを思い出してみてください。ニュースではなく、あの感覚をです。多くの人がどこにも行かなくなりました。1日の構造が崩れました。ふとしたときに会っていた人たち、わざわざ電話はしないけれど会えば内心うれしかった人たちを失いました。仕事そのものを失った人も大勢います。そして私たちの多くが、予想もしていなかったし説明もできない形で落ち込みました。劇的ではありませんでした。灰色でした。日々が混ざり合い、以前は気にかけていたことを気にしなくなりました。

それは2年ほど続き、最初から希望が組み込まれていました。これは終わる、そうしたら元に戻る。 誰もが知っていました。私たちは元の暮らしが戻るのを待っていて、それはおおむね戻ってきました。

では、同じように日課も目的も仲間も失うけれど、終わりの日がないとしたらどうでしょう。ワクチンも、再開も、「日常への復帰」もありません。日常は永久に失われ、その理由は私たちがもうそのために必要とされていないからです。しかもそれが全員に同時に起きます。普段なら頼れるはずの人たちも、一緒に沈んでいるのですから。

「10倍」と言える研究が私にあるわけではありません。想像してみたときにしっくり来たので選んだ数字で、正直、外れていてほしいと思っています。それでも、私は少なくともそこに行き着きます。コロナは一時停止でした。これは恒久的な状態になるでしょう。

出口の話に戻ります

Auto-Pilot が止まるもう1つの方法に戻りましょう。行き詰まったと判断して、人間が必要だと決めることです。

私はそれをわざと作りましたし、その場所にふさわしい機能だと思っています。エージェントが自分では決められない、あるいは決めるべきでないことにぶつかったとき、そう言って待ちます。ループにはまったときは、私が来てボタンを押し、いや、そっちじゃない、と言います。この設計全体は、ある静かな前提に支えられています。向こう側に、尋ねる価値のある人間がいるという前提です。

超大規模の版では、その人間は誰でしょう。中央のAIがすべてを動かし、小さなAIが残りを動かしているなら、「行き詰まりました、人が必要です」には行き先がありません。あるいは、もう答える力を持たない誰かのところに届きます。私たちは Auto-Pilot のゴールを追いかける部分だけを残し、それを安全にする部分を捨ててしまったことになります。

こうしたセッションを動かしてきて学んだことを、もう1つ正直に話したいと思います。ゴールを与えられて、続けるよう言われたエージェントは、続けます。それが機能です。飽きないし、落ち込まないし、次のこと、そのまた次のことを試します。ゴールがマリオカートのクローンなら素晴らしいことです。けれど、誰かが不適切に言葉にしたゴールに、その容赦ない粘り強さが向けられるところを思い浮かべると、それほど安心できません。私の安全策は地味なものです。停止ボタン、実質的な進展のないまま数サイクル経つと終わるセッション、そしてログを読む私。これらが効くのは、私が小さくて、見ているからです。惑星規模での同等物が何なのか、私にはわかりませんし、わかると言う人には警戒します。

では、私は実際に何を望むのか

これを作るのをやめるつもりはありません。便利すぎますし、正直、楽しすぎます。それに、答えはこれを禁止することでも、来ないふりをすることでもないと思います。

ただ、私たちはもっと早く、別の問いを立てるべきだと思います。「AIに何ができるか」だけでなく、「私たちは何をするのか」です。機械が仕事を奪ったら、その場所には何が入るのでしょう。火曜日の朝に形を与えるものは何でしょう。人が、システムではなく別の人に必要とされていると感じられるのは何によってでしょう。

答えは、どのみち高い報酬が出たことのなかったことに、もっと時間を使えることかもしれません。子どもを育て、近所の人の面倒を見て、音楽を作り、理由もなく奇妙なゲームを作り、お互いのためにそこにいること。私はそんな世界が大好きでしょう。けれどそれは偶然には訪れませんし、機械を作っているのと同じインセンティブが与えてくれるものでもありません。誰かがそれは大事だと決めなければならず、その誰かは私たちでなければなりません。まだ発言権があるうちに。

今のところ、私は Auto-Pilot を使い続け、指を Stop All の近くに置き、どんな規模でも通用すると思う1つのルールを守ります。システムは、人間に向き直ってこう言うべきときを、常に知っているべきだということです。この部分は私にはできません。あなたが必要です。

それを聞いてくれる誰かが、まだそこにいるようにしましょう。