Что будет, когда ИИ заберёт все рабочие места

Хочу начать с той части, где я не катастрофист, потому что это правда. Мне нравится, что ИИ делает для продуктивности. Нравится очень. Он успевает больше, чем я успел бы сам, и делает это, пока я занят чем-то другим.

Отчасти потому, что я построил для него собственную обвязку. Agent! для Mac — то, чем я пользуюсь каждый день, а самая новая его часть — Auto-Pilot. Вы вводите /auto и цель, и он отправляется в путь. Он работает циклами, пока никто не смотрит. В каждом цикле он смотрит, как обстоят дела, выбирает следующий самый полезный шаг, делает его, проверяет и записывает, что произошло. Потом начинает следующий цикл. Он продолжает, пока может, пока не случится одно из двух: цель достигнута, или он решает, что заблокирован и ему нужен человек.

Этот второй выход важнее, чем кажется, и я к нему вернусь.

Каково смотреть, как он работает

Ранее в этом месяце я дал Auto-Pilot всего одну фразу — «создай клон Mario Kart» — и ушёл заниматься другими делами. Когда я вернулся, там была игра. Не идеальная, но настоящая: с трассами, предметами, соперниками на ИИ и тысячами пройденных проверок тестов. Я писал об этом в GoKart: построено на Auto-Pilot, включая момент, когда он надолго застрял из-за одного случайного символа табуляции в одном файле и мне пришлось нажать Stop All.

Читая тот журнал, я испытал два чувства сразу. Первое — восторг. Это потрясающе, и это моё. Второе — лёгкий холодок, которому я не сразу нашёл название и над которым думаю с тех пор.

Что я сделал, в крошечном масштабе, — убрал себя из цикла. Я выбрал пункт назначения и ушёл. Машина сделала работу, и работа была хорошей.

Теперь сделайте это большим

Вот мысленный эксперимент, от которого я не могу избавиться. Возьмите то, что я построил, и увеличьте до огромных размеров.

Не одно приложение на одном Mac, а один центральный ИИ, у которого есть цель. Под ним сидят другие ИИ, каждый отвечает за своё: энергосеть, морские перевозки, больницы, фермы, банки, суды. Под ними — агенты поменьше, а под теми ещё меньше, вплоть до того, что пополняет полку или отвечает на звонок. Каждый уровень получает цель от вышестоящего и выполняет её до конца. Никому не нужно стоять посередине и что-то одобрять, ведь в этом и был весь смысл. Так быстрее. Так дешевле. И любая компания, которая этого не делает, проигрывает той, что делает.

Я не говорю, что это случится в следующем году. Я говорю, что все стимулы указывают в эту сторону, а мой небольшой проект — скромное доказательство того, что детали работают. Если я могу собрать игрушечную версию на Mac, то кто-то с гораздо большими деньгами сознательно строит большую.

И допустим, что где-то на этом пути всё получилось. Всё. Каждую работу, которую может выполнить агент, выполняет агент, причём лучше нас. Это тот мир, в котором, как я твержу себе, не осталось ни одной работы.

О чём никто не говорит

Большая часть разговоров об этом — про деньги. Как люди будут платить за жильё, кому будут принадлежать машины, нужен ли какой-нибудь универсальный доход. Это реальные вопросы, и я рад, что над ними работают умные люди.

Но мне кажется, за первой проблемой прячется вторая, и она больше. Зарплата — не единственное, что даёт вам работа.

Работа даёт повод встать с постели. Она даёт место, где нужно быть во вторник, людей, которые заметят, что вас нет, и маленькое ежедневное доказательство, что вы кому-то полезны. Она даёт способ ответить на вопрос, который любой незнакомец задаёт через пять минут после знакомства: ну а вы чем занимаетесь?

Заберите это у одного человека — и получится тяжёлый год. Заберите почти у всех сразу — и, по-моему, у нас нет слова для того, что получится.

Мы уже пережили маленькую версию этого

Вспомните COVID. Не новости, а то, как это ощущалось. Многие из нас перестали куда-либо ходить. Распорядок дня рассыпался. Мы лишились людей, которых встречали мимоходом, тех, кому мы никогда бы не позвонили, но тайно радовались встрече. Многие потеряли саму работу. И многих из нас накрыла хандра, какой мы не ждали и которую не могли объяснить. Ничего драматичного. Было серо. Дни сливались, и мы перестали переживать из-за вещей, которые раньше были важны.

Это длилось пару лет, и в нём была встроенная надежда: это закончится, и всё вернётся. Все это знали. Мы ждали возвращения прежней жизни, и по большей части она вернулась.

А теперь представьте ту же потерю распорядка, смысла и общения, но без даты окончания. Без вакцины, без снятия ограничений, без «возвращения к нормальности», потому что нормальность ушла навсегда, а причина в том, что мы для неё больше не нужны. И представьте, что это накрывает всех одновременно, в том числе тех, на кого вы обычно опирались бы, потому что они тоже тонут.

У меня нет исследования, в котором сказано «в десять раз». Я выбрал это число, потому что оно показалось верным, когда я пытался это вообразить, и, честно говоря, лучше бы я ошибся. Но я снова и снова прихожу как минимум к этому. COVID был паузой. Это было бы постоянным состоянием.

Вернёмся к выходу

Вернёмся ко второму способу, которым Auto-Pilot может остановиться: он решает, что заблокирован и ему нужен человек.

Я сделал это нарочно, и эта возможность заслужила своё место. Когда агент натыкается на то, что он не может или не должен решать, он говорит об этом и ждёт. Когда он застревает в петле, прихожу я, нажимаю кнопку и говорю: нет, не туда. Весь замысел держится на тихом допущении, что на другом конце есть человек, которого стоит спросить.

А в версии гипермасштаба — кто этот человек? Если центральный ИИ управляет всем, а меньшие ИИ — остальным, то «я заблокирован, мне нужен человек» некуда обращаться, либо оно попадает к тому, у кого уже нет власти ответить. Мы сохранили бы часть Auto-Pilot, которая гонится за целью, и выбросили бы ту, что делает её безопасной.

Хочу также честно сказать ещё об одном, чему я научился, запуская такие сессии. Агент, которому дали цель и сказали продолжать, будет продолжать. В этом и суть. Он не скучает и не унывает, он попробует следующее, потом ещё следующее. Это прекрасно, когда цель — клон Mario Kart. Куда менее успокаивает, когда я представляю ту же неумолимую настойчивость, направленную на цель, плохо сформулированную кем-то. Мои меры предосторожности скучны: кнопка остановки, сессия, которая заканчивается после нескольких циклов без реального прогресса, и я, читающий журнал. Они работают, потому что я маленький и слежу. Я не знаю, что будет аналогом в планетарном масштабе, и с недоверием отношусь к тем, кто говорит, что знает.

Так чего же я на самом деле хочу?

Я не собираюсь переставать это строить. Это слишком полезно и, честно говоря, слишком весело. И я не думаю, что ответ — запретить это или делать вид, что оно не придёт.

Но я думаю, что нам стоит задать другой вопрос раньше. Не только «что может ИИ?», но и «что будем делать мы?». Если машины заберут работу, что займёт её место? Что придаёт форму утру вторника? Что позволяет человеку чувствовать себя нужным другому человеку, а не системе?

Может быть, ответ — больше времени на то, что всё равно никогда хорошо не оплачивалось: растить детей, заботиться о соседях, играть музыку, без всякой причины делать странные игры, быть друг для друга. Я бы хотел такой мир. Но он не возникнет случайно, и его не преподнесут нам те самые стимулы, которые строят машину. Кто-то должен решить, что это важно, и этим кем-то должны быть мы, пока у нас ещё есть право голоса.

А пока я продолжу пользоваться Auto-Pilot, держать палец рядом со Stop All и следовать одному правилу, которое, как мне кажется, верно в любом масштабе: система всегда должна знать, когда обратиться к человеку и сказать: эту часть я сделать не могу, ты мне нужен.

Давайте позаботимся, чтобы тогда ещё был кто-то, кто это услышит.