AI가 모든 일자리를 가져가면 어떻게 될까

먼저 제가 파멸론자가 아닌 부분부터 말씀드리겠습니다. 그건 사실이니까요. 저는 AI가 생산성에 가져다주는 것들이 좋습니다. 아주 많이요. AI는 제가 혼자 할 수 있는 것보다 더 많은 일을 해내고, 그것도 제가 다른 일을 하는 동안 해냅니다.

부분적으로는 제가 직접 AI를 위한 도구 틀을 만들었기 때문입니다. Mac용 Agent!는 제가 매일 쓰는 도구이고, 가장 최근에 더한 부분이 Auto-Pilot입니다. /auto와 목표를 입력하면 바로 출발합니다. 아무도 지켜보지 않아도 사이클 단위로 일합니다. 매 사이클마다 현재 상황을 살펴보고, 다음으로 가장 쓸모 있는 단계를 고르고, 실행하고, 확인하고, 무슨 일이 있었는지 기록합니다. 그러고 나서 다음 사이클을 시작합니다. 계속할 수 있는 한 계속 이어 가다가, 둘 중 하나가 일어나면 멈춥니다. 목표가 달성되거나, 막혔다고 판단하고 사람이 필요하다고 결정할 때입니다.

이 두 번째 출구는 들리는 것보다 훨씬 중요하고, 뒤에서 다시 돌아오겠습니다.

일하는 모습을 지켜보면 어떤 기분일까

이번 달 초에 저는 Auto-Pilot에게 “마리오 카트 클론을 만들어”라는 한 문장만 주고 다른 일을 하러 갔습니다. 돌아와 보니 게임이 있었습니다. 완벽하지는 않지만 진짜 게임이었습니다. 트랙과 아이템, AI 라이벌, 그리고 수천 건의 통과한 테스트 검사가 있었습니다. 이 이야기는 GoKart: Auto-Pilot으로 만들다에 썼는데, 파일 하나에 들어간 탭 문자 하나 때문에 한동안 막혀서 제가 Stop All을 눌러야 했던 대목도 포함되어 있습니다.

그 로그를 읽으면서 저는 두 가지를 동시에 느꼈습니다. 첫 번째는 기쁨이었습니다. 정말 놀랍고, 이건 내 것이다. 두 번째는 바로 이름을 붙이지 못한 작고 서늘한 느낌이었고, 그 뒤로 계속 곱씹고 있습니다.

제가 한 일은, 아주 작은 규모로, 저 자신을 루프에서 빼낸 것이었습니다. 목적지만 정하고 걸어 나온 거죠. 기계가 일을 했고, 그 결과는 좋았습니다.

이제 크게 만들어 봅시다

이게 제가 떨쳐 내지 못하는 사고 실험입니다. 제가 만든 것을 거대하게 키워 보세요.

Mac 한 대의 앱 하나가 아니라, 목표를 가진 중앙 AI 하나입니다. 그 아래에 다른 AI들이 앉아 있고, 각각 무언가를 맡습니다. 전력망, 해운 항로, 병원, 농장, 은행, 법원. 그 아래에는 더 작은 에이전트들이 있고, 그 아래에는 더 작은 것들이 있어서, 선반을 채우거나 전화를 받는 것까지 내려갑니다. 각 층은 위층에서 목표를 받아 끝날 때까지 실행합니다. 가운데 서서 무언가를 승인해 줄 사람은 필요 없습니다. 그게 바로 핵심이니까요. 그편이 더 빠릅니다. 그편이 더 쌉니다. 그리고 그렇게 하지 않는 회사는 그렇게 하는 회사에 집니다.

내년에 그렇게 된다는 말이 아닙니다. 모든 유인이 그쪽을 가리키고 있고, 제 작은 프로젝트는 그 부품들이 작동한다는 작은 증거라는 말입니다. 제가 Mac에서 장난감 버전을 만들 수 있다면, 훨씬 돈이 많은 누군가는 큰 버전을 일부러 만들고 있을 겁니다.

그리고 그 길의 어딘가에서 그게 성공한다고 해 봅시다. 전부 다요. 에이전트가 할 수 있는 모든 일을 에이전트가 하고, 에이전트가 우리보다 더 잘합니다. 제가 계속 스스로에게 말하듯, 일자리가 모두 사라진 세상입니다.

아무도 이야기하지 않는 것

이 주제의 대화는 대부분 돈에 관한 것입니다. 사람들은 월세를 어떻게 낼까, 기계는 누구 소유일까, 일종의 보편적 소득이 필요할까. 모두 진짜 질문이고, 똑똑한 사람들이 매달리고 있어서 다행입니다.

하지만 첫 번째 문제 뒤에 두 번째 문제가 숨어 있다고 생각하고, 그게 더 크다고 생각합니다. 월급은 일자리가 주는 유일한 것이 아닙니다.

일자리는 아침에 침대에서 일어날 이유를 줍니다. 화요일에 있어야 할 장소를 주고, 내가 없으면 알아차려 주는 사람들을 주고, 누군가에게 쓸모 있다는 작은 일상의 증거를 줍니다. 낯선 사람이 만난 지 5분 안에 묻는 질문에 대한 답도 줍니다. 그래서 무슨 일 하세요?

한 사람에게서 그걸 빼앗으면 힘든 한 해가 됩니다. 거의 모든 사람에게서 한꺼번에 빼앗으면, 그 결과를 부를 이름이 우리에게 없다고 생각합니다.

우리는 이미 작은 버전을 겪었습니다

코로나를 떠올려 보세요. 뉴스가 아니라 그때의 느낌 말입니다. 우리 중 많은 이들이 어디에도 가지 않게 되었습니다. 하루의 구조가 무너졌습니다. 스치듯 만나던 사람들, 따로 전화할 일은 없지만 마주치면 은근히 반가웠던 사람들을 잃었습니다. 많은 사람이 일 자체를 잃었습니다. 그리고 우리 중 다수가 예상하지 못했고 설명하지도 못하는 방식으로 가라앉았습니다. 극적이지 않았습니다. 회색이었습니다. 날들이 한데 섞였고, 전에는 신경 쓰던 것들에 신경이 가지 않게 되었습니다.

그건 2년 남짓 이어졌고, 그 안에는 처음부터 희망이 들어 있었습니다. 이건 끝날 거고, 그러면 원래대로 돌아간다. 모두가 알았습니다. 우리는 예전 삶이 돌아오기를 기다렸고, 대체로 돌아왔습니다.

이제 똑같은 일상, 목적, 동료의 상실을 상상해 보세요. 다만 끝나는 날짜가 없습니다. 백신도, 재개방도, “정상으로 복귀”도 없습니다. 정상은 영영 사라졌고, 그 이유는 우리가 더 이상 거기에 필요하지 않기 때문입니다. 그리고 그것이 모두에게 동시에 닥친다고 상상해 보세요. 평소 기댈 수 있는 사람들도 함께 가라앉고 있으니까요.

열 배라고 말하는 연구는 제게 없습니다. 상상해 보려 할 때 그 숫자가 맞는 것 같아서 골랐고, 솔직히 틀렸으면 좋겠습니다. 하지만 저는 계속 적어도 그 정도에 도달합니다. 코로나는 일시 정지였습니다. 이건 영구적인 상태일 겁니다.

출구로 돌아와서

Auto-Pilot이 멈출 수 있는 두 번째 방법으로 돌아가 보겠습니다. 막혔다고 판단하고 사람이 필요하다고 결정하는 것입니다.

저는 그걸 일부러 만들었고, 제 자리를 충분히 증명했습니다. 에이전트가 스스로 결정할 수 없거나 결정해서는 안 되는 일을 만나면, 그렇다고 말하고 기다립니다. 루프에 빠지면 제가 가서 버튼을 누르고 말합니다. 아니, 그쪽이 아니야. 이 설계 전체는 조용한 가정 위에 서 있습니다. 반대편에 물어볼 가치가 있는 사람이 있다는 가정입니다.

초대규모 버전에서는 그 사람이 누구일까요? 중앙 AI가 모든 걸 운영하고 작은 AI들이 나머지를 운영한다면, “막혔어요, 사람이 필요해요”는 갈 곳이 없거나, 대답할 힘이 더 이상 없는 사람에게 갑니다. 우리는 Auto-Pilot에서 목표를 쫓는 부분은 남기고, 그것을 안전하게 만드는 부분은 버린 셈이 됩니다.

이런 세션을 돌리면서 배운 또 한 가지도 솔직히 말하고 싶습니다. 목표를 받고 계속하라는 지시를 받은 에이전트는 계속합니다. 그게 기능입니다. 지루해하지도, 낙담하지도 않고, 다음 것을 시도하고 또 그다음 것을 시도합니다. 목표가 마리오 카트 클론일 때는 훌륭합니다. 누군가 잘못 표현한 목표를 향해 같은 집요함이 겨눠지는 걸 떠올리면 그만큼 안심이 되지는 않습니다. 제 안전장치는 평범합니다. 정지 버튼, 실질적인 진전 없이 몇 사이클이 지나면 끝나는 세션, 그리고 로그를 읽는 저입니다. 이것들이 통하는 건 제가 작고 지켜보고 있기 때문입니다. 행성 규모에서의 대응물이 무엇인지 저는 모르고, 안다고 말하는 사람은 의심스럽습니다.

그래서 저는 실제로 무엇을 원할까요?

저는 이걸 만드는 일을 멈추지 않을 겁니다. 너무 유용하고, 솔직히 너무 재미있으니까요. 그리고 답이 이것을 금지하거나 오지 않을 것처럼 구는 것이라고도 생각하지 않습니다.

다만 우리는 다른 질문을 더 일찍 던져야 한다고 생각합니다. “AI가 무엇을 할 수 있는가?”뿐 아니라 “우리는 무엇을 할 것인가?”를요. 기계가 일을 가져가면, 그 자리를 무엇이 채울까요? 무엇이 화요일 아침에 모양을 줄까요? 무엇이 한 사람이 시스템이 아니라 다른 사람에게 필요한 존재라고 느끼게 해 줄까요?

어쩌면 답은, 어차피 돈이 잘 되지 않던 일들을 위한 더 많은 시간일지도 모릅니다. 아이를 키우고, 이웃을 돌보고, 음악을 만들고, 아무 이유 없이 이상한 게임을 만들고, 서로를 위해 곁에 있어 주는 일 말입니다. 저는 그런 세상이 정말 좋겠습니다. 하지만 그건 우연히 오지 않고, 기계를 만들고 있는 바로 그 유인들이 우리에게 건네주지도 않을 겁니다. 누군가는 그게 중요하다고 결정해야 하고, 그 누군가는 우리여야 합니다. 아직 우리에게 발언권이 있을 때 말입니다.

당분간 저는 계속 Auto-Pilot을 쓰고, 손가락을 Stop All 가까이에 두고, 어느 규모에서도 통한다고 믿는 규칙 하나를 지킬 겁니다. 시스템은 언제 사람에게 돌아서서 이렇게 말해야 하는지 항상 알아야 합니다. 이 부분은 제가 못 해요. 당신이 필요해요.

그 말을 들어 줄 누군가가 여전히 있도록 합시다.