주인의식 없는 주인

최근 미디어문화연구자이자 『주인의 눈』의 번역자인 김상민 교수님의 강의를 들었다. 먼저 밝혀두자면 나는 아직 책을 읽지 않았다. 이 글은 책에 대한 서평이 아니라, 강의에서 얻은 정보와 그 설명을 들으며 생긴 의문을 정리한 것이다.

강의는 인공지능을 인간의 뇌를 모방한 기술로만 바라보지 않았다. 사람들이 일을 나누고, 작업을 측정하고, 다른 사람의 노동을 감독하던 방식에서 지능적인 기계의 역사를 찾았다. 산업기계가 등장하기 전의 작업장도 노동을 조직하는 방식에서는 이미 기계적이었다는 설명이 인상적이었다.

그런데 나는 이 이야기를 조금 다른 방향에서도 생각해 보게 되었다. 인간의 지식을 추출해 기계에 옮기는 것이 문제라면, AI 이전에 그 지식을 향유할 수 있었던 사람들은 누구였을까. 그들이 지적 활동에 시간을 쓸 수 있도록 생활을 떠받친 것은 누구의 노동이었을까.

누군가 생각하는 동안, 누군가는 일했다

과거의 지식인이 모두 지배계급이었던 것은 아닐 것이다. 노동자와 장인도 자신의 일을 통해 지식을 만들었고, 강의에서 다룬 노동의 역사 역시 그 지식을 중요하게 본다. 다만 생계를 위한 노동에서 벗어나 학문과 사유에 시간을 쓸 수 있는 조건이 누구에게나 똑같이 주어졌던 것은 아니다.

아리스토텔레스는 『형이상학』에서 생활의 필요와 직접 연결되지 않은 학문이 여가가 있는 곳에서 생겨났다고 설명하며 이집트 사제 계층을 사례로 든다.^{¹Aristotle. Metaphysics, Book I, 981b.} 오늘의 관점에서 이 설명을 역사 전체에 적용할 수는 없겠지만, 지적 탐구에 필요한 시간이 개인의 능력만으로 확보되는 것은 아니라는 점은 생각해 볼 만하다.

누군가는 다른 사람의 노동에 기대어 사유할 수 있었다. 이때 육체노동과 정신노동의 구분은 단지 서로 다른 일을 한다는 뜻에 머물지 않는다. 누가 자신의 시간을 어떻게 사용할 수 있는지, 어떤 활동이 더 높은 지위와 연관되는지의 문제와도 이어진다.

그렇다면 사람을 대신해 기계가 일하는 사회는 이 관계를 바꿀 가능성이 있지 않을까. 사람을 노동에 묶어두지 않고도 더 많은 이들이 배우고 생각하고 창작할 시간을 얻을 수 있다면, 그것은 분명 기대할 만한 변화다.

그런데 여기서 역설이 생긴다.

오늘날 지식을 익히고 활용하는 일은 일부 계층의 여가적 활동으로만 남아 있지 않다. 교육을 받고 전문성을 쌓아 사무·기획·설계·분석 같은 일을 하는 것이 많은 사람에게 익숙한 생계의 경로가 되었다. 생각하는 일 역시 노동이 된 것이다.

그런 상황에서 AI는 인간의 노동을 대신하겠다고 한다. 그런데 그것이 대신하는 일에는, 한때 노동에서 벗어나야 누릴 수 있었던 지적 활동까지 포함된다. 노동을 덜어줄 기술을 기대했는데, 그 기술이 지식인으로서의 역할까지 맡으려 하는 셈이다.

물론 기계화의 역사를 육체노동의 대체, 그다음 정신노동의 대체라는 두 단계로 깔끔하게 나눌 수는 없다. 강의에서 다룬 배비지의 사례부터 정신노동의 기계화와 연결되어 있었다. 내가 묻고 싶은 것은 그 순서보다, 두 영역의 자동화가 함께 사회 깊숙이 파고들 때 인간에게 무엇이 남는가이다.

노동에서 해방된 인간은 무엇을 하는가

기계가 힘든 일(닫힌 과제)을 하면 인간은 더 창의적인 일(열린 과제)을 하면 된다는 말을 종종 듣는다. 그러나 그 말이 충분한 답인지 모르겠다. 육체노동은 기계에게 맡기고 인간은 사유하면 된다는 구분부터 다시 물어야 한다.

여기에 몸을 갖고 움직이는 피지컬 AI까지 생각해 보자. 정신노동은 소프트웨어가, 육체노동은 로봇이 맡는 방향으로 기술이 지속적으로 발전한다면 어떻게 될까. 그 가능성을 가정하면 ‘그때도 인간이 더 잘하는 일이 있을 것’이라는 답만으로는 질문을 이어가기 어렵다.

케인스는 1930년 「우리 손주 세대의 경제적 가능성」에서 경제적 필요가 완화된 뒤 사람들이 새로 얻은 자유와 여가를 어떻게 사용할 것인지 물었다.^{²John Maynard Keynes. Economic Possibilities for our Grandchildren (1930).} 내게 남은 질문은 거기서 한 걸음 더 나아간다. 노동에서 벗어난 뒤 하려고 했던 지적 탐구까지 AI가 더 잘 수행한다면, 인간은 무엇을 하며 살아갈 것인가.

AI가 더 잘한다고 해서 사람이 생각하고 만드는 일 자체가 불가능해지는 것은 아니다. 내가 그림을 그리며 얻는 경험과 누군가에게 납품할 그림을 생산하는 일은 겹치지만 같지는 않다. 결과물을 대신 얻는다고 해서 내가 그 과정에서 배우고 느끼는 경험까지 대신한 것은 아닐 것이다.

그렇지만 이 구분만으로 문제가 해결되지는 않는다. 누군가에게는 그 활동이 취미이지만, 누군가에게는 생업이다. 계속 그림을 그릴 수 있다는 말과, 그림을 그리는 사람으로 살아갈 수 있다는 말은 다르다. 생각하는 즐거움이 남는다고 해서 지적 노동을 하며 얻던 소득과 역할, 사회적 인정까지 그대로 남는 것도 아니다.

여기서 ‘그래도 인간에게는 의미가 남는다’고 서둘러 결론 내리고 싶지는 않다. 의미를 찾는 일과 생활을 유지하는 일은 서로 대신해 주지 못하기 때문이다. 노동을 덜 하게 되는 변화가 누구에게는 자유일 수 있지만, 다른 사람에게는 사회에서 자신의 자리를 잃는 일이 될 수도 있다.

그 차이는 어디에서 생기는가. 결국 AI가 무엇을 할 수 있는가뿐 아니라, 그 AI와 그것이 만들어낸 결과를 누가 통제하는가까지 물어야 한다.

모두를 대신해 일하지만, 모두의 것은 아니라면

AI가 인간의 일을 대신한다는 것에는 생략되기 쉬운 부분이 있다. 일을 대신하는 시스템과, 그 시스템이 만들어낸 이익은 누구의 것인가이다.

사람들이 오랫동안 쌓아온 지식과 표현, 일하는 방식이 AI의 토대가 된다면, 그것을 활용한 결과는 다시 누구에게 돌아가는가. AI를 사용할 수 있다는 사실만으로 그 기술의 운영이나 이익 배분에 참여할 권한까지 생기는 것은 아니다.

가령 어떤 사람이 AI로 같은 일을 더 적은 시간에 끝낼 수 있게 되었다고 해보자. 절약한 시간이 그 사람의 여가가 될지, 더 많은 일을 처리해야 하는 부담이 될지는 성능만으로 정해지지 않는다. 일을 하지 않아도 생활을 유지할 수 있게 될지, 그 일을 맡길 필요가 없는 사람으로 취급될지도 기술의 능력과는 별개의 문제다.

그래서 나는 ‘지식 추출주의’를 지식이 옮겨가는 현상만으로 보고 싶지는 않다. 누군가의 능력이 기술에 반영되고, 그 기술의 이용 조건을 정하는 권한은 다른 쪽에 놓이는 관계를 함께 봐야 한다.

노동에서 해방된다는 말도 여기서는 달라진다. AI가 사회에 필요한 일을 충분히 수행할 수 있더라도, 그 생산력을 이용할 조건을 극일부가 결정한다면 다른 대다수의 생활은 그 결정에 더 크게 휘둘린다. 일을 직접 하지 않아도 되는 주인과, 더 이상 맡을 일이 없어지는 사람은 전혀 다른 위치에 놓인다.

그렇다면 그 사회의 주인은 누구인가. 빅테크 기업의 수장들인가. 기업에 영향력을 가하는 국가 정부인가. 이들을 한 명의 절대적인 주인으로 묶기는 어렵겠지만, 누가 더 많은 결정권을 갖는지는 분명히 따져볼 수 있을 것이다.

주인은 자격을 갖춰야 하는가

처음에는 ‘주인이라면 책임도 져야 하지 않는가’라는 생각이 들었다. 다른 사람들의 일과 삶에 영향을 미치는 결정을 할 수 있다면, 그 결과도 자기 일로 받아들여야 하는 것 아닌가. 그런 주인의식이 없다면 주인으로서의 자격이 있다고 할 수 있을까.

그런데 이 질문을 곱씹어 보면 이상한 지점에 도달한다.

“애초에 자격이 있어야만 주인이 될 수 있는가.”

무언가를 소유하거나 결정권을 확보했다는 사실과, 그 권한을 행사할 자격이 있다는 판단은 다르다. 책임을 충분히 다하지 않는다고 해서 가지고 있던 권한이 저절로 없어지는 것도 아니다. 내가 그 사람을 주인으로 인정하고 싶지 않아도, 그의 결정이 내 삶에 영향을 미칠 수 있다.

그래서 ‘주인의식 없는 주인’은 말이 안 되는 표현이 아니다. 오히려 권한을 가진 사람과 그 권한에 걸맞은 책임을 지는 사람이 일치하지 않을 수 있다는 현실을 드러내는 말에 가깝다.

기술을 소유했다는 사실이 다른 사람들의 생계와 사회적 역할을 재편하는 결정을 어디까지 정당화할 수 있는지 물어야 한다. AI를 만들 수 있는 능력과, AI가 바꿀 사회의 조건을 결정할 자격은 같은 것이 아니기 때문이다.

주인의 눈 밖에 남는 사람들

강의에서는 이 책이 연결주의의 역사적 과정을 되짚는 데서 마무리되므로 현재 AI 환경에 그대로 적용하기는 어렵다는 취지의 견해를 밝혔다. 내가 메모해 둔 그 설명에서 충분히 납득되지 않았던 점은, 역사적 서술의 범위와 현재에 대한 설명력 사이의 관계였다.

저자는 공개 인터뷰에서 책의 역사적 개관이 1960년대까지이며 시각 AI를 중심으로 했다고 밝힌다.^{³Matteo Pasquinelli · Paolo Caffoni. Models of Hand and Head. UMBAU, 2024.01.18.} 한편 공개된 결론의 편집본은 트랜스포머와 GPT 같은 현대의 모델도 다룬다.^{⁴Matteo Pasquinelli. The Automation of General Intelligence. e-flux journal 141, 2023.12.} 과거를 다뤘다는 사실만으로 그 관점이 현재에 적용되기 어렵다고 판단할 수도 없을 것이다.

내게는 오히려 이 역사에서 출발해야 더 분명해지는 질문도 있었다.

“누군가를 대신해 일하는 기술이 발전할수록, 그 노동에서 벗어날 수 있는 사람은 누구이며 새로운 조건을 받아들여야 하는 사람은 누구인가.”

그 기술이 지적 활동과 육체적 활동을 모두 수행하게 된다면 이 질문은 더 커진다. 무엇을 하면 돈을 벌 수 있는가를 넘어, 어떤 활동을 통해 사회에 참여하고 자신의 삶을 만들어갈 것인지까지 다시 생각해야 한다. 그런데 그 조건을 정하는 권한마저 기술을 가진 쪽에 집중된다면, 인간이 노동에서 벗어난다는 말만으로 그 미래를 해방이라고 부를 수 있을까.

나는 아직 그 이후의 삶에 대한 답을 갖고 있지 않다. 다만 인간에게 남을 일을 찾는 것만으로는 충분하지 않다는 생각은 든다. 어떤 일이 남는지도 중요하지만, 사람에게 일이 남아 있어야만 살아갈 자격이 주어지는 사회인지도 함께 물어야 하기 때문이다.

주인에게는 자격을 묻지 않은 채, 그 결정 아래 놓인 사람들에게만 계속 쓸모를 증명하라고 요구하게 되는 것은 아닐까.