인공지능은 자본주의를
어떻게 바꾸고 있는가

화려한 기술진보가 가리고 있는,
인간이 인간을 지배하는 새로운 방식,
인지자본주의의 본질을 통찰하다!

챗GPT를 비롯한 생성 인공지능이 널리 쓰이면서 기술진보의 새로운 문이 열렸다는 이야기가 곳곳에서 흘러나온다. 인공지능이 글을 쓰고 그림을 그리며 사람과 능수능란하게 대화하는 수준에 도달했다는 평가 속에서, 인간의 위기가 가속화되리라는 전망이 속출한다. ‘강한 인공지능’이 인간의 동반자가 될지 적대자가 될지를 걱정하는 이들부터, 인공지능 기술이 미국과 경쟁하는 국가의 전쟁수단이 될 가능성을 우려하는 입장까지 기술진보의 이면과 그로부터 비롯될 미래를 불안해하는 사람도 늘고 있다.

그러나 기술진보가 정말로 가리고 있는 것은 인공지능이 자본주의를 더욱 정교하게 바꾸고 있다는 사실이다. 사이버스페이스와 디지털 문화를 국내에 처음 소개한 1세대 디지털 사회연구자 백욱인은 이 책 《인공지능 시대 인간의 조건: 플랫폼과 알고리즘으로 지배하는 인지자본주의의 현재》에서 챗GPT와 같은 기술진보에 시선을 빼앗긴 채 ‘인류의 위기’나 ‘일자리의 소멸’ 같은 담론에 빠져드는 우리의 단견을 정면으로 거스른다. 지은이는 공유와 가상까지 사고파는 현재의 자본주의를 ‘인지자본주의’라고 규정하고, 기술진보의 이면에 언제나 착취와 수탈, 통제와 감시가 있었음을 예리하게 통찰한다.

다시 말해 진짜 문제는 기술진보의 배후에 인간이 인간을 지배하는 방식의 변화가 있다는 것이다. 플랫폼 중심의 인터넷 지배구조, 플랫폼 노동자에 대한 기업들의 착취와 수탈, 이용자의 정보가 데이터로 환원되어 이윤추구의 수단이 된 현실, 즉 인지자본주의가 인공지능 시대 자본주의의 본질이다. 우리 생활 속에 깊숙이 파고든 플랫폼과 여기서 길어낸 빅데이터, 빅데이터를 이윤으로 바꿀 수 있도록 하는 알고리즘은 인지자본주의 체제의 핵심적인 장치로 작동하고 있다. 독자들은 우리의 일상을 포획하는 플랫폼과 알고리즘에 대한 이론적·실천적 관점을 통해, 인지자본주의를 정확하게 인식하고 그로부터 벗어날 역량을 모색할 수 있을 것이다.

1. 플랫폼 장치는 우리를 어떻게 인지하고 포획하며 착취하는가
― 인공지능 시대의 변화를 읽는 이론적 관점

1세대 디지털 사회연구자 백욱인은 1990년대부터 정보기술의 사회적 영향을 연구해왔다. 10여 년 전부터 구상한 3부작의 첫 권인 이 책에서, 지은이는 현대 정보사회 또는 인지자본주의가 어디서 비롯하는지, 그리고 이를 바라보는 이론적 틀이 무엇인지를 탐색하며 논의를 시작한다. 제2차 세계대전을 전후해 고안된 사이버네틱스(cybernetics)는 인간과 동물, 기계를 제어/통제(control)의 관점에서 하나로 연결하려는 구상이었다. 외부환경에 대한 인지와 피드백을 통한 자기조절기계의 창발을 지향하는 사이버네틱스는 인공지능 연구와 로봇공학으로 이어졌다. 여기에 데이터와 정보, 지식을 하나로 통합하는 정보이론이 연결되면서 오늘날의 플랫폼 장치가 구축되었다.

플랫폼 장치의 핵심에는 빅데이터가 있다. 이용자들이 구글의 검색엔진이나 페이스북, 트위터 같은 소셜미디어 등의 플랫폼을 사용할 때마다 그들이 생성하는 데이터는 플랫폼 장치에 흡수된다. 데이터가 단순한 숫자의 조합에 그칠 뿐이라고 말할 수 없는 것은, 플랫폼 기업들이 이용자의 자발적인 활동뿐만 아니라 각종 흔적 데이터(메타데이터)까지 이윤을 위한 수단으로 전환하기 때문이다. 국가기구 역시 플랫폼 기업을 통해 시민들의 데이터를 확보함으로써 통제와 감시를 강화하는 현실도 문제다.

그럼으로써 원래 나뉠 수 없는 개체인 인간은 알고리즘을 통해 데이터로 분할된다. 이렇게 분할된 개체는 ‘조각주체’로서 플랫폼 장치의 데이터 회로를 떠돈다. 정보와 지식은 디지털 플랫폼 속에서 조각나고, 개인들의 분할된 감정은 좌표 찍기 놀이나 화풀이로 전락한다. 가짜뉴스가 범람하면서 공론장도 위기에 놓인다. 대중은 갈수록 플랫폼에 철저하게 종속된다. 이런 현상을 요약하는 말이 바로 ‘기계적 예속’과 ‘사회적 복종’이다. 이처럼 플랫폼 장치에 구속된 채 주체성을 잃어가는 인간은 어떻게 해야 그로부터 벗어날 수 있을까. 이를 위해서는 우리의 삶을 규정하는 자본주의의 변화를 들여다봐야 한다는 것이 지은이의 진단이다.

“빅데이터가 생산되는 과정에서, 새로운 축적을 위한 원료가 저장되는 동시에 이용자층이 분화된다는 이중적 의미에서 본원적 축적이 발생한다. 거대 독점 플랫폼은 이용자의 활동 결과물을 자동으로 전유하면서 새로운 가치를 생산하기 위한 원료를 축적한다. 거대 플랫폼 기업들은 데이터의 정보화와 지식화를 수행하고 수익분할이나 수동임금, 창작경제 등을 활용해 이용자를 창작자와 소비자로 양극화한다.”
- 〈3장. 빅데이터, 인공지능 시대의 한복판에 서다〉, 114쪽

“디지털 플랫폼을 통해 개체가 수치로 환원되는 과정이 분할체화라면, 분할체로 이뤄진 데이터세트가 개인에게 되먹여지면서 생각과 행태를 만드는 과정을 조각주체화라 부를 수 있다. (…) 알고리즘은 이용자의 편의를 극대화하기 위해 작동하는 것처럼 보이지만, 실상은 자본의 효율성을 위해 운용될 뿐이다. 플랫폼은 개체의 분할체화와 조각주체화를 반복하면서 개인의 사고와 행위를 자동화한다. 오늘날 디지털 플랫폼은 자동화된 계획과 통제를 완성하고 있다는 점에서 사이버네틱스의 이상을 달성하고 있다.”
- 〈7장. 개체의 분할체화와 분할체의 조각주체화〉, 236쪽

2. 공유와 가상까지 사고파는 인지자본주의 시대, 어떻게 노예가 되지 않을 것인가
― 인지자본주의 비판을 위한 실천적 관점

이제 지은이는 인터넷 기술혁신을 통해 자본주의의 변화를 통찰한다. 1990년대 인터넷이 보급된 이래로 공유와 나눔은 사이버스페이스의 미덕으로 자리 잡는 듯했다. 하지만 개인 사이의 자유롭고 평등한 거래를 표방했던 P2P는 암호화폐의 등장으로 변곡점을 맞았다. 블록체인 기반의 거래가 인터넷을 더욱 투명하게 만들 것이라는 예측도 잠시, 거래소와 같이 중앙화된 기관이 출현하고 불투명한 거래가 빈번해지면서 테라-루나 사태 같은 시장 왜곡이 속출하고 있다.

무엇보다 우버와 에어비앤비가 상징하는 ‘공유경제’의 출현은 비자본주의적 또는 비시장적 현상이라고 생각해왔던 공유마저 사고팔 수 있음을 보여준다. 거래의 중심에는 역시 플랫폼이 있다. 다른 사람을 위해 내가 사용하는 차량이나 주거공간을 잠시 빌려준다는 아이디어는 고도로 상업화된 플랫폼 속에서 상품으로 탈바꿈한다. 유튜브와 틱톡 같은 스트리밍 서비스는 ‘창작자 경제’라는 이름으로 크리에이터에게 활동에 따른 수익을 제공하겠다고 유혹하고, 각종 창작 플랫폼이 범람하면서 이용자를 더 많이 끌어들이고 있다. 페이스북이 사명을 바꾸면서까지 의욕적으로 추진하고 있는 메타버스는 가상현실·증강현실·혼합현실 등의 기술을 통해 가상까지 시장화하려는 자본의 노력을 단적으로 드러낸다.

플랫폼이 우리의 일상을 장악하면서 그것에 기반을 둔 노동도 보편화되었다. 배달노동자를 비롯해 챗GPT 개발에 따른 유독언어를 필터링하는 온라인 노동자 등의 그림자노동은 일상을 시공간적으로 통합하는 동시에 분할하는 플랫폼 자본주의의 현실을 보여준다. 지은이는 플랫폼 자본주의 또는 인지자본주의의 핵심에 ‘플랫폼 지대’가 있다고 지적한다. 거대 플랫폼 기업들이 이용자의 데이터를 전유하고 그들의 노동을 통제함으로써 막대한 지대를 거두고 있다는 것이다. 우리가 인지능력과 감정마저 이윤으로 흡수하는 인지자본주의 체제에 갈수록 포섭되고 있다는 지은이의 분석은, 현실을 온전하게 인식해야 대안을 마련할 수 있다는 점에서 실천적인 의미를 갖는다.

“플랫폼 이용자나 피고용자는 다양한 방식으로 장소와 시간을 달리하며 디지털 어셈블리라인에 결합되어 있다. 우리는 은행 계정의 생산소비자로, 하부 노동을 지탱하는 유령노동자로, 말단 택배 운수노동자로, 아마존 창고의 분류노동자로, 페이스북 공장의 모듈엔지니어로, 인형 눈알을 달아주는 디지털 하청노동자로, 가짜뉴스를 만들어 수동소득을 노리는 유튜버로, 그리고 검색 이용자로 생산-소비의 여러 측면에서 노동과정에 예속되는 한편 인공지능을 기반으로 하는 거대 플랫폼의 노예로 전환되고 있다. 이런 과정에서 사람들은 새롭게 재편되고 있는 인공지능 기반 사회시스템에 복종한다.”
- 〈11장. 플랫폼 자본주의 속 노동의 변화〉, 370~371쪽

“서비스 플랫폼으로 매개되는 지대관계의 현대적 형태는 봉건지대의 현물 형태가 실현되는 모양과 유사하다. 물론 현대적 지대관계에서 경제 외적 강제는 작동하지 않는다. 이용자는 플랫폼에서 할당받는 각종 서비스와 편의의 대가로 디지털 흔적과 활동 결과물을 서비스 제공자에게 양도한다. 이러한 양도가 쉽게 이뤄지는 이유는 기업이 서비스를 무료로 제공하기 때문이다. 서비스 이용자가 자신의 활동 결과물을 양도하지 않는다면 플랫폼 자체가 돌아가지 않기 때문에, 공동의 것을 이용한 소셜미디어에서는 이용자 활동 결과물 자체가 플랫폼에서 핵심적인 역할을 한다.”
- 〈12장. 디지털 서비스 플랫폼의 핵심, 플랫폼 지대〉, 399~400쪽

3. 기계적 예속과 사회적 복종에서 해방되기 위해 무엇을 할 것인가
― 인공지능 시대 인간의 조건을 생각한다

정치철학자 한나 아렌트는 구소련의 인공위성 발사를 지켜보며 인간의 조건이 변할 것을 예감했다. 그가 통찰한 인간의 세 가지 조건인 노동, 작업, 활동은 인공지능 시대를 맞아 플랫폼에 의한 기계적 예속과 사회적 복종이라는 변화를 맞이하고 있다. 플랫폼과 알고리즘을 통해 대중을 착취하고 통제하는 인지자본주의 체제는 제어/통제와 정보이론의 결합체인 사이버네틱스의 이상을 나름의 방식으로 구현한다.

그러나 지은이는 기계가 인간을 지배할 것이라 단정해서는 곤란하다고 지적한다. 인간과 기계의 관계가 다양한 배치/배열 속에서 바뀔 수 있다는 지은이의 진단은 기술진보에 가려진 지배관계를 드러낼 때 더욱 선명해진다. 문제는 인간 일반이 기계의 노예가 되는 것이 아니라, 누가 기계를 통해 배달노동자, 온라인 노동자, 각종 그림자노동자 들을 착취하고 통제하느냐다. 거대 플랫폼 기업들, 이들 기업을 통해 시민들의 데이터를 전유하는 국가기구, 대중을 분할체로 만듦으로써 이윤과 지배를 동시에 추구하는 이들을 명확하게 밝혀야 하는 이유다.

그런 점에서 인지자본주의 체제를 통찰하는 작업은 인간이 인공지능과 어떤 관계를 맺을 것인지를 가늠하는 동시에, 기계적 예속과 사회적 복종에서 벗어나는 시작점이 될 수 있다. 인간과 기계의 관계에 대한 정치경제학적 분석과 플랫폼에 대한 비판적 인식이 축적되고 결집할 때, 플랫폼 장치의 알고리즘으로 분할되던 주체가 다시금 광장으로 모일 수 있다는 것이 지은이의 전망이다. 인공지능 시대 인간의 조건을 넘어설 해방의 순간은 새로운 몸들이 광장에 모여 스스로를 새롭게 배치하는 데 달려 있다.

“개체는 사회적으로 복종하고 분할체는 기계적으로 예속되어 있지만, 복종과 예속의 틀에서 틈새를 비집고 새로운 대항을 조직하거나 탈주할 수 있다. 비록 기계적 예속은 확대되고 있지만 여전히 분할체의 연대와 저항의 가능성이 남아 있다. 이것을 무시하면 분할체의 노예화와 개인의 예속만 남고 출구는 없는 디스토피아에 빠진다. 그러나 이런 생각은 또한 얼마나 관념적인가. 이를 구체적인 현실로 연결하는 고리를 모색해야 한다. 그래서 인공지능 플랫폼에 대한 비판적 분석 작업과 더불어, 기계적 예속과 사회적 복종이 어디서 연결되는지, 주체가 그로부터 어떻게 탈출할 수 있을지를 탐색해야 한다.”
- 〈나가며_인공지능 시대 인간의 조건을 생각한다〉, 456쪽

들어가며_‘인간 이후’의 존재 앞에 선 인간 1부. 인공지능 시대의 변화를 읽는 이론적 관점 1장. 사이버네틱스가 촉발한 정보사회 사이버네틱스와 제어관계 | 사이버네틱스와 2차 제어혁명 | 인간과 기계의 제어관계 변화 | 사이버네틱스와 자동화의 모순 | 사이버네틱스 기계와 자동민주주의 | 사이버네틱스의 양가성과 통제사회 2장. 통합적 관점에서 보는 정보이론 정보란 무엇인가 | 정보의 세 가지 수준 | 정보와 물질 | 정보와 미디어 | 정보와 인간 | 디지털 대상물에 대한 탐구와 새로운 정보론 3장. 빅데이터, 인공지능 시대의 한복판에 서다 빅데이터의 형성 | 빅데이터의 특성 | 데이터의 본원적 축적과 데이터센터 | 빅데이터 비트의 유형 | 데이터 전유 모델 | 빅데이터와 생성 인공지능 4장. 인공지능은 문화를 창조할 수 있는가 기억과 정보의 저장 | 잉여와 축적과 미디어의 탄생 | 감각기관과 기억장치 | 역사가 없는 인공지능의 세계 | 인공지능으로 생성되는 문화 | 인공지능이 생성하는 문화 5장. 인공지능의 존재론 정보와 지능 | 인공지능과 인간 이후의 정보 | 인공지능은 인간의 꿈을 꾸는가 6장. 플랫폼 장치는 우리를 어떻게 인지하고 포획하며 착취하는가 푸코·들뢰즈·아감벤의 장치론 | 디지털 서비스 플랫폼의 세 가지 계통 | 플랫폼과 지식관계 | 플랫폼의 권력관계와 추적포획장치 | 플랫폼의 생산관계와 가치증식장치 | 장치에서 물러설 것인가, 바꿀 것인가 7장. 개체의 분할체화와 분할체의 조각주체화 디지털 서비스 플랫폼에 의한 분할체화 | 부분할체-반분할체-분할체라는 새로운 인간 조건 | 비동일성의 동일화 | 레거시미디어 콘텐츠의 분할체화와 예속화 | 페이스북, 소셜그래프, 개체의 분할 | 기계적 예속과 사회적 복종의 순환 | 조각주체의 데이터세트에서 벗어나기 2부. 인지자본주의 비판을 위한 실천적 관점 8장. 인터넷의 변화로 들여다보는 기술혁신의 이면 인터넷과 규정적 기술의 변화 | 열림과 닫힘의 순환주기 | 빅데이터와 플랫폼 독점 | P2P와 블록체인, 암호화폐 | 웹 3.0과 웹3 9장. 공유와 가상까지 사고파는 인지자본주의 시대 공유하지 않는 공유경제 플랫폼 | 공유경제의 기괴한 부산물, 조각투자 | 크리에이터 소유경제 | 가상의 재물질화와 재매개 | 인터페이스의 변화와 몸 | 재물질화의 새로운 방식, 메타버스 | 생성 인공지능과 새로운 생산물 10장. 인지자본주의를 어떻게 비판할 것인가 인지자본주의 비판의 세 가지 갈래 | 인터넷 기술과 디지털 경제를 둘러싼 논쟁 | 긍정적 외부효과와 혜택의 독점적 전유 | 자동화와 사이버네이션 | 가치론의 확장인가, 폐기인가 | 디지털 보편시장의 확대 | 공유경제와 디지털 보편시장 | 새로운 분배론 | 비판적 인지자본주의론의 확장을 위하여 11장. 플랫폼 자본주의 속 노동의 변화 축적의 조건을 바꾸는 플랫폼 | 플랫폼 수탈과 착취의 결합 | 플랫폼 노동의 현실 | 플랫폼 독점을 넘어 | 디제라티의 몰락 12장. 디지털 서비스 플랫폼의 핵심, 플랫폼 지대 이용자 활동 결과물과 외부효과의 전유 | 플랫폼 지대 | 플랫폼과 사이버네틱스 축적체제 | 디지털 서비스 플랫폼 생산과정의 특성 | 인지자본주의의 새로운 축적방식과 비판 13장. 팬데믹 시대는 어떻게 기계적 예속과 사회적 복종을 강화했는가 4차 공간화와 질병의 수치화 | 의료-건강 데이터와 기계적 예속화 | 팬데믹 시대의 규율생명적 통치성 | 팬데믹과 새로운 저항성 | 숙주와 기생충의 생태계 나가며_인공지능 시대 인간의 조건을 생각한다 인간과 기계의 관계 | 우리는 인공지능과 어떤 관계를 맺어야 하나 | 세상을 바꾸는 한순간을 꿈꾸며 참고문헌 찾아보기