데이터 알고리즘 뒤편에서 작동하는 권력과 자본의 음모
기술 혁신의 수혜는 누구의 몫이어야 할까?
제4차 산업혁명은 누구를 위한 기술일까?
시민 중심의 기술사회를 위한 비판적 가이드라인

“알고리즘 자동화 기계의 대체로 인해 노동 기회를 박탈당한 인간의 노동권과 생존권에 대한 사회적 책무는 무엇인가. 이제까지 성장 지상주의만큼이나 기술 혁신의 최종 수혜자가 또다시 힘 있는 재벌의 몫이어야만 하는가. 우리 사회의 기술혁신 모델이 왜 굳이 미국 실리콘밸리식 시장주의의 구상에 머물러 있어야만 하는가. 보다 본질적으로는, 제4차 산업혁명은 누구의 그리고 누구를 위한 기술이고 재편인가. 우리는 질식할 정도로 많은 제4차 산업혁명의 구호들 앞에서 이 같은 질문들을 진지하게 던지는 이를 쉽게 찾지 못하고 있다.”

제4차 산업혁명, 빅데이터와 공유경제, 인공지능으로 인한 노동의 종말……. 기술사회의 미래를 예견하는 용어들이 주변에 난무하지만, 무엇 하나 현실적이거나 구체적이지 않다. ‘기술 과잉의 시대’에 만들어진 무심한 공백과 사라진 맥락을 채워줄 사회적 상상력이 필요한 시점, 빅데이터 및 테크놀로지 문화 연구가 이광석 교수는 『데이터 사회 비판』을 통해 혁신이라는 의도에만 치중해 그동안 등한시되었던 기술이 어떻게 우리 일상에 영향을 미치고 있는지 되살피면서, 불안한 기술사회에서 살아남기 위한 구체적인 독법을 제안한다.

기술 과잉 시대의 아이러니
_ 기술이 중립적일 수 있을까?

아이러니하게도 인간을 위한 기술이 차고 넘칠수록 미래에 대한 불안은 더욱 커지고 있다. 기술이 미래에 대한 투명성을 증대시키기보다는 우리 자신도 어찌 못하는 어두컴컴한 ‘암흑상자’가 되어가고 있는 것이다. 포털 엔진의 검색창에 검색어를 입력하면, 마치 주술과 같이 검색의 최종 결과만이 나타날 뿐 저쪽 너머 기술의 작동 과정은 전혀 알 수가 없다. 일반인들은 네모반듯한 단순한 검색창 뒤에는 숨어 있는 알고리즘 암흑상자에 접근할 수 없지만, 당연하게도 그 안에서 발생하는 데이터 코딩 과정에 어떠한 편견과 오염도 기입되지 않았을 거라 생각한다. 그러나 과연 기술이 중립적일 수 있을까?
이 책은 기술 과잉의 현실을 방관해온 한국 사회 혹은 우리들의 무기력증을 비판하고 스스로를 성찰하도록 한다. 저항의 소멸은 대안이 부재하거나 도래하지 않을 것이란 오판에서 기인한다. 저자는 자본주의 말기로 접어들면서 더욱 짙어지는, 기술을 불변의 상수로 두고 현실을 정의하려는 사피엔스의 고약한 관성을 멈춰야 한다고 주장한다. 그럴 때에만 대중 자신의 손과 몸으로 도발하고 기술에 인간의 얼굴을 아로새기는 새로운 대안적 흐름을 만들 수 있다고 말이다.

데이터 권력과 알고리즘 통치
_ 지금 우리에겐 호신술과 독법이 절실하다!

『데이터 사회 비판』은 이전 기술혁명만큼이나 더 크고 더 기괴한 기술, 특히 데이터 기술이 현실을 재구성하고 있다는 비판적 가정과 물음을 바탕으로 논의를 시작한다. 우리가 유튜브, 페이스북, 인스타그램, 트위터 등의 플랫폼에 매일의 일상을 찍어 올리고 공유하고 반응하는 사이, 쏟아내는 말뿐만 아니라 말로 내뱉기 전의 머릿속 정서와 감정이나 표정, 생체리듬까지 우리가 인지하지 못한 채 데이터화되어 가상의 세계를 떠돌아다닌다. 사람들은 이러한 데이터 흐름에 맞춰 정보 생체 기계로 점점 진화하고 최적화된다. 휴대폰이 인간의 몸과 뇌 속으로 숨어들고 칩 등으로 이입되어 생체 정보를 재생산한다.
데이터의 양이 많다는 것은 형식적 변화의 조건일 뿐, 정말 중요한 것은 매일의 감정과 정서의 흐름, 생체리듬까지 데이터로 전환해 이를 바탕으로 권력을 재생산할 수 있는 사회의 조건 변화이다. ‘알고리즘’은 이러한 데이터를 분석하는 명령어 프로그램이자 데이터 쓰나미를 분석하는 자동 기계이다. 즉, 대중의 데이터 활동을 배양하는 ‘플랫폼’은 데이터와 알고리즘이 구성하는 새로운 기계 장치에 크게 의존한다고 볼 수 있다. 데이터를 분석하는 알고리즘 기술과 플랫폼은 오늘날 자본과 권력의 핵심 통치수단이자 유용한 연장이 되고 있다. 예컨대, 구글은 자체 제작하는 콘텐츠 없이도 이용자 데이터를 수시로 채집하는 브로커 지위를 이용해 수익을 만들어내는 전형적인 플랫폼 업자다. 구글 검색, 구글 메일, 구글 문서 등에서 작동하는 데이터 알고리즘들은 전 세계 이용자의 데이터를 실시간으로 분석하고, 알고리즘 광고 프로그램인 ‘애드센스’를 통해 이용자에게 맞는 게릴라형 맞춤형 광고를 제공하며 이윤을 만들어낸다.
권력의 경우도 마찬가지다. 현대 권력이 호출하고 자동 통제하는 개인 정보 수집 능력은 범죄 기록, 생활기록부, 주민등록 정보, 건강보험 정보, 납세 정보 등 공식화된 데이터베이스의 통제 정치를 넘어선다. 통치 권력의 능력은 아직까지 국민의 사회적 통계 능력을 세분화하고 통합하는 능력에 달려 있지만, 사실상 데이터 알고리즘 사회의 통치 능력은 이제 사적으로 은밀한 곳에서 뿜어내는 시민들의 비정형 데이터 배설과 데이터 부스러기의 수집과 관리에 좌우된다. 이렇듯 데이터 알고리즘 사회에서는 거대 데이터 더미를 수집하고 처리하는 일이 중요해지고, 그로 인해 새로운 계급 격차가 발생할 확률이 높다. 빅데이터의 소유와 접근 정도, 최적 데이터 알고리즘의 생산과 분석 능력, 데이터의 지속적 접근과 통제 능력 정도에 따라 계급 격차가 발생해 이른바 ‘데이터 계급’이 탄생하는 것이다.

시민 주도의 기술정치학
_ 기술과 인간의 공생을 위한 지침

‘빅데이터 사회’, ‘스마트 지식사회’, ‘지능 정보사회’ 등등 기술 과잉과 관련한 미끈한 언어들이 대체로 놓치는 점은, 미래에 계속해 짊어져야 할 것들, 배제되는 것들 혹은 악화일로에 있는 것들에 관한 무심과 공백들이다. 저자는 기술과 인간의 공생을 위해서는 알고리즘 장치를 무기 삼아 데이터를 탈취하는 데이터 권력으로부터 시민들이 데이터 통제력을 되찾아 오는 일이 중요하다고 강조한다. 인간 데이터 생산 활동, 알고리즘 장치, 플랫폼 시장의 독점이나 신종 통치 행위에 대응해 시민들이 주도적으로 기술의 미래를 어떻게 준비할 것인지 고민해야 한다는 것이다.
저자는 무차별 빅데이터 수집을 규제하기 위해서는 시민들의 기술 인권, 즉 데이터 프라이버시를 보호하는 합당한 법과 규제안이 뒷받침되어야 함을 강조한다. 또한 플랫폼 재설계나 기본소득을 이용해 노동과 자원을 민주적으로 공유할 수 있는 방안을 고안하며, 더 나아가 ‘메이커 운동’을 바탕으로 대중 스스로가 자본화된 기술 체제에 의해 죽어가는 제작과 수리 문화의 감각을 되찾아 암흑상자와 같은 기계와 기술의 작동 원리를 파악함으로써, 우리 모두가 인류 문명의 제작자가 되는 것에 관심을 가져야 한다고 말한다.
저자가 『데이터 사회 비판』을 통해 대중의 데이터 생산을 매개해 구성되는 권력의 문제에 이어서, 플랫폼 자본, 정보와 데이터로 기록되는 신체, 데이터 권력과 프라이버시, 메이커 운동과 성찰적 기술 감각, 테크노 타자, 포스트휴먼, 기본소득, 노동과 인공지능, 공유지 운동, 핵티비즘, 플랫폼 조합주의, 기술-몸의 앙상블, 데이터 기술의 시민주도형 설계 등 여러 비판적 쟁점들을 다루는 것은, 결국 데이터 알고리즘 사회의 자율적 인간 주체들을 위한 비판 능력과 지혜, 즉 불안한 기술 사회의 독법을 제시하기 위함이다.
오늘날 기술의 진화 방향은 점점 평범한 사람들의 삶과 멀어져 가고, 산업 기계와 디지털 정보 시절처럼 시민 대중은 그저 인공지능 시대에도 단순 노동이나 데이터를 제공하는 노예와 같은 무기력한 존재인 듯 보인다. 시간이 흐를수록 자본주의의 미래가 대중의 집합지성에 의존해 이윤을 수취한다고 본다면, 인공지능 설계에서도 또한 시민 대중의 기술 개입에 관한 사회적 상상력이 적극 삽입되어야 한다. 미래의 진단이 그저 학자연하는 기술 엘리트들만의 가상 시나리오가 되지 않으려면, 무엇보다 기술사회의 미래를 논할 ‘시민의 기술정치학’이 필요한 시점인 것이다.

머리말_ 넘쳐나는 데이터에 숨겨진 권력과 자본의 코드 읽기 1장 기술은 왜 정치적인가 온라인혁명과 퇴행의 반복적 시간 여행 | 기술주의의 역사적 반복에 세뇌된 우리들 | 기술이 중립적일 수 있을까? | 하이테크 시장에 대한 환상 | 기술은 정치다 2장 데이터 알고리즘 사회의 형성 빅데이터라는 신세계 | 플랫폼 경제에 숨겨진 욕망 | 플랫폼 자본주의의 양면성 | 알고리즘을 통한 이윤 메커니즘 3장 포스트휴먼, 데이터 계급의 탄생 모두가 데이터가 되는 세상 | 데이터 계급의 탄생 4장 데이터 권력의 등장 ‘제로(0) 프라이버시’ 그 이후 | 사회적 차원에서의 감시와 프라이버시 | 첨단 기술 장치에 의한 일상의 감시 | 데이터 권력의 등장 | 데이터 참여와 놀이를 즐기는 위기의 현대인들 | 빅데이터 시대의 ‘표현의 자유’ | 데이터 과잉 뒤에 숨어버린 진실 | 알고리즘 권력에 의한 데이터 소외 5장 시민사회 상상력 안에서의 제4차 산업혁명 혁명의 슬로건 뒤에 가려진 것 | 시민의 상상력과 제4차 산업혁명 | 데이터 알고리즘 사회와 데이터 인권 | 가상ㆍ증강 현실 속에서 사회적 감각 찾기 | 인공지능, 테크노 타자와의 공생 | 공유경제와 대안적 플랫폼의 구상 | 메이커 운동과 성찰적 기술 감각의 회복 | 시민사회 ‘기술 인권’의 필요성 6장 인공지능과 노동, 그리고 기본소득 기업주의와 인공지능의 동거 | 인공지능 시대 인간중심주의의 문제 | ‘노동의 종말’의 시대가 다가올까? | 실리콘밸리에서 기본소득이 환영받는 이유 | 데이터 노동 시대의 기본소득 | 인공지능, 사회적 공론화가 필요한 시점 | 인공지능의 걸림돌 | 시민 주도의 기술정치학 7장 기술-인간 공생의 사회 디자인 ‘비판적’ 메이커 문화의 부상｜손과 몸으로 기술을 해부하다　| 데이터 인권 101 | 기술과 인간의 공생을 위한 지침 색인