AI 지도책

저자(Author) : 케이트 크로퍼드(Kate Crawford)

▩ 개 요

‘케이트 크로퍼드(Kate Crawford)’의 저서 『AI 지도책(Atlas of AI)』은 인공지능을 단순한 ‘코드’나 ‘알고리즘’으로 보지 않고, 그것을 지탱하는 물리적 자원, 노동, 그리고 권력 구조를 파헤치는 인문사회학적 탐사 보고서입니다.

▩ 주 제

---

1. AI는 결코 ‘가상’이 아니다: 추출의 지리학

대중은 흔히 AI를 구름(Cloud)처럼 실체가 없는 추상적인 기술로 인식합니다. 하지만 크로퍼드는 AI가 지구의 자원을 고갈시키며 만들어지는 ‘추출 기반의 기술’임을 강조합니다.

• 천연자원: AI를 구동하는 하드웨어와 데이터 센터를 위해 리튬, 코발트, 희토류 같은 광물이 채굴됩니다. 저자는 리튬 광산을 직접 방문하며, AI의 탄생이 지구 환경에 남기는 파괴적 흔적을 추적합니다.
• 에너지: 대규모 언어 모델을 학습시키고 유지하는 데 막대한 전력이 소모되며, 이는 기후 위기와 직결됩니다. 즉, AI는 깨끗한 기술이 아니라 매우 ‘물질적’인 기술입니다.

---

2. 숨겨진 노동: 데이터 뒤의 인간들

AI가 스스로 학습한다는 환상 뒤에는 수많은 인간의 저임금 노동이 숨어 있습니다.

• 데이터 레이블링: 자율주행차나 챗봇이 정답을 맞히기 위해서는 수백만 개의 이미지와 문장에 ‘이것은 무엇이다’라고 이름표를 붙이는 작업이 필요합니다. 이 작업은 주로 개발도상국의 저임금 노동자들에 의해 수행됩니다.
• 플랫폼 노동: 아마존의 ‘메커니컬 터크’와 같은 플랫폼을 통해 보이지 않는 곳에서 데이터를 분류하고 검수하는 인간들이 없으면 AI는 작동할 수 없습니다. 저자는 이를 ‘인공 인공지능(Artificial Artificial Intelligence)’이라 부르며 기술적 소외를 비판합니다.

---

3. 데이터의 전유와 편향

AI 학습에 쓰이는 데이터는 공정하게 수집되지 않습니다. 인터넷에 떠도는 수조 개의 이미지와 텍스트는 당사자의 동의 없이 수집되어 기업의 자산이 됩니다.

• 저자는 인종, 성별, 감정을 분류하는 AI 알고리즘이 과거의 고정관념과 편견을 그대로 학습하여 사회적 차별을 고착화하고 있음을 지적합니다. 특히 인간의 복잡한 감정을 단 몇 가지 범주로 규정하려는 시도가 얼마나 위험한지를 경고합니다.

---

4. 국가와 기업의 통제: 새로운 권력의 지도

마지막으로 이 책은 AI가 어떻게 국가적 감시와 기업의 이윤 추구 도구로 변질되는지 분석합니다.

• 감시 체계: 얼굴 인식 기술과 예측 치안 시스템은 시민을 통제하는 수단이 됩니다.
• 권력의 집중: 거대 테크 기업들은 데이터를 독점함으로써 국가 이상의 권력을 행사하게 됩니다. AI는 결국 기존의 불평등한 권력 구조를 더욱 강화하는 장치로 작동하고 있다는 것이 저자의 결론입니다.

▩ 결 론

『AI 지도책』은 AI를 ‘지능의 문제’가 아닌 ‘정치의 문제’로 바라보게 합니다. 저자는 AI가 민주적 가치를 훼손하지 않으려면 기술적 혁신에만 매몰될 것이 아니라, 그 제조 공정 전반에 걸친 윤리적 책임과 규제가 필요하다고 역설합니다.

“AI는 하늘에서 떨어진 지능이 아니라, 지구의 자원과 인간의 노동을 갈아 넣어 만든 거대한 산업적 구조물이다.”

---

---

---

▩ Contents <<< [AI 지도책]

---

1 지구

• AI를 위한 채굴
• 연산의 풍경
• 광물학적 층위
• 검은 호수와 흰 라텍스
• 청정 기술이라는 환상
• 물류의 층위
• 거대기계로서의 AI

2 노동

• 작업장 AI의 과거 역사
• 포템킨 AI와 메커니컬 터크
• 해체와 작업장 자동화에 대한 구상 : 배비지, 포드, 테일러
• 시카고의 도축장
• 시간 관리, 시간 사유화
• 사적인 시간은 권력의 전략
• 속도의 무자비한 리듬

3 데이터

• 기계에 보는 법 훈련시키기
• 데이터 수요에 대한 짧은 역사
• 얼굴 포착
• 인터넷에서 이미지넷으로
• 동의 따위는 필요 없다
• 데이터의 신화와 은유
• 로켓이 어디 떨어지든 무슨 상관이랴
• 공유재 포획으로 억만장자 되기

4 분류

• 순환 논증 체계
• 편향 해소 시스템의 한계
• 편향에 대한 여러 정의
• 분류 엔진으로서의 훈련 집합 : 이미지넷의 사례
• ‘사람’을 정의하는 권력
• 인종과 성별을 구성하다
• 측정의 한계

---

---

5 감정

• 감정 예언자 : 감정이 돈이 될 때
• 세계에서 가장 유명한 관상가
• 감정 : 관상학에서 사진까지
• 감정을 포착하다 : 감정을 연기하는 수법
• 표정은 실제로 감정을 표현하는가
• 얼굴의 정치학

6 국가

• 제3차 상쇄 전략
• 메이븐 계획
• 국가의 외주화
• 테러범 신용 점수에서 사회적 신용 점수로
• 초국가, 국가, 나의 일상

맺음말ㆍ권력

• 한계를 모르는 게임
• AI의 파이프라인
• 지도는 영토가 아니다
• 정의를 위한 연대를 향하여

덧붙이며ㆍ우주

---

---

▩ 인용글(Quoted Passage) <<< [AI 지도책]

---

▶ 데이터(Data)

케이트 크로퍼드의 『AI 지도책』 중 ‘데이터(Data)’ 장은 AI 학습에 사용되는 데이터가 어떻게 수집되고, 그 과정에서 어떤 윤리적·정치적 문제가 발생하는지를 깊이 있게 다룹니다. 저자는 데이터를 단순한 ‘정보’가 아닌, ‘추출된 자원’이자 ‘권력의 도구’로 정의합니다.

---

1. 데이터의 ‘전유(Appropriation)’와 동의 없는 수집

과거에는 연구 목적으로 소규모의 정제된 데이터를 사용했으나, 현대 AI 모델은 ‘거대할수록 좋다’는 논리에 따라 인터넷상의 거의 모든 데이터를 흡수합니다.

• 공공재의 사유화: 우리가 SNS에 올린 사진, 작성한 글, 일상의 기록들이 당사자의 명확한 동의 없이 거대 테크 기업의 AI 학습용 자산으로 편입됩니다. 저자는 이를 원주민의 땅을 강탈했던 식민지 주의적 ‘추출’ 방식과 유사하다고 비판합니다.
• 프라이버시의 소멸: 한 번 데이터셋에 포함된 정보는 삭제하기가 거의 불가능하며, 개인의 의사와 상관없이 영구적으로 AI 모델의 일부가 됩니다.

---

2. ‘이메이지넷(ImageNet)’ 사례와 분류의 폭력

저자는 AI 시각 인식 학습의 표준이 된 ‘이메이지넷’ 데이터셋을 집중 분석합니다.

• 자의적인 라벨링: 수천만 개의 이미지를 분류하는 과정에서 저임금 노동자들이 투입되었습니다. 이 과정에서 ‘상사’, ‘낙오자’, ‘나쁜 사람’ 등 주관적이고 편향된 기준이 데이터에 입혀졌습니다.
• 복잡성의 제거: 인간은 맥락에 따라 다양한 면모를 지니지만, AI 데이터셋은 인간을 단 하나의 라벨(범주) 속에 가둡니다. 이러한 ‘분류’ 행위 자체가 인간의 복잡성을 훼손하는 정치적 폭력이 될 수 있다고 지적합니다.

---

3. 감정 인식 데이터의 허구성

최근 AI는 인간의 표정을 보고 감정을 읽어낸다고 주장하지만, 크로퍼드는 이 데이터의 기초가 되는 이론(폴 에크먼의 감정 이론 등)이 부실하다고 비판합니다.

• 고정관념의 강화: 문화적 배경이나 상황에 따라 웃음의 의미는 다를 수 있습니다. 그러나 AI 데이터는 ‘입꼬리가 올라가면 행복’이라는 식의 단순한 공식을 학습하여, 면접이나 치안 현장에서 사람을 잘못 판단하는 근거로 쓰일 위험이 큽니다.

---

4. 데이터는 ‘거울’이 아니라 ‘설계도’이다

흔히 사람들은 데이터가 세상을 있는 그대로 비추는 거울이라고 생각합니다. 하지만 저자는 데이터가 우리가 세상을 보는 방식을 결정하는 ‘설계도’ 역할을 한다고 말합니다.

• 편향의 고착화: 데이터에 반영된 과거의 차별(인종, 성별 등)이 AI를 통해 자동화되면, 미래에도 그 차별이 정당화되고 반복되는 구조가 만들어집니다.

---

▷ 요약하자면

크로퍼드가 말하는 데이터의 핵심은 “데이터는 결코 중립적이지 않다”는 것입니다. 데이터는 수집하는 주체의 의도, 분류하는 사람의 편견, 그리고 그 과정에서 소외된 사람들의 희생이 담긴 권력의 산물입니다.

---

---