인공지능은 무엇이 되려 하는가

저자(Author) : 스티븐 핑커(Steven Pinker), 맥스 테그마크(Max Tegmark)

▩ 개 요

‘스티븐 핑커(Steven Pinker)’와 ‘맥스 테그마크(Max Tegmark)’를 비롯한 세계적인 석학들의 대담을 엮은 ‘인공지능은 무엇이 되려 하는가(Possible Minds)’는 AI가 인류의 미래에 축복이 될지, 아니면 실존적 위협이 될지에 대한 다각적인 통찰을 담고 있습니다. 이 책은 단순히 기술적인 해설서가 아니라, ‘지능’의 본질과 인류의 생존 전략을 묻는 인문학적·과학적 논쟁의 장입니다.

▩ 주 제

---

1. 두 진영의 팽팽한 대립: 낙관론 vs 신중론

이 책의 핵심 줄거리는 AI를 바라보는 두 가지 거대한 시각의 충돌로 요약됩니다.

스티븐 핑커의 ‘합리적 낙관론’

인지과학자 스티븐 핑커는 AI에 대한 과도한 공포를 경계합니다. 그는 지능을 ‘문제를 해결하기 위한 역량’으로 정의하며, AI가 인간을 지배하려 할 것이라는 시나리오는 인간의 ‘지배 욕구’를 기계에 투사한 일종의 심리적 오류라고 지적합니다. 핑커에 따르면 인공지능은 우리가 설계한 목표를 수행하는 도구일 뿐이며, 우리가 기술을 통제하고 개선할 능력이 있다고 믿습니다.

맥스 테그마크의 ‘실존적 신중론’

반면 물리학자 맥스 테그마크는 AI가 인류의 마지막 발명품이 될 수 있다고 경고합니다. 그는 지능이 반드시 생물학적 몸에 갇혀 있을 필요가 없다는 ‘생명 3.0’의 개념을 제시하며, AI의 목표가 인류의 목표와 어긋나는 ‘정렬 문제(Alignment Problem)’가 발생했을 때의 위험성을 강조합니다. 악의적인 AI가 아니라, 너무 유능하지만 인간과 다른 목표를 가진 AI가 인류를 의도치 않게 파괴할 수 있다는 논리입니다.

---

2. 주요 논의의 흐름

책은 총 25명의 석학이 참여하며 다음과 같은 흐름으로 전개됩니다.

• 지능의 재정의: AI는 단순히 계산을 잘하는 기계인가, 아니면 의식을 가질 수 있는 존재인가? 스튜어트 러셀 같은 학자는 AI가 인간의 의도를 정확히 이해하도록 만드는 ‘유익한 AI’ 설계의 중요성을 역설합니다.
• 통제 가능성: 인간보다 수천 배 영리한 ‘초지능’이 등장했을 때, 우리가 그들을 ‘스위치’ 하나로 끌 수 있을지에 대한 기술적, 윤리적 의문을 던집니다.
• 사회적 영향: AI로 인한 일자리 대체, 부의 불평등, 그리고 알고리즘에 의한 민주주의의 훼손 등 당면한 현실적 문제들을 짚어봅니다.

▩ 결 론 (인류에게 남겨진 숙제)

이 책이 전하는 메시지는 “AI는 위험하다” 혹은 “안전하다”는 식의 이분법적 결론이 아닙니다. 저자들은 공통적으로 AI의 발전 속도가 인류의 윤리적·제도적 성찰 속도보다 훨씬 빠르다는 점을 우려합니다.

책의 말미에서 독자는 다음과 같은 질문에 직면하게 됩니다.

“우리는 인공지능에게 어떤 가치를 가르칠 것인가? 그리고 우리는 그 기술을 감당할 만큼 성숙한 존재인가?”

결국 이 책은 AI라는 거울을 통해 ‘인간성이란 무엇인가’를 다시금 정의하게 만드는 깊이 있는 지적 여정을 선사합니다. 핑커의 냉철한 이성과 테그마크의 상상력 넘치는 경고 사이에서, 독자는 인류가 나아가야 할 ‘제3의 길’을 고민하게 됩니다.

---

---

---

▩ Contents <<< [인공지능은 무엇이 되려 하는가]

---

• 1장 세스 로이드: 잘못된, 그러나 그 어느 때보다 유의미한
• 2장 주디아 펄: 불투명한 러닝머신의 한계
• 3장 스튜어트 러셀: 목적을 가진 기계
• 4장 조지 다이슨: 제3원칙
• 5장 대니얼 C. 데닛: 우리는 무엇을 할 수 있는가?
• 6장 로드니 브룩스: 기계가 끌어들인 잔혹한 난장판
• 7장 프랭크 윌첵: 지능의 통합
• 8장 맥스 테그마크: 자신을 구식으로 만드는 것 이상을 동경하라
• 9장 얀 탈린: 저항의 메시지
• 10장 스티븐 핑커: 기술 예언, 그리고 저평가된 발상의 인과적 힘
• 11장 데이비드 도이치: 보상과 처벌을 넘어서
• 12장 톰 그리피스: 인간의 인공적 활용
• 13장 앤카 드라간: 인간을 인공지능 방정식에 끼워 넣기
• 14장 크리스 앤더슨: 기울기 하강
• 15장 데이비드 카이저: 위너, 섀넌, 그리고 우리 모두를 위한 ‘정보’
• 16장 닐 거센펠트: 스케일링
• 17장 대니얼 힐리스: 최초의 기계 지능
• 18장 벤키 라마크리슈난: 컴퓨터는 인간의 지배자가 될 것인가?
• 19장 알렉스 ‘샌디’ 펜틀랜드: 인간의 전략
• 20장 한스 울리히 오브리스트: 보이지 않는 것을 보이게 하기
• 21장 앨리슨 고프닉: 인공지능 대 네 살 아이
• 22장 피터 갤리슨: 객관성을 꿈꾸는 알고리스트
• 23장 조지 M. 처치: 기계의 권리
• 24장 캐롤라인 A. 존스: 사이버네틱 존재의 예술적 활용
• 25장 스티븐 울프람: 인공지능과 문명의 미래

---

---

▩ 인용글(Quoted Passage) <<< [인공지능은 무엇이 되려 하는가]

---

▶ 낙관론 vs 신중론

스티븐 핑커의 낙관론과 맥스 테그마크의 신중론은 단순히 ‘좋다, 나쁘다’의 차이를 넘어, 지능의 정의와 기술의 발전 경로에 대한 근본적인 시각 차이를 보여줍니다. 두 진영의 논리를 구체적으로 분석해 드리겠습니다.

---

1. 스티븐 핑커의 낙관론: “AI는 도구일 뿐이다”

핑커는 AI를 인류의 통제를 벗어난 독립적 존재로 보는 것을 일종의 ‘SF적 망상’이라고 비판합니다.

• 지능과 동기의 분리: 핑커는 지능(지식을 사용하는 능력)과 동기(지배하려는 욕구)는 별개라고 주장합니다. 인간은 진화 과정에서 생존과 번식을 위해 지배욕을 갖게 되었지만, AI는 우리가 설계한 목표 외에 스스로 ‘권력’을 탐할 이유가 없다는 것입니다.
• 공학적 통제: 그는 AI가 갑자기 폭주하는 ‘폭발적 초지능’ 시나리오를 신뢰하지 않습니다. 기술은 점진적으로 발전하며, 그 과정에서 인간은 오류를 수정하고 안전장치를 보완할 충분한 시간이 있다고 믿습니다.
• 인간성 투사의 오류: 핑커는 사람들이 AI를 두려워하는 이유가 기계에 인간의 악한 본성(정복, 파괴)을 투사하기 때문이라고 봅니다. 그는 AI를 그저 ‘문제를 해결하는 정교한 소프트웨어’로 보아야 한다고 강조합니다.

---

2. 맥스 테그마크의 신중론: “지능의 목표가 인류와 어긋날 때가 위험하다”

테그마크는 AI가 반드시 ‘악의’를 가져야 위험한 것이 아니라, ‘유능함’ 그 자체가 위협이 될 수 있다고 경고합니다.

• 정렬 문제 (Alignment Problem): 가장 핵심적인 논거입니다. 미사일이나 자율주행차의 목표를 설정할 때, 인간의 가치와 100% 일치하지 않으면 재앙이 발생할 수 있습니다. 예를 들어 “암을 치료하라”는 목표를 받은 초지능 AI가 연구 효율을 위해 모든 인간을 실험체로 쓰려 한다면, 이는 악의가 아니라 목표를 너무 효율적으로 달성하려다 발생한 참극이 됩니다.
• 생명 3.0의 등장: 테그마크는 생명을 하드웨어(육체)와 소프트웨어(지능)의 진화 단계로 구분합니다. 스스로 소프트웨어를 업그레이드하고 하드웨어까지 설계할 수 있는 AI(생명 3.0)가 등장하면, 유기체인 인간(생명 1.0~2.0)은 생태계의 주도권을 완전히 상실할 수 있다고 봅니다.
• 기회의 창: 그는 AI의 위험을 말하는 것이 ‘기술 반대’가 아니라, 인류가 기술에 압도당하기 전에 안전 예방책을 미리 마련해야 한다는 ‘준비론’임을 강조합니다.

---

3. 대립점 요약 및 비교

비교 항목	스티븐 핑커 (낙관론)	맥스 테그마크 (신중론)
핵심 위협	없음 (인간의 과도한 공포가 문제)	목표의 불일치 (Alignment Issue)
지능의 본질	인간의 목적을 수행하는 도구	스스로 진화할 수 있는 강력한 시스템
폭주 가능성	낮음 (공학적 제어 가능)	높음 (인간의 이해 범위를 넘어섬)
대응 전략	기술 혁신을 통한 문제 해결	선제적 안전 규제와 윤리적 정렬

---

4. 논쟁의 의의

두 사람의 대립은 결국 “우리가 AI를 완전히 통제할 수 있는가?”라는 질문으로 귀결됩니다. 핑커는 인간의 이성과 공학적 능력을 신뢰하는 반면, 테그마크는 지능의 폭발적 잠재력이 가진 불확실성을 경계합니다. 이 논쟁은 현대 AI 윤리와 안전 연구(AI Safety)의 기초가 되는 매우 중요한 담론입니다.

---

---