넥서스

저자(Author) : 유발 하라리 Yuval Noah Harari

▩ 개 요

‘유발 하라리(Yuval Noah Harari)’의 신작 ‘넥서스(Nexus)’는 인류의 과거, 현재, 미래를 ‘정보’라는 렌즈로 통찰하는 책으로, 단순한 역사서가 아닌 정보기술과 인간의 관계를 탐구하는 철학적 논픽션이다.

▩ 주요 내용

1. 정보의 흐름으로 본 인류 문명

• 하라리는 석기시대부터 현대까지 인류의 발전을 ‘정보의 생성, 저장, 전달 방식’을 중심으로 설명한다.
• 문자, 종교, 인쇄술, 인터넷 등은 모두 정보 네트워크의 진화 과정으로 해석된다.

2. AI와 비유기적 네트워크의 등장

• 인류는 이제 비유기적 정보 ‘시스템(AI)’과 공존하는 시대에 진입했다.
• AI는 인간처럼 사고하지 않지만, ‘스스로 학습하고 판단’하며 인간의 능력을 초월하는 결과를 만들어낸다.

3. AI의 잠재적 위험

• AI는 편향된 데이터를 학습할 경우 ‘차별적 판단’을 내릴 수 있으며, 인간의 감정이나 윤리를 고려하지 않는다.
• 유튜브 알고리즘처럼 ‘자극적인 콘텐츠를 우선 추천’함으로써 사회적 분열을 초래할 수 있다.

4. 감시 사회와 전체주의의 부활 가능성

• 스마트폰, CCTV 등으로 수집된 데이터가 AI와 결합되면, ‘소셜 크레딧’ 시스템 같은 감시 체제가 현실화될 수 있다.
• 이는 과거의 전체주의 국가보다 더 정교하고 위험한 통제 시스템을 가능하게 한다.

5. 일자리와 인간의 역할 변화

• AI는 단순 노동뿐 아니라 ‘예술과 창의성 영역까지 침범’할 수 있다.
• AI 기술을 보유한 국가와 그렇지 못한 국가 간의 격차는 더욱 심화될 수 있다.

6. 기술은 중립적이다 – 인간의 선택이 중요

• 핵무기처럼 AI도 그 자체로는 중립적이며, 어떻게 사용할지는 인간의 선택에 달려 있다.
• 규제와 국제적 공조 없이는 AI의 부작용을 막기 어렵다.

▩ 결 론

‘넥서스’는 단순히 기술의 발전을 나열하는 것이 아니라, ‘정보의 본질과 그것이 인간 사회에 미치는 영향’을 깊이 있게 성찰한다. AI 시대를 살아가는 우리에게, 이 책은 ‘윤리적 기준과 집단적 선택의 중요성’을 일깨워주는 나침반 같은 역할을 한다.

---

---

---

▩ Contents <<< [넥서스]

---

제1부. 인간 네트워크들

• 1. 정보란 무엇인가?
• 2. 이야기: 무한한 연결
• 3. 문서: 종이호랑이의 위협
• 4. 오류: 무오류성이라는 환상
• 5. 결정: 민주주의와 전체주의의 간략한 역사

제2부. 비유기적 네트워크

• 6. 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
• 7. 집요하게: 네트워크는 항상 켜져 있다
• 8. 오류 가능성: 네트워크는 자주 틀린다

제3부. 컴퓨터 정치

• 9. 민주주의: 우리는 계속 대화할 수 있을까?
• 10. 전체주의: 모든 권력을 알고리즘에게로?
• 11. 실리콘 장막: 세계 제국인가, 세계 분열인가?

---

---

▩ 인용글(Quoted Passage) <<< [넥서스]

---

정보의 결정적인 특징은 재원이 아니라 연결이며,
따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다.
– 정보의 특징

사회적 연결 고리
– Nexus

호모 사피엔스가 세계를 정복한 이유는 정보를 현실의 정확안 지도로 바꾸는 탁월한 재능이 있어서가 아니라
성공 비결은 정보를 활용하여 많은 개인을 연결하는 일에 탁월한 재능을 발휘한 것이다.
– 호모 사피엔스가 세계를 정복한 이유

사피엔스 무리들 사이의 협력이 가능해진 것은
허구적 이야기를 말하고, 믿고, 그런 이야기에 깊이 감동받을 수 있게 되면서부터였다.
– 사피엔스 무리들 사이의 협력이 가능 이유

너는 스탈린이 아니고, 나도 스탈린이 아니야. 스탈린은 소련 권력이야.
스탈린은 신문과 초상화에 등장하는 사람이지, 네가 아니야. 나도 아니고.
– 스탈린과 그의 아들의 아야기

세계 1차 대전 당시 고립된 한 미군 부대의 정보를 본부에 알리려 갔던 비둘기 이야기
(실제 상황은 허구일 가능성이 많지만)
– 비둘기 ‘셰르 아미’ 이야기

객관적 현실: 돌, 산, 소행성 등
주관적 현실: 고통, 즐거움, 사랑 등
상호주관성 현실 : 법이나 신, 국가나 기업, 화폐 등
(사람들의 마음을 연결하는 곳에 존재)
(사로에게 말하는 이야기 속에 존재)
(정보를 교환할 때 생김)
– 우주에 존재하는 3가지 차원의 현실

관료제나 신화는 모두 질서를 유지하는 데 필수적이며, 둘 다 질서를 위해 진실을 기꺼이 희생시킨다
– 신화와 관료제 네트워크

인간들은 이 실수를 바로 잡을 수 있는 장치를 AI를 통하여 할 수 있다고 일부는 주장하지만,
인간이 오류를 범하기 쉬운 존재라면, 자정 장치가 오류를 범하지 않을 것이라고 어떻게 장담하는가?
– AI 환상

카톨릭교회(전 종교도 동일함)는 종교적 권위를 유지하기 위해 자정 장치의 존재를 부정할 수밖에 없었다.
교회는 무오류성의 덫에 빠진 것이다.
– 교회는 무오류성의 덫

---

---

어떤 과학자도 기존의 과학에 대해 비판하고 새로운 측면을 보여주는 증명을 통해
기존의 법칙을 잘 못된 것으로 만들어 버려도 어떠한 제재도 받지 않을뿐 아니라,
그 새로운 증명이 이제 그 분야의 새로운 체계가 되게 하는 인간 사회임을 보면
거의 자정 장치가 없다고하고 할 수 있을 것이다.
– 과학분야의 자정 장치

선거는 진실을 발견하는 방법이 아니라는 점을 잊어서는 안 된다.
선거는 오히려 사람들의 상충하는 욕구를 조정하여 질서를 유지하는 방법이다.
선거는 진실이 무엇인지가 아니라 국민의 다수가 원하는 것이 무엇인지 확인하는 절차이다.
– 선거

민주주의는 사람들이 자유롭게 대화할 수 없을 때만이 아니라
사람들이 들으려 하지 않거나 들을 수 없을 때도 죽는다.
– 민주주의

현대 정보 기술이 등장하기 전에는 어디에서도 대규모 민주주의가 실행된 때가 없다.
(대중매체가 대규모 정보 네트워크의 성격을 바꾸었을 때 비로소 가능해졌다)
– 대규모 민주주의

AI는 ‘Artificial Intelligence’ 이지만 지금 시대는 오히려 ‘Alien Intelligence’ 라고 불러야 하지 않을까?
– AI = Alien Intelligence ‘이질적인’ 지능

수십억 개의 비인간 존재에게 끊임없이 감시당고, 지시받고, 영감을 얻고, 제재를 받는 것은 어떤 느낌일까?
– 새로운 기반 네트워크 상황

네트워크는 항상 켜져 있다.
– 집요하게

디지털 관료는 우리가 세상에서 하는 일을 감시하는 것 외에 우리 몸 안에서 일어나는 일까지 지켜볼지 모른다.
(디지털 관료제는 역사상 사생활 침해가 가장 심각한 전체주의 정권의 토대가 될 수도 있다)
– 디지털 관료

온라인상에서 다른 사람들을 괴롭히거나 화나게 햐려는 의도를 가지고 공격적이고 악의적인 메세지를 남기는 사람.
– 인터넷 트롤

AI도 지혜에 이르기 위해서는 ‘나도 모른다’고 할 수 있어야 한다.
알고리즘이 스스로를 의심하고, 불확실성을 알리고, 사전 예방 원칙을 지키는 법을 배워야 한다.
– AI 지혜

문명은 관료제와 신화의 결합으로 탄생하나.
컴퓨터 기반의 네트워크는 새로운 유형의 관료제로 이전에 보았던 어떤 기반 관료제보다 훨씬 더 강력하고 빈틈없다. 이 네트워크는 상호 컴퓨터 신화를 만들어낼 텐데, 이 네트워크의 잠재적 이익은 어마어마한다.
하지만 잠재적 단점은 인류 문명의 파괴다.
– 인류 문명의 파괴

---

---

전체주의 감시 체제의 등장으로부터 민주주의를 보호할 원리는
‘선의’, ‘분권화’, ‘상호주의’, ‘변화와 휴식’이다.
– 민주주의가 따를 수 있고 따라야 하는 기본 원리

조심하지 않으면 AI는 스스로 권력을 장악할 것이다.
– AI 권력

인류는 오랫동안 악의적인 행위자들뿐만 아니라 선한 행위자들 간의 갈등에 시달려왔다.
AI 발전이 인류의 존재 자체를 위협한다면 그것은 컴퓨터가 악의적이라서가 아니라 우리가 완벽하지 않기 때문이다.
– AI 발전의 인류의 존재 자체 위협

컴퓨터는 정보와 권력을 중앙 허브에 모으는 것을 쉽게 만든다는 점에서 인류는 새로운 제국 시대에 접어들 수 있다.
인류는 서로 경쟁하는 디지털 제국들 사이에 가로놓일 새로운 실리콘 장막을 따로 분열될 수 있다.
(별개의 컴퓨터 네트워크를 만들지 모른다)
    – 국제 질서의 위협

오늘날의 정보 정보 기술은 너무 강력해서 인류를 갈라놓으려 한다.
세계가 정보 고치(cocoon)로 나뉜다면 경제적 경쟁과 국제적 긴장이 조성될 뿐 아니라,
매우 다른 문화, 이념, 정체성이 생겨날 수 있다.
– 웹(web)에서 고치(cocoon)로 될 가능성

정보에 대한 순진한 관점과 포플리즘적 관점을 모두 버리고,
무오류성이라는 환상에서 벗어나,
강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다.
– 지혜로운 네트워크 구축

우리는 유기체가 아닌 이질적인 종류의 지능(AI)을 불러냈고,
이 지능은 우리의 통제력을 벗어나 우리 종뿐만 아니라 수많은 다른 생명체까지 위험에 빠뜨릴지도 모른다.
앞으로 우리가 어떤 결정을 내리느냐에 따라
이 낯선 지능(AI)을 소환한 것이 치명적일 실수가 될지,
아니면 생명 진화의 희망찬 새 장을 여는 시작이 될지 판가름 날 것이다.
– AI 진화에 따른 인간의 운명

---

---