[밑줄]
+1
사업가들과 기업들도 정보기술에 대해 비슷한 장밋빛 전망을 내놓는다. 이미 1858년에 <뉴 잉글랜더 The New Englander>의 사설은 전신의 발명에 대해 "지구상의 모든 국가가 서로 생각을 교환할 수 있는 도구가 만들어진 지금, 오래된 편견과 적대감은 더 이상 설 자리가 없다"고 논평했다. 거의 두 세기와 두 번의 세계대전을 거친 후 마크 저커버그는 페이스북의 목표는 "사람들이 더 많은 것을 공유하도록 도움으로써 세상을 더 개방적으로 만들고, 사람들 사이의 이해를 촉진하는 것"이라고 말했다.
+2
순진한 정보관을 가장 간명하게 요약한 말을 꼽자면 "전 세계의 정보를 정리하여 모두가 편리하게 이용할 수 있도록 하는 것"이라는 구글의 사명 선언문일 것이다.
+3
모든 인간을 인간의 새로운 지배자 AI와 분리할지도 모른다. 우리는 어디에 살든 불가해한 알고리즘으로 짜인 거미줄 속에 갇히게 될 것이다. 이 알고리즘들이 우리의 삶을 관리하고, 우리의 정치와 문화를 재편하며, 심지어 우리의 몸과 마음까지 재설계하는 동안 우리는 우리를 통제하는 힘을 멈추기는커녕 더 이상 이해할 수 없게 될 것이다.
+4
AI는 이미 스스로 예술을 창조하고 과학적 발견을 할 수 있다. 그리고 앞으로 몇십 년 내에 AI는 유전 코드를 작성하거나 아니면 비유기적 존재를 살아 움직이게 하는 비유기적 코드를 작성함으로써 새로운 생명 형태를 창조할 수 있을 것이다. AI 혁명의 초기 단계인 지금 이 순간에도 컴퓨터는 이미 우리에게 대출을 해 줄지, 우리를 직장에 고용할지, 교도소에 보낼지와 같은 결정을 내린다. 이런 추세는 앞으로 더욱 강화되고 가속화될 것이고, 그러면 우리는 자신의 삶을 이해하기가 더욱 어려워질 것이다. 과연 컴퓨터 알고리즘이 지혜로운 결정을 내리고 더 나은 세상을 만들 것이라고 믿을 수 있을까? 그것은 빗자루에 주문을 걸면 물을 길어 올 것이라는 믿음보다 훨씬 더 위험한 도박이다. 그리고 이 도박에 우리가 거는 것은 단지 인간의 삶만이 아니다. AI는 우리 종의 역사뿐만 아니라 모든 생명 형태의 진화 경로를 바꿀 가능성이 있다.
+5
인간은 오직 권력에만 관심이 있기 때문에 모든 사회적 상호작용은 권력투쟁이다. 진실이나 정의 등 다른 것에 관심이 있다는 주장은 권력을 얻기 위한 계략에 지나지 않는다. 포퓰리즘이 정보를 무기로 보는 관점을 유포하는 데 성공할 때마다 언어가 훼손된다. '사실', '정확한', '진실한' 같은 단어들은 의미가 모호해진다. 이 단어들은 더 이상 공통의 객관적 현실을 가리키지 않는다. 오히려 '사실'이나 '진실'에 대해 이야기를 나눌 때 적어도 일부 사람들에게 "지금 누구의 사실, 누구의 진실을 말하고 있나요?"와 같은 질문을 하게 만든다.
+6
급진 좌파 사상의 이 특정한 흐름은 카를 마르크스에게로 거슬러 올라간다. 19세기 중반에 그는 권력만이 유일한 현실이며, 정보는 무기이고, 진실과 정의를 수호한다고 주장하는 엘리트는 실제로는 편협한 계급적 특권을 추구한다고 주장했다. 1848년 <공산당 선언>에는 이런 말이 나온다. "지금까지 존재한 모든 사회의 역사는 계급투쟁의 역사다. 자유민과 노예, 귀족과 평민, 영주와 농노, 장인과 도제 등 억압하는 자와 억압받는 자는 서로 끊엄없이 대립하는 관계였으면, 때로는 숨기고 때로는 공개했을 뿐 끊임없는 전쟁을 치렀다." 역사에 대한 이런 이분법적 해석은 인간의 모든 상호작용이 억압하는 자와 억압받는 자 사이의 권력투쟁임을 암시한다. 따라서 누군가가 무슨 말을 할 때마다 던져야 할 질문은 "무슨 말입니까? 그게 사실입니까?"가 아니라 "누가 그렇게 말합니까? 누구의 특권을 위한 것입니까?"이다.
+7
포퓰리즘의 반복되는 역설 중 하나는 모든 엘리트가 권력에 위험할 정도로 굶주려 있다고 경고하는 것으로 시작하지만 대개 야심 가득한 한 명의 지도자에게 모든 권력을 맡기는 것으로 끝난다는 것이다.
+8
AI의 등장은 분명 역사상 가장 큰 정보혁명일 것이다. 하지만 이전 혁명들과 비교하지 않으면 이 혁명을 제대로 이해할 수 없다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이다. 역사는 우리에게 무엇이 그대로이고, 무엇이 변하며, 어떻게 변하는지 가르쳐준다.
+9
나는 순진한 정보관에 대해 많은 문제를 제기하지만, 진실이 현실을 정확하게 표현하는 것이라는 점에는 동의한다. 하지만 이 책의 입장은 정보의 대부분은 현실을 재현하려는 시도가 아니면 정보를 정의하는 기준은 완전히 다른 무언가라는 것이다. 인간 사회는 물론 다른 생물 시스템과 물리적 시스템에서도 정보의 대부분은 아무것도 나타내지 않는다.
+10
요지는 현실을 최대한 사실 그대로 기술해도 현실을 온전히 담아낼 수 없다는 것이다. 모든 재현에는 무시되거나 왜곡되는 측면이 있기 마련이다. 따라서 진실은 현실을 1대 1 비율로 재현하는 것이 아니다. 오히려 진실은 현실의 특정 측면을 알리고 다른 측면은 어쩔 수 없이 무시하는 것이다.
+11
점성술의 예는 오류, 거짓말, 환상, 허구도 정보라는 것을 보여준다. 순진한 정보관이 주장하는 것과 달리, 정보는 진실과 딱히 관련이 없으며, 정보가 역사에서 하는 역할은 실존하는 현실을 그대로 재현하는 것이 아니다. 오히려 정보가 하는 일은 별개의 것들을 하나로 묶어서 연인이든 제국이든 새로운 현실을 만들어내는 것이다. 정보의 결정적인 특징은 재현이 아니라 연결이며, 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다.
+12
<성경>은 수십억 명의 인간을 종교 네트워크로 묶는 사회적 과정을 개시했다... 요컨대, 정보는 현실을 재현하기도 하고 재현하지 않기도 한다. 하지만 정보는 항상 연결한다. 이것이 정보의 근본적인 특징이다. 따라서 역사에서 정보가 어떤 역할을 했는지 조사할 때 우리는 '현실을 얼마나 잘 표현하는가? 진실인가 거짓인가?"를 물어야 할 때도 있지만, 대개 더 중요한 질문은 '사람들을 얼마나 잘 연결하는가? 어떤 새로운 네트워크를 만들어내는가?'이다.
+13
호모 사피엔스는 인간과 이야기의 연결이라는 새로운 유형의 사슬을 갖게 되었다. 사피엔스는 이제 서로를 개인적으로 알지 못해도 협력할 수 있었다. 똑같은 이야기를 알고 있기만 하면 되었다... 예를 들어 가톨릭교회의 14억 신도들을 연결하는 장치는 <성경>과 기독교의 핵심 이야기들이다... 수백만 명의 추종자를 거느리는 카리스마 있는 지도자들조차도 이 규칙을 보여주는 사례일 분 예외가 아니다. 고대 중국의 황제들, 중세 가톨릭 교황들, 현대 기업 거물들의 경우 그들을 추종하는 수백만 명의 사람들을 연결하는 역할을 하는 것은 이야기가 아니라 한 명의 인간인 것처럼 보인다. 하지만 이중 어느 경우에도 지도자와 개인적 유대로 연결된 추종자는 거의 없었다. 오히려 추종자들을 연결하는 장치는 지도자에 대한 정교한 이야기였고, 추종자들이 믿은 것은 이런 이야기였다.
+14
브랜드는 특정 종류의 이야기다. 상품을 브랜딩한다는 것은 그 상품에 대한 이야기를 들려준다는 뜻이다. 이야기는 상품의 실제 품질과는 거의 관계가 없지만 소비자들은 그것을 듣고 해당 상품을 떠올린다. 예를 들어 코카콜라사는 수십 년 동안 코카콜라 음료에 대한 이야기를 반복적으로 들려주는 광고에 수백억 달러를 투자했다. 사람들은 그 이야기를 하도 많이 보고 들어서 특정 재료로 맛을 낸 물을 볼 때마다 재미나 행복, 젊음을 떠올리게 되었다(충치, 비만, 플라스틱 쓰레기가 아니라). 이것이 브랜딩이다.
+15
이야기의 모든 장르 중에서 상호주관적 현실을 만들어내는 이야기가 대규모 인간 네트워크를 구축하는 데 가장 중요했다.
+16
이야기는 가짜 기억을 심고 허구적 관계를 형성하고 상호주관적 현실을 창조하는 것을 통해 대규모 인간 네트워크를 짰다.
+17
마르크스주의 이론에 따르면 사람들은 항상 객관적인 물질적 이해관계에 따라 움직이며, 이해관계를 감추고 경쟁자를 혼란스럽게 할 때만 이야기를 이용한다... 하지만 이런 마르크스주의 관점은 냉소적일 뿐만 아니라 틀렸다.
+18
역사 전체를 봤을 때 힘은 진실을 아는 것만으로 얻어지지 않는다.
+19
이야기는 인간이 개발한 최초의 중요한 정보 기술이었다. 이야기는 인간이 대규모로 협력할 수 있는 토대를 마련했으며, 인간을 지구상에서 가장 강한 동물로 만들어주었다. 하지만 이야기는 정보기술로서는 나름의 한계가 있었다.
+20
비알릭과 헤르츨이 엮은 이야기들은 당대 현실에 대한 많은 중요한 사실, 그중에서돋 특히 1900년 무렵 팔레스타인 지역에서 유대인은 전체 인구 약 60만 명 중 겨우 6~9퍼센트에 불고ㅘ해싿는 사실을 무시했다.
+21
오히려 애국심은 나와는 생각이 다른 국가 구성원들도 하수도뿐 아니라 안보, 교육, 의료의 혜택을 누릴 수 있도록 세금을 내는 것이다.
+22
목록이 가진 큰 문제점이자 이야기와 결정적으로 다른 점은 목록은 이야기보다 훨씬 지루한 경향이 있다는 것이다. 그래서 우리는 이야기는 쉽게 기억해도 목록은 기억하기 어려워한다. 이것은 인간 뇌의 정보 처리 방식과 관련이 있는 중요한 사실이다. 우리 뇌는 아무리 많은 양의 정보도 이야기 형태로 만들면 쉽게 흡수하고 기억하고 처리하도록 진화했다.
+23
캔들 헤이븐이 2007년 출간한 저서 <스토리 프루프:이야기의 놀라운 힘을 뒷받침하는 과학 Story Proof : The Science Behind the Startling Power of Story>에서 썼듯이, "인간의 마음은 (...) 삶을 이해하고, 의미를 부여하고, 기억하고, 계획하기 위한 로드맵으로서 주로 이야기와 이야기 형식을 활용한다.
+24
우리 뇌에 저장할 수 있는 민족주의 시나 신화와 달리 복잡한 조세와 행정 시스템이 제대로 작동하기 위해서는 독특한 비유기적 정보 기술이 필요하다. 이 기술이 바로 문서다.
+25
문서는 특정 유형의 정보를 인간의 뇌보다 훨씬 잘 기록했다. 하지만 새롭고 매우 까다로운 문제가 나타났다. 바로 '검색'이다.
+26
관료제 bureaucracy는 말 그대로 '책상에 의한 통치'라는 뜻이다. 이 용어는 18세기 프랑스에서 생겨났는데, 당시 전형적인 관료들은 서랍이 달린 책상인 뷔로 bureau 옆에 앉아 업무를 보았다. 따라서 관료제 질서의 중심에는 서랍이 있다. 관료제는 세상을 서랍으로 나누고 어떤 문서가 어느 서랍에 들어가는지 파악함으로써 검색 문제를 해결하려고 한다.
+27
복잡하게 얽힌 현실을 한정된 수의 고정된 서랍으로 환원하면 관료들이 질서를 유지하는 데는 도움이 되지만 그 대가로 진실이 희생된다. 관료들은 현실이 훨씬 더 복잡한데도 자신들이 만든 서랍에 집착하기 때문에 세상을 왜곡된 눈으로 보기 쉽다
+28
관료제를 변호하자면, 관료제는 때때로 진실을 희생시켜 세상에 대한 우리의 이해를 왜곡하기도 하지만 이는 대개 질서를 유지하기 위해서이며 질서가 없다면 어떤 대규모 네트워크도 유지되기 어렵다는 사실을 간과해서는 안된다.
+29
현대 하수 시스템이 구축되기 전에는 전 세계에서 이질과 콜레라 같은 수인성 전염병으로 수백만 명이 목숨을 잃었다. 1854년에 런던 주민 수백 명이 콜레라로 죽기 시작했다. 비교적 규모가 작은 유행이었지만, 이 사건은 콜레라 역사, 더 일반적으로는 전염병과 하수도의 역사에서 전환점이 되었다. 당시 우세했던 의학 이론은 콜레라 유행이 '나쁜 공기' 때문이라고 주장했다. 하지만 의사 존 스노는 상수도 공급을 의심했다. 그는 알려진 모든 콜레라 환자, 그들의 거주지, 식수 공급원을 꼼꼼하게 추적하여 목록으로 만들었다. 그 데이터를 통해 그는 소호의 브로드 스트리트에 설치된 물 펌프가 유행의 진원지임을 확인했다. (...) 후속 조사에서 브로드 스트리트 펌프에 물을 공급하는 우물이 콜레라균에 오염된 오수 굳덩이에서 1미터도 채 떨어져 있지 않은 곳에 있었다는 사실이 밝혀졌다.
+30
관료 조직의 편향이나 사기, 또는 부패 의혹을 '트윗'하는 데는 1분이면 되지만, 그것을 입증하거나 반박하려면 몇 주 동안 고생해야 한다.
+31
민족 신화와 종교 신화에서 국가나 교회는 불순한 침입자에게 오염될 위험에 처한 생물학적 육체처럼 묘사된다. 수 세기 동안 편협한 사람들은 소수민족과 소수 종교가 질병을 퍼뜨리고, 성 소수자는 오염의 근원이며, 여성은 불순하다는 말을 했다.
+32
오류를 범할 수 있는 인간이 꾸며낸 이야기나 상상을 신의 전정한 뜻과 구별할 방법이 있을까? (...) 종교는 실수할 수 있는 인간을 배제하고 오류 없는 초인적 계율에 직접 접근할 수 있기를 바라지만, 결국 이런저런 인간을 믿는 것으로 끝났다.
+33
책은 기원전 1000년기에 중요한 종교 기술이 되었다. 신이 수만년 동안 샤먼, 사제, 예언자, 신탁, 기타 인간 전령을 통해 메시지를 전한 후 마침내 유대교와 같은 새로운 운동이 일어나 신이 책이라는 새로운 기술을 통해 말한다고 주장하기 시작했다. 우주의 창조부터 음식 규정까지 모든 것에 대한 신의 말씀이 여러 장에 걸쳐 담겨 있는 책이 있다. 그러니 이제는 어떤 사제와 예언자, 그리고 인간의 기관도 이 신성한 말씀을 잊거나 변경할 수 없다. 오류를 범할 수 있는 인간이 말하는 것은 무엇이든 오류가 없는 책에 기록된 내용과 언제든지 비교할 수 있기 때문이다.
+34
"무오류의 책을 신뢰하라"는 특명은 "책을 해석하는 인간을 신뢰하라"로 바뀌었다.
+35
해석의 문제가 점점 중요해지면서 거룩한 책들과 교회 사이의 힘의 균형이 점점 교회 쪽으로 기울었다. 윧대교의 거룩한 책들을 해석해야 할 필요성이 랍비들에게 힘을 실어준 것처럼, 기독교의 거룩한 책들을 해석해야 할 필요성이 교회에 힘을 실어주었다.
+36
자크 푸르니에와 같은 가톨릭의 정보 전문가들은 사도 바울의 편지를 아우구스티누스가 해석한 것을 다시 토마스 아퀴나스가 해석한 텍스트를 읽고 거기에 자신의 해석을 추가하면서 하루를 보냈다. 이 모든 상호 관련된 텍스트는 현실을 재현하지 않았으며, 유대교 랍비들이 만들어낸 것보다 훨씬 더 크고 강력한 새로운 정보 생태계를 탄생시켰다. 중세 유럽인들은 그 안에 갇혀 있었고, 텍스트에 관한 텍스트에 관한 텍스트가 그들의 일상생활, 생각, 감정을 빚었다.
+37
오류 없는 텍스트에 권위를 몰아줌으로써 인간의 오류를 우회하려던 시도는 결코 성공하지 못했다.
+38
정보에 대한 순진한 관점은 교회와 정반대되는 정보의 자유 시장이 해결책이라고 생각한다. 즉 정보의 자유로운 흐름을 방해하는 것을 모두 없애면 필연적으로 오류가 드러나고 진실이 그 자리를 대체하게 된다는 것이다.
+39
마녀사냥은 유해한 정보의 확산이 부른 재앙이었다. 마녀사냥은 어떤 문제가 정보 때문에 발생하여 더 많은 정보를 통해 악화디는 현상의 댇표적 사례다.
+40
근대 초 유럽을 휩쓴 마녀 광풍의 역사는 정보 흐름의 장벽을 없앤다고 해서 진실된 정보가 확산된다는 보장은 없다는 것을 보여준다. 거짓과 환상이 확산되어 유해한 정보 생태계가 만들어지기도 그만큼이나 쉽다.
+41
과학혁명에 핵심적인 역할을 한 큐레이션 기관들은 대학 안팎의 학자들과 연구자들을 연결하여 유럽 전체, 결국에는 전 세계를 잇는 정보 네트워크를 구축했다. 과학혁명이 속도를 내기 위해서는 과학자들이 먼 곳의 동료들이 발표한 정보를 신뢰하는 것이 필수였다. 한 번도 만난 적이 없는 사람들의 연구에 대해 보여주는 이런 종류의 신뢰는 1660년에 설립된 자연 지식의 증진을 위한 런던 왕립 학회 Royal Society of London for Improving Natural Knowledge와 프랑스 과학 아카데미 Acadimice des Sciences(1666)와 같은 과학 협회들, <왕립 과학 아카데미의 역사 Histoire dee eLacamiee Royale des Sciencees>(1699) 같은 과학 학술지들, 그리고 <백과전서 Encyclopedie>(1751~1772)의 제작자와 같은 과학 출판사들에서 분명하게 확인된다.
+42
과학의 트레이드마크는 무조건적인 회의가 아니라 자기회의이면, 모든 과학 기관의 중심에는 강력한 자정 장치가 있다. 양자역학이나 진화론 같은 특정 이론의 정확성에 대해 과학 기관들이 폭넓은 합의에 도달했다는 것은 해당 이론이 외부인뿐만 아니라 기관 내부 구성원들의 끊임없는 반증 시도를 견뎌냈다는 뜻이다.
+43
과학 기관에서는 '발표하지 않으면 도태된다'는 원리에 따라 채용과 승진이 이루어지면, 권위있는 학술지에 논문을 발표하기 위해서는 기존 이론의 오류를 찾아내거나 선배나 스승이 몰랐던 무언가를 발견해야 한다.
+44
정보 네트워크의 역사는 항상 진실과 질서 사이의 균형 맞추기였다. 질서를 위해 진실을 희생시키는 데는 대가가 따르듯이, 진실을 위해 질서를 희생시키는 데도 대가가 따른다.
+45
AI가 민주주의 자정 기능(Self-Correcting Mechanism)을 강화할지 아니면 약화할지가 AI와 관련된 가장 중요한 질문 중 하나이기 때문이다.
+46
로마 황제 네로는 먼 속주에 사는 수백만 농민의 삶을 세세하게 관리할 수 있는 기술을 가지고 있지 않았다. 따라서 많은 독재 정권에서 개인, 기업, 지역사회에 실제로는 상당한 자율성이 주어진다. 하지만 독재자는 언제든지 국민의 삶에 개입할 권한을 가지고 있다. 네로 황제 시대 로마에서 자유는 이상적인 가치가 아니라 정부가 전체주의적 통제를 실행할 능력이 없어서 생긴 부산물이었다.
+47
요컨대, 독재는 강력한 자정 장치가 없는 중앙 집중화된 정보 네트워크다. 반면 민주주의는 강력한 자정 장치를 갖춘 분산된 정보 네트워크다.
+48
정치적 견해가 다르다고 권리를 박탈하는 것은 민주적 네트워크에 필수적인 자정 장치 중 하나를 해체하는 것과 같다. 선거는 민주적 네트워크가 "우리가 실수했으니 다른 것을 시도해보자"고 말하는 장치다. 하지만 중앙정부가 국민의 권리를 마음대로 박탈할 수 있다면 이 자정 장치는 무력화될 것이다.
+49
민주주의는 다수에 의한 통치를 뜻하지 않는다. 오히려 모두가 자유와 평등을 누린다는 뜻이다. 민주주의는 아무리 다수라도 빼앗을 수 없는 특정한 자유들을 모두에게 보장하는 제도다.
+50
인권과 시민권은 모두 인간이 발견한 것이 아니라 발명한 상호주관적인 관습이고, 보편적인 이성보다는 역사적 우연에 따라 결정된다.
+51
독일 정치철학자 얀 베르너 뮐러에 따르면 그것이 포퓰리즘의 핵심이다. 즉 포퓰리스트는 자신만이 국민을 대변하며 의견이 다른 사람은 누구든(국가 관료든, 소수 집단이든, 심지어 과반수의 투표자일지라도) 허위의식을 가지고 있거나 진짜 국민이 아니라고 주장하는 사람들이다.
+52
사실 민주주의는 정치 영역에서 권위가 국민으로부터 나온다는 뜻일 뿐 그 외의 영역에서는 권위의 다른 원천이 있을 수 있다는 사실을 부정하지 않는다. 앞에서 살펴보았듯이 민주주의에서 독립 언론, 법원, 대학은 다수의 의사에 반할 때조차도 진실을 보호하는, 민주주의에 필수적인 자정 장치들이다.
+53
포퓰리스트들은, 객관적 진실을 내세우며 이른바 국민의 의사를 무시하는 기관들을 의심한다. 그들은 진실 추구를 엘리트들이 정당하지 않은 권력을 갖기 위해 이용하는 연막으로 보는 경향이 있다. 이 때문에 포퓰리스트들은 진실 추구에 희의적이며, 프롤로그에서 보았듯이 '권력이 유일한 현실'이라고 주장한다.
+54
이는 전체적으로 인간에 대한 꽤나 불쾌한 시각이지만 그럼에도 많은 사람들에게 매력적으로 다가오는 이유가 두 가지 있다. 첫째, 이처럼 모든 상호작용을 권력투쟁으로 환원하면 현실이 단순해져서 전쟁, 경제 위기, 자연재해 등 아무리 복잡한 사건도 쉽게 해석할 수 있다. 일어나는 모든 일은 심지어 팬데믹조차도 권력을 추구하는 엘리트의 문제로 귀결된다. 둘째, 포퓰리즘적 관점이 매력적인 이유는 때때로 맞기 때문이다. 모든 인간의 기관은 실제로 오류를 범하고 어느 정도 부패한다. 일부 판사는 뇌물을 받고, 일부 언론인은 의도적으로 대중을 오도한다. 학문 분야들도 편향이나 족벌주의에서 완전히 자유롭지 않다.
+55
어떤 정보 네트워크가 얼마나 민주주의적인지는 선거가 정기적으로 실시되는가와 같은 단순한 잣대로는 판단할 수 없다. 푸틴의 러시아, 이란, 심지어 북한에서도 선거는 꼬박꼬박 치러진다. 그보다 우리는 다음과 같은 더 복잡한 질문을 던져야 한다. '중앙정부가 선거를 조작하지 못하도록 방지하는 제도가 있는가?' '주요 언론 매체가 정부를 어느 정도나 안전하게 비판할 수 있는가?' '중앙정부는 얼마나 많은 권한을 사유화하는가?' 민주주의와 독재는 양극단이 아니라 연속체다. 한 네트워크가 이 연속체에서 민주주의에 더 가까운지 독재에 더 가까운지 판단하려면, 네트워크 내에서 정보가 어떻게 흐르고, 무엇이 정치적 대화에 영향을 미치는지 이해할 필요가 있다.
+56
민주주의는 사람들이 자유롭게 대화할 수 없을 때만이 아니라 사람들이 들으려 하지 않거나 들을 수 없을 때도 죽는다.
+57
결정을 내리고 새로운 아이디어를 생성할 수 있는 지능형 기계의 등장은 역사상 처음으로 힘이 인간에게서 다른 데로 이동하고 있음을 의미한다.
+58
알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습했고, 명시적인 명령이 없었는데도 불구하고 분노 콘텐츠를 추천하기로 결정했다.
+59
인간 병사들은 자신들의 유전 코드와 상사의 명령을 따르지만 그럼에도 여전히 독립적인 결정을 할 수 있다. AI 알고리즘도 마찬가지임을 이해하는 것이 중요하다. 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습 할 수 있고 인간 경영진이 예측하지 못한 결정을 내릴 수 있다. 수많은 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다.
+60
이 책의 논지는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이 정보 네트워크의 기본 구조를 변화시킨다는 것이다.
+61
언어를 숙달한 컴퓨터는 심지어 '가짜 친밀감'을 형성하지 않고도 우리의 견해와 세계관에 막대한 영향을 미칠 수 있다. 사람들은 컴퓨터 조언자를 만능 해결사처럼 이용하게 될 수도 있다. 해결사에게 묻기만 하면 되는데 뭐 하러 정보를 검색하고 처리하겠는가? 앞으로 검색엔진뿐만 아니라 뉴스와 광고 업계도 대부분 사업을 접어야 할지 모른다. 해결사에게 오늘 뉴스를 물으면 되는데 뭐 하러 신문을 읽겠는가? 해결사에게 뭘 구매할지 물으면 되는데 왜 광고가 필요하겠는가?
+62
수천 년 동안 인간은 타인의 꿈 속에서 살았다. 앞으로 몇십 년 동안 우리는 이질적인 지능의 꿈 속에서 살게 될지도 모른다.
+63
사람들은 흔히 '인간 수준의 지능'을 기준으로 AI를 정의하고 평가하며, 따라서 AI가 언제 '인간 수준의 지능'에 도달할 것인지를 두고 많은 논쟁이 벌어지고 있다는 점이다. 이는 마치 '새 수준의 비행 능력'을 기준으로 비행기를 정의하고 평가하는 것과 같다. AI는 인간 수준의 지능을 향해 발전하고 있지 않다. 그것은 완전히 다른 종류의 지능으로 진화하고 있다.
+64
핵심 질문은 이것이다. 새로운 컴퓨터 기반 네트워크에서 점점 더 무력해지는 소수로 살아간다는 것이 인간에게 무엇을 의미할까?
+65
정치는 진실과 질서 사이에 섬세한 균형이 필요한 일이다.
+66
미국 학자 쇼샤나 주보프는 이런 식으로 점점 확장되고 있는 상업용 감시 시스템을 '감시 자본주의'라고 불렀다.
+67
그 알고리즘들은 인간의 다면적인 감정(증오, 애정, 분노, 기쁨, 혼란 등)을 단 하나의 포괄적인 범주인 '참여도'로 환원했다. 2016년 미얀마, 2018년 브라질, 그리고 수많은 다른 국가에서 소셜 미디어 알고리즘들은 동영상, 게시물, 기타 모든 콘텐츠를 오직 사람들이 콘텐츠에 참여한 시간과 다른 사람들과 공유한 횟수만을 기준으로 채점했다. 거짓말이나 혐오 한 시간이 진실이나 연민 10분, 또는 잠 한 시간보다 순위가 높았다.
+68
미국의 군사적 승리는 이라크를 이란의 전통적 적국에서 속국으로 바꾸었다. 이로써 중동에서 미국의 입지는 크게 약화된 반면 이란은 지역의 패권국으로 부상했다.
+69
물론 컴퓨터는 어떤 신화를 '믿을' 수 없다. 컴퓨터는 어떤 것도 믿지 않는 의식 없는 존재이기 때문이닫. 주관성이 없는데 어떻게 상호주관적 믿음을 가질 수 있겠는가? 그러나 컴퓨터에 대해 꼭 알아두어야 할 중요한 사실이 있는데 많은 컴퓨터가 서로 소통할 때 컴퓨터들도 인간 네트워크가 만들어내는 상호주관적 현실과 비슷한 상호 컴퓨터 현실을 창조할 수 있다는 것이다.
+70
유대교, 기독교, 이슬람교 같은 종교들은 항상 구름 위 어딘가에서 우리가 하는 모든 일에 점수를 주거나 깎는 전능한 신이 있으며, 사후의 운명은 우리가 쌓은 점수에 달려 있다고 상상해왔다. 물론 아무도 자신의 점수를 확실히 모른다. 죽은 후에만 알 수 있다.
+81
인류가 증기기관과 전신을 관리하는 방법을 배우기 위해 그토록 끔찍한 교훈이 필요했다면, 생명공학과 AI를 관리하는 방법을 배우려면 얼마나 많은 대가를 치러야 할까? 우리는 그 기술들을 이롭게 사용하는 방법을 알아내기 위해 또 다시 세계 제국, 전체주의 체제, 세계대전의 주기를 거쳐야 할까?
+82
민주주의가 따를 수 있고 따라야 하는 기본 원리들을 이해하는 것이 중요하다. 이 원리들은 수백 년, 심지어 수천 년 동안 존재해왔다. 시민들은 이 원리들이 컴퓨터 시대의 새로운 현실에도 지켜지도록 요구해야 한다. 첫 번째 원리는 '선의'다. 컴퓨터 네트워크가 나에 대한 정보를 수집한다면 그 정보를 나를 조종하기 위해서가 아니라 나를 돕기 위해 사용해야 한다.
+83
전체주의 감시 체제의 등장으로부터 민주주의를 보호할 두 번째 원리는 분권화다. 민주주의 사회는 정보가 (허브가 정부든 민간 기업이든) 한 곳에 집중되는 것을 절대 허용해서는 안된다.
+84
세 번째 민주주의 원리는 상호주의다. 민주주의 국가가 개인에 대한 감시를 강화할 경우 정부와 기업에 대한 감시도 동시에 강화해야 한다.
+85
네 번째 민주주의 원리는 감시 시스템에 항상 변화와 휴식의 여지를 남겨야 한다는 것이다.
+86
인간의 삶은 자기 개선 노력과 자기 수용 사이의 균형 잡기다.
+87
어린 학생들과 대학생들에게 어떤 기술을 가르쳐야 하는지 확실히 아는 사람은 아무도 없다. 어떤 직업과 업무가 사라지고 새로 생길지 예측할 수 없기 때문이다.
+88
진단과 치료법 찾기는 기본적으로 패턴 인식이며, 데이터에서 패턴을 찾아내는 것은 AI가 인간보다 잘하는 일이다. 반면 AI는 다친 사람의 붕대를 교체하거나 우는 아이에게 주사를 놓는 것 같은 간호 업무를 자동화하는 데 필요한 기술은 아직 갖추지 못했다.
+89
에드먼드 버크가 대표적으로 주장한 보수의 핵심 통찰은, 사회 현실은 진보주의자들이 생각하는 것보다 훨씬 복잡하며 사람들은 세상을 이해하고 미래를 예측하는 데 그리 능숙하지 않다는 것이다. 그렇기 때문에 현실이 불공평해 보여도 현 상태를 유지하는 것이 최선이며, 몇몇 변화가 불가피하다면 제한적이고 점진적으로 이뤄여져야 한다.
+90
21세기를 버텨내기 위해 가장 중요한 인간의 능력은 유연성일 가능성이 높고, 민주주의는 전체주의 체제보다 유연하다. 컴퓨터와 마찬가지로 인간도 아직 잠재력을 완전히 발휘하지 않았다. 우리는 그동안의 역사에서 그 사실을 여러 번 깨달았다. 예를 들어, 20세기 고용 시장의 가장 크고 성공적인 변화 중 하나는 기술 발명에서 비롯된 것이 아니라, 인류의 절반이 가지고 있던 미개발된 잠재력을 해방함으로써 이루어졌다. 여성을 고용 시장으로 데려오는 데는 유전공학이나 다른 기술적 마법이 필요하지 않았다. 단지 낡은 신화를 버리고 여성들이 항상 지니고 있던 잠재력을 발휘할 수 있도록 길을 열어주기만 하면 됐다.
+91
슐레이만은 이렇게 썼다. "인간은 새로운 도전에 직면해 있다. 새로운 발명품들은 우리가 이해할 수 있는 수준을 넘어설 것인가? 이전의 발명가들은 자신의 발명품이 어떻게 작동하는지, 왜 그렇게 작동하는지, 비록 많은 세부 내용이 필요하더라도 설명할 수 있었다. 그런데 더 이상 그렇지 않다. 많은 기술과 시스템이 너무 복잡해지고 있어서 어느 누구도 진정으로 이해하기 어렵다.
+92
민주주의 국가는 가짜 인간이 뱉어내는 가짜 뉴스로 정보 환경이 오염되는 것을 막기 위해 AI를 규제하는 조치들을 취할 수 있으며 또 취해야 한다. 철학자 대니얼 데닛은 화폐시장에서 사용하는 전통적인 규제에서 영감을 얻을 것을 제안했다. 주화와 지폐가 발명된 이래로 화폐를 위조하는 것은 기술적으로는 항상 가능했다. 위조는 화폐에 대한 신뢰를 무너뜨리기 때문에 금융 시스템의 존재 자체를 위협하는 일이었다. (...) 화폐 위조에 적용되는 원칙이 인간을 위조하는 경우에도 똑같이 적용되어야 한다. 정부가 화폐에 대한 신뢰를 유지하기 위해 단호한 조치를 취한다면, 인간에 대한 신뢰를 유지하기 위해서도 똑같이 단호한 조치를 취하는 것이 합리적이다.
+93
모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.
'+ Reading' 카테고리의 다른 글
| On Connection 연결된, (1) | 2026.04.05 |
|---|---|
| The Sense 당신도 센스가 있다 (1) | 2026.04.02 |
| 사소한 인류 (0) | 2026.03.27 |
| 물고기는 존재하지 않는다 (1) | 2025.10.20 |
| 좋은 산문의 길, 스타일 (7) | 2025.08.24 |
