인공지능의 시대, 인간을 다시 묻다

인공지능의 시대, 인간을 다시 묻다 / 철학과 과학을 넘나드는 사고력 강의

 

[밑줄]

 

+41

인공지능이란 기계로 지능을 구현하는 걸 말합니다. 인공지능 연구는 당연히 인간지능 연구와 밀접하게 관련됩니다. 그런데 우리는 정작 인간지능이 무엇인지 아직 잘 몰라요. 잘 모르는 것을 구현할 수가 있을까요? 공학자들은 이런 질문에는 관심이 별로 없어요. 인간지능이 인공지능과 본성상 같다는 걸 전제로 깔고 작업하니까요. 그래서 연구가 성공할지 말지 알 수 없습니다. 그렇지만 우리는 철학적으로 이런 물음들을 던질 수 있고, 이런 작업은 결코 무의미하지 않습니다. 알파고를 볼까요. 바둑은 경우의 수가 정말 많아요. 우주에 존재하는 원자의 수보다도 많다고 하지요. 그렇긴 해도 바둑은 어쨌건 수학 계산입니다. 그런 점에서 바둑은 비인간적인 활동이에요. 인간은 본래 계산을 잘 못해요. 그게 정상입니다. 계산 대결에서 컴퓨터가 인간에게 이겼다고 충격적일 것도 없어요. 인간보다 컴퓨터가 계산을 더 잘 하는 건 당연하니까요.

 

+42

100년 전 사람이 보면 지금 세상은 해리포터의 세계로 보일 겁니다. '쿠쿠'가 사람보다 밥을 더 잘 짓지요? '트롬'은 빨래를 더 잘하고요. 밥솥이나 세탁기도 인공지능의 분류 측면에서 보면 알파고와 같은 등급인 걸 아시나요? 인공지능은 세 가지 등급으로 구분됩니다. 인간보다 1,000배 이상 높은 지능은 초인공지능, 그보다 조금 낮은 등급인 인간 수준 범용인공지능, 한 가지 일을 아주 잘하는 약인공지능이 있는데, 알파고는 약인공지능에 속해요. 그런데 쿠쿠나 트롬도 같은 등급이에요. 

 

+43

마음은 객관적으로 접근할 수 없는 영역입니다. 심지어 마음이 있는 장소를 말하는 것조차 어렵습니다. 마음의 탐구가 철학적 작업일 수밖에 없는 이유도 여기에 있습니다.

 

+44

어쩌면 인간지능을 모델로 하지 않는 편이 인공지능 발전에 더 도움이 될지도 모릅니다. 하지만 인공지능이 인간지능을 뛰어넘었다는 말도 삼가야 합니다. 계속 말했듯이 인간지능이 무엇인지, 인간의 마음이 무엇인지 아직 모르기 때문입니다.

 

+45

진화의 역사를 통해 종별로 생존을 위해 갖추게 된 능력이기에 인간의 기준으로 논해서는 안 돼요. 돌고래의 기준에서 돌고래는 자신의 생존에 필요한 충분한 지능이 있어요. 돌고래는 자신의 환경에서 생존할 능력이 있는 데 반해, 인간은 돌고래의 환경에서 살아남지 못하고요.

 

+46

인공지능을 처음 본격적으로 논의한 앨런 튜링Alan Turing(1912~1954)이 1950년에 발표한 논문 [Computing Machinery and Intelligence(계산 기계와 지능)]을 살피는 거라고 생각합니다. 튜링은 오늘날 우리가 생각하는 디지털 컴퓨터의 가능성을 처음 제안한 수학자이면서 동시에 지능의 가능성을 주장한 희대의 천재입니다. 영화 <이미테이션 게임>은 튜링의 생애 중 '에니그마'의 암호를 푸는 시기에 초점을 맞추고 있지요. 에니그마는 제2차 세계대전 당시 나치 독일이 사용한 암호기인데, 튜링이 동료들과 함게 그 암호체계를 해독해냈습니다.

 

+47

"기계가 생각할 수 있을까?"

'생각하다'를 정의하는 데 있어 튜링은 원리상의 문제에 봉착했던 셈입니다. 따라서 '생각하다'의 '정확한 정의'라는 문제는 유보한 채, 어떤 에이전트가 사람들이 '생각하다'라는 말로 이해하고 있는 그 1활동을 상당히 만족할 만하게 흉내 낼 수 있다면 그 경우 '생각하고 있다'라고 판정하자고 제안한 것입니다. '생각하다'라는 말을 직접 정의할 때 져야 할 부담을 원천적으로 방지하기 위한 전략적 접근인 거죠.

 

+48

설은 컴퓨터와 인간의 차이를 이렇게 단언합니다.

컴퓨터는 기호들을 조작함으로써 작동한다. 그 과정들은 순수하게 통사론적으로 정의된다. 반면 인간의 마음은 그저 해석되지 않은 기호들 이상의 것을 갖고 있다. 인간의 마음은 기호들에 의미들을 부착한다.

 

+49

페드로 도밍스Pedro Domingos [The Master Algorithm : How the Quest for the Ultimate Learning Machine Will Remake Our World(2015)]

초인공지능이 지각 능력을 갖게 되고 로봇 군대로 인류를 진압한다는 <터미네이터>의 시나리오는 우리가 이 책에서 만나게 될 그런 종류의 학습 알고리즘들로는 실현될 가능성이 없다. 컴퓨터가 학습할 수 있다는 것이 컴퓨터가 마법적으로 자신의 고유한 의지를 획득한다는 뜻은 아니니까. 학습자는 우리가 정해준 목표를 성취하는 법을 배운다. 그들은 목표를 바꾸는 데까지 가지 않는다. ... 안심하시라, 마스터 알고리즘을 장착한 인공지능이 세상을 지배할 가능성은 제로이다. 그 이유는 간단하다. 인간과 달리 컴퓨터는 자신의 고유한 의지가 없다. 컴퓨터는 진화가 아니라 공학의 산물이다. 무한히 강력한 컴퓨터라도 여전히 우리 의지의 확장일 뿐, 두려워할 건 아무것도 없다. 모든 학습 알고리즘의 세 가지 성분인 표상, 평가, 최적화를 떠올려보라.

 

+50

인공지능은 인간지능과 마찬가지로 문제 해결이나 목표 성취를 위해 각자 합리적으로 접근하지만, 인공지능에서 문제나 목표는 에이전트 바깥에서 (더 구체적으로는 인간에 의해) 주어지는 반면 인간지능은 문제나 목표를 스스로 정한다는 점에서 이 둘은 결정적으로 다릅니다. 인공지능과 인간지능의 원리상의 차이는 문제나 목표가 외적이냐 내적이냐에 있습니다.

 

+51

내가 보기에 인공지능을 너무 의인법적으로 이해하는 데서 혼동이 생기는 것 같아요. 사실 인공지능은 문제를 아주 탁월하게 해결해요. 저 탁월한 문제 해결 능력 때문에 인간이 인공지능에게 겁을 먹게 된 거죠. 프랑스 철학자 베르그손Henri Bergson(1859~1941)은 우리가 너무 답에만 관심이 있다고 지적한 적이 있어요. 어린 시절부터 우리는 선생이 낸 문제에 답을 찾는 학생으로 길들어왔지요. 베르그손은 우리가 일종의 '노예상태'에 있다고 해요. 문제를 잘 푼다는 것은 시키는 일을 잘하는 것에 불과하다고 본 고죠. 내가 하기로 한 것을 하는 것과 남이 시킨 일을 하는 것의 차이라고나 할가요. 오히려 진정한 자유는 문제 자체를 결정하고 구성하는 능력에 있다는 겁니다. 문제라는 것은 없던 것이 있게 되는 거고, 그래서 단순한 발견이 아니라 발명이라는 거예요. 그리고 문제를 구성하는 능력은 생명의 고유한 능력이라고 해요.

 

+52

중요한 건 문제를 문제로 파악하고 잘 설정하는 겁니다.

 

+53

'진정한 합리성은 최상의 결과물을 성취하는 데 있지 않고 올바른 문제를 정하는 데 있다'

 

+54

모든 알고리즘은 입력과 출력이 있다. 데이터가 컴퓨터에 들어가면, 알고리즘은 그 데이터로 할 일을 하고, 결과가 나온다. 기계학습은 이 과정을 바꾸었다. 데이터와 원하는 결과가 들어가고, 데이터를 결과로 바꿔주는 알고리즘이 나온다. 학습자라고도 알려져 있는 학습 알고리즘은 다른 알고리즘을 만드는 알고리즘이다. 기계학습을 통해 컴퓨터는 자신의 프로그램을 작성하며, 우리는 프로그램을 작성할 필요가 없다. 

 

+55

앞서 <터미네이터>에 나오는 초인공지능은 그 어떤 알고리즘으로 만들 수 없다는 점을 검토했어요. 하지만 역공학을 통해서는 가능할지도 모릅니다.

 

+56

아식스asics의 원래 뜻은 'anima sana in corpore sno'라는 말의 약칭. 원래 문구는 로마시인 유베날리스의 라틴어 시의 한 구절로 영어로 직역하면 'A sound mind in a sound body'입니다. 그런데 유베날리스의 원래 의도는 그게 아니었다고 해요. 원문은 이렇습니다.

 

건전한 몸에 건전한 마음이 있기를 기도하라

죽음을 겁내지 않는 강한 정신을 요청하라

 

+57

가령 박쥐는 초음파를 듣고 나비는 자외선을 보지요. 인간은 그런 것들을 지각하지 못합니다. 꽃이 예뻐서 나비가 꽃으로 간다고 인간은 생각하지만 자외선 촬영을 해보면 전혀 그렇지 않습니다. 나비의 눈에 꽃은 기하학적인 모양을 하고 있을 뿐, 예쁘게 보이는 건 아닙니다.