마음은 어떻게 기계가 되었나

인공지능 발전 속도가 눈부십니다. 인간 ‘마음’이 ‘기계’로 온전히 구현될 날이 머지않은 것만 같습니다. 인공지능 개발을 이끄는 ‘인지과학’에 사람들의 관심이 쏠리는 이유입니다.
그러나 인지과학이 그 스승, 곧 ‘사이버네틱스’에 진 빚에 대해서는 잘 알려져 있지 않습니다. 1940년대에 탄생한 사이버네틱스는 컴퓨터와 정보통신공학의 주요 아이디어뿐 아니라 오늘날 인지과학의 토대가 되는 개념들을 만들었습니다. 뒤피의 책 ≪마음은 어떻게 기계가 되었나≫와 함께 시곗바늘을 1940년대로 되돌려 봅니다.

1946년에서 1953년 사이, 20세기 대표 학자들이 한 자리에 모였습니다. ‘조사이아 메이시 주니어 재단’의 후원을 받은 이 회합은 훗날 ‘메이시 회의’로 불리게 됩니다. 총 열 차례에 걸친 회합에 당대의 수학자, 논리학자, 공학자, 생리학자, 심리학자, 인류학자, 경제학자들이 함께했고, ‘인간 마음의 작동 원리에 대한 일반 과학을 구축한다’는 사명에 동참했습니다.

‘사이버네틱스’라는 명명은 메이시 회의의 주요 멤버였던 수학자 노버트 위너(Norbert Wiener)가 1947년 만든 표현입니다. 위너는 메이시 회의가 추구하는 새로운 학문의 결집을 위해 그리스어로 ‘항해’를 뜻하는 ‘κυβερνητικης’에서 착안해 ‘사이버네틱스’라는 용어를 고안했습니다. 20세기 전반까지의 과학이 고전물리학의 관점으로 파악되었다면, 사이버네틱스는 고전물리학의 영역에서 배제되었던 생명과 마음, 나아가 사회를 과학적으로 정의하고 분석하고자 했습니다. 메이시 회의의 사이버네티션들은 정보 시대의 문을 연 선구자였습니다.

노버트 위너는 명실상부 사이버네틱스의 아버지입니다. 위너가 1943년 아르투로 로젠블루스, 줄리안 비글로와 함께 발표한 논문 “행동, 목적, 목적론(Behavior, purpose, teleology)”은 사이버네틱스 탄생의 신호탄 역할을 했습니다. 이 논문의 목적은 ‘목적론적 행동’이라는 범주를 설정하고 동물, 기계, 인간의 행동 모두를 과학의 대상으로 삼는 것이었습니다.

마음을 기계로 만들려는 열망으로 뭉친 사이버네틱스 그룹 안에서도 위너의 입장은 독특했습니다. 위너는 인간의 마음을 기계로 완전히 등치할 수 없다고 생각했고, ‘마음 = 기계’라는 공식을 세우려 하기보다 마음과 기계가 어떻게 관계를 맺어야 하는지에 집중했습니다. ≪인간의 인간적 활용≫이라는 책 제목에서 알 수 있듯이 위너는 사이버네틱스를 ‘인본주의적’ 방향으로 이끌고자 노력한 낭만주의자였습니다.

위너가 사이버네틱스 개념의 창시자라면, 신경생리학자 워런 매컬러(Warren McCulloch)는 사이버네틱스의 숨은 영웅이라고 할 수 있습니다. 매컬러가 1943년 월터 피츠와 함께 발표한 “신경계에 내재된 관념들의 논리연산”은 오늘날 ‘딥러닝’을 탄생시킨 신경망 개념의 시초를 최초로 제시한 논문입니다.

마음과 기계를 등치하는 데 반대한 위너와 달리 매컬러는 뇌를 ‘논리기계’로 여겼고, 마음에 관한 완전한 기계적 모형을 만드는 데 몰두했습니다. 위너와 매컬러의 입장 차이는 메이시 회의를 더욱 풍부한 토론의 장으로 만들었습니다. 개인적 오해와 다툼으로 위너가 메이시 회의에서 이탈한 후에도 매컬러는 메이시 회의를 끝까지 이끌며 그 흥망성쇠를 함께했습니다. 뒤피가 매컬러를 사이버네틱스의 숨은 영웅으로 평가하는 이유입니다.

존 폰 노이만(John von Neumann) 역시 사이버네틱스의 역사에서 빼놓을 수 없는 인물입니다. 세기의 천재 수학자 폰 노이만의 업적을 사이버네틱스에 한정할 수는 없겠지만, 폰 노이만의 컴퓨터 발명은 그가 메이시 회의에서 얻은 지식 없이는 불가능한 것이었습니다. 뒤피에 따르면 폰 노이만은 메이시 회의에서 사이버네틱스의 개념을 모두 이해한 거의 유일한 인물이었습니다. 폰 노이만은 특히 매컬러의 신경망 모형에 큰 관심을 보였습니다. 폰 노이만은 매컬러의 신경망 모형을 완전히 수용하는 대신 모형의 단순성을 비판했고, 이 비판은 훗날 복잡계과학의 쟁점으로 이어졌습니다. 폰 노이만이 54세라는 젊은 나이로 갑자기 세상을 떠나지 않고 더 많은 연구를 남길 수 있었다면 사이버네틱스의 역사는 지금과 크게 달라졌을지 모릅니다.