사람들에게 외계인이라고 불렸던 천재

저는 아마도 현재 우리나라에 있는 분들 중에서 마이클 조던의 경기를 실황중계로 가장 많이 본 사람에 속할 겁니다. 그런데 당시 조던을 외계인이라고 불렀던 경우가 있었는지 기억나지 않습니다. 제가 기억하는 프로 선수들 중에 외계인으로 널리 불린 최초의 선수는 페드로 마르티네스였습니다. 아인슈타인은 생전에 사람들에게 천재의 전형으로 각인되었고, 지금까지도 영화에서 천재과학자는 아인슈타인과 비슷한 외모로 묘사하는 경우가 많습니다. 하지만 그 당시에도 아인슈타인은 외계인이라고 불리지는 않았습니다. 그리고 외계인으로 불렸던 과학자는 따로 있었습니다. 바로 존 폰 노이만(John von Neumann)입니다.

폰 노이만은 1903년에 헝가리 부다페스트의 부유한 유대인 은행가의 아들로 태어났습니다. 그는 아인슈타인 같은 대기만성형이 아니었습니다. 폰 노이만은 여섯 살 때 여덟 자리 숫자를 암산으로 나눌 수 있었고, 여덟 살에는 미적분을 능숙하게 다뤘습니다. 여덟 살의 아들이 부다페스트의 전화번호부의 이름과 주소, 전화번호부를 통째로 외우는 걸 본 그의 어머니는 이게 정말 내 아들이 맞나 두려움에 떨었습니다. 그는 어린 시절 수학에 관심이 많았으나 화학을 공부하라는 아버지의 설득으로 22살에 취리히 공과대학에서 화학공학사 학위를 받았고, 이듬해에는 수학전공, 물리학 부전공으로 박사학위를 받았습니다.

학위를 마친 폰 노이만은 베를린과 괴팅겐에서 강사생활을 했습니다. 그가 독일에 도착했을 무렵 새롭게 주목받던 양자역학에서는 하이젠베르크의 행렬역학이론과 슈뢰딩거의 파동함수론의 두 상반된 팽팽히 맞서고 있었습니다. 이 논쟁이 한창일 때 이 두 이론을 모순되지 않게 포괄적으로 기술하는데 성공한 사람이 폴 디랙과 존 폰 노이만입니다. 폰 노이만의 접근방식은 물리학자들의 폭넓은 지지를 받은 디랙의 방법보다 수학적인 측면에서는 더욱 완벽하다고 평가받고 있습니다.

26살에 이런 성과를 거둔 폰 노이만은 세계적인 명성을 얻었고, 1930년에 신설된 프린스턴 고등연구소(IAS) 측의 초청을 받고 미국으로 건너가 고등연구소의 최초 4명의 교수진 중에 한 명이 되었습니다. 그는 30살인 1933년에 고등연구소 정교수로 승진해서 1957년에 암으로 사망할 때까지 그 자리에 있었습니다. 고등연구소(IAS)는 처음부터 실험도구나 기계류는 하나도 갖추지 않은 순수 이론의 산실로 설립되었고, 1933년 10월에 아인슈타인이 교수진에 합류한 이후 순식간에 전 세계 물리학의 중심지로 주목받게 되었습니다.

학자들의 천국이라 불리던 고등연구소는 빠르게 전 세계에서 벤치마킹의 대상이 되어 왔고, 서울 홍릉에 위치한 한국고등과학원(KIAS)도 그중 하나입니다. 홍릉과 대덕단지에는 수많은 연구소와 정부출연기관들이 있는데, 대부분이 K로 시작하는 영문명을 갖고 있어서 익숙하지 않은 사람들의 혼동을 유발합니다.

폰 노이만은 고등연구소의 다른 교수들보다 거의 한 세대가 어렸습니다. 폰 노이만을 가까이서 겪었던 고등연구소의 교수와 연구원 그리고 방문객들은 그의 믿기지 않는 천재성에 경악했습니다. 그는 비상한 기억력을 가져 어떤 것이든 도무지 잊어버리는 법이 없었습니다. 어떤 분야에 대해서든지 그와 만나 이야기하면 폰 노이만은 10분 이내에 상대를 앞질러  머릿속을 훤히 내려다보면서 도저히 따라잡을 수 없을 만큼 멀리 달아났습니다. 세계적인 천재로 가득 찬 그 연구소에서조차 폰 노이만이 '인간을 완벽하게 연기해내는 외계인'일지도 모른다는 말이 돌았습니다.

게다가 그는 너무도 계산을 빨리 해냈는데, 당시의 컴퓨터와 동시에 시작한 계산에서 그가 먼저 문제를 끝냈던 일화도 전해집니다. (폰 노이만의 조교를 지냈던 헝가리 출신 수학자 폴 할모스가 후에 회고하길 역시 헝가리 출신 수학자인 폴 에어디쉬도 폰 노이만 정도로 계산이 빨랐다고 했습니다.)

천재 중의 천재답게 폰 노이만은 아주 특이한 사람이었습니다. 라마누잔, 에어디쉬 그리고 괴델 같은 동시대 천재 수학자들은 도를 닦아 해탈한 사람처럼 속세에 초월했던 분들이었습니다. 반면에 폰 노이만은 학자치고는 극단적으로 세속적인 사람이었습니다. 그는 돈과 고급술을 좋아했고, 매주 떠들썩한 파티를 자신의 집에서 열었고, 매우 사치스러웠으며 하인들에게는 위압적이었습니다. 그는 역사상 가장 창의적인 음담패설 작가였고, 많은 여성들과 성적인 쾌락을 즐겼으나 감정적인 애정은 싫어했고 대부분 몸매를 기준으로 여자들을 평가했습니다.

가장 특이했던 점은 그가 사람들 앞에 나타날 때는 항상 하얀 와이셔츠와 넥타이를 맨 정장에  장식 손수건을 끼운 상태였습니다. 심지어는 운동을 할 때도 그 차림을 고집했습니다. 폰 노이만은 국방부와 군의 모든 장식을 동경해서 원자폭탄과 수소폭탄 개발에 적극 참여했고, 각종 위원회를 이끌며 사망 시점까지 미국의 군사 정책에 중요한 역할을 담당했습니다. 과학자로서 그의 목표는 전혀 가치중립적이지 않았습니다. 하지만 폰 노이만은 유쾌한 사람이었고, 그의 집에서 매주 열린 파티에서는 따로 지냈던 연구소의 늙은 학자들도 즐겁게 서로 이야기꽃을 피웠다고 전해집니다.

고등연구소에 도착한 폰 노이만은 1932년에 자신의 양자이론분석 논문을 바탕으로「양자역학의 수학적 기초」라는 책을 출간했고, 이 책은 50년 이상 주요 교재로 사용되었습니다. 그는 수학과 물리학의 많은 분야에서 뛰어난 업적을 남겼지만 현재 그의 대표업적으로 기억되는 것은 게임이론과 컴퓨터입니다. 게임이론의 창시자인 폰 노이만은 1928년부터 그 주제를 연구했습니다. 그는 체스같이 엄격히 조건 지어진 게임과 포커같이 전략이 상호 연관되어 있는 게임을 따로 구분했고, 후자의 경우에는 최적의 혼합전략이 존재함을 발견했습니다. 1940년대 초에는 아인슈타인과 괴델의 친구였던 경제학자 모르겐슈테른과 공동연구를 시작하여 미니맥스원리를 다양한 문제들에 응용했고, 1944년에는 역사적인 저작 「게임이론과 경제행동」출판했습니다. 폰 노이만의 게임이론은 경제학, 진화론, 전염병이론, 군사전략, 인사조직, 정치학, 철학, 심리학 등에 적용되어 수많은 크고 작은 성과를 올렸습니다.

폰 노이만이 컴퓨터에 관심을 보이기 시작한 동기는 아마도 그가 고등연구소에서 앨런 튜링을 지도하면서 역으로 튜링에게서 영향을 받았던 것이 아닐까 추측됩니다. 폰 노이만과 튜링은 1935년 영국에서 처음 만났으며, 후에 튜링은 프린스턴으로 와서 박사학위를 받았습니다. (폰 노이만이 그의 박사논문 지도교수는 아니었습니다.) 폰 노이만은 튜링에게 큰 호감이 있어서 그에게 고등연구소에서 자신의 연구원 자리를 제안했지만 튜링은 차갑게 거절하고 영국으로 돌아갔습니다.

그 후인 1946년 폰 노이만의 인생을 바꾼 기계가 미국에 등장했습니다.  미 국방부 탄도연구소의 요청에 의해 미국 펜실베이니아 대학에서 3년여의 연구 끝에 1946년에 에니악(ENIAC)이 완성되었습니다. 10진수 체계를 이용한 컴퓨터인 에니악은 무게 약 30t, 길이 25m, 높이 2.5m, 폭 1m의 크기에 사용 진공관의 수 1만8,800개, 저항기 7,000개의 거대한 기계 덩어리였습니다. 에니악이 소비하는 전력이 얼마나 엄청났던지 스위치를 켤 때마다 필라델피아 서부 일대의 전등이 모두 희미해질 정도였습니다. 

에니악의 더 큰 문제점은 따로 있었습니다. 에니악은 탄도의 발사 및 투하위치만 계산할 수 있도록 설계되었기 때문에 이를 다른 용도로 쓰려면 그때마다 일일이 수백에서 수천 개의 스위치를 바꾸고 전선을 새로 연결해야 했습니다. 에니악을 고작 몇 분 돌리려고 여러 기술자들이 며칠을 매달리는 실정이었습니다.

필라델피아에서 에니악이 돌아가는 모습을 보고 온 직후 폰 노이만은 에니악을 뛰어넘는 새로운 컴퓨터를 머릿속에 구상했습니다. 그 컴퓨터는 10진법 대신 2진법을 바로 사용하고, 프로그램을 컴퓨터에 기억시킬 때 배선을 이용하는 것이 아니라 전하와 전기 임펄스를 사용한다는 것이었습니다. 그 당시 상식으로는 기계를 조작할 때 항상 바깥에서 손잡이나 버튼 등을 이용한다는 것이었기에, 직접 감지할 수 없는 전기 자극으로 내부에서 기계를 제어할 수 있다는 폰 노이만의 발상은 그가 천재였기에 가능했습니다. 폰 노이만이 제안한 기억장치에 컴퓨터의 명령과 수치를 함께 기억시키는 내장방식은 현대 컴퓨터의 기본 원리가 되었습니다. 새로운 기능을 수행하기 위해서 지금 우리는 기계 자체를 바꾸는 대신 새로운 프로그램을 사용합니다. 거기에다 폰 노이만이 구상한 컴퓨터는 현대 컴퓨터와 마찬가지로 주기억장치, 중앙연산장치 및 입출력장치의 전형적인 3 단계 구조로 이루어졌습니다.

연구소 교수들은 신성한 연구소에서 기계를 만들겠다는 폰 노이만의 발상에 처음에는 크게 반대했지만 새로 부임한 연구소장 에이델로이트는 그의 컴퓨터 제작을 허락했고, 10만 달러의 자금도 지원했습니다. 미국 국방부를 비롯한 각종 협회에서도 자금지원이 줄을 이었습니다.

폰 노이만은 새로운 컴퓨터를 제작할 직원들을 고용했고, 철학박사이자 배선전문가인 아서 버크스를 회로와 배선의 담장자로 채용했습니다. 컴퓨터를 실제로 조립할 사람은 MIT의 노버트 위너에게 추천받은 줄리언 비겔로로 정했습니다. 폰 노이만, 버크스, 비겔로는 환상의 트리오를 구성해서 연구소 지하 보일러실에서 1946년 6월부터 컴퓨터 제작에 들어갔습니다. 결국 소음에 질린 교수들은 1947년에 새 건물을 지을 수 있다는 시의 승인을 받았고, 폰 노이만과 기술자들은 새 건물에서 1949년에 새로운 컴퓨터를 완성했습니다. 총 3년의 악전고투 끝에 40단계에 해당하는 설계를 바탕으로 에드박(EDVAC)이라는 새로운 개념의 컴퓨터가 탄생한 것입니다.

에드박이 최초로 해결한 것은 새롭게 만들어진 수소폭탄의 작동 여부를 60일에 걸친 계산 끝에 알아낸 것입니다. 그 이후 에드박을 사용하고자 하는 희망자들이 줄에 줄을 섰습니다. 비싼 사용 요금을 지불하고서라도 컴퓨터를 쓰겠다는 기관들이 줄이었습니다. EDVAC은 소인수분해, 기상예측, 별의 내부구조, 입자가속기의 궤도 안전성, 미분방정식의 수치 해 등 천차만별의 다양한 문제를 해결하여 만능의 위력을 발휘했습니다. 고통스러운 특허권 싸움에 지친 폰 노이만은 특허를 포기함과 함께 EDVAC 보고서의 저작권도 포기함으로써 이 새로운 개념이 전 세계에 널리 퍼지도록 했습니다.

1956년 폰 노이만은 췌장암 진단을 받았습니다. 엔리코 페르미가 암으로 세상을 떠난 지 2년이 지났을 때였습니다. 한 시대를 지배했던 두 천재는 모두 핵분열 실험 등으로 방사능에 지나치게 노출된 상태였습니다. 폰 노이만은 페르미와 마찬가지로 죽기 전에 극심한 고통을 겪었습니다. 마지막 순간에는 방문한 친지들에게 고통 때문에 헛소리를 했는데, 미 국방부는 그가 혹시라도 수소폭탄의 기밀을 누설할까봐 곁에 군인을 배치했습니다.

현대 컴퓨터의 아버지로 불리는 폰 노이만은 1957년 2월 8일에 세상을 떴습니다. 그가 세상을 뜬 다음해인 1958년에 고등연구소는 교수회의를 열어 EDVAC을 철거하기로 결정했습니다. 철거된 폰 노이만의 컴퓨터는 워싱턴의 스미소니언으로 운반되어 Princeton IAS computer 라는 이름으로 지금도 일반인에게 전시되고 있습니다.