러셀

철학에 깊은 관심이 없더라도 러셀(Bertrand Russell)의 이름을 들은 사람은 많다. 왜냐하면 그는 [결혼과 성], [나는 왜 기독교인이 아닌가], [왜 사람들은 싸우는가] 등 일반 대중이 쉽게 접할 수 있는 많은 책을 썼기 때문이다. 그러나 대중적이건 전문적이건 러셀의 책에는 공통점이 있다. 즉 그의 책은 대부분 논증이다. 몇 개의 전제로부터 논리적으로 결론을 도출하는 것이 논증이라면, 러셀의 사상과 삶은 논리적 사고와 분리 불가능하다. 철학자로서 그의 업적이 논리학, 수리철학 및 분석철학 분야에 집중되어 있는 것도 우연이 아니다.

수학에 재능을 보였던 소년 수학의 기초를 확립하다

러셀은 1872년 5월 18일 웨일즈에서 태어났다. 그의 가문은 영국의 오래된 명문으로서 할아버지 존 러셀(John Russell)은 빅토리아 여왕 하에서 두 번이나 총리를 지냈다. 러셀은 일찍 부모를 여의고 1878년에는 러셀의 할아버지도 사망하여 어린 시절을 할머니 밑에서 보내게 되었다. 할머니는 삶의 원칙이 분명하여 어린 러셀에게 깊은 영향을 끼쳤다. ‘다수를 따라 악을 행하지 말라(출애굽기 23:2)’는 성경의 구절은 러셀의 좌우명이 되었다. 1년 반전부터 저는 당신의 책[수학의 기본법칙]을 알고 있었습니다. 그러나 이제야 당신의 책을 철저히 공부하기 위해 필요한 시간을 찾을 수 있었습니다. 나는 당신과 모든 주요사항에 대해서 완전한 의견 일치를 보았지만... (1902년 6월 16일, 러셀이 프레게에 보낸 편지)

러셀은 소년시절부터 재능을 보였던 수학을 케임브리지에서 1890년에서 1893년까지 배우고 1895년에 대학선생이 되었다. 이때 알게 된 화이트헤드(A. Whitehead)와 함께 그는 수학을 엄밀한 연역적 증명체계로 재구성하려는 시도를 하게 되었다. 그 결과가 1903년 출간되어 러셀과 화이트헤드에게 세계적 명성을 가져다 준 [수학원론]이다. 여기서 ‘증명’이란 개념에 대하여 잠시 살펴보자. 일상생활에서 증명이란 ‘너의 사랑을 증명해봐’, ‘무죄임이 증명되었다’ 등 광범위하게 사용되지만, 논리학과 수학에서 좁은 의미의 증명이란 주어진 글자들을 허용된 변형규칙에 따라 바꾸는 행위로서 이때 만들어진 행위의 결과가 바로 증명된 글자들이며, 이 변형과정 전체를 우리는 증명이라고 부른다. 여기서 알 수 있듯이 좁은 의미에서 증명이란 참과 거짓이라는 개념을 전혀 전제하지 않는 일종의 글자조작에 불과하다. 러셀이 이처럼 무미건조한, 그러나 엄밀하게 주어진 변형규칙만을 따르는 증명체계로 수학의 기초를 확립하려고 했던 것은 두 가지 이유 때문이었다.  첫째, 그는 수학자들이 사용하는 일상 언어가 수학과 같은 엄밀한 학문에는 어울리지 않을 만큼 애매모호하다고 생각했다. 이런 애매성을 제거하기 위해서는 기호의 의미에 의존하기 보다는 엄밀한 기호조작이 훨씬 더 도움이 된다고 믿었다. 둘째, 이러한 수학적 증명체계의 출발점은 논리학의 영역에서 제공할 수 있다고 생각했다. 즉 수학은 논리학에 전적으로 환원될 수 있다는 생각이다. 우리는 수학의 기초와 관련하여 이러한 입장을 ‘논리주의(logicism)’라고 부른다.

빅토리아 여왕 하에서 두 번이나 총리를 지냈던 철학자 러셀의 할아버지, 존 러셀. <출처 : Wikipedia>

러셀의 역리 집합론의 모순

다른 한편 영국에서만 수학을 논리학 위에 세우려는 시도가 있었던 것은 아니다. 러셀과 화이트헤드의 시도 이전에 독일에서는 분석철학의 아버지라고 할 수 있는 프레게(G. Frege)가 완전히 형식화한 논리학, 즉 현대에 와서 ‘형식논리학(formal logic)’ 혹은 ‘기호논리학(symbolic logic)’이라고 부르는 분야를 완성하였다. 이 형식논리학을 바탕으로 수학의 기초를 논리학으로 환원시키려는 시도가 바로 그의[수학의 기초법칙(Die Grundgesetze der Arithmetik]이다. 단 프레게에게 논리학이란 지금과는 달리 집합론도 포함한 것이었다.

  

일반 수학자들이 사용하는 언어가 애매했기 때문에 엄밀한 수학적 증명체계를 만들려고 했던 러셀. <출처 : Wikipedia>

그러나 앞에서 인용한 러셀의 편지에는 프레게의 기념비적 업적을 칭찬하고 공감하는 내용만 있는 것은 아니었다. 몇 줄 안 되지만, 후에 ‘러셀의 역리’라고 불리게 될 집합론의 모순이 담겨 있었다. 그 내용은 다음과 같다: 우선 자기 자신을 원소로 포함하지 않는 집합을 찾아보자. 예를 들어 한국인의 집합을 K라고 한다면, 분명 K는 K 자신의 원소가 아니다.(K∉K)  자기 자신을 원소로 포함하지 않는 집합들은 흔하며, 우리는 집합의 원소로 집합(집합의 집합)도 인정하므로, K처럼 자기 스스로의 원소가 아닌 집합들을 원소로 갖는 집합을 일단 존재한다고 상상할 수 있다. 문제는 이처럼 존재한다고 생각되는 집합에서 출구가 보이지 않는 역설이 발생한다는 점이다. X={x|x∉x} 만일 X∈X라고 하면, (원소) X는 (집합) X의 조건 ‘x∉x’을 만족시킨다. 즉 X∉X. 만일 X∉X라고 하면, (원소) X는 (집합) X의 조건 ‘x∉x’을 만족시켰으므로, X∈X. 러셀의 역리는 칸토르(Cantor)가 처음으로 제창한 집합론에 모순이 있음을 보여주었고, 집합론에서 산수의 기초를 확보하려고 시도한 프레게의 시도는 실패하였다. 즉 집합론을 포함한 논리학으로부터 수학의 기초를 확보할 수 있다는 프레게의 논리주의는 근본에서 흔들리게 되었다. 당신이 발견한 모순은 저를 정말로 경악시켰습니다. 거의 무너뜨렸다고 말할까요. 왜냐하면 그 모순으로 인해 내가 산수의 기초로 삼으려던 것이 흔들렸기 때문입니다. (…) 어쨌든 당신의 발견은 매우 특이하며, 첫눈에는 반갑지 않은 것으로 보일지라도 어쩌면 논리학에 매우 큰 발전을 가져올 지도 모릅니다. (1902년 6월 22일 예나에서 프레게가 러셀에게 보낸 편지)

프레게의 [수학의 기초법칙]은 러셀이 편지를 보냈을 때 제2판 인쇄에 들어간 상태였다. 프레게는 ‘수십 년의 연구 끝에 진리를 발견했다는 확신이 들어 책을 쓰고 인쇄에 들어간 순간, 그 확신을 송두리째 흔들어버리는 오류를 발견했을 때의 참담함’에 대하여 이야기하였다. 그러나 러셀과 화이트헤드가 기획했던 [수학원론]도 완전한 성공은 아니었다. 모든 수학의 진리를 증명체계에서 증명할 수 있다고 믿었던 러셀의 시도는, 기본적으로 증명이 자의적인 글자조작에 불과하다는 점에서 어떤 증명체계가 진정한 수학체계인지라는 질문을 제기하였다. 비유하면 이 질문은 ‘3점 슛을 허용하는 4쿼터제 농구’와 ‘2점 슛만을 인정하고 전후반제의 농구’ 중 어느 것이 진정한 농구인지 묻는 것과 조금도 다를 바가 없다. 이 문제제기는 러셀에게는 특별히 뼈아픈 상황이 될 수밖에 없다. 왜냐하면 러셀은 일반 수학자들이 사용하는 언어가 애매하므로 엄밀한 수학적 증명체계를 만들려고 하였다. 그러나 모든 증명체계가 본질적으로 자의적이라는 점에서 결국 비판의 대상이었던 일반 수학자들의 행위와 일치하는 증명체계를 선택할 수밖에 없기 때문이다. 즉 [수학원론]은 수학의 현실을 증명체계로 엄밀히 재현 가능함을 보여주는 데에 그쳐야만 했다.

 

러셀의 해결책 '논리원자주의' 사고방식

러셀에게도 집합론의 모순은 골치 아픈 문제였다. 그러나 러셀의 역설을 들여다보면, 해결의 단초가 없는 것도 아니다. 우선 ‘x∉x’와 같은 집합 X의 조건을 보면 원소와 집합간의 계층 차이가 전혀 없다는 사실이 눈에 들어온다. 우리는 상식적으로 어떤 집합의 원소들이 주어지면 그 집합의 동일성(Identity)이 결정된다고 보는 데, 원소와 집합간의 계층 차이가 없다면 이처럼 집합의 동일성을 결정하는 데에 뺑뺑이 돌기가 발생함을 직감할 수 있다. 즉 집합 X의 동일성을 결정하려면 그 원소를 결정해야하고, 그 원소들을 결정하려면 집합 X의 동일성도 결정해야 한다. 눈이 날카로운 독자는 여기서 집합 X의 동일성이 한편으로는 결정의 대상으로서, 다른 한편으로는 결정의 수단으로서 등장함을 간파하였을 것이다. 일종의 자기정당화의 예라고 보아도 무방하다.

그러나 러셀은 이 문제를 피하는 간단한 방법이 있음을 알았다. 즉 ‘유형론(theory of types)’이라고 불리는 원소와 집합간의 계층 차이를 도입하는 것이다. 집합의 계층에서 가장 밑바닥에는 그 자신은 더 이상 집합이 아닌 개체(individual)가 있고, 다음 계층에는 개체만을 원소로 갖는 집합이 있고, 그 다음에는 이전 계층의 집합들을 원소로 갖는 집합이 있고... 등등. 우리는 이미 이와 비슷한 사고방식을 철학사에서 보았다. 다른 존재의 구성요소이지만 그 자신은 구성요소를 갖고 있지 않는 것, 즉 더 이상 분할될 수 없는 존재를 원자라고 불렀다. 러셀의 해결책은 이른바 ‘논리원자주의(logical atomism)’라고 불리는 사고방식과 밀접한 관계가 있다: 모든 명제는 쪼개질 수 있는 분자명제와 더 이상 쪼개질 수 없는 원자명제로 나누어 질 수 있고, 바로 이러한 원자명제는 세계를 구성하는 단순한 사실(fact)에 대응한다. 비유하자면 일종의 레고(Lego)놀이로서 언어와 세상을 보는 방법이다. 그러나 러셀의 유형론은 모든 집합에 계층, 즉 계급이 있다는 매우 비현실적인 가정을 하고 있고, 실제로 그 유형을 잘 고려하면서 집합을 사용하는 것은 쉬운 일이 아니다. 결국 칸토르가 제창한 집합론을 엄격하게 재조직해야 할 필요성이 제기되었다. 이른바 ‘公理化된 집합론’이 그것이다. 직관이 아니라 일련의 공리체계로서 재조직된 집합론에서는 러셀의 역리에서 볼 수 있었던 집합 X는 아예 구성자체가 불가능하다. 바꿔 말해 러셀의 역리는 현대 수학에서는 해소나 해결된 것이 아니라 금지되었다고 보는 것이 더 정확하다.

러셀의 역리를 해결할 수 있다는 생각에서 출발했던 비트겐슈타인의 [논리철학논고]. <출처 : Wikipedia>

그러나 러셀의 역리를 완전히 해결하겠다는 시도가 없었던 것은 아니다. 이런 점에서 프레게의 예언처럼 러셀의 역리는 논리학 뿐 아니라 철학 전체에 큰 발전을 가져왔다고 할 수 있다. 바로 비트겐슈타인의 [논리철학논고]는 그 출발이 러셀의 역리를 해결/해소할 수 있다는 생각에서 출발한 것이었고, 20세기 전반에 서양철학의 가장 큰 업적 중의 하나라고 평가받고 있다. 그러나 비트겐슈타인의 해결방법은 러셀의 유형론과는 전혀 다른 종류의 것이다.

다양한 분야에서 활동한 러셀 대중의 편견에 흔들리지 않고 진실을 지키다

논리학이나 수리철학, 분석철학 이외의 분야에서도 러셀은 대단히 정력적인 활동을 하였다. 97세에 이르기까지 많은 책을 집필하였을 뿐더러 할머니로부터 배운 것처럼, 사회의 부정의에 대하여는 항상 지치지 않고 저항하였다. 즉 아무리 많은 사람들이 옳다고 하거나 아무리 큰 권력의 행위라 하여도 정당화 될 수 없는 행위에 대하여는 논리적으로 비판하고 그의 비판을 실천적 행동으로 옮겨야 한다는 직선적 순진함을 러셀은 견지하였다. 바로 이러한 지적 정직성을 갖고 러셀은 핵무기와 베트남 전쟁을 비판하였다. 다른 한편 대중의 편견에 흔들리지 않고 진실을 지켜야 한다는 러셀의 태도는 이미 소크라테스와 공자도 누누이 강조한 바가 있었다. 1945년 일련의 강의를 바탕으로 쓴 [서양철학사]를 출간하였는데 이 책은 러셀에게 경제적 도움을 줄 수 있을 만큼 베스트셀러가 되었다. 이 책의 특징 중의 하나는 저자의 주관이 매우 뚜렷한 철학사로서 러셀의 지적 체취를 느낄 수 있다는 점이다. 러셀은 1950년 노벨문학상을 수상하였고 1960년대에는 서양의 신좌파(New Left) 운동의 우상이 되었다. 1970년 1월 말 이스라엘이 3년 전 전쟁에서 점령한 지역으로부터 철수할 것을 주장하는 성명서를 발표하고 며칠 후 숨을 거두었다.