수학과 유머의 교차로에서: 루이스 캐럴의 <앨리스>와 추상 대수

헬레나 피시오

수학과 유머의 교차로에서: 루이스 캐럴의 <앨리스>와 추상 대수

어거스터스 드 모르강은 그의 1849년 저서 <삼각법과 이중 대수>의 제2장을 이렇게 시작한다. 추상 대수를 요약하고 있는 그 내용을 읽어보자. "예외가 하나 있는데, 산술과 대수 언어 및 기호(부호)는 이 장 전체에서 어떤 의미도 지니지 않는다. 이 장의 주제는 상징들 및 그것들의 조합 법칙이다. 이를 바탕으로 추상 대수가 구축된다." 약 15년 후 루이스 캐럴의 앨리스가 하트 잭 재판을 방해한다. 흰 토끼가 낭독한 시가 말이 안 된다며 끼어드는 것이다. 앨리스가 단호하게 말한다. "아무 의미도 없잖아[요!" 시발놈들아.]

드 모르강의 대수 교재와 캐럴의 <앨리스의 놀라운 세상 모험>에 [당시 잘 쓰이지도 않던] Atom이란 단어가 공히 등장하는 것은 결코 우연의 일치가 아니다. [나도 그렇게 생각해.] 찰스 루트위지 도지슨은 수학자로 훈련 받았고, 당연히 수학에 관심이 많았다. 그가 루이스 캐럴이란 필명으로 출판한 문학 작품이 영향을 안 받았을 리가 없다. 앨리스가 나오는 두 작품에 수학자 도지슨이 품었던 추상 대수에 관한 의혹과 불안감이 담긴 것은 당연한 일이었다. 19세기의 전반세기 수학계에 영국 쪽에서 행한 주요 기여가 바로 추상 대수 분야였다. <이상한 나라의 앨리스>로 섞여버린 두 작품 <앨리스>들을 해석한 더 이른 시기의 저술들은 주제가 무의미라고 강조해 댔다. 실제로 이 무의미란 주제는 도지슨이 추상 대수란 방법과 조우하게 된 사건으로까지 소급 추적해 볼 수 있다. 그의 넌센스 시 역시 상징 대수에 그 기원을 두고 있을지 모른다. 알다시피, 추상 대수는 의미보다 수학적 구조에 주안점을 뒀으니까 말이다.

도지슨이 추상 대수를 잘 알고 있었다는 것은 분명하다. 명토 박아둔다. 앨리스의 작가가 당대의 최신 수학 흐름을 전혀 몰랐다고, 많은 사람이 오해하는데, 거듭 말하거니와, 그렇지 않다. 더 이른 시기의 학자들은 도지슨이 추상 대수를 몰랐다고 하지만, 나는 이렇게 주장하련다. 그는 추상 대수를 잘 알았지만, 보수적인 수학관에 기초해 그 분야를 거부하고 조롱했다. 더 나아가 나는 다음도 보일 것이다. 도지슨의 앨리스가 발표되기 이전에도 제한적이나마 수학과 유머가 섞인 전례가 있었음을 보여주고자 한다. 나름으로 흥미롭고 중요한 19세기의 수학자인 윌리엄 프렌드와 어거스터스 드 모르강도 도지슨처럼 유머를 좋아했고, 그가 대수의 테마들을 활용해 농담을 할 거라고 내다봤다.

I

19세기 초에 영국인들의 관념과 교육 분야에서 현저한 지위를 차지한 것은 수학이었다. 수학이 지식의 대계이자 탁월한 정신 훈련 수단으로 숭배를 받았다. 일부 수학 옹호자들에 따르면, 수학은 이론상 다른 어떤 과목보다 더 건전한 추론(의 논리)를 가르쳤다. 실제로도 수학은 케임브리지 대학교의 핵심 학문이었다. 1850년대를 전후한 시기를 볼작시면, 케임브리지 학부생은 먼저 수학 능력을 입증해 보인 다음에야 다른 무슨 과목이든 학위를 딸 수 있었다.

수학의 이런 특권적 지위는 당대인들이 수학에 대한 전통적인 견해를 받아들였기 때문이다. 전통적 견해? 이것이다. 수학은 자명한 1차 원리들을 바탕으로 연역적 추론이 전개돼, 명료하고 딱 부러지는 관념을 구성해 내는, 절대적 진리의 학문이다. 라는 거. 어거스터스 드 모르강이 그래서 1831년 이렇게 선언했다. 수학이야말로 정신을 훈련하는 최고의 수단이다.

추론을 잘 하고 싶은가? 그러면 먼저, 추론하는 법을 배워라. ...... 수학이 다음과 같은 이유로 그런 목적에 특화되었다.

1. 모든 용어를 명료하게 설명하는데, 딱 한 개의 의미만 할당한다. 단어 둘이 같은 말을 하는 경우는 거의 없다.

2. 제1원리들이 자명하다. 물론 그 원리들은 관찰을 바탕으로 한다. 하지만 일반으로 애들이 만드는 것 이상은 아니다. [그만큼 단순명료하다는 얘기-옮긴이]

3. 증명이 매우 논리적이다. 자명한 1차 원리들을 빼면, 당연한 것으로 간주되는 것은 없다. 어떤 것도 가능성 따위에 기대지 않으며, 권위 및 견해와도 무관하고, 독립적이다.

4. 결론을 추론으로 얻는데, 참과 거짓을 획정할 수 있다. 기하학의 경우 실측이 가능하고, 대수의 경우는 보편 산술이 적용된다. .......

5. 말뜻이 비슷해서 나타내는 의미가 혼란스러운 단어는 존재하지 않는다.

요약해 보면 이런 것들이다. 용어들은 의미가 명료하고 구별이 팍 된다. 제1원리들은 자명하다. 연역 추론을 전개할 수 있다. 그렇게 나온 결론 내용을 "경험적" 실험으로 검증할 수 있다. 이것들이 몽땅 결합되면, 수학의 확실성이 보장된다. 다음의 선언도 타당할 수밖에 없다. 수학은 탁월한 지식 집적체이자, 교육 수단이다.

그런데, 수학이 영국의 지식 사회에서 이렇게 중요해지며 각광 받던 바로 그 시절에, 케임브리지에서 일군의 수학자가 절대 과학이라는 수학의 당찬 지위를 허물어뜨리고 있었다. 어떻게? 그 수학자들은 대수에 새롭게 접근했다. 허수가 문제였다. 요놈의 사안이 의미와 실제 적용 가능성보다 구조와 논리적 확실성에 주안점을 뒀던 것이다. 허수는 르네상스 기에 유럽 수학계에 알려졌지만[사실 유럽 수학계, 나아가 유럽 수학자들이 알았다는 얘기다. 수학 배틀을 벌였던 지롤라모 카르다노가 대표적이다. 3차와 4차 방정식의 일반 해를 구하다보면, 겪게 되는 문제다. 자세한 설명은 생략한다-옮긴이], 뭔가 미심쩍고 그래서 받아들이기 어려웠다. 아무튼 그래도 상황이 변했다. 18세기 후반이면 허수가 명료한 사안이자 체계로 자리를 잡는다. 일이 그렇게 전개되자 비평가들이 선언하고 나섰다. 어떤 종류의 수도 개념이 명료하지 않고, 음수와 허수의 표준 정의는 거짓부렁이라고 말이다. 그 시기의 교과서들은 음수를 이렇게 정의했다. "무보다 더 적은 양", "더 큰 수로 빼면 얻어지는 수". "무보다 더 작은 양"을 생각해 낼 수 있는 자, 그 누구란 말인가?, 가 비판자들의 문제 제기였다. "무보다 작다"와 "양"이란 개념이 모순이라고, 그들은 주장했다. 허수의 정의도 모순적이기는 마찬가지였다. 제곱해서 음수가 되는 수가 허수다. 비판자들은 b란 수를 가정했다. 이걸 제곱하면 -1이 된다고 단서를 달았다. 그런데 그들의 지적처럼 그런 b는 양수 아니면 음수다. 하지만, 이런 결론은 불가능했다. 왜? 양수든 음수든 제곱하면 다 양수니까. 정리해 보자. 음수와 허수 반대자들은 이 수를 도입했다가는 명료한 개념과 절대적 진리의 패러다임이 터무니없는 부조리 상태에 빠진다고 주장했다. 그들은 허수의 전면 기각을 요구했고, 대수를 음수를 빼버린 정수와 분수로 남겨둬야 한다고 주장했다.

많은 수학자가 음수와 허수가 골칫덩이임을 알았지만, 그들 대다수는 광맥이 엄청 풍부한 그 수학 개념을 팽개칠 생각이 없었다. 영국의 수학자 몇 명이 음수와 허수를 기각하는 전략 말고, 다른 대안을 들고 나왔다. 대수를 다시 정의해 버린 것이다. 1830년대 초에 조지 피칵이 음수 문제를 해결했다. 그가 대수에 추상적으로 접근하는 방법을 서술했다. 피칵의 주장은 이렇다. 산술 말고 추상 대수라는 게 있다. "추상 대수는 임의의 부호와 표상의 각종 조합 양태를 다루고 취급하는 과학이다. 아 물론, 임의적이지만 잘 정의된 법칙을 수단으로 한다는 말을 보태야겠다." 피칵은 음수와 허수를 전통적인 방식으로 정의하지 않고, 대수를 재정의하는 방식을 택했다. 그에 따르면, 대수는 정의되지 않은 표상과 부호를 다루는 학문인데, 이게 학문이 되려면 수학자가 만든 법칙으로 통어돼야 한다는 것이었던 것이었던 것이다. 접근법이 이렇게 일신되자, 대수학자들은 정의되지 않았거나 무의미한 표상들을 자유롭게 조작할 수 있게 됐다. 물론 조작 후에 표상들이 의미를 지니기만 하면 됐다. 피칵의 모토는 이랬다. "해석은 나중에 하면 된다. 굳이 먼저 할 필요가 없다." 대수 기호와 상징 들의 의미가 중요하지 않았고, 해서 당연히 대수의 규칙과 형태가 중요했다. 이런 추상적 접근법으로 인해 수학의 개념에 대한 수학자들의 생각이 바뀌었고(가령, 음수), 그렇게 되자 수학의 규칙과 제1원리들이란 근원(적, 과) 입장도 다시 생각해 봐야 했다. 피칵은 망설이는 어조였고, 다른 수학자들은 좀 더 감연했는바, 아무튼 그들은 대수의 규칙을 정하는 건 수학자들이란 사실을 인정했다.

피칵은 이 방법을 설명하기 위해 다음과 같은 생생한 예를 든다. 그에 따르면, 부호 “x”는 의미가 없는 표상 기호일 뿐이다. 피칵은 수학자라면 그 기호를 통어하는 규칙을 정할 수 있는 자유를 누리므로, 이렇게 선언한다. “x”는 "나누기 부호"의 반대로, 다음을 따른다. a x b = b x a. “x”에서 중요한 것은, 그게 따르는 형식이나 규칙 들이지, 의미가 아니다. “x”는 애초에 의미가 없었고, 결국 다르게 해석됐다. 앞의 내용에 따르면, 산술의 곱셈을 의미하게 된 것이다. (피칵의 <대수 논문> pp. 72~73, 84~87에 따르면, 선분의 곱도 나타냈다.) 정리해 보자. 의미 있는 용어, 자명한 원리, 절대적 진리 들의 학문이라는 수학의 전통적 상이 상징적 접근법 또는 추상적 접근법으로 인해 와해되었다. 대수 또는 대수학을 의미 없는 기호와 상징 들의 학문으로 보는 관점이 유행하기 시작했다. 물론 그 기호와 상징 들은 모종의 임의 규칙에 통어되고, 상이한 여러 해석을 따라야 한다. 수학의 전통적 목표인 절대 진리가 쓸모가 있는 논리 특정적인 결론들이라는 (실용적) 목적에 길을 내주었다. 추상 대수학자들은 인정했다. 자기네들은 대수의 결론들이 연역적 추론을 맨 처음 가정한 원리들에 바르게 적용한 결과임을 보증할 수 있을 뿐이라고 말이다. 따라서 그 결론이 절대적이거나 경험적인 측면에서 반드시 진리일 필요는 없었다.

사람들은 추상 대수에 혼란스럽게 반응했다. 한 동안은 피칵과 던컨 F. 그레고리가 옹호자들을 주도했다. 반대자들이 없을 리 없었다. 약관의 케임브리지 대학원생 오스본 리놀즈가 이 새로운 대수 접근법을 매섭게 비판했다. 제3의 부류도 있었는데, 그들은 추상 대수를 개발했으면서도, 태도는 양가적인 사람들이었다. 드 모르강이 대표적이다. 그가 한 동안은 이 새로운 대수에 강력하게 끌렸고 심지어 껴안는가 싶더니, 나중에 가서는 현실과 관계를 맺는 유의미 대수 다음의 아류로 치부했다는 것은 분명한 사실이다.

음수와 추상 대수에 대한 반응이 종종 농담의 형태를 띠고 나타났다. "무보다 더 적은 양"이라니, 음수가 역설적임은 분명했다. 추상 대수는 의미가 없었고, 임의적 자의적이었다. 이런 내용이 유머의 소재가 됐다. 이런 대수의 주제들을 유머로 제시한 빅토리아 시대의 주요 인물 셋 가운데 하나가 윌리엄 프렌드다. 가령, 그가 쓴 미간행 희곡 한 편을 보면, 음수와 추상 대수가 유쾌하면서도 단호하게 공격을 받는다. 더 인정 받는 수학자였던 드 모르강은 수학을 농락하는 데서 프렌드만큼 심하게 나오지는 않았다. 하지만 그도 자신의 수학책 가운데 한 권을 비평하면서, 그 놈의 대수 이중성을 패러디했다. (드 모르강의 유의미 대수는, 추상 대수를 좇아, 또 어느 정도는 추상 대수에서, 개발된 것이다.) 여기에 도지슨이 가세한다. 그는 직업 수학자였고, 판타지도 썼다. 그런 도지슨이 대수의 주제를 자신의 '앨리스'에서 언급한다.

수학과 유머의 이 교차로를 가장 먼저 점거했던 프렌드는 음수와 허수의 가장 유력한 반대자 가운데 한 명이었다. 사정이 그러한 바, 음수를 성토하는 그의 글은 유머러스하기보단 학문적이다. 프렌드는 명료하고 독자적인 사유를 바탕으로 무보다 더 적은 양이란 음수의 표준 정의가 자기 모순이라고 주장한다. 그는 수학자였고, 먼저 그 역설을 해소하고자 한다. 아무튼 프렌드의 결론은 음수와 허수, 그리고 거기에 토대를 둔 모든 대수를 전면 거부하는 것이었다. 하지만 그는 가끔씩 더 단호한 태도를 취했다. 케임브리지의 부총장한테 보내는 공개 서한에서였는데, 음수와 그 옹호자들을 잡도리하고 있는 것이다. 프렌드가 미래에 케임브리지에서 차지할 지위와 관련해 그 놈의 편지 내용과 의도는 확실히 앞뒤가 안 맞는다. 비록 그가 그 5년 전인 1793년에 대학에서 면직되긴 했지만, 그래도 루카스 석좌 교수 직을 지원하는 편지였기 때문이다. 프렌드는 그 편지에서 n차 방정식은 n개의 근을 갖는다는 대수의 근본 정리를 반대했다. (음수와 허수를 수용해야 이 정리가 가능하다.) 계속해서 그는 루카스 석좌 교수를 원하는 다른 지원자들에게 99차 방정식의 모든 근을 계산해 보라고 어깃장을 놓는다. 그러고는 약속한다. 자기가 루카스 석좌 교수 직을 얻게 되면, 아흔아홉 개의 근을 제시하고 그것들 사이의 일정한 관계를 입증해 보이는 사람과 함께 봉급을 나누겠다고 말이다. 프렌드의 어깃장은 배꼽 빠지는 농담이 아니다. 음수에 대한 평소의 소신보다 덜 중립적이고, 동시에 더 공격적인 자세이자 태도인 것이다. 프렌드의 그 공개 서한은 잠시잠깐 농담과 풍자 성향을 드러낼 뿐으로, 음수의 역설을 해결하는 게 아니며 오히려 악용한다는 게 분명하다.

프렌드가 재치 만점의 농담가로 등장하는 것은, 1803년 출판한 에세이에서 무라는 수학 개념을 풍자할 때와, 드 모르강이 1835년 출판한 <대수 원리>에 대응해 작성한 패러디 희곡(딸 소피아 일리자베스였을 수도 있다)에서였다. 에세이는 희곡만큼 유효적절하지 못했다. 희곡과 달리, 짝퉁스러운 데다, 문제의 수학적 부조리를 낱낱이 깔발리지도 못했던 것이다. 라블레를 모방한 그 에세이는 대학들이 무라는 개념의 운명을 정하기 위해 팡타그뤼엘한테다 요청한다는 거였다. 프렌드가 다음에 대한 대중적 반대를 염두했음이 틀림없다. 요컨대, 수학자들이 대수 계산, 특히 나눗셈에서 0을 마음대로 사용한다는 것이었다. 문제의 에세이는 은연중에 이렇게 물었다. 0으로 나눈다는 것은 무슨 의미인가? 무가 뭔가가 되려면 몇 번을 곱해야 하는가? 이 에세이의 김빠진 유머와 주제는 막판에 나온다. 던져놓은 질문에 대한 팡타그뤼엘의 대답은 존나 한심하다. "무에서 뭔가를 만들어 낼 수 있다고? 그런 놈들은 팡타그뤼엘의 궁정에서 아무것도 못 먹는다."

프렌드의 희곡은 1830년대 후반에 씌었고, 더 이른 시기의 맥빠진 에세이가 하던 논의를 이어받았다. 그리고 꽤나 성공적이었다. 희곡의 주제가 추상 대수였고, 프렌드가 농담으로 겨냥할 만한 더 큰 표적이었던 것이다. 프렌드는 새로 개발된 대수를 공격했다. 추상 대수가 음수를 수용하는 것과, 또 그것의 자의성을 악용하는 방식이었다. 예컨대, 프렌드는 과장했다. 수학자가 자유롭게 대수의 규칙을 정할 수 있다는 사항을 말이다. 2장을 보면, 드 모르강 교수(연극의 주인공으로, 프렌드가 실재 인물에서 따왔다)가 케임브리지 입학생들에게 수학을 가르치기 위해 고용된다. 드 모르강의 봉급을 정하기 위해 협상이 벌어지는데, 그 대화 장면이 추상 대수의 임의성을 조롱하는 기회로 활용된다. 학생들이 드 모르강의 임금을 1000분의 7 파운드로 정한다. "여느 다른 교수가 받는 금액의 1000분의 1"에 상당하는 그 봉급액은, 드 모르강이 남들보다 1,000배 더 빨리 가르친다고 학생들이 판단했기 때문이다. 하지만 드 모르강이 학생들의 결정과 판단 절차에 이의를 제기한다. 실재 인물 드 모르강의 저서 <대수 원리>에 나오는 음수 부분을 패러디하면서 말이다. 주인공 드 모르강이 어떻게 말하는지 보자.

잠깐만요. 좀 빠른 것 같습니다. 제 대수 책을 보시면, 말씀하신 특이 상황이 다 나옵니다. (드 모르강 교수가 책을 집어들고 읽는데, p와 q가 뎁다 나온다.) 우린 이 방정식을 잘못 푼 거예요. 그러니까 방금 언급한 내용을 역전시켜 참이라고 가정해야 한다는 거죠. ...... 다른 교수들이 받는 액수의 1000분의 1을 받는 게 아니라, 나한테 1000배 더 많이 줘야 해요. 그래야 방정식이 성립하죠. 강좌 당 비용이 7x1000 파운드니까요. 그렇게 해야 합리적으로 되는 겁니다. 1,000명분의 능력을 지닌 사람이 1,000명만큼의 봉급을 받는 건 당연한 거 아닙니까? 제 책인 <대수 원리> 34쪽을 보세요. 거기 보면, 말 반 마리, 사람 둘, 4분의 3 등등의 의미가 설명돼 있죠.

프렌드는 추상 대수의 자의성과 음수를 신나게 공격하면서 희곡의 대미를 장식한다. 학생들이 케임브리지로 돌아가기로 하는데, 그 중 한 명이 드 모르강에게 이렇게 말한다. "용어들이 완전히 자의적인데, 강의랍시고 그런 고차 용어를 지정하는 걸 보니, 당신은 정말 제멋대로입니다. 보세요. 수는 커지면 커질수록 작은 수에서 멀어지는 것 아니에요? 우리는 그냥 다 함께 케임브리지로 갈 겁니다."(Pycior, “Historical Roots”, pp. 154~156)

실재의 드 모르강을 보자. 그는 추상 대수를 만들었고, 가끔씩 지지하기도 했다. 드 모르강은 프렌드의 사위였으며, 프렌드의 수학을 계승해야 할 듯했다. 프렌드처럼 드 모르강도 음수와 허수의 전통적 정의를 싫어했다. 수학과 유머 모두에서 창의적 재능을 보였다는 사실도 둘이 통한다. 하지만 드 모르강은 프렌드와 달리 정통 수학자였고, 대수를 주제로 농담하는 일이 거의 없었다. 하지만 기지와 재치라면 드 모르강도 빠지지 않는다. 런던에서 발행되던 문예 평론지 <애서니엄>에 정기 기고한 칼럼을 보면 이를 잘 알 수 있다. 그는 수학으로 하는 허튼짓거리에 신랄하게 반응했고, 작성한 공책을 보면 여기저기에 만화까지 나온다.

드 모르강은 수학자라면 건전한 수학 내용에 비난을 퍼붓는 게 쉽지 않은 일이라고 생각했다. 수학자가 수학 내용을 온전히 이해했는데, 그걸 조롱할 수는 없는 일이라고, 그는 말했다. 해서, 그의 유머는 대개 수학으로 하는 허튼짓거리를 겨냥했다. 그는 "확고한 체계를 지지했다." (Budget of Paradoxes, I, 319) 드 모르강은 <애서니엄>과 (거개가 <애너니엄> 기고문인) <역설의 경비>에서 사이클로메트리를 비웃었다. 사이클로메트리는 원과 면적이 같은 정사각형을 작도하려는 시도인데, 그 과제는 불가능하다는 것이 이며 증명되었다(원적 문제). 그는 이 원적 작도파를 놀렸고, 일부는 아예 대놓고 공격했으며, 그들의 에세이를 패러디하기도 했다. 드 모르강은 원적 작도 행위를 "시이비 수학"이라며 기각했다. "[그들은] 면도기를 손에 쥔 원숭이처럼 수학을 다루는 머저리다. 원숭이는 주인이 하는 걸 보고 자기도 직접 면도를 해보겠다고 한다. 하지만 놈은 면도기를 갖다대는 각도 개념이 전혀 없고, 자기 목을 긋고야 만다. 불쌍하고 가련한 그 놈이 다시금 시도하는 일은 없다! 하지만 사이비 수학자는 멈추지 않는다. 자신은 말끔히 면도했다고 선언하는데, 실상은 어디 그런가? 나머지 모든 세상이 삐죽삐죽 털투성이다."(Budget of Paradoxes, II, 338)

드 모르강의 특대형 독설과 유머가 제임스 스미스를 겨냥했다. 그는 스미스를 "우리 시대 최고의 사이비 수학자"로 명명한다. 스미스가 원적 사안과 관련해 자기에게 "무게 6파운드어치의 소책자와 편지"를 보냈고, 그의 책이 "앞으로 언젠가는 똑바로 쌓을 경우 심킨 앤 마셜스에서 큐까지, 또 쭉 늘어놓을 경우 윈저에까지 이를" 것이라고 추산한다. 스미스의 지지자들이 반발하자, 드 모르강이 이렇게 대꾸한다. "스미스의 친구들은 내가 아무것도 안 하면서 그를 조롱한다고 투덜댄다. 웃기는 얘기다! 난 그를 발랐다. 그리고 말이 나와서 말인데, 똥물을 뿌린 것 말고 아무 일도 안 했다고 치자. 그게 누구 잘못인데?" 드 모건은 원적 문제를 패러디하면서 딱 한 놈 스미스만 골라 조롱하고 비웃고 깠다. 그가 원호 측정기를 이용해 파이값, 그러니까 지름에 대한 원둘레의 비율을 찾아냈고, 바탕으로 원적 문제를 풀었다고 단언했다. 드 모건은 농담처럼 이렇게 주장했다. 그 비율이 그때그때 다르다는 사실을 알아야 문제를 풀 수 있다. "태양과 달의 경도 값이 달라지는 방식 알지?" 스미스의 파이값이 만월 때의 값이라고 드 모건은 덧붙였다.(Budget of Paradoxes, II, 338, 342, 338, 343, 316)

드 모건의 유머가 대수와 관련해 폭주 기관차처럼 마구 질주한 적도 있다. 자신의 1849년 저서 <삼각법과 이중 대수>를 익명으로 비평하면서, 이렇게까지 말한 것이다. 이로써 "대수학은 이제 두 발로 서서 걸을 수 있게 됐다. 그 동안 발 하나로 폴짝거리느라 수고 많았다, 짜식!" 그는 이족 보행 동물, "맥주 마시면서 해석학 문제 풀기"[analytic beer, ?] 등등등--무슨 말인가 하면, 일상에서 흔히 접하는 대상과 이중 대수를 다양하게 연결했다는 얘기다--을 언급하며, 자신의 다소 기술적인 책을 명료하게 제시할 수 있었다. 간단히 말해, 그 논평은 유머를 효과적으로 사용했고, 수학의 내용을 널리 알렸다.

그리하여 19세기 중엽쯤 이르면 작다고도 할 수 있겠지만 유머와 수학을 섞는 막강한 전통이 태동한다. 프렌드의 저술을 보라. 음수와 상징 대수를 반대했고, 그는 유머를 써가며 음수의 역설과 상징 대수의 생소함을 과장해 선전했다. 드 모건도 이 사실을 몸소 입증해 보였다. 유머를 쓰면서 수학적 야바위를 겨냥한 것이다. 추상 대수학자라면 (가끔 미온적일 수도 있겠지만) 유머를 활용해 새로운 대수학과 관련 동향을 널리 알릴 수 있음이 모건을 통해 증명되었다고도 할 수 있겠다.

II

수학계가 <애서나이엄> 같은 일반 잡지에서까지 유머를 구사하게 된 것은 적어도 부분적으로는 다음에서 원인을 찾을 수 있다. 18세기와 19세기의 영국인이 수학에 폭넓은 관심을 보였던 것이다. 아마추어 수학자가 무척 많았고, 청중은 유머를 수용했으며, 적극 나서서 유머를 만드는 경우까지 있었다. 아마추어들은 어쩌면 끌렸을 것이다. 인간의 정신을 훈련하는 최상의 도구이자, 비싼 장비 따위도 전혀 필요 없는 수단으로서 수학이 지니는 매력에 말이다. 그들이 수학 내용을 다루는 정기 간행물에 기고를 했다. 그들은 독자적으로 수학 학회를 조직했다. 19세기의 전반세기에 간행된 다수의 대중 상대 수학 교과서를 구입한 것도 그들이었다. <레이디스 다이어리: 여성 연감>(1704~1840)과 토머스 리번의 <수학 창고>가 수학을 많이 실은 대중 잡지의 선두 주자였다. 이들 잡지는 평범한 아마추어뿐만 아니라 대학교에 재직 중인 수학자들까지 원고를 기고했고, 일반으로 얘기해 야바위가 아니라 건전한 수학 내용을 제공했다. 하지만 당대의 과학 저널보다는 체재가 덜 형식적이었음도 보태놓는다. 아무튼지간에, <레이디스 다이어리>에는 수학 문제와 그 해법이 정기적으로 실렸다. 그런데 초기에는 출제 기고자들이 문제와 해법을 운문의 형식으로 작성했다.

18세기와 19세기의 영국에서 일부 수학 애호가들은 저널에서 공개적 및 사적으로 교신했는가 하면, 학회를 결성해 포괄적으로 과학, 나아가 수학 연구에 적극 나섰다. 대중적이어서 가장 유명한 수학 학회가 스피털필즈 수학 협회(1717~1845)로, 그 단체는 애초 시작이 장인 및 공인들의 조직이었다. 성원이면 누구나 "자기 담배와 먹을 것, 그리고 문제"를 지참하고, 매주 열리는 회합에 참석할 수 있었다. 수학 문제라면 다른 아무 회원한테나 뭐라도 제기할 수 있었고, 상대방은 거기에 답변할 의무가 있다는 게 공식 규정이었다. "그가 가능한 가장 쉽고 평이한 방법"을 써야 했음은 물론이다.(Budget of Paradoxes, I, 376) 스피털필즈 수학 협회는 수학 외에도 운문과 유머를 즐겼다. 드 모건이 Budget of Paradoxes에 수록한 협회의 <권주가>를 보면,

누구라도 별이 빛나는 하늘을 탐색하면

그 비밀은 신성한 것입니다

잔을 드세요, 그러니까 내 말은

술을 마시자는 겁니다.

중용이야말로 진정한 미덕

사내라면 잔을 가득히

이 두 가지 금언을 이어보시게

사내라면 하루에 한 병은 마셔야 한다고 봅니다(I, 380)

수학의 대중화와 수학 유머가 18세기와 19세기의 전통이었다. 그리고 바로 이런 전통이 프렌드와 드 모건은 물론이고 찰스 러트위지 도지슨이 한 일의 바탕이 돼주었다. 도지슨과 프렌드와 드 모건이 이렇듯 똑같은 무대에 올라 행위한 셈이다. 다각적 창의성, 습관적 사고 방식, 그리고 어느 정도는, 대수의 기초에 대한 관심까지도 공통적이었다고 말할 수 있겠다. 세 사람 모두 매우 명료한 사상가였다. 가령, 도지슨도 프렌드도 자기들이 이해할 수 없는 수학 교과서는 단 한 쪽도 읽으려들지 않았다. 도지슨이 한 말을 들어보자. "한두 주 정도 새 책을 붙들고 있었지만 ...... 뒤죽박죽으로 가망이 없어졌다. ...... 그 책에 다시 도전해 보기로 했다. ...... 그런 식으로 거듭거듭 다시 시작한 책이 여러 권이다." 도지슨과 드 모건 둘 다 "독창적인 수수께끼, 숫자 퍼즐, 단어 놀이와 말장난을 좋아했다." 둘은 각을 삼등분했다는 자들, 원적 문제를 해결했다는 놈들, 기타의 수학 사기꾼들이 도붓장수질하던 허위 주장을 반박하는 일도 대단히 즐긴 듯하다. 플로렌스 레넌이 적시한 대로, "드 모건이 죽자, 도지슨이 바톤을 이어받아, 원적 사안을 해결했다는 사람들한테서 무수한 편지를 받았다."(Lennon, Victoria through the Looking-Glass, p. 5) 도지슨이 <쿠리오사 마테마티카> 서론에서 원적 사안은 "유령의 현혹"이라고 공격했다. 열심히 답장을 써줬는데, 헛짓거리였다는 것이다. 원적 사안을 해결하겠다는 두 사람에게 오류를 그렇게 알려줬건만 말을 안 듣더라는 얘기가 나온다.

도지슨과 드 모건은 지적으로 더 깊은 관계를 맺었다. 원을 측정하는 문제를 놓고 서로를 싫어하긴 했지만 말이다. 두 사람은 수학적 (및 논리학적) 관심사, 한 일과 작업 방식이 겹친다. 드 모건이 그 후대의 수학 교수에게 영감의 원천이었음에 틀림없다. 예를 들어보겠다. 둘 다 유클리드(에우클레이데스)의 <기하학 원론> 제5권을 궁리하고, 연구서를 냈다. 더 위대한 수학자인 드 모건이 약분이 가능한 수와 약분이 불가능한 수를 다 다루었다면, 도지슨은 자신의 관심을 약분이 가능한 수로만 한정했다는 차이는 있지만. 둘 다 새로 쏟아진 기하학 교과서들에 맞서, 유클리드의 <원론>을 방어했다. 1868년 드 모건이 J. M. 윌슨의 <기초 기하학>을 씹어댄 이유다. 약 10년 후에는 도지슨이 루이스 캐럴이란 가명으로 똑같이 따라 한다. <유클리드와 현대의 적수들>이 당대의 신삥 기초 기하학을 공격한 것이다. 도지슨이 문제의 드 모건 서평에서 여러 내용을 가져다 부록에 수록한 것을 보면, 확실히 그 위대한 선배의 영향력을 감지할 수 있다. 또 있다. 도지슨이 한 추상 논리 연구가 드 모건과 조지 불이 19세기 중반에 창안한 새로운 논리학파와 들어맞는다. 도지슨이 저서 <추상 논리>에서 드 모건을 언급하며, 그가 낸 논리 문제 가운데 하나를 갖다쓴다. 수학과 논리학의 관심사를 공유한 것 말고도, 도지슨과 드 모건은 건전한 수학을 대중화하겠다는 목표를 공히 가졌다. 그래서 비공식적 문체로 쓴 책들을 볼 수 있는 것이다. 드 모건이 집필한 <수와 크기의 관계>는 대화체로 쓰였고, 도지슨의 <유클리드와 현대의 적수들> 역시 희곡으로 집필돼, 역시 대화체다.

하지만 이렇게 유사점이 많았음에도 불구하고 도지슨과 드 모건은 추상 대수 문제에서 사이가 틀어진 것 같다. 학계가 일반으로 인정하는 것과는 달리 도지슨은 추상 대수를 어느 정도 알았다. 프렌드가 간접 영향을 미쳤다면, 드 모건은 직접적으로 영향을 미쳤을 것이다. 하지만 도지슨은 그 새 대수를 결코 수용하지 않은 듯하다. 그는 경력을 시작한 일찌부터 음수와 허수를 잘 알았을 것이다. 적어도 <앨리스의 놀라운 세상 모험>이 출간된 해에는 조지 피칵의 <대수 논고>를 읽었을 것이다. 도지슨이 1865년에 피칵의 <대수 논고>를 알고 있었다는 것은 논쟁의 여지가 없는 사안이다. 그가 그 해에 작성한 <새 방법을 써서 구한 파이값>(?)에서 피칵의 추상화를 뒷받침하는 근본적 원리를 언급하기 때문이다. <새 방법>은 그리스어 흠정 강좌 담당 교수의 봉급을 올려야 한다는 안건을 둘러싸고 벌어진 논쟁을 풍자하는 팸플릿이었다. 도지슨이 팸플릿에서 제시한 다양한 해법은 사이비 수학의 방법을 통해 이루어졌다. 가령, '동치 공식의 계속성'(?)이란 원리에 바탕한 방법이 대표적이다. 이것은 피칵이 추상 대수를 개발하는 데서 결정적으로 중요했던 "동형 계속성의 원리"를 각색한 게 틀림없다(Treatise on Algebra, 구체적으로 pp. xvii-xviii과 103~105). 나아가 도지슨은 행렬식에 관한 자신의 저서에서 <대수 논고>의 한 부분을 언급하는데, 이걸 보더라도 그가 피칵의 저서를 꽤나 자세히 알고 있었음을 미루어 짐작할 수 있다. 캐럴의 행렬식 저서는 <새 방법>이 나오고 나서 2년 후에 출간됐다.

추상 대수를 위시한 최신 수학을 도지슨은 <이상한 나라의 앨리스> 발간 10년 전쯤에 접한 것 같다. 1854년 여름 정도로 보는 것인데, 도지슨은 그때 옥스퍼드 대학교 크리이스트처치 칼리지의 학부 과정 졸업을 앞두고 있었다. (당시의 옥스퍼드는 수학과 과학이 몹시 부실했다.) 도지슨에게 수학을 지도한 바솔로뮤 프라이스는 당시 펨프로크 칼리지의 펠로이자 튜터였다. 도지슨은 프라이스한테서 미적분을 "수월하게" 배웠다. 그는 프라이스와 대수도 토론했다. 프라이스가 1840년대에 발표한 글을 보면, 피칵의 <대수 논고>를 알고 있었다는 게 증명된다. 물론 그가 의미 있는 수학을 강력 선호하고 좋아했지만 말이다. 도지슨은 프라이스 때문에도 추상 대수를 잘 알았고, 반대 감정이 병존했을 것이다. 그 해 여름 누이 메리에게 써보낸 도지슨의 편지 가운데 하나에서 확인할 수 있듯이, 그는 프라이스의 가르침을 좇아 대수의 용어들을 확장해 애초의 정의를 뛰어넘는 상황까지 포괄하려는 행위와 시도가 과연 적법한지에 대해 강력하게 의문을 제기했다. 도지슨은 곱셈이 이제 무슨 의미를 갖느냐고 물었다. 실수를 양의 정수와 0으로 곱하는 일은 개념화하고 정의하기가 쉽다. 4 곱하기 5는 5를 4번 취하는 것이거나, 5에 5에 5에 5를 더하는 것이다. 하지만 피칵의 <논고>에서 알 수 있듯, 19세기의 수학은 0과 양의 정수로 곱하는 것을 뛰어넘은 지 한참이었다. 음수에 음수를 곱하는 일이 무시로 벌어졌다. 허수에 허수를 곱했고, 라인들(lines, ?)까지 곱했다(pp. 72~73, 84~87을 보라). 아니나 다를까 도지슨은 특유의 축어적 접근법을 썼다. "곱셈"이란 용어를 써서 수와 라인처럼 이질적인 대상의 연산을 포괄하는 일이 과연 타당하냐고 물었던 것이다. 그의 말마따나, "나는 딱 하나가 궁금할 뿐이다. '두 개의 연산에 도대체 어떤 유사성이 있길래, 그 두 연산을 같은 이름으로 부를 수 있다는 것인가?' 나는 이 사안이 여전히 불만이다." 도지슨이 피칵의 해법이자 단안에 만족하지 못했다는 것은 분명하다. 피칵은 대수 용어의 확장이라는 포괄적 문제에서 단안을 내렸고, 그에 따르면 (곱셈 같은) 대수 연산은 그걸 통어하는 규칙으로 정의되는 것이지, 연산과 연산자의 의미에는 전혀 관심이 없었다.

이 편지와 도지슨이 발표한 수학 논문을 보면 그가 추상 대수를 결코 받아들이지 않았음을 알 수 있다. 그의 수학 논문과 교수 행위를 보건대, 도지슨은 대수의 제 사안을 회피한 것 같다. 그의 주안점과 관심사는 기하와 논리였다. 그가 언급하는 대수는 의미가 있어야 하는, 전통 대수다. 그래서 개론서로 준비된 그의 <수학 연구생 안내서>는 목표가 다음과 같았다. "순수 수학의 내용을 간략하게 전반적으로 소개한다. 내용의 배치는 일반으로 권장되는 순서를 따르겠다." 그리하여, 해당 책에서 "고등 대수"는 스물여섯 개의 주제 중 스물세 번째이다. 더구나(하지만) 그 "고등 대수"가 당대의 표준 방정식 이론을 뛰어넘는 내용을 다룰 거라는 얘기가 전혀 없다. 추상 대수는 전혀 언급되지 않는다.

도지슨이 추상 대수를 무시 외면한 것은 그가 죽을 때까지 고수하는 전통적 견해가 그로 인해 타격을 받았기 때문이다. 무의미하고 자의적인 대수가 수학은 절대적으로 확실한 진리라는 그의 굳은 신념을 정면으로 공박했다. 정말이지 도지슨에 따르자면, 수학은 그 확실성을 바탕으로 제 과학보다 우위에 서며, 바로 그 점 때문에 인간의 정신이 거기에 끌렸다. 도지슨이 <쿠리오사 마테마티카>에서 하는 설명을 들어보자. 다른 학문은 잠정적인 지식이다. 하지만,

내가 볼 때, 수학의 주된 매력은, 결과물의 절대적 확실성이다. 확실성이야말로 정신의 갖은 보물 중에서도 인간이 무척이나 열망하는 목표물이기 때문이다. 정말이지 어떤 것을 확신할 수 있다고 해보자! 빛이 있으라, 빛이 있으라! ...... "우리가 죽어야 할 운명이라면 빛을 주시고, 그런 다음 죽음을 허락하십시오!" 이 간절한 탄원이야말로 나이를 초월해 곤경에 처한 모든 인간이 올리는 기도가 아니던가! 과학은 제공해 주는 지식이 다르고 양도 적다. 과학 숭배자들이 요구하는 사항이야 만족시켜 주겠지만, 그걸 순수 수학의 결론 내용과 비교할 수는 없는 일이다.

도지슨이 "절대적 확실성"을 언급했고, 이로써 그한테는 수학이 논리적 확실성(그러니까, 어떤 생각들의 논리적 관계를 확인 보장해 주는 것) 이상을 보증해야 하는 뭐로 등극했음이 분명하다. 수학은, "절대적 확실성"은 진리를 보장해 줬다. 이 타이밍에 도지슨의 말로 직접 들어본다. 슝~~. "어떤 정리는 보편적으로 참이다. 진짜배기 공리들로 이를 증명할 수 있다. 여기서 공리란 스스로 자명하기 때문에 논쟁의 여지가 없는 명제다." 자명한 공리는 자동빵으로 참 정리로 귀결된다는 도지슨의 신념에 주목하라. 이건 그가 수학의 의미, 의미 있는 수학에 몰빵했다는 얘기다. 도지슨이 머릿속에 그린 체계를 정리해 본다. 수학은, 우선은 인간이 공리들의 의미를 꿰뚫는, 다시 말해 간파하고 이해하는 행위가 출발이다. 그 다음 순서는 공리들을 찬성 승인하는 것이겠다. 도지슨의 말로 직접 들어보자. "사전 단계가 하나 있다. 인간이 자신의 지력과 지성으로 뭐가 됐든 공리를 수용하려면 절대적으로 필요불가결한 단계 말이다. 요컨대, 그것은, 해당 공리에 어떤 의미를 부착하는 것이다. 명제를 구성하는 말에서 우리가 아무 의미도 취할 수 없는 명제를 찬동하거나 부인할 수는 없는 일 아닌가!"(Curios Mathematica, pp. xv, 62, 67~68) 이렇게 해서, 도지슨 식 수학의 확실성은 전적으로 의미 있고, 자명한 공리들이 좌우했다. 그에게 확실성은, 나아가 아름다움과 명료한 지성이었다. 의미 없는 자의적 기호, 상징, 추상 대수의 규칙들은 이와는 정반대의 대적자였다. 자, 우리의 수학 선생이자 저술가이신 도지슨 옹이 신판 대수를 호환마마처럼 멀리한 것은 전혀 놀랄 일이 아니다.

III

'멍청이' 도지슨의 수학 체계와 교수 행위에서 추상 대수는 끼어들 자리가 없었지만, 녀석 때문에 놈이 걱정했다는 증거가 있다. 어쨌거나 상상력이 가동됐고, 도지슨이 앨리스에서 관심, 걱정, 불안을 드러내지 않을 수 없었다는 얘기이다. 도지슨이 대수의 의미 사안을 드잡이했다는 것을, 1854년 여름 누이 메리에게 보낸 편지에서 언뜻 볼 수 있다. 마침 그 시기에 도지슨은 <이상한 나라의 앨리스>를 맹아적 단계에서 떠올리는 중이었다. 1854년 여름 프라이스가 이끌던 강독회에 참여한 동료 학생이 후에 이렇게 말했다.

도지슨과 나 둘 다 바솔로뮤 프라이스 교수 밑에 있었습니다. ...... 1854년 여름 휘트비에서 열린 수학 강독회에 참가했죠. 앨리스가 거기서 태동했어요. 도지슨이 해변의 바위에서 한 무리의 열렬한 청취자들을 앞에 두고서 이야기를 들려줬습니다. 남녀가 다 섞여 있었어요. 그 이야기가 나중에 발전해 현재의 형태로 통합된 겁니다.(Letters, I, 26에서 인용)

[망할 놈의?] 라인에 라인을 곱하고, 음수를 곱한다는 발상, 또 머릿속에서 활개치는 추상 대수가, 도지슨이 피안이랄 수 있는 지하 세계를 맨 처음 구축할 때 함께 했던 것이다. 그 놈의 저승에서는 무의미와 자의성이 역시 활개를 쳤다.

도지슨은 가명을 썼고, <앨리스>에서 최소 세 번 음수 문제를 다뤘다. 그는 '음'이란 용어를 단 한 번도 사용하지 않았지만, "무보다 적은 양", 또 "더 작은 것에서 더 큰 것을 취함으로써 얻는 양"이란 정의를 통해 이 사안에 접근했다. 캐릭터들의 두 대화 장면을 보면, 그런 뺄셈이 불가능한 것으로 나온다. 세 번째는 주제가 갑자기 바뀐다. 사안에 직답하는 것을 피해야 하기 때문이다. <이상한 나라의 앨리스>에서 이상한 모자는 0에서 뭘 빼는 것은 불가능하다고 주장한다. 다과회 장면에서는 삼월이가 앨리스에게 "차를 더 마시라"며 준다. 앨리스의 대답: "아직 마시지도 않았고, 따라서 (이 씨발놈의 토끼야) 더 마실 수가 없잖아!" 이상한 모자가 옳커니 하면서 끼어든다. "덜 마실 수 없다는 거겠지. ...... 양수의 양으로 마시는 건 아주 쉬워." 같은 작품의 더 뒤에 나오는 짝퉁 거북은, 앨리스가 실질적으로 제기하는 문제를 외면해 버린다. 학교 생활을 되짚으며 수업 시간이 날이면 날마다 줄어들었다고 말하는 것이다. 짝퉁 거북은 첫 날 10시간 공부했다. 둘째 날은 9시간, 이런 식으로 계속 줄어든다. 호기심쟁이 앨리스가 일단 묻는다. 열한번 째 날에는 쉬었느냐고. 짝퉁 거북이 그랬다고 고개를 끄덕인다. (10 빼기 10은 당근 0이다.) 앨리스가 마침내 0 너머로 밀어붙인다. "그럼 열두 번째 날에는요?" 그렇게 해서 망할 토론이 음수 문제로 치닫고 말았다. 짝퉁 거북도, 그리폰도 앨리스의 그 질문에 대답하지 않는다. 그리폰 자식이 득달같이 화제를 수업에서 게임으로 바꾼다. <앨리스의 거울 나라 모험>에서도 음수 문제가 또 나온다. 붉은 여왕이 앨리스에게 8에서 9를 빼라고 시키는 것이다. 이번에는 앨리스가 두 작품 사이 기간에 수학적 정묘함을 득했는지, 가능하지 않은 뺄셈으로 본다며 아예 과제를 거부해 버린다.

처음 두 장면은 0보다 작은 양의 역설이 활용됐다. 캐럴은 그 개념을 문자 그대로 취해, 독자들을 압박한다. 빈 컵에 담긴 것보다 더 적은 양의 차와 0보다 더 적은 수업 시간을 떠올려야 하는 것이다. 드 모건 같은 수학자들은 달랐다. 대표적으로 드 모건은 빚이라든가 제로 지점 뒤의 열 같은 구체적 대상으로 생생하게 비유했다. 반면 캐럴은 물리적인 상황을 제시해 압박했고, 여기서는 "0보다 더 적은 양"이란 게 말이 안 된다. 세 번째 상황도 보자. 도지슨은 <앨리스의 거울 나라 모험>에서 작은 수를 큰 수로 빼는 게 황당무계하다고 재언명한다. 멋대로 구는 붉은 여왕이 그런 말이 안 되는 뺄셈을 앨리스한테 요구하는 것으로 나오지 않던가! 그런 얼토당토않은 뺄셈은 가당찮은 사이비 수학이다. 빵을 칼로 나누겠다고? 개한테서 뼈다귀를 뺏겠다고? 캐럴은 수학에서 음수란 테마를 가져왔다. 물론 그는 <앨리스>에서 수학자가 아니라 유머 작가로 글을 쓴다. 그럼에도 불구하고 도지슨은 그게 말이 안 된다고 공격적으로 발언하는 것이다.

<앨리스>는 음수 사안만 얘기하고 있지 않다. 절대 진리의 과학인 수학이 추상 대수가 좋다고 쫓아갔다가는 와해되고 말 것이라는 얘기를 직간접으로 하고 있는 것이다. <이상한 나라의 앨리스>에서 실상 초반에는 앨리스도 수학이 무의미하고 자의적일 수 있음을 인정한다. 지하 세계가 앨리스의 예측을 불허하며 바뀐다. 키의 변화가 대표적이다. 앨리스는 자신의 동일성(정체성)을 묻기에 이른다. 지상의 친구들인 에이다인지 메이벌인지가 궁금한 것이다. 이런 인식론적 위기 속에서 앨리스가 자기가 뭘 확실히 아는지를 획정 수립하려는 시도를 보고 있으면, <방법 서설>의 데카르트가 떠오를 지경이다. 앨리스가 당장에 수학을 호출하는 것은 전혀 놀랍지 않다. 수학이 빅토리아 시대의 문화에서 특권적 지위를 누렸음을 고려하면 이는 당연하다. 자연 세계에 뭐라도 진리나 확실성이 존재하면 당대의 빅토리아인들은 수학이 그걸 증언 보증한다고 믿었다. 그런데 그 즈음에 수학이 앎과 지식의 반석으로 더 이상 기능하지 못하게 된다. 앨리스의 곱셈은 십진법이 아니고, 전혀 성공적이지 못하며 의미가 없다. 앨리스는 상황 판단이 필요하고 이렇게 말한다.

알아봐야겠어, 전에 알던 걸 도대체가 제대로 알고 있는지 말야. 어디 보자. 4 곱하기 5는 12, 4 곱하기 6은 13, 4 곱하기 7은 ...... 맙소사! 이러다가는 20은 언감생심이야! 이 곱셈표는 아무 의미도 없어. 어디, 지리 과목을 한 번 생각해 볼까.

내 볼 때, 캐럴이 해괴한 기수법을 택한 이유는 수학이 자의적임을 알리기 위해서였다. 수학자들은 어떤 바탕수를 선택해도 자유롭게 계산할 수 있다. 바탕수 10에 신성한 것은 전혀 없다. 하지만 이 문단은 임의성이 무의미하다고 넌지시 말한다. 앨리스의 말이 얼마나 딱 부러지는지 보라. "이 곱셈표는 아무 의미가 없어." 캐럴이 무의미한 수학을 조롱한 것 말고도 "시그니파이"란 동사를 추상 대수학자들의 수학 저술과 결부했을지도 모른다. 이 동사가 빈번하게 나오는 것이다. 앨리스의 표현처럼, 추상 대수학자들의 요점은 대수(앨리스의 경우는 산술)가 기본적으로 무의미하다는 거였다. 대수 기호(상징, 앨리스의 경우는 수)가 구체적으로 뒷받침하는 것은 아무것도 없다는 소리다. 앨리스는 깨닫는다. 수학이 진리와 확실성의 대들보가 아님을. 수학은 미쳐 돌아가는 지하 세계의 광태에서 앨리스를 구할 수 없다. 이렇게 보면, 추상 대수의 자의성과 무의미함이야말로 캐럴이 구축한 지하 세계의 자의성과 무의미함의 토대다.

추상 대수는, 구체적인 넌센스 사례들이었을 뿐만 아니라, 캐럴의 넌센스 문체를 고무 격려했을 것이다. 캐럴의 넌센스 문학과 추상 대수는 놀랍도록 비슷하다. 둘 다 의미보다는 형태와 구조를 중히 취급한다. 캐럴의 문장과 추상 대수학자들의 기호는 여러 가지로 해석된다. 간단히 말해, 추상 대수학자들은 기호들이 맺는 공식을 탐구했다. 요컨대, 기호든 공식이든 처음에는 의미가 없을 수도 있겠으나, 여러 수학적 대상을 최종적으로 드러낼 수 있는 것이다. 드 모건이 피칵의 <대수 논고> 서평에서 한 말을 보자.

우리는 궁금하다. 기호의 의미를 다양화해, 완전히 다른 대수를 만든다는 게 과연 가능할까? 물론 그렇게 했음에도, 옛날 것과 정확히 동일한 형태의 정리를 제공해 줘야 함은 물론이다. 형태의 의미가 다르다고 할지라도. ...... 이건 마치 이렇게 묻는 것 같기도 하다. 두 개의 다른 언어가 모든 어휘를 공통으로 가지면서도 그 의미는 다를 수 있냐고 묻는 상황 말이다. 이런 식이면, 한 언어로 씌인 천문학 논문은 바로 그 말이 그대로 다른 언어에서는 가령 음악 논문이 될 거다.

주지하듯이, 캐럴은 <앨리스>에서 넌센스 산문과 운문을 실험했다. 구체적 의미는 없어도 구조가 완비된 단어와 문장 들이 나오는 것이다. 앨리스는 거듭해서 그 사태를 지적한다. 이상한 다과회 에피소드에서 앨리스는 다음처럼 설명된다. "정말 하나도 모르겠어. 이상한 모자 님의 말에는 아무 의미도 없는 것 같아. 하지만 그래도 영어긴 했잖아. '당신 말을 못 알아듣겠어요.' 앨리스는 최대한 공손하게 대꾸했다." <앨리스의 놀라운 세상 모험> 결미도 보자. 의미가 명료하지 않은 완전한 문장이 또 나온다. 흰 토끼의 넌센스 시 말이다. 본고의 서두에서 언급했다. 앨리스가 이렇게 단언하는데, 드 모건의 추상 대수 얘기가 떠오를 지경이다. "아무 의미도 없잖아, 이 좃밥 새끼들아!"

이상한 모자가 다과회 끝 무렵에 한 말은 초기 추상 대수학자들의 근본적 관심사였다. 대수 기호는 과연 얼마나 보편적인가? 피칵과 당대의 다른 대수학자들은 기호(상징)가 자의적(구체적인 대상을 떠받치는 게 아니다)이고 보편적(복수의 여러 가지를 가리킬 수 있다)이라고 규정했다. 비판자들은 이런 추상적 접근법을 비웃고 조롱했다. 대수 기호를 보편적인 것(가능한 수학적 실재를 죄다 떠받치는 것)으로 해석했을 때 발생하는 결과를 살펴보는 방식이었다. 이상한 모자는 후자의 해석, 곧 보편성을 문장의 단어들에 적용한다. 수학의 공식이 아니고, 또 대수 기호도 아니다. "우물에서는 물을 길어올릴 수 있지. 그렇다면 우당밀에서는 당밀을 길어올릴 수 있겠네. 이 바보야?" 두 문장의 구조는 동일하다. 하지만 내용물이 다르다. 추상 대수에서는 기호가 보편적이고, 따라서, 가령 물이든 잉크든, 여러 의미를 지닌다. 하지만 과연 절대적으로 보편적일까? 당밀 같은 명사가 있어서 원래의 자리로 들어가면, 해당 문장은 경험적 의미를 전혀 지니지 못한다. 이제 캐럴의 유머가 어떤 요점인지 분명해진 것 같다. 구조는 의미를 보장하지 않는다. 의미보다 구조를 강조하는 짓거리는 넌센스로 이어질 뿐이다. 그런데, 구조 강조는 추상적 접근법의 토대 아니던가?

하지만, 당대의 추상 대수학자들이라면 해석을 하면서 기호와 상징을 무작정 보편적인 것으로 간주할 때만 그 결과가 넌센스가 되는 거라고 맞받아쳤을 것이다. 하지만 이런 응수와 대꾸라면 문제가 또 생긴다. <앨리스>에서도 관련해서 얘기가 나온다. 기호와 상징을 적절히 해석하는 것은 누가 결정하는데? 그게 대수든 일상의 언어든 말이다. 앨리스가 그렇게 묻자, 험프티 덤프티가 두 가지 사항을 얘기한다. (대수 기호처럼) 단어도 의미가 많을 수 있다. 따라서 (추상 대수학자처럼) 자기도 그 의미를 (획)정하면 된다. 요컨대, 험프티 덤프티 에피소드는 의미보다는 구조가 중요하다고 말하는 것이며, 관련해서 추상 대수의 자의성(임의성)을 역설한다.

루이스 캐럴의 머리에서 추상 대수가 떠나지 않았다는 주장은 도널드 래킨이 찾아낸 <앨리스>의 무의미성과도 잘 들어맞는다. 래킨은 영국 대수학의 역사를 몰랐다(지난 10년 사이에야 겨우 읽고 알 수 있었다). 그럼에도 불구하고 래킨은, 본고의 새로운 관점에서 봤을 때, <앨리스>와 추상 대수의 연계를 암시하는 제 개념을 제출했다. 래킨에 따르면, 앨리스의 "호기심과 모색은 독자들의 은유 탐구를 대신한다. 도지슨의 내면 깊숙한 곳은 법칙이 없이 아무렇게나 돌아가는 우주다."

일단 앨리스가 '놀라운 세상'에서 조우하는 거꾸로 실재의 목록을 대보자. 쓱 보더라도 우리가 흔히 얘기하는 세상의 논리적이고 질서 정연한 일관성이 완전히 망가져 있다. 카오스가 일관적이란 걸 빼면, 실상 모든 패턴이 소멸해 버렸다. 우선 첫째로, 통상적인 사고 방식이다. 보통 수학과 논리는 놀라운 세상에서 아무런 의미가 없다. 그 다음은, 훨씬 기본적이라 할 사회 관습과 언어 규약이다. 이것들도 유효성이 죄다 사라진다. 상식이 통하는 세계의 아래에서 앨리스가 하는 모험은, 어쩌면 우리가 생각해 낼 수 있는 가장 암울한 코미디다. 완전히 무의미한 세계에서 인간이 거한다는 것은 터무니없고, 그래서 희극인 것이다.(Rackin, “Alice’s Journey,” pp. 313~314)

물론 앨리스는 끝에 가서는 반란을 일으킨다. 놀라운 세상의 무의미성을 거부하는 것이다. 래킨에 따르면, 앨리스는 하트 왕 및 하트 여왕과 만나면서 반란을 일으킨다. 두 내외는 놀라운 세상의 통치자다. 그들은 "영역의 비밀을 지켜야 하고, 그들 세상이 가지는 의미와 질서의 궁극 원인이다." 하지만 왕과 여왕, 신하들은 "추상적이고, 자의적으로 만들어진 기호이자 상징일 뿐이다. 한 벌의 카드일 뿐인 것이다."(Rackin, “Alice’s Journey,” p. 322)

도지슨이 추상 대수를 잘 알았고, 래킨의 분석은 명료하다. <앨리스>는 무의미한 세계에서 의미를 탐색한다. 그 세상은 수학조차 의미를 갖지 못하는 세계다. 의미 있는 수학이 사라지면 인간이 믿고 기댈 수 있는 확실성도 사라진다. 도지슨은 자신의 수학 저술에서 절대 진리를 보장해 주는 것이 수학뿐이라고 말했다. 따라서 수학이 와해되면, "우리 세계의 일관성이 완전히 파괴된다." 이런 와해상을 생생하게 보여주는 것이 바로 카드 인간들이다. 추상적 방법을 반대하는 측에게는 그들이 최악의 공포 대상이기 때문이다. 그들은 a나 b나 c처럼 그저 상징이고 기호일 뿐이다. "추상적이고, 자의적이고, 지어낸 것이다." 캐럴이 <앨리스>에서 추상 대수에 보인 이런 반응은 도대체가 뭔가? 빅토리아 시대 사람들이 신앙의 위기를 겪고 있었지만, 그게 꼭 종교가 과학의 타격을 받고 와해돼서는 아니었다는 얘기다. 캐럴의 근심과 걱정은 유머러스하긴 했지만 딴 데 있었다. 새로운 대수가 부상하면서 전래의 수학적 확실성이 무너져 버린 것.

일리자베스 수엘도 넌센스를 일종의 게임으로 보는데, 추상 대수 옹호가 캐럴의 문학 작품보다 먼저 이루어졌다는 사실과 부합한다. 그녀가 묻는다. "산문도, 시도 넌센스에 필요한 구조를 제공하지 않는다면, 도대체가 다른 체계가 있단 말인가? 언어가 독립적이고, 시종일관한 구조로 통합되는 다른 체계 말이다." 그런 구조는 게임의 규칙에서 찾아진다. 요컨대, "법칙이 독자적인 폐쇄된 체계" 말이다. "게임을 하면서는 게임의 엄격한 규칙에 이의를 제기할 수 없는 것 아닌가." 이 설명은, 사실상 추상 대수, 나아가 현대의 다른 온갖 수학 체계와 똑같다. 하지만 역사적 관점에서 더 중요한 게 있다. 수엘은 게임 유비를 꺼내드는데, 이는 드 모건의 유추와 정확히 일치한다. 그가 당대인들에게 추상 대수를 설명하면서 한 비유를 떠올려보라. 드 모건은 1835년 초에 수학을 도미노 게임에 비유했다. 후에 그는 추상 대수를 절개 분해된 지도를 합치는 일에 비유했다. 조각들이 뒤집혀 있는 지도 말이다.

정리해 보겠다. 수학과 유머를 결합하는 전통이 빅토리아 시대에 있었다. 도지슨의 대수관과 작품 앨리스의 유기적 관계가 그 전통을 배경으로 한다는 명제는 확고하게 뒷받침된다. 이 테제는 더 이른 시기의 앨리스 해석과도 부합한다. 앨리스는 무의미의 세계에서 의미를 탐색한다. 도지슨의 넌센스는 의미가 아니라 구조를 강조한다. 게임 비유는 그의 문학에 딱이다. 도지슨은 추상 대수를 잘 알았지만, 싫어했다. 이 모든 사실을 바탕으로 한 나의 결론은 다음과 같다. 추상 대수가 작품 앨리스에 커다란 영향을 미쳤다. 부분적일지 모르겠지만, 도지슨은 추상적 접근법을 수학자들이 받아들이면서 확실성이 종말을 고해 버리는 사태가 걱정이었고, 그 근심이 표출된 게 앨리스였다. 앨리스는 놀라운 세상에서 어리둥절할 뿐이다. 추상 대수학자들이 설치는 수학판에서 도지슨도 당황했다. 앨리스는 지하 세계의 카오스에 대응해 후퇴해 버린다. 추상 대수에 대한 도지슨의 반응은 진지한 수학 저술과 교수 행위에서 그걸 무시하고 빼버리는 것이었다. 그런데, 앨리스는 혼란상을 뒤로 하고, 놀라운 세상을 빠져나올 수 있었음에 반해, 도지슨은 추상적 접근법에서 결코 탈출할 수 없었다. 추상 대수의 각종 방법과 발안은 도지슨의 수학 체계에서 마땅한 한 자리를 부여 받지 못했다. 놈의 환상 문학에 은근히 똬리를 틀었으니 말이다.

위스콘신 대학교 밀워키 캠퍼스

SUMBOLON