[국회도서관 금주의 서평]무한의 비밀, 그리고 그 너머

 

"무한을 이해할 수 없는 이유는 충분한 규칙을 찾아내지 못했기 때문이 아닐까? 부족한 규칙을 채워 넣을 수 있다면 무한을 이해하는 방법을 찾을 수 있을 것이다."(141쪽)

 

수학은 언어와 기호 체계를 도구로 수학적 대상들과 대상들의 관계를 탐구하는 학문이다. 이러한 수학의 역사적 발달 과정에서 수학적 개념과 원리는 변하지 않는다는 절대주의적 관점에서 개발되어 왔다. 최근에는 이에 반하여 기호 체계와 문화에 따라 수학적 개념과 원리가 다를 수 있다는 상대주의적 관점으로 수학을 바라보기도 한다. 저자는 상대주의적 관점에서 무한을 이해하는 새로운 개념인 차원무한 M, 반복무한 R, 메타무한 ㅎ을 직관적으로 정의하고 관련된 특징들을 서술하였다. 저자의 창의적 상상력과 오랜 노력의 결실이고 기록이라고 볼 수 있다.

 

책은 크게 6개의 장으로 구성되어 있다. 저자는 "수는 숫자와 부호로 표기 가능한 값"이라는 정의를 바탕으로 "수는 완벽한 것일까?"라는 질문을 던지며 상대주의적 관점에서 1장을 시작한다. 2장 무한에서 실수의 연속성 공리에 의문을 제기하면서 "0과 10 사이에는 자연수가 존재하지 않는다"는 정리를 자연수의 비율을 계산함으로써 "실수로 표현할 수 없는 무한히 작은 값이 존재한다"고 논의한다. 3장 무한집합에서 <칸토어의 정리>와 <대각선논법>에 모순성과 의문을 제기하며 무한집합은 직관적이지 않으면 유용성이 떨어진다고 설정하고 있다.

 

이러한 비평적 견해를 바탕으로 4장에서는 '차원무한'의 개념을 제시한다. 우리가 익히 알고 있었던 (길이)×(길이)=(넓이)의 개념을 바탕으로 수학에서 길이배수의 단위가 없음을 지적하고 점들이 모여 길이 1이 되는 값을 차원무한의 단위로 정의하고 기호 M을 사용한다. 즉, 차원무한 M은 무한을 포함하는 단위체계이고 차원의 크기를 나타낸다. 5장에서는 '반복무한'의 개념을 설정한다. 반복무한 R은 반복단위와 반복횟수 두 가지 값으로 구성되는데 반복단위가 1이고 반복횟수는 자연수의 크기를 기준으로 삼는다. 또한, 양의 수직선이 갖는 크기 L을 정의하고 L을 차원무한 M과 반복무한 R을 사용하여 표현한다. 마지막 6장에서는 '수'와 수의 대상이 되는 '단위수'로 구성되는 메타수체계를 소개하고 이를 바탕으로 0×ㅎ=1의 관계식을 바탕으로 단위수 [0]과 함께 메타무한 ㅎ을 소개한다.
  
칸토어가 새로운 개념과 아이디어를 열린 마음으로 탐구해야 한다고 주창한 것처럼, 책에서 제시된 무한 개념을 열린 마음으로 탐구하여 사고의 다양성 및 사고의 확장과 한계를 경험해 보면 어떨까? 자신만의 무한이라는 사고 공간을 통해 상상의 날개를 펼치고 경험해 보는 것이다. 먼저 무한에 대한 사고의 다양성을 상상해 보면 어떨까? 물리학에서 중력의 법칙은 중력의 현상을 이해하는 하나의 방법인 것처럼, 무한의 개념과 원리는 무한의 현상을 이해하는 유일한 하나의 방법일까? 하나의 현상에 여러 가지 이해 방법이 존재하는 것은 아닐까? 괴델의 제1 불완전성 정리에 의하면 어떤 형식 체계도 완전할 수 없다. 즉, 수리논리체계에서 증명도 반증도 안 되는 명제가 반드시 존재한다. 그렇다면 무한의 개념과 원리에 대한 명제는 증명도 반증도 안 되는 그러한 명제는 아닐까?

 

둘째, 무한의 상상 날개를 통해 무한 사고의 너비, 길이, 높이, 깊이를 통해 사고의 확장을 시도해보면 어떨까? 사고의 너비 측면에서 새로운 무한 개념 M, R, ㅎ은 다른 수학적 그리고 비수학적 개념과 원리와는 어떤 조화를 이룰 수 있을까? 길이 측면에서 이러한 무한들은 앞으로 수학적 사고를 신장시킬 수 있을까? 높이 측면에서 수학적 차원 간의 독립성은 차원무한 M과 어떻게 조화를 이룰 수 있을까? 깊이 측면에서 차원무한 M과 반복무한 R은 존재하는 실체처럼 수학적 연산과 조화를 이룰 수 있을까? 이러한 사고의 확장은 상상력의 즐거움을 배나 더할 수 있을 것이다.

 

다음으로 무한 탐구를 통해 우리 자신의 사고의 한계를 경험해 보는 것은 어떨까? 괴델의 제2 불완전성 정리는 임의의 수리논리체계가 자신의 체계가 모순이 없다는 것을 증명할 수 없다는 결론이다. 그렇다면 현재 우리가 이해하고 있는 무한의 개념과 원리에 모순이 없다고 어떻게 증명할 수 있을까? 앞에서 언급했듯이 수학적 사고가 우리가 사용하는 언어와 기호 체계에 의해 따라 달라진다면 우리가 현재 사용하고 있는 기호 체계의 한계점으로 인한 우리 자신의 사고의 한계는 무엇일까? 무한 M, R, ㅎ에 부여된 의미에 기호 체계로 인한 사고의 제한점은 무엇일까? 이러한 사고의 한계에 대한 지식과 경험은 더 향상된 사고방식에 대한 도전으로 귀결될 수 있을 것이다.

 

칸토어는 자신이 발견한 무한의 신비가 너무 충격적이어서 데데킨트에게 프랑스어로 "나는 그것을 안다, 그러나 그것을 믿지 않는다"고 편지를 썼다. 위와 같이 무한에 대한 담론을 열린 마음으로 수용하고 탐구하고 무한에 대한 상상의 날개를 풍성하게 발휘한다면 칸토어의 무한에 대한 표현이 우리에게는 "나는 그것을 안다, 그리고 그것을 통한 사고의 미적 상상력을 믿는다"는 표현으로 전환되지 않을까? 이러한 탐험 과정이 무한의 존재 가치를 잘 드러내지 않을까 기대해 본다.

 

저자: 문겸(프로그래머)
출판사: 하움출판사
출판일: 2021.
쪽수: 245
서평자: 김동중(고려대학교 사범대학 수학교육과 교수)

 

◆함께 읽으면 좋은 책

 

 

'바르고 공정한 국회소식' 국회뉴스ON