여전한 미스터리 √2, 그 추론의 뿌리

‘루트(제곱근) 2’라는 수는 오래전부터 인류를 매혹해왔다. 고대에 루트 2는 기하학과 대수학을 잇는 가교 역할을 했다. 루트 2의 특징을 둘러싼 수많은 의문은 추상적인 수학적 추론을 발전시켰다. √2로 표기되는 이 수는 오늘날에도 여전히 수많은 미스터리에 싸여 있다.

예나 지금이나 추상성은 별 인기가 없다. 실상 우리가 사는 세계에서는 ‘실용주의’, 실질적 관찰, ‘구체적인’ 것이 훨씬 더 중요하게 생각되기 때문이다. 그러나 얼핏 별 ‘쓸모없어’ 보이는 질문이 종종 뜻밖의 분야에서 매우 긴요한 역할을 하기도 한다. 이를테면 루트 2(혹은 제곱근 2)를 둘러싼 사유의 역사가 대표적일 것이다. 

먼저 루트 2가 우리의 일상에 얼마나 친밀한 수인지를 알아보자. 여러분의 사무실에는 프린터 한 대가 위풍당당하게 자리하고 있을 것이다. 그리고 그 옆에는 분명 인쇄기 롤러에 올라갈 순서를 기다리는 묵직한 인쇄용지 묶음이 놓여 있을 것이다. 대개 인쇄용지 겉포장에는 용지의 크기가 적혀 있다. 가로 21cm, 세로 29.7cm. 뭔가 이상하다. 왜 이토록 복잡한 수인 걸까? 30cm처럼 간단한 수도 많은데.

해답은 가로와 세로의 비율에서 찾을 수 있다. 29.7을 21로 나눈 근삿값은 1.4142다. 이는 결코 범상한 수가 아니다. 바로 √2로 표기되는 수, 루트 2다. 즉, 1.4142란 값을 제곱하는 경우, (어림잡아) 2라는 수가 나온다. 현대인이 이런 식으로 이해하고 있는 루트 2는 아주 옛날부터 일찌감치 중요성을 인정받았다. 가령 4,000여 년 전 바빌로니아의 점토판에서도 그 흔적을 찾아볼 수 있다. ‘YBC7289’라는 매력 없는 이름의 바빌로니아 점토판에는 이미 루트 2가 기본 상수로 등장한다. 그것은 정사각형 대각선의 길이를 변의 길이로 나눈 값에 해당한다. 

문명 탄생과 문자 발명 이후, √2는 이처럼 기하학(정사각형, 정사각형의 변과 대각선)과 대수학(자기 자신을 한 번 더 곱한 수가 2가 되는 수)을 잇는 가교 역할을 했다. 사실 바빌로니아인이 정확히 어떤 추론 과정을 거쳤는지 우리는 전혀 알 길이 없다. 그로부터 1,000년은 족히 지난, 플라톤 시대에 이르러서야 ‘겨우’ 현존하는 증명 기록을 찾아볼 수 있으니 말이다. 그러나 어쨌거나 바빌로니아인의 점토판은 단순한 직관의 수준을 넘어서, 수학적 차원의 입증을 시도한 최초의 결과였다. 

직사각형의 두 대각선의 길이가 같다는 사실은, 누구나 쉽게 알 수 있다. 그러나 √2와 정사각형의 대각선 사이의 관계를 명확하게 알아본다는 건 그리 간단한 일이 아니다. 둘 사이의 관계를 성찰한 초대 기하학 학자들은 이른바 수학의 핵으로 간주되는 단계를 거쳐서 성과를 이뤄냈다. 그 수학의 핵이란 바로 연산(아무리 정확할지라도)도, 도형(아무리 정교할지라도)도 아닌, 추론이다.

이는 분명 대단한 위업이었지만, 더 대단한 지적 혁명의 서막에 불과했다. 혁명의 진원지는 지중해 해안, 현 이탈리아의 남동부에 위치한 한 그리스 식민지. 몇십 년 정도의 오차는 있을 수 있겠지만, 때는 바야흐로 기원전 500년이었다. 그곳에서 피타고라스학파(1)에 속한 한 인물이 수학적 사고, 아니 인류의 모든 사고를 영원히 뒤엎을 혁명적 사실을 입증해냈다. 현대의 언어로 설명하자면, 루트 2가 무리수라는 사실이었다. 즉 어떤 정수를 또 다른 정수로 나눌 때 결코 정확한 값을 구할 수 없다(가령 7을 2로 나눈 3.5 같은 수와는 전혀 다른 수이다)는 사실이었다. 

물론, 바빌로니아인처럼 적당한 정수를 선택해 √2의 근삿값 정도는 구해볼 수 있다. 가령 17을 12로 나누면 약 1.4166이 나오는데, 이는 √2의 근삿값에 해당한다. 하지만 완전하게 정확한 수를 구할 수는 없다. 다른 정수를 선택해 계산하더라도, 결코 √2의 정확한 값은 도출할 수 없다. 한편 그 밖에 파이 역시 무리수에 해당한다. 이 수도 22를 7로 나눔으로써 근삿값만 구할 수 있는 수다.

사실 이 중대한 성과를 ‘지적 혁명’이라 해도 결코 과하지 않다. 얼핏 기술적인 것처럼 보이는 이런 성과가 초래한 영향이 실로 막대하기 때문이다. 아리스토텔레스도 여러 철학 저술에서 ‘대각선과 변의 통약불가능성(약분불가능성)’을 여러 차례 언급했다. 풀이하면, 대각선과 변의 길이가 모두 정수인 측정단위는 존재하지 않는다는 뜻이었다. 이런 결과는 이미 오래전 발견된 사실임에도, 당대에 아테네를 비롯한 여러 사상 학파 내에서 마치 현대의 밈(Meme, 원래 영국의 생물학자 리처드 도킨스가 ‘이기적 유전자’에서 처음 제시한 용어로, 문화적 행동이나 지식이 복제, 전달되는 것을 의미했으나, 현대에는 SNS 등에서 복제되고 확산되는 패러디물 등 각종 콘텐츠를 뜻한다-역주)처럼 널리 유행했다.

일단 철저히 수학적 측면에서, 두 정수를 나눠 결코 √2의 정확한 값을 구할 수 없다는 사실은, 기하학을 상대로 한 산술학(정수의 특성을 연구하는 학문이란 의미에서의 산술학)의 패배를 의미했다. 평범하기 그지없는 정사각형 대각선이 영원히 정수의 사칙연산(덧셈, 나눗셈, 곱셈, 뺄셈)을 벗어난다는 사실은 곧 숫자란 더 이상 수학의 토대를 자처할 수 없다는 의미였다. 이로써 유클리드 기하학은 황금기를 맞이했고, 2,000년에 걸쳐 여러 문명권에서 승승장구하게 된다.

역설적이게도 수학은 산술학의 패배 덕에 귀족의 작위를 얻고, 단순한 적용을 넘어선 독립적인 학문으로 발돋움했다. 사실상 그전까지 이 수학적 기술들은 구체적인 문제를 해결하기 위한 도구쯤으로 간주됐다. 수는 회계사, 기하학은 측량사의 도구였다. 그런 만큼 수학을 다루는 것은 사상가가 아니라 사용자들이었다. 이 수학의 사용자들은 무척이나 천재적(과거 바빌로니아인의 √2근삿값 계산의 수준을 현대의 컴퓨터가 크게 넘어서지 못한 사실에서 보듯)이었던 것만은 사실이지만, (적어도 우리가 아는 한) 그들은 실용적인 차원을 넘어선 수학의 미래를 생각하지는 못했다. 

하지만 √2가 무리수라는 발견은 적용이 아닌 이론적 결과였고, 새로운 사고의 지평을 열었다. 기술에 추상성을 결합함으로써 새로운 사고체계를 탄생시킨 것이다. 이로써 신화도, 실용적인 문제들도 아닌, 오로지 지적인 추론(돌발적이고, 추상적이면서도 동시에, 어떤 반박도 불가능한)에 근거한 새로운 결과들을 산출할 수 있게 됐다. √2가 무리수임이 밝혀지자, 이번에는 √2의 쌍둥이격에 해당하는 수많은 다른 정수의 제곱근에 대한 연구가 줄줄이 이어졌다. 

무리수 발견은 ‘논리적 스캔들’?

플라톤의 유명한 대화를 보면, 소크라테스 시대에 테아이테토스란 인물이 일정 정수의 제곱근이 항상 정수(가령 3이라는 해를 가지는 √9), 아니면 무리수(√2는 물론, √3, √5 등)라고 했던 걸 알 수 있다. 하지만 이 역시 시작에 불과했다. 이후 ‘어떤 수가 무리수인가’라는 질문은 끊임없이 대수학과 해석학, 심지어 확률론 등의 관점에서 꾸준히 제기됐다. 유리수인지 무리수인지 알 수 없는 수들은, 오늘날에도 존재한다.

19세기, 과학사학자 폴 타너리는 무리수의 발견에 대해 로맨틱한 관점을 보여줬다. 그는 이 사건을 ‘논리적 스캔들’이라는 표현으로 불렀다. 그의 주장은 당시 피타고라스학파에 속한 학자들이 ‘만물은 수이다’라는 말을 금과옥조로 삼았던 사실에서 출발했다. 간단히 말해, 우주는 여러 수(정수를 암시)의 관계(비율)로 이뤄진다는 의미였다. 다른 말로 표현하자면, 세계는 산술학으로 설명된다는 뜻이었다. 

그것은 결코 공허한 구호가 아니었다. 오늘날 우리가 음악의 음정 체계(완전 8도, 완전 5도, 완전 4도)란 정확히 말해 여러 수들 간의 비율(완전 8도는 두 음의 진동비가 1/2, 완전 5도는 2/3, 완전 4도는 3/4에 해당한다)이라고 해석할 수 있게 된 것은 모두 피타고라스학파의 공로였다. 이처럼 피타고라스학파는 수학적 토대에 근거해 지금까지도 서양에서 사용되는 음정 체계를 확립했다. 

한편 피타고라스학파는 그들의 수학적 방법론을 전 우주적 차원으로 확대 적용할 수 있다고 생각했다. 가령 그들은 ‘우주(천구)의 음악(Music of the spheres)’이란 것이 존재한다고 주장했다. 천구가 지구 주위를 도는 동안(당시에는 지구가 구체 형태로, 우주의 한복판에 자리하고 있다고 여겼다) 우주 안에서는 인간의 불완전한 귀로는 절대 들을 수 없는 매우 조화로운 음이 생성된다고 보았다. 무리수의 존재는 피타고라스학파가 그들의 세계관을 포기해야 할 정도로 심각한 존재론적인 고민을 안겨줬다. 물론, 때로는 놀랄만한 현대적 사상을 제시하기도 했지만, 피타고라스학파의 세계관이란 대개 여전히 과학적이기보다는 신비주의적인 성격에 머물렀기 때문이다. 하지만 사람들은 금세 타너리의 시각에서 벗어났다. 그의 주장은 다소 지나치게 극적이었고, 굳이 그의 시각을 빌리지 않더라도, 무리수 혁명은 그 자체로 이미 사람들에게 뜨거운 열정을 불어넣기에 충분했다. 

오늘날에도 유리수와 무리수의 구분은 수학에서 중대한 문제로 간주된다. 특히, 어떤 시스템을 규정하는 변수들이 유리수라면 규칙적인 현상이 나타나고(반복적으로 규칙적으로 원상태로 돌아가려 할 것이므로), 변수들이 무리수라면 불규칙적인 현상이 나타난다고 여겨진다. 가령 매우 기초적이지만, 동역학계(dynamic system)에 관한 최신 연구와도 관련 있는 한 예시를 살펴보자. 

일단 원형 경기장에서 점프로 이동하는 벼룩 한 마리가 있다고 치자. 이때 벼룩은 항상 원의 중심과 같은 각도로 점프를 한다. 과연 벼룩은 처음 출발했던 지점으로 정확히 다시 돌아올 수 있을까? 이 경우, 벼룩이 출발점으로 다시 돌아오려면 무조건 벼룩이 점프하는 각도(측정 단위는 도(°))가 유리수여야만 한다.

수학은 당대의 학문적 관심이 표현된 새로운 구분법들에 힘입어 진보를 거듭해왔다. 가령 18~19세기 대수학의 발전으로 대수적 수와 초월수(초월수란 유리수를 계수로 하는 대수방정식의 근으로는 절대 구할 수 없는 수를 의미하므로)를 분별할 수 있게 됐고, 이어 20세기 전산학의 출현으로 계산가능한 수와 불가능한 수를 구분할 수 있게 됐다.

하지만 지금까지 살펴본 사실은 A4 용지 속에 어찌하여 가장 유명한 무리수 √2가 발견되는 것인지 설명해주지 않는다. 이 문제의 해답을 알고 싶다면, A5 규격의 용지를 일단 반으로 접어야 한다. 조금만 깊이 생각하면, A5 용지의 세로폭이 A4 용지의 가로폭과 동일한 21센티미터(cm)이고, A5 용지의 가로폭은 A4 세로폭의 절반, 다시 말해 19.7/7 = 14.85센티미터(cm)라는 사실을 알 수 있다. 이제 A5 용지의 세로폭을 가로폭으로 나눠보자. 정답은 1.414...., 즉 √2(근사값)이다. 한 마디로, A4 용지의 경우와 똑같은 셈이다. A4와 A5 용지는 각기 ‘크기’는 서로 다를지언정 ‘형태’는 똑같은 것이다. 두 용지 모두 세로폭이 가로폭에 견줘 √2배 더 큰 직사각형에 해당한다.

루트 2의 진정한 뿌리는 여전히 미스터리

다시 A5 용지를 반으로 접으면 A6 용지를 얻을 수 있다. 이때도 A6는 A5나 A4와 형태가 같다. 이어 용지를 접을 때마다 마찬가지 결과가 도출된다. 반대로 A4 용지는 그의 2배 크기이면서 형태는 같은 직사각형인 A3를 반으로 접어서 얻은 결과다. 같은 식으로 되풀이하면 A2, A1에 이어, A0도 얻을 수 있다. 여기서 A0는 가로와 세로의 비율이 √2이고 면적이 1m²인 직사각형에 해당한다. 이처럼 간단한 대수학으로 다양한 규격을 계산해낼 수 있고, A0 용지를 계속 접어나가면, 언젠가는 21, 29.7cm에 해당하는 A4 용지를 얻을 수 있다.

이런 종류의 포맷의 특성은 여러모로 편리한 이점이 많다. 이런 종류의 포맷이 처음 주목을 받은 건 18세기 말, 프랑스에서였다. 당시 프랑스를 휩쓴 도량형 통일 열풍은 종이 문제로까지 확대됐다. 처음으로 √2를 토대로 한 포맷을 공식적으로 사용하기 시작한 계기는 ‘인지(우표)법’(세금의 의미가 내포)을 통해서였다. 이 법의 기본 원칙은 공문서 작성에 드는 비용을 종이 문서의 물리적 면적을 토대로 공정하게 산정하는 것이었다. 

인지법 도입에 앞선 사전 논의 과정을 지켜보면, 이런 종류의 포맷이 지닌 수많은 이점이 오래전부터 인정받아왔음을 알 수 있다. 그중 한 가지 이점을 예로 살펴보자면, 우리는 낭비를 근절하기 위한 정책적 노력이 현대의 산물이 아니었음을 알게 된다. 사실상 앞선 포맷을 반으로 잘라내 곧바로 다음 포맷을 만들 수 있다는 사실은(A4에서 A5를 만들어내는 것처럼), 다양한 포맷의 종이를 생산하더라도, 자투리 종이 단 한 장도 낭비할 일이 없다는 뜻이었다.

루트 2는 분명 우리 일상과 친밀한 수다. 그럼에도 우리가 이 수에 대해 전부 다 안다고는 자부할 수 없다. 1세기 전 에밀 보렐은 √2의 소수점 이하 숫자열의 구조를 규정할 수 있는 간단하고 명쾌한 법칙을 찾아내려 안간힘을 썼다. 하지만 이 문제는 현대의 수학자들도 여전히 풀지 못한 난제로 남았다. 물론 바빌로니아인들은 √2의 소수점 이하 숫자를 정량적으로 풀어내는 데 성공했다. 하지만 소수점 이하 숫자열의 정성적 형태를 찾아내지는 못했다. 무한히 이어지는 소수점 이하 숫자들 속에서 어느 순간 일정하게 반복되는 숫자열의 패턴을 결국에는 찾아낼 수 있을 것인가? 숫자 7이 더 이상 등장하지 않는 순간이 찾아올까? 숫자 2는 숫자 3보다 더 많을까, 더 적을까? 얼핏 간단한 물음처럼 보일지 몰라도, 21세기 안에 해답을 찾아낼 수 있을지는 미지수다. 

루트 2의 진정한 뿌리는 여전히 수많은 미스터리에 싸여 있다. 

글·브누아 리토 Benoit Rittaud
소르본파리노르 대학교 연구교수

번역·허보미 
번역위원

(1) 오늘날에도 여전히 정확한 정체는 확인되지 않는다.