2017년 02월 통권 제171호
속 깊은 책 이야기
책 너머 세상 읽기
더불어 책 읽기
열린어린이 선정 이달의 좋은 책
열린어린이 서평
주목 받는 새 책
열린어린이가 권하는
이 달의 책

책 너머 세상 읽기

[인류에게 영향을 미친 과학]
산수와 기하의 통합

김연희 | 2017년 02월

인간, 수에 눈뜨다

현대인들에게 숫자가 없는 생활은 상상하기 어렵다. 하지만 인간이 수를 셀 수 있게 된 것은 전 인류의 역사에 비하면 그리 오래된 이야기는 아니다. 그리고 수를 헤아리기 시작했다는 것은 인류가 이성적 진화를 시작했음을 의미하기도 했다. 수를 센다는 것은 사물을 헤아리기 시작했다는 것이고 사물들을 구분하고, 분류하고, 범주화하기 시작했으며, 그런 만큼 이성적으로 사물을 대하게 되었음을 뜻했다.

물론 처음부터 많은 수를 헤아린 것은 아니었다. 처음에는 고작 ‘하나, 둘, 그리고 많다’ 정도였을 것이다. 그럴 리 없을 거라고 생각할지 모르지만, 어린이들이 대부분 초등학교에 들어가기 전까지 자기 나이 정도의 수를 ‘인식’한다는 인지 관련 연구 결과(단순히 수를 읽는 것과는 다른 차원의 이야기다)를 감안하면 원시인들의 초보적 수 인식에 대한 생각이 큰 무리는 아니다. 수를 센다는 것에 대한 전제 조건, 즉 언어도 필요했다. 인류는 농경을 하며 정착 생활을 하고 점차 고도의 문화를 이루었다. 이른바 고대 4대 문명을 이루었다. 비단 4대 문명권만 존재했을까마는 이 고대 문명에서 볼 수 있는 수학의 사용은 놀랍다. 하늘을 관측했고, 시각을 측정했으며 거대한 건축물도 구축했다. 이런 것들이 모두 수학을 사용하지 않으면 안 되는 작업이었다.

고대 그리스의 수학

이런 문명이 전쟁과 무역 등으로 교류되고 고대 그리스에도 전해졌다. 고대 그리스는 고대 바빌론이나 이집트의 수학과는 다르게 수학을 취급했다. 고대 그리스는 크기와 산수를 엄격히 구분해 다루었던 것이다. 이 구분은 고대와 중세 지적 세계의 토대를 구축한 유명한 철학자 아리스토텔레스와 수학자 유클리드에 의해서 만들어졌다. 특히 아리스토텔레스는 ‘수’와 ‘크기’를 전혀 다른 차원의 영역으로 구분했다. 그에 의하면 수는 1이라는 단위의 합이었다. 그런데 1은 수가 아니라 단위였다. 모든 수는 끝내 1로 나뉘어져 무한히 나누어질 수 없었다. 기본을 이루는 1은 더 이상 나누어지지 않은 궁극의 단위였고 모든 수는 나누어지지 않는 1들의 합이었다. 반면 크기는 점으로 이루어지지만 점은 기본 단위가 아니었다. 이 점 역시 무한히 나누어질 수 있었다. 따라서 점들은 비록 무한히 나뉠 수 있는 양이었기 때문에 연속적인 양이었다. 크기에 속하는 것으로 아리스토텔레스는 길이, 넓이, 부피, 시간을 들었다. 비록 그의 선배 피타고라스가 자연의 모든 것을 수라고 주장했음에도 불구하고 그가 보기에 자연은 연속적이어서 무한히 나누어지지 않는 1들로 구성될 수 없었다.

유클리드는 아리스토텔레스의 생각을 더 명확하게 하면서 『원론』을 썼다. 그는 수의 영역을 다루는 대수, 크기의 영역을 다루는 기하학으로 구분했다. 그는 대수를 덧셈, 뺄셈, 곱셈까지도 가능한 것으로, 기하는 덧셈과 뺄셈, 그리고 상수배(곱하는 것이 숫자인 곱셈)만 가능하고 크기(크기×크기)끼리의 곱셈은 불가능하다는 것을 전제로 책을 썼고, 그 책은 지금까지 수학의 기본으로 교육되고 있다.(중학교에서 명제, 공리 등으로 증명을 이루는 방식이 유클리드가 제시한 것이다.) 그는 ‘길이:길이’, ‘수:수’의 비례 관계는 가능하지만 우리가 지금 널리 쓰는 방식 ‘길이:수’는 불가능하다고 판단했다. 이런 비례가 가능하기 위해서는 기하를 대수적으로 풀이하는 해석 기하학이라는 분야가 나타나는 16세기 말, 17세기를 거쳐야 했다. 그 이전까지 대수는 상인이나 돈을 계산하는 사람들의 실제적인 분야였다. 기하는 논리를 따지고 논증을 하면서 공리를 만들어 내는 학자들 고유의 분야였다.

달라진 세상, 달라진 계산

아리스토텔레스가 중세, 심지어 16세기까지 서양의 지성과 문명을 지배했음을 생각하면, 그가 제시한 수학 영역 구분의 영향력이 엄청나다는 것을 짐작할 수 있다. 하지만 16, 17세기에 이르면 서양 사회는 매우 복잡해졌고, 다루어야 하는 셈법과 세상은 이런 구분만으로는 계산이 어려워진 것이다. 바다를 통한 다른 대륙으로의 진출, 침략과 식민지 개척을 통한 시장 확대로 광범위한 무역 물량과 자금 계산이 필요해졌다. 또 항해술은 배의 위치를 계산하는 방식을 토대로 한 것이었다. 그리고 늘어난 무역량만큼, 전쟁도 늘어났고, 여기에 필요한 무기 개발과 더불어 성을 쌓기 위한 수학도 요구되었다. 이에 맞춤한 방법을 다루는 전문 계산가들이 생겨났다. 이들 실제적 분야에서 활동하는 사람들이 사회적으로 중요해졌고, 그들 가운데에 몇몇은 혁신적인 계산법을 제시하기도 했다. 그들은 연이자율을 포함해 무역을 통해 얻는 각종 이익을 계산했고, 관련 표를 고안했고, 이를 비장의 무기로 삼거나 공개하기도 했다. 그리고 이런 과정을 통해 그들의 비범한 능력이 두드러지게 나타나기 시작했고 유용성이 사회에 받아들여지기 시작했다.

소수 표현 방법이 만들어지다

16, 17세기 시대에 이루어진 여러 수학 작업 가운데 탁월한 것은 수를 표현, 표시하는 방식의 발전이었고 그 가운데에서도 가장 혁신적인 것은 바로 소수 체계였다. 이 소수 체계를 쓰는 것은 무엇보다 대수에서는 불가능하다고 2천 년 동안 여겨졌던 비연속성을 제거한 일이었다. 지금은 소수 체계가 너무나 당연한 것으로 여겨지지만, 사실 초등학교에서 분수를 먼저 배우고 소수 체계를 배우는 것을 기억하면, 이런 수 표현이 반드시 당연한 것이라고 할 수 없다. 물론 16, 17세기에 사용된 소수의 표현은 지금과 달랐다. 그전에 분수로 표현했던 것을 바꾸었기 때문에 소수점 아래의 단계를 표현하는 기호를 사용했다. 우리가 10.3254라고 쓰는 숫자는 10.3①2②5③4④라고 ①, ②, ③, ④가 각각 1/10, 1/100, 1/1000, 1/10000 자리의 수임을 나타냈다.

소수 표시 방법은 산수와 기하를 연결할 방법을 제공하는 일이었다. 원주율 파이값, √값을 오롯이 숫자만으로 표현할 수 있게 된 것이다. π를 3.14, =1.414처럼 말이다. 이렇게 표기해 명실공히 모든 길이를 수로 표현할 수 있게 되었고, 이전 시대에 불가능했던 ‘길이:수’의 비례를 가능하게 했다. 소수점 체계는 모든 수가 1을 기본 단위로 하는 것이 아님을 보여 주는 일이기도 했다. 그냥 1도 수에 지나지 않는다는 혁신적 생각을 담고 있다. 1과 2라는 자연수 사이에는 무수히 많은 수가 있음을 보여 주었던 것이다. 이처럼 소수 체계의 표시는 기하학과 산수의 구분, 연속과 불연속의 구분을 해체시켰다. 이런 일들이 네덜란드의 시몬 스테빈이라는 탁월한 수학자에 의해 이루어졌다.

해석 기하학의 등장과 기하와 산수의 통합

시몬 스테빈의 작업은 유럽의 북쪽 네덜란드에서 끝나지 않았다. 그의 수학적 시도들은 ‘출판’이라는 당시로서는 매우 새롭고 선풍적인 방식에 의해 전 유럽으로 전파되었다. 이를 바탕으로 17세기 프랑스의 R. 데카르트와 P. 드 페르마가 ‘해석 기하학’을 형성했다. 이는 평면, 공간과 같은 기하를 산수로 대체하는 작업이었다. 그들은 각각 독자적으로 실수(x, y)의 순서쌍과 수직으로 교차하는 두 직선(흔히 우리는 수평의 x축과 수직의 y축을 교차 시켜 좌표 평면을 만든다)을 이용했다. 그들은 좌표축으로부터 한 점까지 이르는 거리의 관계를 수학적으로 설명하기 시작한 것이다. 축이 정해지면 모든 점은 오직 실수의 순서쌍인 (x, y)로 유일하게 표현되고, 거꾸로 실수의 모든 순서쌍은 오직 x축과 수직의 y축 위의 한 점으로 나타났다.

좌표계와 좌표 (x, y)를 처음 제시한 데카르트의 이름을 빌려 데카르트 좌표라 부르는데, 이 평면 위의 점과 실수의 순서쌍 사이에 갖는 관계는 쉽게 3차원 공간의 점과 3차원을 이루는 세 축으로 확장된다. 즉 데카르트 좌표계를 이용한 실수의 3개로 된 순서쌍 (x, y, z)은 x, y와 수직을 이루는 z축의 한 점을 가리키는 것을 의미했다. 이런 좌표에 의해 한 점을 평면, 공간으로 넓히는 데에서 그치지 않고 수학자들은 3차원 이상의 공간으로 실제 세계에 존재하지는 않는 공간도 이 해석 기하학적 방법으로 가정하며 발전시켰다.

이 해석 기하학은 평면이나 공간 등에서 만들어지는 각종 다양한 도형의 크기와 부피를 포함한 성격을 분석할 수 있게 했고, 이에 따라 인간의 지성은 더욱 더 확장되었다. 고대 그리스가 막아 놓았던 인간의 지성은 산수와 기하가 통합되어 말 그대로 무한하게 펼쳐지기 시작했던 것이다.
김연희 | 서울대학교에서 한국과학사로 석박사 학위를 받았습니다. 서울대학교 연구 교수로 있습니다. 한국 역사 속에서의 자연 이해와 자연 이용 기술에 관심이 많습니다. 서양 과학과 우리 전통 과학이 만났을 때의 이해 방식에 관해 주로 연구하고 있습니다. 지은 책으로 『창덕궁에서 만나는 우리 과학』 『강은 어떻게 흘러가나』 『고종 시대의 과학 이야기』 『경복궁에서 만나는 우리 과학』이 있습니다.