기하학(幾何學)이란 도형 및 공간의 성질을 연구하는 학문으로, 주요 연구 대상은 점, 선, 면, 도형, 공간이며 이들의 위치, 크기, 모양, 상대적 관계 등을 분석한다. 기하학의 역사는 수의 성질이나 관계를 연구하는 대수학(代數學)만큼 오래되었다.
기하학이 본격적으로 꽃을 피운 것은 오늘날까지 ‘기하학의 아버지’로 불리는 유클리드(Euclid)에 의해서였다. 기원전 325년경 태어난 그는 알렉산드리아 도서관과 왕실 부속 연구소인 무세이온(Museion)에서 활동한 학자 중 한 명으로, 13권으로 된 <유클리드 원론>(‘기하학 원론’이라고도 함)을 저술하였다.
<유클리드 원론>은 기원전 300년경에 처음 나온 이래 증쇄 횟수로 따지면 성경 다음으로 가장 많이 출판된 책이다. 그만큼 그의 학문은 오랫동안 이 분야를 지배하였다. 이 책에서 그는 먼저 점, 선, 면 등 기하학을 이루는 기본 요소를 정의했다. ‘점이란 위치는 있지만 차지하는 공간은 없는 것’, ‘선은 폭이 없는 길이’ 등이 그것이다.
다음으로 증명이 필요하지 않을 만큼 자명한 공리와 공준을 다섯 개씩 정했다. 공리는 ‘전체는 부분보다 크다’, ‘같은 것에 같은 것을 더하면 결과도 같다’처럼 일반적 이치를 말하고, 공준은 ‘두 점을 연결하는 직선은 단 하나만 존재한다’, ‘임의의 두 점을 지나는 직선은 하나뿐이다’, ‘임의의 선분을 무한히 연장할 수 있다’ 등 기하학에 국한된 기본 규칙이다.
이어서 그는 이를 바탕으로 벽돌을 쌓듯 논리를 쌓아 465개의 새로운 정리를 증명했다. 그는 정의를 명확히 세워 용어를 통일함으로써 모두가 같은 이해를 하도록 했으며, 공리와 공준을 명시적으로 밝혀 임의적 가정이나 추측을 막았다.
그리고 공리, 공준, 그리고 앞서 증명된 정리만을 적용하여 다음 결론을 도출했다. 이로써 그가 만든 수학 체계에서는 직관에 의한 가정이나 추측, 부정확성이 생길 여지가 없게 되었다. 이는 실제 사례를 다루며 일반적 원리를 이끌어내는 고대 중국의 수학서 <구장산술(九章算術)>의 접근법과는 큰 차이가 있다.
그의 이러한 학문적 성과는 이후 수학 이론뿐 아니라 수학의 논리적 사고와 증명법의 모범이 되었다. 이처럼 유클리드 기하학은 수학의 논리적 체계를 확립한 기초 학문으로, 현대 수학의 바탕을 이루고 있다.
<유클리드 원론>은 유럽에서 천 년 이상 가장 중요한 수학 교과서였다. 또한 일상생활과 공학, 컴퓨터 과학 등 다양한 분야에서 기초로 활용되었다. 그러나 19세기에 들어 비유클리드 기하학이 등장하기 시작했다.
구면(球面)이나 안장(鞍狀) 같은 3차원 곡면을 상상해보자. 공리에서 직선은 ‘두 점을 잇는 최단거리’로 정의되었지만, 이 표면에서의 최단거리는 직선이 아니라 곡선 형태를 띤다. 또 유클리드 기하학에서는 삼각형의 내각의 합이 180°라고 했으나, 볼록 곡면에서는 내각의 합이 180°보다 크고 오목 곡면에서는 180°보다 작다.
‘두 점을 연결하는 직선은 단 하나만 존재한다’라는 첫 번째 공준도 도전을 받았다. 지구의 북극과 남극을 잇는 직선, 즉 경도선(經度線)은 무한히 많기 때문이다.
학문이 발전하면서 오랫동안 진리로 믿었던 것들이 무너지는 일은 종종 있다. 특히 과학 분야가 그렇다. 천 년 이상 진리로 믿던 천동설이 망원경의 발명으로 지동설로 바뀌지 않았는가?
그러나 수학은 원칙을 세워 논리적으로 증명하는 학문이므로 좀처럼 무너지는 일이 없다. 비유클리드 기하학이 나왔다고 해서 유클리드 기하학이 틀렸다는 뜻은 아니다. 평면이 아닌 입체, 즉 2차원에서 3차원으로 시야가 확장되면서 비유클리드 기하학이 추가된 것이다.
실용적인 면에서는 유클리드 기하학만으로도 웬만한 문제를 해결할 수 있다. 그만큼 기원전 인물 유클리드의 업적은 위대하다.
