그러다가 과일이나 물고기를 여러 명이 나눌 필요가 생기면서 자연수만으로는 수를 다 표현할 수 없다는 것을 알았을 것이다. 그래서 분수(分數, fraction)를 생각해낸 것으로 보인다. 두 사람이 반(1/2)씩 나누거나 세 사람이 셋(1/3)으로 나눌 경우, 그 수를 쉽게 표현하는 수가 분수다. 분수는 단위를 마음대로 조절할 수 있다.
나누고 싶은 만큼 분모로 하면 된다. 그런데 분수는 크기를 표현하는 데는 편하지만, 두 수를 비교하기에는 불편하다. 수의 목적은 크기를 표현하는 것도 중요하지만, 서로 비교할 수도 있어야 한다. 3/7과 5/11 중에서 어느 것이 더 큰 것인지 쉽게 알 수 없다.
이를 바로잡기 위하여 분모를 10, 100, 1000처럼 10의 거듭제곱으로 맞춘 것이 소수(小數, decimal)다. 예를 들어 1/2은 5/10, 1/4은 25/100로 만들고 분자를 10진법의 소수점 아래 해당하는 자리에 넣는다(0.5, 0.25). 10진법에서 자연수의 자릿값이 10의 거듭제곱으로 커지는 것처럼 1보다 작은 수도 1/10의 거듭제곱으로 작아지게 한 것이다.
그런데 소수에도 문제점은 있다. 1/2, 1/4, 1/5 같은 분수는 쉽게 0.5, 0.25, 0.2라는 소수로 바꿀 수 있지만, 1/3, 1/6, 1/7처럼 근삿값이 아니고는 절대로 소수로 바꿀 수 없는 분수도 있다. 다만 이 무한소수는 1/3(0.33333····), 1/11(0.272727····), 5/27(0.185185····)처럼 같은 수나 같은 수열이 계속 반복되는 특성이 있다.
이처럼 자연수보다 작은 부분을 표현하기 위하여 분수와 소수가 생겼지만, 그들이 출현한 시기는 사뭇 다르다. 분수는 일찍이 고대문명부터 사용됐지만, 소수는 10진법이 자리 잡은 후인 16세기 유럽에서 사용되기 시작하였다.
그런데 사람들은 또 다른 수가 필요하다는 것을 깨달았다. 결과는 양수(陽數, positive number)이지만 계산과정에서 작은 수에서 큰 수를 뺄 때가 있을 때 사람들은 당황했다. 예를 들어 3-5+8=6을 계산할 때 거치는 3-5 과정을 옛사람들은 불가능하다고 생각했다. 그러다가 어떻게든 계산을 끝내려고 중간에 그것을 저장하기 위해 음수(陰數, negative number)가 고안되었다.
그 후 얼마 지나지 않아 사람들은 음수에 더 큰 의미가 있다는 것을 깨달았다. 빚이나 손해 등을 음수로 표시하는 법을 배운 것이다. 오늘날 우리는 음수에 익숙하지만, 음수가 자리잡기까지는 이처럼 오랜 시간이 걸렸다.
처음 음수를 사용한 것은 중국, 인도 등 아시아인들로, 유럽인들은 르네상스 이후에야 음수를 수용했다고 한다. 음수를 수로서 받아들이는 데 크게 이바지한 사람은 영국의 수학자 존 월리스(1616~1703)다. 그는 “뒤로 2 야드 갔다가 뒤돌아 앞으로 6 야드 간다면 당신의 위치는 어디인가?” 물으며 수직선(數直線, number line)을 보여줬다고 한다. 즉 0을 중심에 두고 오른쪽은 양수, 왼쪽은 음수를 보여줌으로써 음수의 개념을 확고히 했다. 0을 포함한 자연수와 자연수의 음수를 별도로 정수(整數, integer)라 부른다.
인류가 개발한 자연수, 분수, 소수는 양수건 음수건 모두 셀 수 있는 수다. 분수나 소수는 개수가 아니라 조각 수를 세는 것이지만 그것도 수를 세는 것임은 틀림없다. 예를 들어 0.25는 0.1이 둘, 0.01이 다섯 개다. 모든 수는 셀 수 있다고 믿고 있었던 피타고라스학파 학자들은 밑변과 높이가 1인 직각삼각형의 빗변을 계산해보곤 당황했다.
정리에 의하면 빗변의 길이를 𝒙라 했을 때 𝒙²=1²+1²=2이다. 즉, 𝒙는 제곱해서 2가 되는 어떤 수다. 피타고라스학파 학자들은 𝒙에 해당하는 수를 찾고자 했는데, 이때의 수는 자연수나 분수 즉 셀 수 있는 수만을 뜻했다. 그런데 제곱해서 2가 되는 자연수나 분수는 없다. 제곱해서 자연수가 되는 분수도 없다. 2/3, 2/5를 제곱하면 4/9, 4/25가 되지 절대 자연수로 바뀌지 않는다. 결국, 𝒙는 자연수도 아니고 분수도 아니다.
피타고라스학파는 자연수와 분수 너머에 이처럼 또 다른 수가 있다는 것을 알았지만, 끝내 그 수가 무엇인지 밝히지 못했다. 오늘날에는 제곱근 기호 루트(√ )를 써서 표시하고 이런 수를 무리수(無理數, irrational number)라 이름 붙였다.
이 수의 반대 즉 셀 수 있는 수, 분수나 소수로 나타낼 수 있는 수는 유리수다. 무리수는 무한히 이어지는 소수다. 분수에도 1/3, 1/11, 5/27처럼 소수로 바꿨을 때 무한히 이어지는 수가 있지만, 이들은 같은 수나 수열이 반복되는 순환소수다. 무리수는 수가 순환하지 않으면서 무한히 이어지는 소수다. 유리수가 무한대로 많은 만큼 무리수도 무한대로 많다. 무리수에는 루트 기호가 붙은 수만 있는 것이 아니다. 원둘레를 지름으로 나눈 수 π, 가장 균형이 잡히고 조화로운 황금비율의 수(1.618····), 자연이 가진 비밀의 수인 자연 상수 𝒆 (2.7182818·····) 등이 모두 소수점 이하 숫자가 순환 없이 무한대로 이어지는 무리수다.
그런데 유리수의 한자는 有理數인데 수에 이치가 있다니 어색하기 짝이 없다. 사실 이 이름은 영어를 번역하면서 잘못된 용어다. 유리수는 영어 rational number를 번역한 것인데 이때 rational은 비(比, ratio)가 있다는 뜻이다. 분수로 표시할 수 있으니 (1/2은 1:2) 비가 있다는 말인데, 이치가 있다는 이름을 붙였으니 잘못된 것이다. 그보다는 유비수(有比數), 무비수(無比數)라고 불러야 하지 않을까?
지금까지 말한 수들은 모두 실제적인 세계를 나타내는 데 필요한 수로 우리는 그 모두를 실수(實數, real number)라 부른다. 실수는 무한대로 긴 일직선 위 모든 점과 일대일로 대응하는 수다. 이 용어가 생겨난 것은 사람들이 이 수를 넘어 상상의 수를 만들었기 때문이다.
세상에 존재하는 모든 수를 캐낸 인류는 마침내 세상에 존재하지 않는 수를 생각해냈다. 우리가 알고 있듯이 제곱해서 음수가 되는 수는 없다. 양수, 음수, 분수, 소수 가릴 것 없이 제곱하면 모두 양수가 된다. 그런데 사람들은 제곱해서 음수가 되는 수를 있다고 인정하고, 상상의 수라는 뜻으로 허수(虛數, imaginary number)라 이름 붙였다.
지금까지 우리는 모든 종류의 수를 통하여 수학의 역사를 둘러보았다. 이러한 수학의 역사는 고전주의에서 사실주의, 인상주의를 거쳐 추상화로 이어온 미술의 역사와 닮아 보인다. 아니 미술뿐 아니라 모든 예술과 학문이 비슷한 모습으로 전진해왔다고 할 수 있을 것이다.
다음은 어떤 수가 나올까? 또 다른 수가 나올 수 있을까? 100년 후 미술은 어떤 모습일까? 생각해보지만, 아무것도 알아낼 수 없다.
