1보다 큰 자연수 중 소수가 아닌 수는 합성수(合成數, composite number)라 부르는데, 모든 합성수는 소인수 분해를 통하여 소수의 곱으로 나타낼 수 있다. 소수 중 유일하게 짝수인 수는 2이며, 2를 제외하면 모두 홀수다.
소수는 숫자가 커질수록 더 희소해진다는 것을 알 수 있다. 0에서 100 사이에는 소수가 25개(25%) 있지만 1,000 이내에는 168개(16.8%)가, 1,000,000 이내에는 7.85%가, 백억 이내에는 4.55%가 소수이다. 소수는 무한히 존재하는데 이를 최초로 증명한 것은 그리스 수학자 유클리드이다.
다음에 보이는 그의 증명 방법은 명쾌하고 아름답다.
소수의 개수가 유한하다고 가정하자. 소수를 모두 곱한 수를 만들고 거기에 1을 더한 수를 생각한다. 이 수는 1과 자기 자신 이외의 어떤 자연수로도 나누어 떨어지지 않는다. (항상 나머지 1이 남으므로) 그러므로 이 수는 소수다. 소수의 개수가 유한하다는 가정이 틀렸다. (그러므로 소수의 개수는 무한하다.)
이처럼 수학에서는 당연한 것처럼 보이는 것도 증명이라는 절차를 거쳐야 진리로 인정된다. 증명은 반드시 일찍이 유클리드가 만든 방법에 따라야 한다. 즉 증명할 필요가 없을 만큼 명백한 공리와 공준, 그리고 그때까지 성립된 증명을 이용하여 그 이론이 옳다는 것을 논리적으로 보여주는 것이다.
증명 중에는 위 예에서 보듯이 증명하고자 하는 내용의 반대가 틀렸음을 밝혀 그 내용이 참임을 증명할 때가 많다. 또 증명은 어떤 부분이나 특별한 경우에만 옳아서는 안 되고, 모든 경우에 옳다는 것을 보여주어야 완성된다. 누군가 증명했다는 주장에 전체가 증명되지 않았다는 이유로 뒤집히는 예가 적지 않다.
사람들은 매미의 생태에서 소수를 발견하기도 한다. 매미는 7년에서 17년까지 긴 시간을 땅속에서 유충으로 지내다가 나무 위로 올라와 성충이 되어 짝짓기와 산란을 하며 한 달 동안 생존하고 죽는다. 그런데 땅속에서 유충으로 지나는 기간이 7년, 11년, 13년, 17년 등 소수라는 것이다. 천적들이 매미의 출현을 예측하기 어렵게 하려고, 또 자원에 대한 지나친 경쟁을 피하려고 소수가 되는 해에 밖으로 나온다는 것이 정설이다.
최근 정보화 사회가 되면서 소수가 더욱 중요해졌다. 그 이유 중 하나는 소수가 암호체계에서 대단히 중요한 수이기 때문이다. 예를 들어 비밀번호는 쉽게 찾아낼 수 없도록 암호화해야 하는데, 암호화할 때 주로 큰 소수를 사용한다. 그 이유는 컴퓨터가 두 개의 큰 소수를 곱해서 아주 큰 수(예: 200자리 수)를 만드는 것은 쉽게 할 수 있지만, 그 수를 다시 소수들의 곱으로 쪼개는 소인수 분해는 극도로 어렵기 때문이다. 다시 말해서 소수는 “만들기는 쉽고 풀기는 어려운” 수학적 특성 때문에 암호학에서 중요하게 쓰이는 것이다.
소수 중에 3과 5, 5와 7, 11과 13처럼 연속적인 두 소수 간 간격이 2인 소수 쌍을 쌍둥이 소수라 부른다. 즉 𝒑, 𝒑+2 모두 소수인 쌍을 말한다. 그렇다면 이 쌍둥이 소수도 무한대로 존재할까?
프랑스 수학자 알퐁스 폴리냐크(1826–1863)가 “쌍둥이 소수도 무한대로 존재할 것이다”라는 추측을 제안하였지만, 지금까지 증명되지 않은 문제로 남아 있다.
중국계 미국인 수학자 장이탕(張益唐)이 2013년 중요한 진전을 이루었는데, 그때까지 무명이었던 그는 58세에 발표한 이 증명으로 수학계 신데렐라가 되었다. 그는 소수 2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, …에서 인접한 숫자들의 차이로 1(3-2), 2(5-3), 2(7-5), 4(11-7), 2, 4, 2, 4, 6, 2, 6, 4, 2, 4, 6, …이라는 새로운 수열을 만들었다. 이 수열에서 2는 이웃한 두 소수의 차이가 2인 쌍둥이 소수를 의미한다. 그러므로 이 수열에서 2가 무한정으로 나온다면 쌍둥이 소수가 무한히 많은 것이다.
장이탕은 이 수열에서 ‘2가 무한히 나올까?’라는 질문 대신 ‘몇 이하의 수라면 무한히 나올까?’라고 물었다. 그리고는 7천만 이하, 즉 인접한 수의 차이가 7천만 이하인 소수 쌍은 무한히 많다는 것을 증명했다. 7천만이란 수는 2와 비교할 수 없을 만큼 크지만, 그 전에는 한계가 없었다는 점에서 의미가 크다.
장이탕의 연구에 자극받아 ‘Polymath8’이라는 협력 연구단체가 생겨났고, 그들은 7천만을 246까지 줄이는 데 성공했다. 만일 아직 검증되지 않은 다른 두 연구 결과가 옳다면 6까지 줄이는 데 성공했다.
모든 수의 기본이 되는 소수는 정수론의 성배로 불리며 기원전부터 지금까지 계속 학자들의 사랑과 주목을 받아 왔다. 지난 수천 년 동안 소수에 대해 많은 사실을 밝혀왔지만, 여전히 소수에 관한 풀리지 않는 문제도 남아 있고, 앞으로도 새로운 문제가 또 만들어질 것이다.
그뿐 아니라 소수는 디지털 시대를 맞아 다시 한번 그 위력을 발휘하고 있다. 앞으로 소수의 역할이 어디까지 갈지, 소수 자신처럼 무한히 이어질지 자못 기대된다.
