그리스 철학자 피타고라스가 기원전 500년 이전에 증명한 것으로 알려졌던 이 정리가 중국에서는 그보다 500년 앞선 기원전 1000년경에 나온 <구장산술>에 실려 있었다고 주장한다. 이 책에서는 직각삼각형에서 직각을 낀 두 변을 뜻하는 구고(句股)를 붙여 이 정리를 ‘구고 정리’라 불렀다. 피타고라스 정리 대신 구고 정리라고 불러야 한다는 주장도 있지만, 현존하지 않는 <구장산술>의 저술 시기에 대해서는 기원전 1000년부터 300년까지 어느 시기인지 확실하지 않다.
피타고라스는 기원전 약 570년부터 495년경까지 활동한 그리스의 철학자, 종교지도자, 수학 사상가로 알려졌지만, 저술이 전혀 남아 있지 않아 그에 관한 내용은 모두 그의 제자들이나 후대 학자들의 기록에 의존하고 있다. 그는 학자라기보다 종교적 색채가 강한 공동체를 이끈 지도자에 가까웠던 것으로 보인다.
위에 언급한 피타고라스 정리도 그 개인이 아니라 그의 추종자들에 의해 체계화된 이론일 가능성이 크다고 한다. 자연수 중에서 피타고라스 정리를 만족하는 수의 조합은 3-4-5, 5-12-13, 8-15-17 등 무수히 많다.
이처럼 방정식 𝒙²+𝒚²=𝒛²을 만족하는 정수들을 ‘피타고라스 삼조(三組)’ 혹은 ‘구고 삼조’라 부른다. 그런데 제곱이 아니라 세 제곱, 네 제곱 등 2보다 큰 자연수의 제곱도 같은 모습으로 성립하는지 의문을 품은 사람이 있었다.
바로 17세기 프랑스의 아마추어 수학자 피에르 드 페르마(1601~1665)다. 그는 “𝒙ⁿ+𝒚ⁿ=𝒛ⁿ에서 n이 2보다 클 때, 이를 만족하는 양의 정수 𝒙, 𝒚, 𝒛는 없다”라는 기록을 남겼다. 그리고는 공책의 여백에 “나는 이것을 증명했지만, 여백이 부족해 자세히 쓸 수가 없다”고 주석을 달았다.
그의 사후 그의 아들이 그의 기록을 책으로 출판하자 사람들은 믿기 힘들 정도로 단순한 이 정리를 ‘페르마의 마지막 정리’라 이름 붙였고, 전 세계의 수학자들이 이것을 증명할 방법을 찾기 시작했다.
이 정리를 증명하는 데 많은 상금이 걸렸고, 이 문제는 수학자들 사이에서 수 세기 동안 신비로운 문제로 남아 있었다. 오랜 세월 동안 이 정리를 증명했다고 주장한 사람은 많았지만, 모두 결함이 발견되었다. 19세기 초에 이를 증명했다고 주장한 프랑스 여성 수학자 소피 제르망(Sophie Germain, 1776~1831)도 그중 하나다.
다만 그녀의 시도가 특별했던 것은 그녀가 증명하는 과정에서 사용한 특별한 소수(素數) 때문이다. ‘소피 제르망 소수(𝒑)’라 부르는 이 소수가 암호학에서 대단히 중요하게 쓰이고 있다. ‘소피 제르망 소수(𝒑)’는 2𝒑+1도 소수일 때 성립된다. 예를 들어 11과 2×11+1인 23이 모두 소수이기 때문에 11은 ‘소피 제르망 소수’다.
페르마의 마지막 정리는 결국, 페르마 사후 330년이 되는 1995년에야 영국인 수학자 앤드루 와일스(1953~ )가 30년 동안의 고군분투 끝에 증명했다. 그가 증명한 방법은 페르마가 알 수 없는 현대 수학을 이용한 것이라 과연 페르마가 증명한 방법은 무엇이었을지, 아니 페르마가 정말 증명을 했는지 지금도 알지 못한다.
와일스는 이 공로를 인정받아 1997년 ‘볼프스켈 상’의 주인공이 되었다. 노벨상이 매년 여러 명의 수상자를 배출해 내지만, 이 상은 제정된 지 90년 만에 단 한 명의 수상자를 배출했기 때문에 아주 값진 상이라고 말할 만하다.
수학에는 페르마의 마지막 정리처럼 오랫동안 풀리지 않는 숙제로 남아 있는 문제가 있다. 특히 수학을 널리 알리고 발전시키는 활동을 하는 미국의 사설 비영리 재단, 클레이 수학 연구소에서 2000년에 제시한 7대 난제가 유명하다. 이중 푸앙카레 추측 하나만 2003년에 해결되었고, 나머지 여섯 개는 현재도 미해결로 남아 있다.
소수(素數)의 분포와 관련한 미해결 문제인 ‘리만 가설’을 비롯한 나머지 문제에 대하여 많은 수학자가 오늘도 밤새워 연구하고 있다.
2022년 한국계 미국인 허준이(1983~, June Huh)가 한국인으로는 처음으로 ‘수학계의 노벨상’으로 불리는 필즈상을 받은 것도 ‘리드 추측’, ‘로타 추측’ 등 오랜 수학 난제들을 하나씩 증명한 공로를 인정받은 것이다.
그는 수상 소감에서 “제가 수상한 공로 대부분은 동료들과 같이 진행한 연구들로 그 동료들을 대표해서 제가 큰 상을 받았다고 생각한다“라고 밝혀 협업했던 동료들과 영광을 나누었다. 그것을 보자 영재들은 모두 의대로만 쏠리는 우리나라 교육 현실이 생각나 나도 모르게 씁쓸한 마음이 들었다.
