페르마의 마지막 정리

디오판토스의 저서 《산술》, 1621년판. 페르마는 II.8 문제 오른쪽의 여백에 해당 문제를 적어 두었다.

페르마의 마지막 정리는 n이 2보다 큰 자연수일 때 xⁿ + yⁿ = zⁿ 방정식을 만족하는 0이 아닌 정수해 (x, y, z)는 존재하지 않는다는 정리이다.

이 식은 피타고라스 방정식 x² + y² = z²을 확장한 것으로 볼 수 있다. 피타고라스 방정식은 무한히 많은 해가 존재한다는 것이 알려져 있지만, 그 방정식에서 계수를 2보다 큰 자연수로 바꾸면 0이 아닌 정수해가 존재하지 않게 된다.

역사

디오판토스의 저서 《산술》에는 어떤 주어진 유리수의 제곱을 두 개의 유리수 제곱으로 바꾸는 문제, 즉 유리수 k에 대해 k² = u² + v²인 유리수 u,v를 구하는 문제가 실려 있다. 저서에는 k = 4일 때의 해답 u = 16 / 5, v = 12 / 5을 구하는 과정을 서술했다.

17세기의 아마추어 수학자였던 피에르 드 페르마는 해당 문제 옆의 여백에 "나는 이 명제에 관한 놀라운 증명을 찾아냈으나 여백이 부족해 적지 않는다"라고 썼다. 그러나 이후 357년간 이 명제에 관한 증명은 나오지 않았다. 증명되지 않은 명제이므로 페르마의 마지막 정리가 아니라 '페르마 가설'이라고 부르는 것이 옳지만, 이 명제를 증명했다는 페르마의 주장을 존중해 예전부터 '페르마의 마지막 정리'라고 불러왔다.

수학자들은 페르마가 제시한 문제들 중 유일하게 풀리지 않은 이 문제를 증명하거나 혹은 반증하기 위해 애썼으나 몇몇 특정한 n 값에 대해서만 증명되었을 뿐 일반적 증명은 존재하지 않았다. n = 4 일 때의 증명은 페르마가, n = 3 일 때의 증명은 레온하르트 오일러가 내놓았다.

그 후 소피 제르맹은 n 이 다음 두 조건을 만족하는 수일 때 페르마의 마지막 정리가 성립 '할 것 같다'는 아이디어를 내 놓았다./

(1) n 은 소수이다.

(2) 2n + 1 또한 소수이다.

그러나 소피는 그 아이디어를 증명하지는 못했다. 하지만 이 아이디어를 기반으로 1825년에 아드리앵마리 르장드르가 n = 5 일 때의 증명에 성공하였고, 14년 뒤인 1839년에 가브리엘 라메가 n = 7 일 때의 증명을 해냈다.

그리고 약 8년이 지난 1847년, 가브리엘 라메와 오귀스탱 루이 코시는 각각 자신이 페르마의 마지막 정리를 풀었다고 주장했으며, 같은 해 4월에 코시와 라메는 각각 자신의 증명을 담은 논문을 출판했다. 그러나 그들의 증명 논리에는 다소 모호한 구석이 있었으며, 결국 그해 5월 에른스트 쿰머에 의해 두 사람의 오류가 지적되었다.

그 뒤 200년동안 페르마의 마지막 정리에 대한 모든 도전은 수포로 돌아갔으며, 수학자들은 속속 이 문제에서 손을 놓기 시작했다. 페르마의 마지막 정리는 점점 무시받게 되었고, 20세기가 끝나가던 무렵엔 페르마의 마지막 정리는 연금술과 같이 그저 옛 신기루 쯤으로 취급되고 있었다.

그러나 1908년, 페르마의 마지막 정리에는 새로운 바람이 불게 된다.

독일의 평범한 수학자였던 파울 볼프스켈은 자신이 열렬히 사랑하던 여인이 자신의 구애를 일언지하에 거절해 버리자 슬픔을 이기지 못해 자살을 결심하게 된다. 자정에 총으로 자결을 하기로 마음먹고 남은 시간동안 수학 서적들을 읽어 내려가던 그는 코시와 라메의 논리를 반박하던 쿰머의 논리에서 허점을 발견한다. 그의 논문에 대해 이것 저것을 연구하다 보니 이미 자살 예정 시각이 한참 지나 동이 트고 있었고, 결국 쿰머의 논리를 보완해 낸 볼프스켈은 커다란 자부심을 느꼈다. 실연의 슬픔은 사라졌으며 그는 새로운 삶의 의미를 수학에 의해 찾게 된 것이다.

페르마의 마지막 정리 덕분에 목숨을 건진 볼프스켈은 '페르마의 마지막 정리를 증명한 사람에게 자신의 재산 대부분을 기부한다'는 커다란 결심을 했다. 그가 내건 상금은 10만 마르크(오늘날 100만 파운드가 넘는 가치)였고, 이 상금은 괴팅겐의 왕립과학원에 기탁되었으며 <볼프스켈 상>이라 정식 명명되었다.

이로 인해 페르마의 마지막 정리는 다시 한 번 커다란 인기를 얻게 된다.

이러던 도중 1955년, 일본의 수학자 다니야마 유타카와 시무라 고로는 타원곡선과 모듈러 형식의 관련성에 대한 추론인 '타니야마 - 시무라의 추론'을 발표한다. 이 추론의 내용은 타원 곡선의 L -급수(디리클레 급수가 아님)와 모듈러 형식론의 M -급수가 완전히 같은 급수일 것이라고 추측하는 내용이었는데, 실제로 계산해보면 정확히 맞아떨어진다. 하지만 일부의 경우에 맞다고 해서 전체의 경우에서 다 맞다고 할 수는 없는 노릇이었다. 그리고 이 추론이 사실이라면 마치 전기와 자기가 전자기로 통합되는 것처럼 전혀 다르게 보였던 두 수학 이론이 하나로 통합되는 것을 의미했으며, 그로 인해 얻게 될 수학과 과학의 발전은 상당한 것이었다. 하지만 이 추론 또한 쉽사리 증명될 실마리가 없었다.

그리고 약 30년 뒤 1984년, 게르하르트 프레이는 놀라운 아이디어를 발표했는데, 바로 타니야마 - 시무라의 추론이 증명되면 덩달아 페르마의 마지막 정리도 증명된다는 것이었다. 페르마의 방정식을 조금만 변형하면 전형적인 타원 곡선의 형태가 나왔으며, 프레이는 이 방정식은 모듈러 형식으로 변환될 수 없다고 주장했다. 만일 프레이의 주장이 사실일 때, 타니야마 - 시무라의 추론이 사실로 증명된다면 변형된 페르마의 방정식은 존재할 수 없고, 따라서 페르마의 방정식 자체가 거짓이 되면서 페르마의 마지막 정리는 증명되는 것이었다.

그러나 프레이는 페르마의 방정식을 변형한 식이 모듈러 형식으로 변환될 수 없는지 설명하지 못했다. 그것을 설명하기 위해 여러 수학자들이 연구한 끝에 켄 리벳에 의해 프레이의 주장은 사실로 증명되었다. 이로써 타니야마 - 시무라의추론과 페르마의 마지막 정리는 한 몸이 된 것이다.

이후 수학자들은 타니야마 - 시무라의 추론에 매달렸다. 그러나 좀처럼 실마리가 나오지 않자 수학자들은 다시 비관적인 태도를 보이기 시작했다. 대부분의 수학자가 타니야마 - 시무라의 추론이 증명 불가능하다는 회의적인 태도를 가졌지만, 결국 타니야마 - 시무라의 추론은 1994년 영국의 수학자 앤드루 와일스에 의해 증명되었다. 와일스는 다른 수학자들과의 교류를 최소화하고 은둔 생활을 하며 7년간의 긴 연구를 한 끝에 1993년에 이 명제의 증명을 내놓았으나, 사소하지만 치명적인 논리적 오류가 발견되어 1994년 새로운 기법을 사용해 완벽히 증명하였다. 와일즈는 이 공로로 1995년 3월 울프상을 수상하여 로버트 랑랜드와 상금 10만 달러를 나눠 가졌고, 1년 뒤인 1996년 6월 27일 <볼프스켈 상>의 주인이 되어 상금 5만 달러를 받게 된다.

참고 문헌

• 사이먼 싱, 박병철 옮김, 《페르마의 마지막 정리》, 영림카디널, 1998, ISBN 89-85055-97-6