1993년 7월24일자 뉴욕 타임즈는 첫 면에 프린스턴 대학의 앤드류 와일즈(Andrew Wiles) 교수가 마침내 오래된 수학의 수수께끼인 훼르마(Fermat)의 마지막 정리가 풀렸다고 보도했으며 워싱턴 포스트에서는 와일즈 교수를 수학세계의 용을 죽였다고 보도했다.
이것은 굉장히 이례적인 일이다. 다른 분야의 과학에서의 발견과 발명은 대중들에게 알리기 위해 신문이나 방송이 앞 다퉈 보도하지만 수학세계의 발견과 그 속에서 일어나는 일은 대중들과는 거리가 멀기 때문이다.
훼르마(Fermat) 는 1601년 프랑스 투루즈에서 태어난 법률가이면서 아마추어 수학자였는데 그는 괴팍한 성격의 소유자이기도 했으므로, 그가 발견한 정리와 증명을 출간하지 않았으며 뉴튼(Newton)과 라이프니츠(Leibnitz)에 의해서 발견된 것으로 알려진 미적분학을 그들보다 먼저 알고 있었다고 밝혀졌다. 그는 1637년경에 그가 소장한 수학책의 귀퉁이에 다음과 같이 적어 놓았다.
“xn+yn=zn은 n이 3보다 크면 이것을 만족하는 정수 x, y, z 는 존재하지 않는다. 나는 이것을 멋지게 증명할 수 있으나 충분한 여백이 없다.”
와일즈 교수의 증명이 작은 오류가 있음이 곧 발견되어 실제로 증명이 성공한 해는 1995년이지만, 훼르마의 마지막 정리가 증명되는데 걸린 시간은 무려 350년이 경과되었으며, 훼르마가 충분하지 않다는 여백은 실로 수만 페이지에 달하는 지극히 어려운 수학의 정리들로 채워져야만 했다.
피타고라스의 정리에서 세변의 길이가 x, y, z 이면 x2+y2=z2이고, 특히 x=3, y=4, z=5 이면 이것이 성립한다는 것은 이집트인들도 알고 있었으므로 사실 훼르마의 정리는 인류역사와 더불어 수수께끼로 전해내려 왔다고 볼 수 있다. 혹시 이런 수수께끼의 해결이 신문 첫 면에 보도되기에 충분하다고 판단된 것일까?
어쨌든 훼르마의 가설은 350년 동안 동시대의 최고 지성인들의 호기심을 자극하는데 충분한 마력을 가졌음에 틀림없다. 이것은 어느 특정한 천재 한 사람이 해결하기에는 너무도 큰 퍼즐이었다. 물론 초창기의 진도는 꽤나 더디었다. 첫 200년 동안 n=3, 4, 5, 6 그리고 7 일 때 훼르마의 정리가 사실이라는 것이 증명될 정도였기 때문이다.
그 후 100년 동안 오일러(Euler), 제르맹(Germain), 디리끌레(Dirichlet), 쿰머(Kummer) 등의 연구는 지난 50년 동안의 문제해결의 진전에 밑바탕이 되었다.
와일즈 교수가 훼르마의 마지막 정리를 증명을 완성했지만, 이것은 현시대 수학자들의 공동업적이라고 할 수 있다. 먼저 1955년도 경에 타원곡선에 관한 일본인 수학자 시무라-다니야마(Shimura-Taniyama)의 가설이 발표된다. 1984년 독일의 수학자 후레이(Frey)는 학술회의에서 시무라-다니야마의 가설이 성립하면 훼르마의 대정리가 성립할 것이라고 발표한다. 그러나 그는 이것을 증명할 수는 없었고 또 많은 수학자들이 농담으로 여겼다. 곧 버클리 대학의 리버트(Ribet) 교수는 시무라-다니야마의 가설이 성립하면 훼르마의 정리가 성립한다고 증명한다.
그러나 시무라-다니야마의 가설을 증명하는 것이 더 큰 문제였으므로 훼르마의 정리가 증명 되었다고는 볼 수 없다. 와일즈 교수는 특별한 타원곡선인 경우 시무라-다니야마의 가설이 성립하고 이것이면 훼르마의 정리가 성립한다는 사실을 마지막으로 밝혀냄으로써 350년간의 퍼즐을 마침내 푼것이다.
훼르마의 마지막 정리는 수학의 한 분야인 정수론의 문제이지만 이것을 해결하는데 수학의 전 분야, 대수학, 해석학, 기하학, 위상수학 등이 동원되어야 했으며, 각기 서로 다른 재능을 가진 수학자들의 협동이 없었으면 증명이 불가능 했을 것이다.
와일즈 교수는 피라미드의 마지막 돌을 아주 어렵게 찾아내어 헬리콥터를 타고 가서 올려놓았다고나 표현할까?
Amir D. Aczel 이 쓴 “Fermat’s Last Theorem. Four Walls Eight Walls 출간”에 소개된 내용은 훼르마 정리를 중심으로 한 지적 역사의 발전이 어떻게 전개되는지 생생하게 그리고 있다.

방현수  동대신문

<저작권자 © 동대신문, 무단 전재 및 재배포 금지>