취미로 수학을 연구한 아마추어 수학자, 페르마

피에르 드 페르마(Pierre De Fermat, 1601년  ~ 1665년)는 17세기 프랑스의 최고의 수학자로 손꼽힙니다. 그런데 그가 수학을 정식으로 연구한 수학자가 아닌  취미로 수학을 공부한 아마추어 수학자입니다. '정수론의 아버지'라 불리는 페르마에 대하여 알아보겠습니다. 

 

아마추어 수학자 페르마

페르마는 프랑스 보몽 드 마뉴에서 부유한 피혁 상인의 집안에서 태어났습니다. 대학에서 법학을 공부하여 변호사가 되었으며 또한 지방의회의 의원이 되어서 생애 끝까지 그 일을 하였습니다. 변호사와 지방의회의 의원직을 맡아하면서 시간이 날 때마다 행복한 취미생활을 하였는데 바로 수학 공부였습니다. 페르마는 수학을 체계적으로 공부한 전문적인 수학자가 아닙니다. 그저 시간이 날 때 틈틈이 공부하는 학문인데 역사에 남을 업적을 세웠다는 것만으로도 그가 얼마나 대단한 인물인지 알 수 있을 것입니다.

 

페르마의 능력을 알 수 있는 이야기가 있습니다. 어느 날 '100895598169는 소수인가?'라는 질문을 받은 페르마는 곧바로 '그 수는 소수 86423과 소수 112303의 곱이므로 소수가 아니다.'라고 답했다고 합니다. 이 정도면 천재라고 해도 무방할 것입니다. 

 

 

증명 과정을 생략하다

페르마는 자신이 연구했던 수학적 이론들을 메르센, 파스칼, 마르탱 등 당시의 유명한 수학자들에게 편지로 보냈다고 합니다. 특히 파스칼과 6개월 동안 주고받은 편지에는 다양한 게임들을 분석할 수 있는 수학적 방법들이 담겨 있는데 이는 확률의 기본 개념을 체계화하는 과정이었다고 합니다. 하지만 페르마의 편지 대부분에는 증명 과정이 생략한 채 정리만 담긴 경우가 많았다고 합니다. 그래서 수학자들은 페르마가 증명했다는 정리들이 정말 증명한 것인지 다시 연구해야 했다고 합니다. 

 

이 중 가장 유명한 것이 '페르마의 마지막 정리'입니다. 이 정리는 페르마가 디오판토스의 「산술」을 읽다가 책의 여백에 써 놓은 메모에서 발견되었습니다. 

메모에 페르마는 '나는 경이로운 방법으로 이것을 증명했다. 하지만 여백이 너무 좁아 여기에 옮기지 않겠다.'라는 기록을 남겼습니다. 그 후 많은 수학자들이 이 정리를 증명하기 위해 노력하였습니다. 1753년 오일러가 이를 증명했다고 주장했으나 오류가 발견되었고 그 후 300여 년 동안 수많은 수학자들이 도전했지만 성공하지 못했고 이 정리를 증명하기 위해 상금이 내걸리기도 했습니다. 마침내 1995년 영국의 수학자 앤드루 와일스가 증명에 성공하여 상금이 받았습니다. 그런데 앤드루 와일스의 증명법은 페르마가 당시에는 알지 못했던 수학 분야를 바탕으로 하고 있어서 페르마의 증명법이라고는 할 수 없습니다. 도대체 페르마는 어떤 방법으로 어떻게 증명을 했을지 페르마의 마지막 정리에 대한 연구는 계속되고 있습니다. 

 

 

페르마의 수학 이론

페르마는 특히 정수론에 대한 연구를 많이 하여 '정수론의 아버지'라고도 불립니다. 먼저 페르마의 소정리는 어떤 수가 소수이기 위한 필요조건에 대한 정리입니다. 이 역시 증명 과정을 보여주지 않아 후대의 수학자 라이프니츠가 증명을 했습니다. 이는 큰 소수에 관한 것으로 오늘날 신용카드의 보완 체계에 쓰이고 있습니다. 다음으로는 두 제곱수 정리입니다. 이것은 '4로 나눈 나머지가 1인 소수에 대하여 두 제곱수의 합으로 나타낼 수 있다.'입니다. 말이 어렵지만 예를 들어 설명하면 어렵지 않습니다.

또한 페르마는 데카르트와 함께 평면을 넷으로 나누는 좌표평면을 발견했고, 해석 기하학을 생각해 냈고 이를 3차원으로 확장하기 위해 세 번째 축 사용을 제안했습니다. 그리고 극대점과 극소점을 구하는 방법을 찾아냈는데 이것은 뉴턴과 라이프니츠에 영향을 주어 미적분학이 발전할 수 있는 토대를 마련하였습니다. 

 

페르마는 확률에도 영향을 주었습니다. 파스칼과의 편지를 주고받으면서 당시 새로운 수학 분야인 확률의 개발을 촉진시켰습니다. 파스칼과 페르마가 주로 연구한 것은 두 독립 사건이 동시에 일어날 확률을 계산하는 것이었습니다. 

 

이 외에도 빛에 대한 연구도 빼놓을 수 없습니다. 페르마의 원리는 빛이 두 점 사이를 진행할 때 무수히 많은 경로들 중 최단 시간으로 이동할 수  있는 가장 짧은 경로를 따르는 원리입니다. 이를 통해 빛의 직진성, 반사의 법칙, 굴절의 법칙 등을 검증할 수 있습니다. 

 

 

페르마의 영향과 의의 

당시 수학자들과의 편지 교환 등의 교류로 확률을 체계화하고 해석기하학을 창안했으며 미적분학 발전의 토대를 마련해 준 페르마는 변호사와 지방의회 일을 하면서 취미로 수학을 연구했습니다. 만약 그가 취미가 아닌 본격적으로 수학을 연구하고 그의 정리와 증명을 책으로 냈다면 수학이 좀 더 빨리 발전할 수 있지 않았을까 생각합니다. 하지만 취미로 수학을 연구했던 페르마가 당시 편지나 책 혹은 노트에 적어놓은 이론이나 추측들이 많은 수학자들의 연구 과제가 되어 증명되거나 반박되는 동안 수학을 더욱 발전시키는 역할을 했다는 것은 아이러니합니다.