아름다움은 왜 진리인가? 여성부 장관이 보면 별로 좋아하지 않을 제목입니다. 그러나 여기서의 ‘아름다움’은 소녀시대의 아름다움과 같은 눈으로 느끼는 아름다움이 아니고 이창호 9단의 멋있는 착점이 주는 그런 아름다움이라고 생각합니다.

워릭대학교의 교수인 이언 스튜어트는 30여년 전에 『갈루아 이론』(Galois Theory, 1973, Chapman and Hall Ltd)이라는 책을 썼습니다. 이언 스튜어트는 『갈루아 이론』의 서문(Historical Introduction)에서 21세의 어린 나이에 결투로 세상을 떠난 천재 수학자 갈루아(Galois, 1811~1832)의 불운과 생전에 아무도 이해하지 못했던 그의 연구 결과가 그가 죽은 뒤 11년 만에 뒤늦게 빛을 보게 되는 과정을 극적으로 잘 서술했습니다.

갈루아 이론은 다항식의 근에 관한 이론입니다. 2차 방정식의 풀이 방법은 상당히 오래 전부터 알려져 있었습니다. 기원전 1600년경의 바빌로니아 점토판에 2차 방정식의 근을 구하는 방법이 나타나 있습니다. 고대 그리스인들은 기하학적인 방법으로 2차 방정식의 근을 구했는데 대수적인 기호로 2차 방정식의 근을 표시하는 것은 기원후 100년경 이후에 나타납니다.

이러한 대칭적 현상은 다항식의 차수가 올라가도 계속 나타나는데 갈루아 이론은 이것을 이용해 5차 다항식의 근의 공식이 존재하지 않는다는 사실을 증명합니다.

사후에 밝혀진 갈루아 이론의 비밀

3차 방정식의 근의 공식은 16세기 르네상스 시대에 당시의 선진국인 이탈리아의 수학자들에 의하여 발견됩니다. 1530년경에 이탈리아의 볼로냐에서 폰타나, 카르다노, 페라리 등의 수학자들이 3차 방정식의 근의 공식을 구하는데 성공합니다. 얼마 후에는 4차 방정식의 근의 공식도 구해집니다. 3차 방정식, 4차 방정식의 근의 공식을 구하는 방법은 2차 방정식의 근의 공식을 구하는 방법과 같은 대수적 작업을 통해 이루어집니다. 3차 방정식과 4차 방정식의 근의 공식을 구하는 과정은 2차 방정식의 근의 공식을 구하는 것보다 복잡할 뿐입니다. 기본적으로 동일한 대수적 과정, 즉, 더하기, 빼기, 곱하기, 나누기, 제곱근, 세제곱근, …… 등의 작업을 통해 2차 방정식, 3차 방정식, 4차 방정식의 근의 공식을 모두 구하는데 성공했으므로 대부분의 수학자들은 5차 방정식의 근의 공식도 동일한 대수적 과정을 통하여 얻으려고 노력합니다.

그런데 16세기 이후 많은 수학자들의 노력에도 불구하고 약 300년이 지나도록 5차 방정식의 근의 공식을 찾는데 실패합니다. 그리고 19세기에 이르러서는 5차 방정식의 근의 공식은 대수적 방법으로는 구할 수 없는 것이 아닌가라는 생각이 수학자들 사이에서 나오게 됩니다. 많은 경우에 어떤 것이 존재하지 않는다는 것을 증명하는 것은 존재한다는 것을 증명하는 것보다 훨씬 어렵고 새로운 사고의 틀을 요구합니다.

18세기말, 19세기 초에 몇몇 수학자들(Tschirnhaus, Lagrange, Ruffini, Abel)은 방정식의 근 사이에 존재하는 대칭적 특성을 이용해 5차 방정식의 근의 공식이 존재하지 않는다는 사실을 부분적으로 증명합니다. 그리고 드디어 1830년경에 프랑스의 갈루아는 완전히 혁명적인 방법으로 5차 다항식의 근의 공식이 존재하지 않는다는 사실을 증명한 논문을 작성합니다. 그러나 당대의 저명한 수학자들도 너무나 시대를 앞서간 갈루아의 논문을 이해하지 못했습니다.

 

수학과 물리학의 광범위한 역사를 쉽게 전달

결과적으로 갈루아의 논문은 무시되고 말았습니다. 1832년 갈루아는 21세의 어린 나이에 (삼각관계에 의한) 결투로 허망하게 사망합니다. 갈루아가 죽은 지 11년이 지난 뒤, 1843년에 프랑스 왕립 과학원에서 조제프 리우빌(Joseph Liouville)은 갈루아의 논문 속에서 정교하고 심오하며 또한 아름다운 연구 결과를 찾았다고 발표합니다. 그 결과는 “5차 방정식의 근의 공식을 대수적인 방법으로는 구할 수 없다”는 것입니다.

이언 스튜어트는 2007년에 『아름다움은 왜 진리인가』(Why Beauty Is Truth: A History of Symmetry)라는 책을 씁니다. 이 책에서는 갈루아 이론을 대칭의 관점에서, 또한 현대 물리학의 여러 혁명적인 개념의 발전과 연관시켜서 알기 쉽게 설명하려고 합니다.

그런데 갈루아 이론은 대학교에서 수학을 전공하는 학생이 열심히 공부하면, 3학년 2학기 혹은 4학년 1학기에 간신히 이해합니다. 솔직히 말하면 수학과를 졸업하는 학생 중에서 갈루아 이론을 제대로 이해하는 학생은 절반이 안 됩니다. 그러니 이언 스튜어트 교수가 아무리 쉽게 설명을 한다고 해도, 수학을 전공으로 공부하지 않은 대다수의 독자는 이론적 내용을 따라가기가 쉽지 않을 듯합니다. 그러나 이 책의 목적은 독자가 수학이나 현대 물리학의 어려운 개념을 완전히 이해하도록 하는 데 있지 않고 큰 줄거리를 역사적으로 개관하도록 도와주는 것입니다. 따라서 책을 읽으면서 세부적인 사항을 이해하지 못하면 그냥 건너뛰면서 편안하게 읽으면 좋을 듯합니다.

 

이기석 한국교원대·수학교육과

필자는 미국 위스콘신 주립대(매디슨)에서 박사학위를 했다. 논문으로는 「유클리드 부호에서 밀집 에러확인 및 수정을 위한 페러티 체크부호의 상계」등이 있으며, 저서에는 『수학으로 본 세상』등이 있다.