뉴턴과 라이프니츠

  뉴턴은 1642년 성탄절에 울스토프의 링컨셔 빌리지에서 태어나, 1661년 케임브리지 칼리지에 입학한 이후 거의 독학으로 천문학과 수학 석사학위를 취득했다. 페스트를 피해 고향으로 내려간 1665년부터 2년 동안 뉴턴은 독창적인 과학적 사유를 통해 세계사에 유례가 없는 학문적 업적을 이룩하는 풍요로운 시기를 보냈다. 이 시기에 뉴턴은 미분법을 유율법 method of fluxions 으로 명명했고, 유율법의 역(적분법)을 개발했다.

 뉴턴은 카발리에리의 ‘분할 불가능한 궁극적 양’을 배격하고 그 대신에 “사라져 가는 분할 가능한 양”, 즉 끝없이 작아질 수 있는 양을 채택했다.

“사라져 가는 양들의 궁극적 비는 엄밀하게 말해서 궁극적 양의 비가 아니라 한없이 작아지는 이 양들의 비가 근접해 가는 극한값이다. 어떤 수치가 주어지더라도 그 수치 이내로 가까워지지만 그렇다고 해서 이 양들이 무한정 작아지기 전에 극한값을 지나거나 도달할 수는 없다.”

 분명하지는 않지만 유율의 의미에 대한 뉴턴의 설명 가운데서는 가장 명료한 진술이다. 그의 수학 연구 성과는 물리학적으로 옳았기 때문에 뉴턴은 미적분학의 논리적 기초를 세우는 일에 시간을 거의 할애하지 않았다. 그는 특히 행성의 운동에 관심을 가지고 있었다. 뉴턴은 시간 t에 따라 변화하는 거리 r을 고찰했다. 그는 주어진 함수를 흐름(fluent)이라 명명하고, 기울기 함수를 흐르는 정도(fluxion, 유율)라고 명명했다.  

 라이프니츠는 1646년 라이프치히에서 태어나 15세에 라이프치히 대학에 입학하여 5년만에 박사학위를 받았다. 1672년 파리에서 고위 외교관으로 일하면서 여러 차례 네덜란드와 영국을 방문했다. 그 일을 통해 네덜란드 과학자 호이겐스의 독려로 수학에 입문하게 되었다. 1684년 미적분학의 근본 원리들에 관한 발표를 하자 영국 수학자들은 라이프니츠가 뉴턴의 생각을 훔쳤다고 비난했다. 실제로 1673년 런던 왕립학회를 방문했을 때 뉴턴의 미출간 논문들 중 일부를 본 것이 분명하며, 1676년에는 뉴턴이 상세한 정보에 대한 두 통의 편지를 라이프니츠에게 알려주었다.

 더욱 기하학적인 라이프니츠의 설명은 여러 가지 면에서 더 자연스러웠기 때문에 빠르게 유럽 전체의 호응을 얻었다. 실제로 미적분학에 보편적으로 채택되는 것은 라이프니츠의 기하학적 접근이다. 그러나 오늘날 뉴턴과 라이프니츠 모두를 ‘미적분학의 아버지’로 평가하고 있다.

 미분이 적용되는 근본적인 수학적 대상은 함수라 불린다. 함수란, 한 수가 주어졌을 때 다른 한 수를 계산할 수 있도록 해주는 규칙이다. 미적분학을 이용하려면 먼저 해당 운동이나 변화를 기술하는 패턴(함수)을 가지고 있어야 한다. 미적분학의 기본 연산은 소위 미분이라 불리는 과정인데, 미분의 목표는 어떤 극소 변화량의 변화율을 얻는 것이다.

 y=sinx와 같은 종류의 함수의 변화율은 어떻게 계산할 것인가. 즉 x의 변화에 대한 y의 변화율을 어떻게 계산할 것인가? y값이 x값에 따라 변하는 것과 마찬가지로 임의의 점에서의 기울기도 x값에 따라 변한다. 다시 말해서 함수의 기울기 역시 하나의 함수이다. 즉 제2의 함수이다.

 뉴턴과 라이프니츠가 발견한 방법은 본질적으로 다음과 같다. y=x²꼴의 함수를 통해 설명해보자.

 

선분 AB의 x성분 증가량은 h, y성분 증가량은 (x+h)²-x² 이다.

따라서 점 A, B를 잇는 직선의 기울기는

(x+h)²-x²/h = 2xh+h² /h 가 된다.

h가 점점 작아지면, B점이 P점에 점점 가깝게 다가온다. 예를 들어 x=5인 경우에, h값이 0.1, 0.01, 0.001, 0.0001, 등으로 순차적으로 작아진다면 직선 AB의 기울기는 10.1, 10.01, 10.001, 10.000... 등이 된다. 결국 직선 AB의 기울기가 10.0값에 점점 다가가는 것으로 보인다.

이러한 방식의 설명이 라이프니츠의 접근방식이다. 여기서 h가 0으로 근접해갈 때 x의 증분을 dx라 하며, y의 증분을 dy라 한다. 따라서 그 기울기는 dy/dx가 된다. 이 값은 점 A의 기울기가 갖는 극한값에 해당된다. 함수가 둘 간의 관계에 관심이 있다면, 미분은 그 둘의 비율의 극한값에 관심이 있다.

 동기와 기호는 다르다 할지라도, 뉴턴과 라이프니츠 두 사람 모두가 기여한 부분은, 특정한 점 A에서의 기울기를 묻는 본질적으로 정적인 상황에서, 그 기울기를 A를 지나는 직선들의 기울기로 순차적으로 근사시키는 동적인 과정으로 관심의 초점을 옮긴 것이다. 이 근사 과정 속에서 등장하는 수적, 기하학적 패턴을 포착했기 때문에 뉴턴과 라이프니츠는 올바른 해결책에 이를 수 있었던 것이다.

 여기서 중요한 것은 h값을 0과 같도록 만드는 것이 뉴턴과 라이프니츠가 한 일이 아님을 알아야 한다. h가 0이라면 A와 B는 한 점이 되어 사라지기 때문에 직선도, 기울기도 의미가 없게 된다. 바로 이 문제 때문에 뉴턴과 라이프니츠 당대뿐만 아니라 뒤이은 여러 세대 동안 중요한 오해와 혼동이 발생했다. 라이프니츠는 ‘무한히 작은 양이란 단순하고 절대적인 0이 아니라 상대적인 0, 즉 사라져 가지만 그 특성은 유지하는 양이라고 말했다. 하지만 다른 곳에서는 진정으로 무한히 큰 양과 진정으로 무한히 작은 양의 존재는 믿지 않는다’고 말했다. 또 그는, 만약에 연산 규칙을 분명하게 정해 놓는다면, 그리고 이 규칙들을 적절히 적용한다면 그 개념이 다소 모호하다고 해도 합리적이고 올바른 결과를 얻게 된다고 확신했으며, 새로운 과학이 그 모습을 드러낼 것이라고 주저 없이 선언했다. 이와 같이 미적분의 최대 공헌자들 역시 정돈되지 않은 이론을 전개했기 때문에 그 반대 비판을 깨끗하게 잠재울 수는 없었다. 비판자 중 특히 영국의 철학자 버클리 주교의 비판이 유명하다.

또한 이 흐르는 정도는 무엇인가? 사라지는 증가량의 속도이다. 그렇다면 이 사라지는 증가량은 도대체 무엇인가? 그것은 유한한 크기도 아니고, 무한히 작은 크기도 아니고, 아무것도 아니다. 그렇다면 우리가 그것을 떠나간 크기의 유령이라고 불러도 좋지 않을까?

버클리가 뉴턴이 사라져 가는 양 사이의 비율로 도함수를 정의한 것에 대해 비판한 것이다.고정된 양 h를 염두에 둔다면, 버클리의 반론은 전적으로 타당하다고 할 수 있다. 그는 라이프니츠의 방식에도 마찬가지로 비판적이었다.

종교 문제에 대해 그토록 까다로운 수학자들이 과연 자신들의 학문에서도 그런 엄밀성을 유지하는가? 그들 역시 권위에 굴복해 따져 보지도 않고 받아들이거나 믿을 수 없는 것을 덮어 놓고 믿고 있지는 않은가? 그들에게는 과연 미몽이 없으며 자가당착과 모순은 없는가?