소설로 읽는 수학사: 오일러 편 (3부): 무한의 계단을 올라 신의 원(π)을 만나다 — 바젤 문제의 기적

소설로 읽는 수학사: 오일러 편 (3부)

무한의 계단을 올라 신의 원(π)을 만나다 — 바젤 문제의 기적

유럽 수학계의 자존심을 무참히 짓밟은 수식이 하나 있었다. '자연수의 제곱의 역수들을 무한히 더하면 과연 어떤 값이 나오는가?' 1644년 제기된 이래, 베르누이 가문의 천재들조차 60년이 넘도록 풀지 못한 이 저주받은 '바젤 문제(Basel Problem)' 앞에 수학계는 침묵했다. 그러나 1735년, 28세의 청년 레온하르트 오일러는 누구도 상상하지 못한 이단의 발상을 꺼내든다. 직선의 합을 구하는 계산에, 뜬금없이 '원'의 기하학을 끌어들인 것이다. 무한한 대수학의 계단 끝에서 기하학의 원주율(π)이 나타나는 경이로운 순간, 인류는 수학이라는 학문이 완벽하게 연결된 하나의 거대한 유기체임을 깨달았다.

HISTORY OF MATHEMATICS

제1장: 60년의 절망, 닫혀버린 무한의 계단

스위스의 아름다운 도시 바젤. 라인강이 조용히 굽이쳐 흐르는 이 평화로운 도시는 17세기 후반부터 유럽 수학계의 가장 치열한 전장이었다. 당시 유럽의 지성을 지배하던 자들은 스위스의 명문가, 베르누이 가문의 형제들이었다. 야코프 베르누이와 요한 베르누이는 당대 최고의 미적분학의 대가들이었으며, 그들의 오만함은 하늘을 찔렀다. 그러나 그 무소불위의 권력을 자랑하던 형제들조차 무릎을 꿇게 만든 잔혹한 수식이 하나 있었다. 바로 1644년 이탈리아의 수학자 피에트로 멩골리가 처음 제기했던 무한급수 문제였다.

수식은 겉보기에 소름 끼치도록 단순했다. 1, 4, 9, 16... 이처럼 자연수를 제곱한 값들을 뒤집어, 그 역수들을 무한히 더해나가는 것이다. 즉, $1 + \frac{1}{4} + \frac{1}{9} + \frac{1}{16} + \frac{1}{25} + \dots$ 이 덧셈을 무한의 끝까지 밀어붙이면 과연 어떤 값에 도달하는가? 숫자가 점점 작아지므로 어느 특정한 한계치(극한값)에 수렴한다는 것은 자명해 보였다. 문제는 그 '정확한 값'이 무엇이냐는 것이었다. 근삿값을 구하는 것은 누구나 할 수 있었지만, 수학자들이 원하는 것은 언제나 한 치의 오차도 없는 신의 정답, 즉 '해석적 해'였다.

"이것은 악마가 던진 조롱이다. 1과 $\frac{1}{2}$과 $\frac{1}{4}$을 더하는 기하급수라면 차라리 쉽다. 하지만 제곱수들의 역수는 도무지 규칙적인 패턴을 내어주지 않는다."

"내가 이 문제에 매달린 지 십수 년이 지났건만, 이 수식은 나를 절망의 나락으로 떨어뜨릴 뿐이다."

위대한 야코프 베르누이는 1689년 자신의 저서에 이 문제를 언급하며, 인간의 지성으로는 이 수식을 완벽하게 풀어낼 수 없을지도 모른다고 탄식했다. 유럽 전역의 학술원에는 현상금이 걸렸고, 고트프리트 라이프니츠를 비롯한 당대의 지성들이 모두 이 문제에 덤벼들었으나 결과는 처참한 실패였다. 대수학의 가장 정밀한 칼날조차 이 무한의 껍질을 베어내지 못했다. 이것이 훗날 수학사에서 '바젤 문제(Basel Problem)'라 불리게 될 60년의 절망이었다.

시간은 흐르고 흘러 1735년이 되었다. 무대는 바젤에서 머나먼 상트페테르부르크의 혹한 속으로 옮겨졌다. 촛불 한 자루에 의지해 밤을 새우던 스물여덟 살의 청년 수학자 레온하르트 오일러의 책상 위에도 이 오래된 난제가 놓여 있었다. 요한 베르누이의 제자였던 그는 스승의 가문이 평생을 바쳐도 풀지 못한 이 끔찍한 수식을 뚫어져라 응시했다. 오일러의 머릿속에는 이미 수천만 개의 숫자들이 거대한 소용돌이를 치고 있었다. 그는 기존의 수학자들이 가졌던 강박, 즉 '숫자를 더해서 값을 구한다'는 산술적 집착을 버리기로 했다. 무한을 무한으로 상대하는 것은 미련한 짓이다. 오일러에게 필요한 것은 계산이 아니라, 차원을 도약하는 기묘한 상상력이었다.

♦ ♦ ♦

제2장: 이단의 상상력, 선을 둥글게 말아 올리다

오일러의 사유는 동시대의 어떤 학자와도 궤를 달리했다. 그는 수의 덧셈이라는 지극히 선형적이고 직선적인 문제에, 전혀 다른 세계의 개념을 충돌시키기로 마음먹었다. 그것은 주기적으로 진동하며 파동을 만들어내는 '삼각함수(Sine)'였다. 대수학의 무한급수 문제에 기하학의 삼각함수를 끌어들인다는 것은, 당시 수학계의 엄격한 문법으로 보자면 미친 짓이거나 완전한 이단에 가까웠다.

하지만 오일러는 확신했다. 우주의 모든 진리는 보이지 않는 거미줄처럼 하나로 엮여 있다고. 그는 자신이 이전에 연구했던 사인 함수(sine function)의 테일러 급수 전개를 종이 위에 휘갈겼다.

$\sin(x) = x - \frac{x^3}{3!} + \frac{x^5}{5!} - \frac{x^7}{7!} + \dots$

오일러는 이 거대한 무한의 다항식을 물끄러미 바라보았다. 그리고 여기서 인류 수학사에서 가장 아찔하고 위험한 도약을 감행한다. 그는 이 무한한 꼬리를 가진 초월함수를 마치 중학생들이 푸는 유한한 다항식의 '인수분해'처럼 다룰 수 있을 것이라 가정했다. 어떤 다항식이든 해(근)를 알면 $(x - a)(x - b)$의 형태로 묶어낼 수 있지 않은가?

"$\sin(x)$가 0이 되는 지점, 즉 $x$축을 통과하는 해(근)는 어디인가? 그것은 명백하다. $0, \pm\pi, \pm2\pi, \pm3\pi \dots$ 바로 원주율($\pi$)의 정수배 지점들이다."

"그렇다면 $\frac{\sin(x)}{x}$라는 거대한 무한 다항식은, 해를 이용해 다음과 같은 무한한 곱셈의 형태로 완벽하게 분해될 수 있어야 한다!"

오일러는 깃펜을 부러질 듯 쥐고 수식을 전개해 나갔다. 무한한 덧셈의 세계를 무한한 곱셈의 세계로 뒤집어 버리는 경이로운 연산이었다. 그는 두 개의 완전히 다른 기원에서 출발한 수식, 즉 '테일러 급수로 전개한 $\frac{\sin(x)}{x}$'와 '근(root)으로 인수분해한 $\frac{\sin(x)}{x}$'를 양쪽에 나란히 세워두었다. 같은 대상을 다르게 표현했을 뿐이므로, 두 수식의 계수는 반드시 일치해야만 했다.

상트페테르부르크의 새벽이 밝아오고 있었다. 오일러의 손끝에서, 좌항과 우항에 흩어져 있던 복잡한 찌꺼기들이 마법처럼 소거되기 시작했다. 그는 오직 $x^2$ 앞에 붙어있는 계수만을 추출해 내었다. 그리고 그 순간, 오일러는 숨을 멈췄다. 펜 끝에 맺힌 잉크 방울이 툭 하고 양피지 위로 떨어졌다. 60년 동안 유럽의 천재들을 조롱하던 그 저주받은 제곱수의 역수들이, 좌변에 가지런히 모여 그에게 인사를 건네고 있었다.

♦ ♦ ♦

제3장: 무한의 끝에 강림한 완벽한 원

$1 + \frac{1}{4} + \frac{1}{9} + \frac{1}{16} + \dots = \frac{\pi^2}{6}$

오일러는 자신의 눈을 의심했다. 계산을 두 번, 세 번 다시 해보았지만 결과는 요지부동이었다. 직선의 길이, 혹은 조각난 분수들의 무미건조한 산술을 영원히 더했는데, 그 무한의 끝에 도달하자 뜬금없이 '원주율의 제곱($\pi^2$)'이 나타난 것이다. 동그라미를 그릴 때나 사용하는 기하학적 상수가, 순수한 정수들의 덧셈 한가운데에 버젓이 왕좌를 차지하고 있었다.

이것은 단순한 계산의 결과가 아니었다. 그것은 철학적 충격이자, 우주의 비밀이 벗겨지는 찰나였다. 원주율 $\pi$는 닫힌 원의 완벽함을 상징하는 숫자다. 반면 자연수의 역수들을 더하는 행위는 끝없이 쪼개어지며 무한을 향해 나아가는 분열의 과정이다. 분열과 무한을 향해 뻗어나가는 선형적 행위의 끝에, 우주에서 가장 완벽하게 닫힌 도형인 '원'이 기다리고 있었던 것이다.

스승인 요한 베르누이에게 이 편지가 도착했을 때, 늙은 거장은 충격을 금치 못했다. 자신과 자신의 천재적인 형제 야코프가 평생을 매달리고도 풀지 못한 난제를, 자신의 새파란 제자가 단숨에 박살 내버린 것이다. 더구나 그 방식은 당시의 엄밀한 수학적 잣대로는 증명하기 힘든 아슬아슬하고 대담한 '직관의 비약'이었다. 베르누이는 패배를 인정해야 했다. 그는 오일러의 천재성 앞에 고개를 숙이며 "바젤의 난제를 푼 자, 그는 이제 유럽의 스승이다"라고 선언했다.

오일러는 바젤 문제의 해결을 통해 수학계의 제왕으로 등극했다. 그는 여기에서 멈추지 않고 짝수 제곱의 역수($4, 6, 8\dots$)들의 합까지 줄줄이 구역질이 날 정도로 정확하게 계산해 냈다. 오일러의 이 경이로운 통찰력은 단순한 기교가 아니었다. 그는 분야를 가로지르는 장벽을 허물어버렸다. 대수학, 기하학, 삼각함수가 본질적으로 분리된 학문이 아니라, 하나의 거대한 신의 언어라는 것을 증명해 낸 것이다.

맹인이 되어갈수록 오일러의 내면은 더욱 선명해졌다. 눈에 보이는 사물들은 쪼개지고 흩어져 사라질지 모르나, 수학의 진리는 무한의 심연 속에서도 결국 완벽한 형태(원)로 수렴한다는 사실. 그것은 젊은 날 오일러가 바젤 문제에서 맛보았던 철학적 희열이자, 평생토록 그를 어둠 속에서 버티게 한 빛이었다.

"부서진 숫자들의 파편을 무한의 끝까지 쫓아갔을 때, 나는 그곳에서 모든 것을 품고 있는 신의 완벽한 둥근 원을 만났다. 우주에 고립된 진리란 존재하지 않는다."

수학 원리 심화: 바젤 문제와 테일러 급수

개념	설명 및 수식
바젤 문제 (Basel Problem)	$\sum_{n=1}^{\infty} \frac{1}{n^2} = 1 + \frac{1}{4} + \frac{1}{9} + \frac{1}{16} + \dots$ 의 정확한 합을 구하는 난제. 1644년 멩골리가 제기.
사인 함수 전개 (Taylor Series)	$\frac{\sin(x)}{x} = 1 - \frac{x^2}{3!} + \frac{x^4}{5!} - \frac{x^6}{7!} + \dots$ (무한 다항식 형태)
무한 곱 전개 (Infinite Product)	방정식 $\sin(x)=0$의 근($x = \pm\pi, \pm2\pi \dots$)을 이용해 인수분해: $\frac{\sin(x)}{x} = (1 - \frac{x^2}{\pi^2})(1 - \frac{x^2}{4\pi^2})(1 - \frac{x^2}{9\pi^2}) \dots$
계수 비교 (Coefficient)	위의 두 전개식에서 $x^2$의 계수만을 뽑아내어 비교하면: $-\frac{1}{3!} = -\frac{1}{\pi^2} - \frac{1}{4\pi^2} - \frac{1}{9\pi^2} \dots$ 따라서 $\frac{1}{1} + \frac{1}{4} + \frac{1}{9} \dots = \frac{\pi^2}{6}$이 도출됨.

[오일러의 무모한 직관 (Euler's Intuition)]

현대 수학의 엄밀한 기준(엡실론-델타 논법 등)으로 볼 때, 오일러가 무한 다항식을 유한 다항식처럼 마음대로 인수분해한 과정은 논리적 허점이 있었습니다. (바이어슈트라스의 분해 정리로 수십 년 뒤에야 완벽히 증명됨). 그러나 오일러는 이런 사소한 논리적 결함에 얽매이지 않고, 압도적인 '직관'으로 결론에 도달했습니다. 그는 여러 방법으로 근삿값을 소수점 20자리까지 계산하여 자신의 $\frac{\pi^2}{6}$ 결과와 완벽히 일치함을 확인하고 확신을 가졌습니다. 엄밀함을 뛰어넘는 천재의 대담성이 수학사를 바꾼 것입니다.

[작가의 해설]
바젤 문제를 푸는 오일러의 사유를 묘사할 때면 늘 가슴이 뜁니다. 대수학(분수들의 합)과 기하학(원주율 $\pi$)은 당시 수학자들에게 완전히 다른 세계의 언어였습니다. 하지만 오일러는 삼각함수라는 다리를 놓아 두 세계를 하나로 연결해버립니다. 이는 마치 이질적인 두 차원이 충돌하여 새로운 우주가 탄생하는 빅뱅과 같습니다. 인간의 직관이 논리의 빈틈을 훌쩍 뛰어넘어 절대적 진리를 포착해 내는 순간. 그것은 기계나 AI가 흉내 낼 수 없는, 인간 지성의 가장 문학적이고 철학적인 승리라 할 수 있습니다.

📌 다음 수학 이야기 예고 「소설로 읽는 수학사: 오일러 편 (4부): 혼돈 속에 배열된 완벽한 게임 — 라틴 방진과 정수론」
현대인들이 즐기는 '스도쿠(Sudoku)'의 기원은 18세기 맹인 수학자의 머릿속에서 탄생했습니다. 숫자의 유희를 조합론이라는 거대한 학문으로 승화시킨 오일러. 얽히고설킨 진법 속에서 완벽한 대칭을 찾아내는 천재의 마지막 퍼즐 맞추기가 시작됩니다.