|
물체의 길이나 질량, 땅의 넓이, 시간 같은 것을 나타낼 때, 또는 야구의 타율이나 이자율 같은 것을 계산할 때 우리가 사용하는 수는 정수, 유리수, 실수 중 어느 것이라고 생각하는가? 만약 "실수" 라고 대답한다면, 지금까지 배운 수학적 지식이 이미 여러분이 세상을 보는 시각에 영향을 미친 결과이다.
수직선
실제적인 측정이나 계산에서는 분수나 소수, 즉 유리수만 가지고도 충분하다. 무리수를 숫자로 쓰면 (즉 소수로 표현하면) '순환하지 않는 무한소수' 가 되므로 정확히 쓸 수 없다. 따라서 무리수는  나 π 와 같이 기호로밖에 나타낼 수 없으며, 그것들을 가지고 계산한 결과는 + 1 이나 3π 와 같이 하나의 수인데도 불구하고 식처럼 써야 한다. 그런데도 중학교에서 수학을 공부한 사람들은 예를 들어 물체의 길이는 실수라고 생각한다. 왜일까?
우리가 실수를 친숙하게 느끼는 것은 바로 초등학교에서부터 수학 시간에 계속 사용해 온 '수직선' 때문이다. 수학의 이곳저곳에서 워낙 반복적으로 수직선을 사용하다보니 우리의 의식 속에는 "수는 곧 수직선" 이라는 이미지가 단단히 자리잡고 있다. 그런데 중학교에서는 그 직선 위에 유리수를 모두 표시해도 빈틈이 남으며, 그 빈틈에 해당하는 수(무리수) 까지 포함하는 수의 집합을 '실수' 라고 부른다. 그래서 "수는 곧 수직선" 이라는 이미지는 "수직선은 곧 실수의 집합" 이라는 좀 더 세련된 이미지로 바뀐다.
실수의 연속성 또는 완비성
그런데 수직선과 실수를 동일한 것으로 본다면 한 가지 중요한 성질에 착안하지 않을 수 없다. 수직선 위에 모든 실수에 대응하는 점들을 찍으면 직선 위에는 빈 곳이 없게 된다. 연필을 종이에서 떼지 않고 '연속적으로' 주욱 그려 나가도 연필이 지나가는 모든 위치에 실수들을 크기 순서대로 대응시킬 수 있는 것이다. 이것이 유리수가 갖지 못한, 실수의 특이한 성질이고 이런 성질을 가리켜 '실수의 연속성' 이라고 하기도 하지만 다른 중요한 용어와 혼동될 수 있으므로 '완비성' (completeness) 이라고 한다. 이 말은 빈 틈이 없음을 뜻하는 말이다.
여기까지만 생각하면 우리는 실수에 대해 많은 것을 아는 것 같다. 하지만, 사실 실수의 정확한 개념을 정수나 유리수의 경우처럼 상식적으로 이해하기는 어렵다. 예를 들어, 실수로 이루어진 '집합'이 빈틈없다는 것은 실제로는 무슨 말일까? 예를 들어 3 과 4 사이에 3.5 를 비롯한 다른 수들이 연속적으로, 빈틈없이 들어차 있다는 것이 무슨 뜻인지 정말 이해할 수 있을까? 실수는 얼마나 많기에 그 무수히 많은 유리수로도 채워지지 않는 수직선을 빈틈없이 채운단 말인가?
실수가 과연 무엇인지, 어떤 성질을 갖는지는 미적분을 비롯해 많은 다른 수학 분야의 기초가 된다. 실수의 성질을 명확히 하기 대해 수학자들이 기울인 노력의 일부를 들여다 보기 위해 여기서는 '빈틈없다' 라는 성질에 대해 좀 더 자세히 생각해 보자.
유리수의 집합은 빈틈이 있는가?
먼저, '빈 틈' 이라는 것이 무엇인지 알아보기 위해 유리수의 집합에 빈 틈이 있다는 것이 무엇을 말하는지 알아 보자. 수직선에 와 같은 점을 찍을 수 있고 (자와 컴퍼스로 작도할 수도 있다.) 이것은 유리수가 아니기 때문에 그 점에서 유리수의 집합은 끊어져 있다는 것이 중학교 교과서에 나와 있는 내용이다. 하지만 이것은 완전한 설명이 아니다. 수직선은 수의 집합을 나타내는 모형일 뿐이다. 우리가 가진 것이 유리수를 모두 모아 놓은 집합 뿐이라면, 그 집합에 '빈 틈' 이 있다는 것을 그 자체로 어떻게 알 수 있는가? 그 답은 대충 이렇다.
(A) 0.8, 0.88, 0.888, 0.8888, ……
와 같은 수열은 수렴하는가? 즉, 어느 하나의 수에 무한히 가까워져 가는가? 그렇다. 그리고 그 값은 8/9 이므로 이 수열의 극한값은 8/9 이다. 이것이 바로 0.8888…… = 8/9 라고 하는 말의 의미이다. 즉, 0.8888…… 은 (A) 수열의 극한을 나타내는 기호이다.
(B) 0, (1/2), (3/4), (7/8), ……
와 같은 수열은? 역시 수렴하고 그 극한값은 1 이다.
수열이 수렴할 것을 보장할 수 있는 조건은 많지만 그 중 하나의 예로, 위의 두 수열과 같이 계속 증가하면서 어느 한계를 절대 초과하지 않는 수열 (전문용어: 위로 유계인 증가수열) 은 당연히 수렴해야 할 '것처럼 보인다'. 그것들이 수렴하지 않으면 어쩌겠는가? 계속 증가하는 무수히 많은 수들이 어느 한계 이하에서만 값을 취할 수 있다면, 그 한계 아래의 어느 한 곳에 계속 가까워지지 않고 배기겠는가?
그런데, 놀랍게도 우리가 가지고 있는 것이 유리수 뿐이라면, 이렇게 만들어진 수열 (어느 한계를 초과하지 않는 증가 수열) 의 극한값이 존재하지 않는 경우가 생긴다. 예를 들어,
(C) 1, 1.4, 1.41, 1.414, 1.4142, ……
이 수열의 원소들은, 그 자신은 제곱해서 2 보다 작되, 끝자리수에 1 을 더해서 제곱하면 2 보다 커지게 되는 유한소수들이다. 이 수열은 분명 계속 증가하고 있으며, 1.5 를 넘을 수 없으므로 당연히 어딘가로 수렴해야 할 것 같은데, 수열의 각 원소가 유리수임에도 불구하고 그 극한값은 유리수의 집합 안에는 없다. 바로 여기에서 유리수의 집합의 '빈 틈' 이 발견된다. 다시 말해, (C) 의 수열은 유리수의 집합의 '빈 틈' 을 향해서 수렴하고 있는 것이다!
실수의 집합은 정말 빈틈이 없는가?
'빈 틈' 이라는 것의 수학적인 의미는 무한에 기초한 것이므로 수직선 위에 구멍이 뚫렸다는 식으로 직관적으로 파악하는 것과는 상당한 거리가 있다. 그러나 그런 '이상한' 정의와 논의는 결국 직관적으로 생각하던 개념들에 논리적인 근거를 주고, 동시에 불완전한 기초 때문에 나타나는 논리적인 문제들을 해결하기 위한 것이다. 고대 그리스의 '제논의 역설' 등 무한에 관련된 많은 문제들은 이처럼 무한을 하나의 실체로 (물론 수와는 다른 실체임) 인정하고 그것을 통해 실수의 개념을 명확히 함으로써 해결되었다. 특히, 대부분의 자연 현상과 사회 현상을 설명하는 이론들의 중요한 도구가 되고, 물리학을 비롯한 많은 분야에 응용되고 있으며, 우리 생활에도 적지 않은 영향을 주고 있는 미적분학(calculus) 역시 이러한 기초 위에 서 있는 것이다.
수학에서는 최소한의 가정으로 출발하는 것이 큰 가치를 가지므로 현재 수학에서 쓰이는 빈틈없음의 엄밀한 정의(실수에 대한 '완비성의 공리') 는 다음과 같이 다소 뜬구름 잡는 듯하다.
완비성의 공리: 어느 값을 초과하지 않는 원소들로만 이루어진, 실수의 부분집합(단, 공집합이 아닌)을 임의로 잡고 그것을 A 라 하자. 이 때, A 의 어떤 원소도 u 를 초과하지 않게되는 실수 u 들의 집합을 잡고 그것을 U 라 하면, U 에는 최소값이 있다. (전문용어: 위로 유계인 실수의 임의의 부분집합에 대해 최소상계가 존재한다.)
하지만 그 의도는 결국 '빈 틈' 이 없다는 것이다. 즉, 위 공리에서 A 와 U 는 어떤 경계를 맞대고 있으며, 그 경계가 바로 U 의 최소값이다. 그런데 U 의 최소값이 없다는 것은 그 경계가 바로 '빈 틈' 이 된다는 것이며, 공리는 그런 경우가 없다 (없어야 한다) 는 말을 하고 있는 것이다.
우리는 자연수의 집합을 확장하여 정수의 집합을 만들었고, 다시 확장하여 유리수의 집합을 만들었다. 하지만 유리수의 집합의 빈 틈을 '모두' 메울 수 있도록, 그것도 유리수의 집합이 가지고 있는 덧셈과 곱셈에 대한 좋은 성질 (결합법칙, 분배법칙, 순서 등등) 들을 잃지 않도록 확장하여 실수의 집합을 만들기는 쉬운 일이 아니다. 그 해답은 20세기 초에 칸토르와 데데킨트에 의해 나왔다. 그 방법들을 여기서 소개하지는 않겠지만2), 결국 '순환하지 않는 무한소수' 를 곧 무리수로 볼 수 있다는 결론이 나오게 된다.
빈틈을 메운다는 것
우리가 수직선과 실수를 같은 것으로 볼 수 있는 것, 그리고 정수, 유한소수, 순환하는 무한소수는 유리수이고 순환하지 않는 무한소수는 무리수이며 그 모두를 합하면 실수 전체의 집합을 이룬다고 막연히 알고 있는 것을 정말 그렇게 되게 하고, 동시에 미적분학과 같은 수학 이론이 전개되면서 나타난 논리적인 문제들을 해결하기 위해 수학자들이 '따지고 들어간' 역사를 보면 마치 한 편의 드라마처럼 흥미진진하다. (단지 어느 정도 수학을 공부해야만 볼 수 있는 드라마임) 그것은 유리수의 집합의 '빈 틈' 을 메우는 동시에 수학의 기초에 놓여 있던 논리적인 '빈 틈' 을 메운 것이기도 하다.
참고
수학용어 - 실수
답변모음 - 실수에 대하여, 수의 구성·체계
송영준(yacc@mathlove.org) |