학습자료실

整數論 / Number Theory[1]

정수론, 또는 수론은 정수(ℤ)의 성질 또는 정수가 등장하는 경우[2]들을 연구하는 학문이다. 위의 가우스 명언 속에서 보이듯 원래 정수론은 산술(Arithmetik)에서 출발했으나 현대 독일어에서도 산술이 아닌 Zahlentheorie라 부른다.[3] 

고대부터 중세까지의 수학에서 정수론은 기하학, 해석학, 대수학과 어깨를 나란히 하는 학문 파트 중 하나였다. 흔히 수학을 산술, 대수, 기하, 해석으로 분류하는데, 정수론은 이 중에서 산술(arithmetic)[4] 이라는 명칭으로 불리던 분야이다. 독자적인 이론도 풍부했으며, 그 때문에 한국수학올림피아드 같은 곳에선 아직도 독립된 분야로 다루고 있다.[5] 정수 체계는 수학의 가장 중심적인 영역이기도 한데, 인간이 연구하는 수학적 관념들의 시작점이기 때문. 이와 관련하여 수학자 레오폴드 크로네커는 "자연수는 신의 선물, 나머지 모든 것은 인간의 작품이다."이라는 명언을 남기기도 하였다.

정수론은 유명한 난제가 제일 많이 존재하는 수학 세부 분야이다. 다른 분야는 애초에 문제 자체를 일반인은 이해할 수 없는 경우가 대부분이므로 유명해지는 것부터가 쉽지 않다. 반면에 정수론은 문제 그 자체는 중학생도 이해할 수 있을 정도로 쉬운 경우가 많기 때문에 유명해지기가 쉽다. 특히 콜라츠 추측 같은 문제는 초등학생도 매우 쉽게 이해할 수 있는 문제이지만 100년 가까이 증명되지 않았다. 가우스도 누구나 쉽게 페르마의 정리와 같은 문제를 만들어 낼 수 있을 것이라고 했을 정도.[6] 물론 정수론의 난제를 풀어내기 위해서는 다른 분야만큼이나 고난이도의 방법론이 사용된다.

정수론에서 가장 유명했던 난제는 1990년대에 앤드루 와일즈에 의해 풀린 페르마의 마지막 정리였다. 이 정리의 내용은 "정수 $�\ge 3$에 대해, ${�}^{�}+{�}^{�}={�}^{�}$ 을 만족하는 자명하지 않은 해[7]는 존재하지 않는다" 이다.[8] 이 분야에서 아직까지 풀리지 않은 문제는 골드바흐 추측과 리만 가설 등이 있다.

정수론의 현실 세계에서의 쓰임새는 다른 수학 분야에 비해 적지만, 아이러니하게도 정수론의 문제를 해결하기 위해 모든 분야들을 총동원하는 것을 볼 수 있다. 최전방의 수학 분야들이 정수론 문제들을 고려하여 이끌어진 것이 꽤 되고, 이 과정 속에서 필즈상을 타는 경우도 제법 있다. 그런 이유에서 동떨어진 듯한 분야에서의 놀라운 정리가 사실 역사적으로는 정수론의 문제를 해결하려는 도중에 발견된 것들도 많이 있다.

상기했듯이 쓰임새가 적은 편이라 '잉여 분야'라는 이미지가 있지만[9] 그래도 사용하는 곳이 생각보다는 많다. 암호학의 기본 이론도 이 정수론을 기본으로 하고 있으며,[10] 정보와 관련된 이론들도 상당 부분 정수론을 기본으로 한다. .그리고 컴퓨터가 발달되면서 사용빈도가 늘었다. 그 이유라 하면, 컴퓨터에서 정수는 정확한 값을 가질 수 있기 때문이다. 실수형 타입의 경우에는 round off error(반올림 오차)[11]가 발생하기 때문에 이로 인한 문제가 발생할 수 있다.

컴퓨터 공학 비전공자를 위해 최대한 이해가 쉽게 설명하면, 컴퓨터의 floating point 시스템은 소수점 이상과 소수점 이하를 합쳐서 표현할 수 있는 '유효 숫자' 자리수에 한계가 정해져 있다. 설명을 위해 유효 숫자 자리수가 예를 들어 6 자리라고 가정하자. 그럼 12345600, 1234560, 123456, 12345.6, 1234.56, 123.456, 12.3456 1.23456, 0.123456, 0.0123456, 0.00123456 등은 모두 표현 가능하다. 12345600 은 8 자리인데 왜 유효 숫자가 6 개인지 의문을 가질 수 있는데, 이 경우에는 소수점 이하의 값이 없고(0 이고) 동시에 소수점 이상에서 일의 자리와 십의 자리 둘다 0 이기 때문에 이는 유효 정보가 없는 것으로 취급할 수 있기 때문이다. 0.00123456 도 명목상으로는 소수점 이하 8 자리이지만 비슷하게 소수점 이상의 값이 없고(0 이고) 소수점 이하에서도 처음 두 자리 모두 0 이라 똑같이 유효 정보가 없는 것으로 간주할 수 있다. 즉 앞에서 든 모든 숫자에서 유효 정보는 모두 123456 으로 6 자리 동일하다. 이 유효 정보에다 다른 추가 정보를 사용해서 앞에서 든 값을 각각 구분해서 표현하는 것이다. 자 그런데 12345600 과 값이 단 1 차이인 12345601 을 생각해보자. 값이 단 1 차이지만, 12345601 은 일의 자리가 0 이 아니므로 이를 정확하게 표현하기 위한 유효 숫자는 이제 8 자리로 늘어난다. 하지만 앞에서 유효 숫자는 6 자리가 한계라고 가정했기 때문에, 12345601 은 유효 숫자 6 자리로 표현할 수 있는 근사값 12345600 (혹은 12345700) 으로 쓰여야 하고 오차가 발생해버린다. 마찬가지로 0.001234561 은 0.00123456 와 겨우 0.000000001 차이에 불과하지만 표현할 수 없는 숫자가 되어 0.00123456 (혹은 0.00123457) 로 쓰여야 하고 오차가 발생해버린다.][12] 때문에 오차가 생기고, 이 오차는 계산을 거듭할수록 걷잡을 수 없이 커지기 때문이다. 게다가 컴퓨터에서의 수 표현은 수를 표현할 저장공간의 한계상 정수론에서 말하는 시계 산술을 사용한다.

정수론이 잉여 분야이며 연구도 활발하지 않다고 많이 까이지만, 수학의 공리 대부분은 정수론에 대한 공리이다. 왜 21세기에 정수론 연구가 활발하지 않냐 하면 정수론은 고대 그리스, 아니 고대 이집트 시대부터 연구된 수학사적 총체이기 때문이다. 거의 5,000년 정도 수학자들이 열심히 연구해서 현재의 토대를 구축한 것이다. 5,000년 동안 연구해 왔으니 생각보다 많은 부분이 증명 또는 합의에 의한 공리체계로 정리되어 있다. 그럼에도 불구하고 정수론에는 난제가 너무나도 많고, 이것을 증명 또는 공리로 정하는 방법을 찾지 못하고 계속해서 난제가 쌓여가는 모습을 볼 수 있다. 그야말로 정수론은 수학 체계에서 원점이자 정점 그 자체이다.

참고로 이름은 '정수론'이지만 기초 수준에서는 정수보다는 자연수, 그중에서도 소수를 중점적으로 다룬다. 음의 정수는 잘 다뤄지지 않는데, 대부분의 곱셈에 관련된 문제에서 양의 정수에 -1을 곱하는 것으로 음의 정수를 다룰 수 있기 때문이다. 또한 합성수들은 소수의 곱으로 생각할 수 있기 때문에[13], 결국 소수가 다른 정수들보다 더 중요한 대우를 받게 된다.

정수론에서 가장 중심적으로 연구하는 것은 소수이다. 당장 생각나는 특징들은 모두 소수와 관련된 정리나 추측인 것이 많다. 예로, 4 이상의 모든 짝수는 두 소수의 합으로 나타낼 수 있다라든가, 6 이상의 모든 자연수는 세 소수의 합으로 나타낼 수 있다라든가.[14]

$(�-1)!\equiv -1\left(\text{mod }�\right)$[15] 와 ${�}^{�-1}\equiv 1\left(\text{mod }�\right)$ (단, $�$는 정수, $�$와 $�$는 서로소)[16] 같은 간단한 식도 $�$가 소수일 때에 성립하는 식들이다.

정수론에서 이렇게 소수에 열광하는 이유는 바로 소수들에 대해서 알면 바로 정수 전체에 대해서 알 수 있기 때문이다. 대표적인 예로 하세-민코프스키 정리가 있는데, 모든 $�$진 체와 실수 집합에 대해서 유리계수 이차형식이 해를 가지면 유리수 위에서 해를 가진다. 그러니까 모든 소수들 (실수 집합도 하나의 소수라고 보자.)에 대해서 해를 가지고 있다면 바로 유리수에 대한 존재성으로 생각할 수 있다.

사실 이 $�$진체라는 것이 대수적 정수론에서 매우 중요한 개념인데, 이는 실수와 다른 방향으로의 유리수의 완비화로서 헨젤의 보조정리를 통해 정수의 국소적 성질이 옮겨질 수 있고, 위상적 성질도 꽤나 간단하며 이를 이용해서 adele이라는 개념을 정의하여 소수의 곱도 위상적으로 나타낼 수 있다. 이의 응용으로 $�$진 양자역학이라는 것도 있다.

정수론 연구를 위해 만든 특수함수들이 있는데 이를 산술함수라고 한다. 최대공약수, 최소공배수, 약수 함수, 소인수 계량 함수 같은 기초적인 것부터 뫼비우스 함수, 오일러 파이 함수, 폰 망골트 함수, 체비쇼프 함수 같은 것까지 지겹도록 접하게 된다.

엄밀한 의미의 산술함수라고 볼 수는 없지만 지시함수[17], 리만 제타 함수, 로그 적분 함수 같은 것도 자못 많이 쓰인다.

디오판토스 방정식 또한 정수론에서 중심적으로 연구하는 주제이다. 1차 부정방정식이나 펠 방정식처럼 간단한 문제부터 타원곡선 같은 현대의 복잡한 방정식까지의 다양한 다항방정식의 정수해에 대해서 연구한다. 디오판토스 방정식을 풀기 위해서 다양한 이론이 개발되었는데 일례로 대수학의 아이디얼이 19세기에 페르마의 마지막 정리를 연구하던 중 탄생했다.

현대의 정수론은 대수(代數)적인 방법이나 해석적인 방법론(주로 복소해석학)을 사용한다. 전자의 경우를 대수적 정수론, 후자를 해석적 정수론 이라고 하며, 대수적 정수론은 대수학적 방정식의 정수 해를 찾는 문제에서 시작되었고, 해석적 정수론은 소수와 관련된 이론에서 출발하였다. 물론 이 두 가지 분야는 완벽하게 나누어지는 것은 아니며, 사용되는 방법론 상에서의 차이가 가장 크다. 가장 간단하게 차이를 설명하자면, 대수적 정수론은 대수학적 기법들을 주로 사용하며, 해석적 정수론은 복잡한 적분이나 부등식들을 많이 사용한다고 말할 수 있다.

다른 현대 수학들과 마찬가지로, 정수론 분야 역시 수학의 다른 여러 분야들과 밀접한 관련을 가진다. 즉, 정수론의 연구에서는 대수학이나 해석학, 조합론 등의 다른 분야에 대한 지식이 필요하다는 것이다.

근래에는 위상수학을 접목하는 연구도 진행 중이다.

어떤 정수를 3번 곱한(3승) 수(입방수)를 3개 더하거나 빼서 1~100을 만드는 문제같은 경우에는 무려 PC 50만대를 연결해서 풀었다. 64년간 못푼 수학난제, 세계 PC 50만대 연결해 풀었다.

중고등학생들의 정수론 공부에 대해서는 한국수학올림피아드 문서도 참조.

대학교 수학과 학부과정에서는 주로 2학년 때 듣게 되며, 다른 코어 과목들과 달리 보통 한 학기만으로 끝내게 된다. 선형대수학 등 수학과 밖에서도 많이들 들으러 오는 과목에 비하면 수강인원은 상대적으로 적은 편이지만, 컴퓨터공학과라던지 정수론을 기본기로 익혀야 하는 다른 전공이 아예 없는 것은 아니다. 그리고 정수론이라는 분야의 특성상 3학년 때 배우는 현대대수학의 프리퀄 수준으로 끈적한 연계가 이뤄질 수 있다. 위상수학이 집합론을 기본기삼아 출발하는 분야라서 고학년들에게 위상수학을 가르치는 교수가 저학년들에게 집합론을 가르치는 것처럼 현대대수학 담당 교수가 정수론 수업을 맡는 경우도 흔한데, 이런 교수들은 정수론에서 가르친 각종 테크닉을 전공필수 현대대수 과목을 듣는 모든 수강생들이 당연히 알거라 여기고 아무 설명 없이 가져다 쓸 수도 있으므로 정수론 수강을 마친 학생들은 현대대수학 수강 직전에 복습을 해두는 것이 좋다. 정수론 내용을 현대대수학 수업 때 필요한만큼 정수론 내용을 복기해주는지는 교수에 따라 다르니 현대대수학 수강신청 때 수강평이나 교수, 조교에게의 문의가 필요하다.[18]

한편, 상위권 대학에서는 오랫동안 한국수학올림피아드 등의 경시대회 공부로 단련된 고수 내지 수퍼스타(국가대표 출신이라 언론을 탔을 수도 있다!)가 유별나게 두각을 드러내기도 한다. 대학원이 아닌 학부 수준에서조차도 정수론은 그나마 친숙(?)한 미적분, 벡터를 다루는 해석학, 선형대수학과 달리 고등학교 3년간 거의 다뤄진 바 없이 생소하고 희한한 계산으로 첫걸음을 떼는 과목이므로 수학과생들 역시 '백지'에 가까운 상태에서 출발할 가능성이 높으나[19], 초등학교 때부터 올림피아드 공부나 덕질(...)로 단련된 이런 만렙 고수들은 학부 과정 정수론이 기본기로만 느껴질 정도로 앞선 출발선에서 시작하기 때문이다. 2010년대부터는 전보다 드물어졌지만 조기졸업을 하고 온 경우 이런 고수들이 나이마저 어리기도 한데, 군복무를 마치고 머리가 굳은 채로 수학과 2학년에 복학한 남학생이 아직 신체검사도 안 받은 애송이가 어려운 계산과 증명 문제를 힘 안들이고 쉽게 풀어내는 모습을 보면 좌절감이 이만저만이 아니다. 물론 전에 해봤던 내용이라고 간혹 건성으로 임하기도 하는 이런 거만(?)한 학생들을 언짢게 보는 교수들도 있지만, 오히려 자신도 어릴 때부터 올림피아드 공부를 했는데 반갑다(...)며 더 좋아하는 교수들도 있다.고수는 고수를 알아보는 법 재밌다고 더 열심히 하는 덕업일치 타입의 천재라면 흔한 일반고 출신 수학과생의 입장에서는 학점 경쟁에서 도저히 당해낼 재간이 없다. 그래도 기껏해야 전공기초 수준에 불과한 과목인지라 교수들은 아직도 수학과에 적응하는 단계에 불과한 대다수 햇병아리 2학년들의 수준을 감안하여 많은 시간과 노력을 투자한 암기(...)만으로도 준수한 성적을 받게끔 문제를 내고 채점을 하기 때문에 정수론이 수학과 공부 전체를 좌지우지하는 큰 변수가 되지는 않는다. 오히려 이런 학부 수준의 정수론이 정말 만만한 경시대회 경험자라면 정수론 공부에서 약간은 여유를 가지고 다른 코어 과목에 더 많은 시간을 투자하는 것도 생각해봄직하다.

호기심이든 진지한 수학 쪽 진로설정이든 간에 정수론에 입문코자 한다면 우선 한국수학올림피아드 대비교재를 보는 게 가장 좋다. 시중의 올림피아드 교재는 대부분 중학생을 타겟으로 하기 때문에 기본 수학실력이 탄탄한 고등학생이나 성인이라면 무난히 읽을 수 있다. 유명한 건 <한국수학올림피아드 바이블>이나 티투의 <104 정수론>, 김광현의 <마두식의 정수론>이 괜찮다. 조합론 같은 다른 올림피아드 과목들도 마찬가지지만, 정수론은 특히 한번 제대로 공부해 놓으면 고등학교 수학은 물론이고 학부 수학과 중반까지도 도움이 되는 어마무시한 약발을 자랑한다.

실제 영재학교 시험에서는 빈번하게 출제되지는 않지만 정수론으로 쉽게 풀 수 있는 문제가 출제되고 있어서 대부분의 입시 준비 학원에서는 정수론을 가르치기도 한다. 아예 정수론이 선택과목으로 박혀있는 영재학교들도 있다.

학부 저학년용 교재로 사용되는 수준에서는 아래와 같은 책들이 추천된다.

기초 수준의 정수론을 공부하는 데 있어 가장 핵심적인 진도는 다음과 같다.

이를 바탕으로 심화지식을 쌓으면 개론 수준의 정수론은 섭렵할 수 있다. 학부 수업에서는 정수론이 통년과목으로 편성되는 경우가 드물기 때문에 은근히 두껍고 광범위한 정수론 교과서의 진도를 모두 섭렵하기는 힘들며, 핵심 중의 핵심이라 할 수 있는 위의 내용만으로도 2학년 한 학기를 모두 잡아먹기 일쑤이다.[20]

주의할 점은 이 때 증명이 기하학 수준으로 엄청 중요하다는 점이다. 정수론은 기초 부분에서는 증명이 심하게 자질구레하고 당연한 것 아닌가 싶은 것까지 증명하는데, 귀찮다고 손놓고 구경만 하다 보면 갈수록 뿜어져나오는 정리들을 감당할 수 없을 정도가 된다.[21] 정수론 문제가 정리에 대입만 하면 풀리는 것도 아니고 정리를 증명하는 데 필요한 과정을 중간까지 잘라먹고 문제를 풀 일도 있으니까 정리마다 증명을 꼭 해보고 넘어가야 한다. 다행히 그런 증명의 난이도가 학부 수준의 진도에서는 노가다가 많고 끈기를 요하는 문제가 많을 뿐 높은 수준의 툴을 요구하는 주제는 드물며, 그 때문에 해석학과 선형대수만으로도 빠듯한 2학년 때에 일찌감치 편성되곤 한다.