[IT 이야기] 리만가설
[IT 이야기] 리만가설
이 기사를 공유합니다

김홍철 기술경영학 박사

 

우리가 흔히 사용하는 1, 2, 50, 100… 등은 자연수이다. 자연수에 0과 음(-)의 크기를 갖는 수를 포함한 수를 정수라고 한다. 이들 자연수는 서로 더하거나 빼거나, 곱해질 수도 있으며, 혹은 그 크기에 따라 어떤 자연수가 다른 자연수로 나누어질 수도 있다.

이를테면 20은 4와 5, 혹은 2와 10 등으로 나누어 질 수 있다는 것이다. 이 중 소수(prime number)란 1과 자신만의 수로 나누어지는 수를 말한다. 예를 들어 2, 3, 5 등은 오직 1과 자신의 수 만으로만 나누어질 수 있으며, 이들 수를 소수라 하는 것이다. 소수는 워낙 불규칙적으로 발생하기 때문에, 오래전부터 수학자들 사이에서는 본 소수에 대한 연구가 활발히 진행되고 있었으며, 지금도 여전히 소수가 발생하는 불규칙 속에 숨어있는 일종의 규칙성을 찾고자 하는 시도가 여전히 이루어지고 있다. 

독일 태생의 수학자인 가우스(Carl F. Gauss; 1777~1855)는 18세기 수학이론과 방법론에 획기적인 변혁을 가져왔으며, 혁명적인 정수이론으로 해석학의 발전에도 크게 공헌하였다. 아르키메데스와 뉴턴에 버금가는 위대한 수학자로 꼽히는 가우스는, 어떤 특정한 자연수가 있을 때 그 자연수보다 같거나 작은 소수의 개수는 그 수를 로그의 수를 나눈 수와 같다는 소수정리를 발표했다. 예를 들면, 5보다 작은 소수는 2, 3, 5 등 3개이며, 10 이하에서는 2, 3, 5, 7 등 4개의 수가 되며, 이러한 규칙에 의해 소수의 수를 계산할 수 있다는 것인데, 그의 나이 불과 15세에 이와 같은 놀라운 이론을 정립하였던 것이며, 그의 놀라운 천재성을 확인할 수 있다. 그러나 가우스는 자신이 내세운 이러한 가설을 정확히 증명해 내지는 못했다.

이에 가우스의 제자인 리만(Bernhard Riemann; 1826~1866)은 리만제타함수라는 개념을 도입하여 스승의 소수에 대한 가설에 대해 증명을 시도하였다.  

리만가설은 “자명하지 않은(non-trivial) 영점들의 실수부분은 1/2이다”라는 한 문장으로 대표된다. 여기서 영점이란 어떤 함수의 값을 0(zero)으로 만드는 함수이다. ‘자명하지 않은’이라는 표현은 어느 함수의 값을 0으로 만드는 데 매우 쉬운 -즉 x+2=0 이라는 식에서 0을 만들려면 -2가 되듯이- 음수의 형태가 아닌 0과 1사이에 무수하게 존재하는 영점의 값들을 의미한다. 리만은 이렇게 무한히 존재하는 영점들은 1/2에서만 존재한다고 가정하였다. 이것은 그 동안 매우 불규칙하게 발생하는 것으로 알고 있는 소수가 어떠한 발생 규칙을 가지고 있다는 것을 의미하며, 결국 이러한 가정이 증명된다면 우리는 소수에 대한 규칙을 알 수 있으며, 소수를 계산할 수 있게 된다. 

리만가설에 대한 증명이 이토록 어려운 것은 가설 자체가 대수적, 해석적, 기하학적인 성격이 모두 포함돼, 접근부터가 매우 어렵다. 그러나 본 가설의 증명은 그동안의 난제를 해결했다는 단순한 화제로서 보다는, 우리의 생활과 떨어질래야 떨어질 수 없는 수(number)에 대한 새로운 영역을 개척한 것이며, 이를 통해 놀라운 발견과 새로운 학문, 과학의 발전으로 이어질 수 있는 중요한 계기가 될 수 있다는 점에서 매우 의미있는 사안이 아닐 수 없다. 

최근 영국의 수학자 아티야박사가 이러한 난제 중 난제인 리만가설을 증명해 냈다 해서 화제가 되고 있다. 다른 사람도 아닌 수학의 노벨상이라 불리는 필즈메달과 아벨상을 수상하는 뛰어난 업적을 만든 수학자이기에 더욱 관심을 끌고 있는데, 90세 노령의 교수가 일으킨 해프닝이었다 할지라도, 그만큼 리만가설의 증명은 수학계뿐만 아니라 IT업계에서도 초미의 관심사가 되고 있다.

리만가설이 증명된다는 것은 결국 소수의 발생 규칙을 알 수 있다는 것이며, 이는 소수 기반인 현재의 공개키 암호화 방식의 근간을 뒤흔들 수도 있기 때문이다. 그러나 소수의 규칙이 그 소수의 인수분해를 통한 암호화 방식을 사용한 현재의 공개키암호화(PKI)방식의 기본 이론인 RSA방식을 무력화시킨다는 것은 현시점에서 상당히 과장된 우려로 판단된다는 것이 중론이다. 물론 이 같은 우려는 양자컴퓨터가 나온다면 현실화될 수도 있긴 하지만 말이다. 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.