2, 3, 5, 7, 11, 13, 17… 숫자에 맞춰 드럼 친다면?

음악과 수학 사이의 관계를 처음 깨달은 사람은 고대 그리스의 수학자 피타고라스였다. 그는 항아리에 물을 채우고 망치로 두드렸을 때 나오는 음(音)에 귀를 기울였다. 절반만 채웠을 때의 음은 가득 채웠을 때의 음과 화음을 이루는 한 옥타브 높은 소리였다. 물을 삼분의 일, 사분의 일로 줄일 때의 소리 역시 아름다운 화음으로 들렸다.

수학자들은 오랫동안 2, 3, 5, 7, 11, 13, 17 같은 소수(素數·1과 자기 자신으로만 나누어 떨어지는 수)에 귀를 기울였지만 어떤 화음도 발견할 수가 없었다. 1부터 자연수를 나열하다 소수가 나올 때마다 드럼을 한 번 친다고 가정하자. 당신이 듣게 될 드럼 소리, 소수의 박동 소리는 몹시 불규칙할 것이다. 음악이 아니라 잡음에 가깝다.

자연의 배경에 자리잡은 패턴(규칙)을 발견하고 설명해 어떤 일이 일어날지 예측하는 것이 수학의 존재 이유다. 2부터 시작해 300번째 나오는 소수는 무엇인가? 우리에겐 이 질문에 답할 마술 같은 공식이 아직 없다. 화학으로 치면 주기율표가 만들어지 않은 셈이다.

1900년 독일 수학자 힐베르트는 20세기에 도전해야 할 수학적 난제 23개를 제시했다. 그 수수께기들 중 대표 선수가 바로 ‘리만 가설’(1859년 독일 수학자 리만이 제기한 ‘소수들이 어떤 패턴을 지니고 있다’는 가설)이다. 100년이 넘게 지났지만 리만 가설은 여전히 풀리지 않은 채 수학자들을 괴롭히고 있다. 2000년 클레이 수학 연구소(CMI)는 ‘리만 가설’을 비롯해 7개의 미해결 수학 문제를 내놓고, 해답에 문제당 100만달러의 포상금을 걸기도 했다.

"그 가설을 푼들 무슨 소용이냐”고 물을지도 모른다. 하지만 오늘날 삶 속에 들어차 있는 물건들은 수학에 의존한다. 자동차나 기차나 비행기를 탈 때 우리는 수학의 세계에 들어서며, 전자레인지로 음식을 익힐 때 우리는 수학의 산물들을 사용하는 것이다. 신용카드로 전자상거래를 할 경우 컴퓨터는 수백 자리의 소수들을 이용해 보안을 유지한다. 영국 옥스포드대학 수학교수가 쓴 이 책은 소수의 비밀에 다가간 탐구의 역사를 흥미롭게 소개한다. 수학식이 많지만 도전해볼 만한 교양서다.