북미 대륙 숲에는 삶의 주기가 7년, 13년, 17년인 매미들이 산다. 17년마다 5월에 1제곱킬로미터마다 40억마리라는 엄청난 수를 과시하며 등장하는 매미는 6주간 요란한 짝짓기 파티가 끝나면 모두 죽고 숲은 17년간 다시 조용해진다. 그 전에 암컷들은 각각 600여개의 알을 낳는데, 부화한 애벌레들은 나무뿌리 수액을 찾아 땅속에 파고든 뒤 17년을 기다린다.

이들 매미 생애 주기는 모두 소수(素數), 곧 1과 자기 자신만으로 나누어 떨어지는 1보다 큰 양의 정수이자 다른 모든 수를 구성하는 기본요소다.

때론 17년 주기의 매미가 지나치게 일찍 등장하는 경우도 있는데, 그때도 1년 2년이 아니라 4년 먼저 나타난다. 곧 그럴 때도 소수인 13년째에 등장하는 것이다. 도대체 왜 매미들은 이처럼 소수를 좋아하는 걸까? 이를 설명하는 가장 그럴듯한 수학이론에 따르면, 이 매미들의 생애 주기는 매미들이 출현하는 때에 맞춰 나타나 양껏 매미들을 포식하는 그들의 천적과 관련이 있다. 생애 주기가 ‘소수’인 매미는 ‘합성수’ 주기의 매미보다 포식자를 만날 확률이 훨씬 낮다. 말하자면 소수 생애 주기를 지닌 매미들이 살아남고 합성수 주기 매미들은 도태될 확률이 높다. 예컨대 100년 동안 생애 주기 7년인 매미와 생애 주기 6년인 포식자가 같은 해에 마주칠 확률은, 7의 배수와 6의 배수가 만나는 42년째와 84년째 단 두 번뿐이다. 그러나 생애 주기 8년인 매미와 6년 주기의 포식자는 24년마다 마주치며, 생애 주기가 9년인 매미들은 6년 주기의 포식자들과 18년마다 마주친다. 결국 오랜 세월 동안 매미들은 포식자들과 마주치는 확률을 낮추기 위한 경쟁을 벌여왔고 거기서 진 쪽은 도태당했다.

미국 클레이 수학연구소가 한 문제마다 100만달러의 상금을 내건 ‘7대 밀레니엄 문제’ 중의 하나가 바로 이 소수와 관련된 ‘리만 가설’이다. 두 번째 문제는 위상기하학·우주론과 관련된 ‘푸앵카레 추측’이다. 왜 비눗방울은 둥글며 거품막끼리 120도 각도로 결합할까, 우주는 어떤 모양일까. 2002년 러시아 수학자 그리고리 페렐만이 푸앵카레 추측을 풀어 세상을 놀라게 했다. 그 사실 못지않게 놀라웠던 것은 페렐만이 100만달러 상금도, 수학의 노벨상인 필즈상 수상도 거절했다는 것이었다.

옥스퍼드대 석좌교수로 ‘대중의 과학 이해’ 수업을 맡고 있는 영국의 유명 과학자 마커스 드 사토이 교수의 <넘버 미스터리>가 다루고 있는 문제들이다. 이 책은 이밖에도 컴퓨터 과학의 주요 문제인 ‘P 대 NP 완전문제’, 암호학과 관련된 ‘버치와 스위너턴다이어 추측’, 카오스와 비선형역학과 관련된 나비에(내비어)-스토크스 방정식’을 다룬다. 모두 5가지 문제를 다루는데, 초점을 “수학의 즐거움을 대중에게 알리는” 데 맞추고 있다. ‘베컴은 왜 등번호로 23번을 선택했을까?’ ‘어떻게 하면 복권에 당첨될까?’ ‘태양계는 언제 붕괴할까’ ‘나비가 어떻게 사람 수천만명을 죽일 수 있을까?’ 등의 예화들 제목부터 재미있다. <소수의 음악> <대칭> 등의 책도 쓴 사토이 교수는 말한다. “모차르트를 직접 연주하기는 어렵다. 셰익스피어는 전공자들에게도 난해할 때가 있다. 그렇다고 우리가 이 위대한 사상가들의 작품을 전문적인 감식가들의 몫으로 남겨 두어야 한다는 법은 없다. 수학도 이와 똑같다.”

한승동 기자 sdhan@hani.co.kr