지난달 5일, 많은 수학자들이 꿈꾸는 필즈상 수상의 영예는 허준이 미국 프린스턴대 교수(고등과학원 교수)에게 돌아갔습니다. 허 교수는 ‘조합 대수기하학’으로 통칭되는, 방정식들로 정의된 기하학적 공간의 연구 방식을 채택한 대수기하학을 바탕으로 조합론의 문제를 해결하는 새로운 분야를 연구하여 필즈상을 수상했습니다. 이번 기사에서는 허 교수가 필즈상을 품에 안는 계기가 된‘리드-호가 추측’을 비롯하여, 허 교수의 연구 분야인 '조합 대수기하학'에 대해 다루고자 합니다.

필즈상(Fields Medal)이란?

 허 교수의 연구 분야인 ‘조합 대수기하학’에 대해 다루기 전에, 허 교수가 수상한 필즈상이 어떤 권위를 가지고 있는 상인지 먼저 알아보겠습니다. 필즈 메달로도 불리는 필즈상은 국제 수학 연맹(IMU)이 4년 주기로 개최하는 세계 수학자 대회(ICM)에서 수여하는 상입니다. 이때, 각 회차에서 필즈상을 수상하는 수학자들의 수는 2명 이상, 4명 이하로 제한되어 있을 뿐만 아니라 수상 연도의 1월 1일을 기준으로 만 40세 미만의 수학자들만 수상이 가능한 제한 조건이 있어 뛰어난 업적을 남기고도 수상하지 못하는 경우가 있을 만큼 수상이 어려운 상이기도 합니다. 이러한 점으로 인해, 수학자들에게는 노르웨이 왕실에서 수여하는 아벨상과 더불어 가장 큰 영예로 여겨지는 권위 있는 상입니다.

조합 대수기하학이란?

 우선, 대수기하학은 다항식 등의 대수적 성질을 기반으로 직선·평면과 타원/쌍곡선 등의 기하학적 대상을 분석하는 학문입니다. 허 교수의 주요 연구 분야인 조합 대수기하학은 ‘한붓그리기’ 등 ‘경우의 수’를 다루는 조합 수학의 문제를 해결하는 하나의 직관적 방식으로 대수기하학을 사용하는 연구 분야입니다. 허 교수는 얼핏 보기에도 굉장히 달라 보이는 두 분야를 강력한 직관을 바탕으로 엮어내어 리드(Read) 추측(2012년 해결), 호가(Hoggar) 추측(2014년 해결), 로타(Rota) 추측(2018년 해결), 강한 메이슨(strong Mason) 추측(2020년 해결), 오쿤코프(Okounkov) 추측 등 10여 개가 넘는 조합론의 난제들을 풀어내는 모습을 보여주었습니다.

4색 문제와 채색 다항식

 이렇듯, 조합 대수기하학을 바탕으로 해결된 다양한 난제들 중, 대표적인 난제로 꼽힌 리드 추측에 대해 알아봅시다. 특이하게도, 리드 추측은 우리에게 익숙한 ‘4색 문제’로부터 시작한 문제입니다. 간략히 소개하자면, 4색 문제는 모든 평면지도를 서로 다른 4가지 색만을 사용하여 모든 나라가 서로 구별되게 채색하는 가능성이 존재하는가에 관한 문제로, 1852년 프랜시스 구드리에 의해 추측이 제시된 이후 당대의 저명한 수학자이자 ‘드모르간의 법칙’으로 익숙한 오거스터스 드모르간에게 추측의 성립 여부를 질문하면서 화두에 올랐습니다. 이후, 4색 문제는 100여 년이 넘는 오랜 시간 동안 여러 수학자들에 의해 풀이를 위한 노력이 진행되어 1976년 케네스 아펠과 볼프강 하켄이 컴퓨터를 이용해 가능한 경우를 모두 연산하는 방식으로 증명을 진행하며 해결되었습니다.

 리드 추측은 이런 4색 문제의 상황을 단순화하여 각 나라를 점으로, 인접한 두 나라의 경계선을 각 나라를 표기한 점을 잇는 간선으로 변환하여 만든 그래프로부터 시작합니다. 1932년 조지 벌코프와 해슬러 휘트니가 이 그래프에서 이웃한 정점이 서로 다른 색이 되도록 정점을 q개 이하의 색으로 칠하는 경우의 수를 표현하는 ‘채색 다항식’ 함수를 정의했고, 이 채색 다항식을 색이 q개일 때의 경우에 대해 일반화하여 ‘제거-압착 공식’을 얻어내었습니다.

 이 과정을 살펴보면, 어떤 그래프 G에서 임의의 변 E를 고르고, E를 구성하는 두 정점을 V1, V2라 정의했을 때 변 E를 기존 그래프에서 제거한 그래프를 G1, G1의 그래프에서 꼭짓점 V1과 V2를 다시 겹친 형태로 변형하여 얻는 그래프를 G2라고 정의합니다. 이렇게 정의된 G1의 채색 다항식에서 G2의 채색 다항식을 빼면 기존에 구하고자 했던 그래프 G의 채색 다항식을 얻어낼 수 있습니다. 이러한 제거-압착 공식의 원리는 G1과 G2의 채색 다항식이 가지는 의미로부터 추론할 수 있습니다. 간단히 정리하면, 기존의 변형 과정에서 G1의 채색 다항식은 변 E의 꼭짓점 V1, V2가 서로 다른 색으로 칠해져야 한다는 조건이 포함되지 않은 경우의 수이며, G2의 채색 다항식은 변 E의 정점 V1, V2가 서로 같은 색으로 칠해지는 경우의 수이기 때문에, G1의 채색 다항식에서 G2의 채색 다항식을 감하면 V1과 V2의 색이 서로 다른 색인 경우의 수만을 얻어낼 수 있습니다.
 
 

채색 다항식과 리드 추측

 채색 다항식을 보다 복잡해진 그래프에 대해 계산하는 과정을 충분히 많은 차례 수행하면 채색 다항식을 내림차순으로 정리한 식의 계수들이 점점 증가하다가 감소하는 형태를 보임을 관찰할 수 있습니다. 리드 추측은 이런 계수들의 형태가 모든 그래프에 대해 성립한다는 추측으로, 1968년 로널드 리드에 의해 제시된 이후 1974년 스튜어트 호가가 각 계수에 로그를 취했을 때 그 개형이 아래로 오목한 형태를 보이는 ‘로그-오목’ 형태라고 추측을 강화한 것이 현재의 리드-호가 추측으로 굳어졌습니다.

로타 추측이란?

 로타 추측은 임의의 매트로이드(matroid) M에 대해 특성다항식의 계수들이 로그-오목한가를 밝히기 위한 추측입니다. 리드-호가 추측과 마찬가지로 특성다항식의 계수와 로그-오목성의 관계를 다루지만, 로타 추측은 채색 다항식을 포함해 벡터 공간의 벡터 집합이 만들어내는 매트로이드 구조에서 비롯된 수열을 다룹니다. 즉, 로타 추측은 리드-호가의 추측을 일반화하면서 강화한 추측으로 생각할 수 있습니다.*

추측의 증명

 허 교수가 로타 추측을 증명한 방식은, 공간에서 서로 다른 다양체들이 만나는 횟수를 나타낸 ‘교차수’**의 성질 중 하나인 호지-리만 관계에 근간을 두고 있습니다. 간략하게 살펴보면, 허 교수는 로타 추측의 증명을 위하여 매트로이드로부터 사영다양체를 만들고, 매트로이드에서 비롯된 특성다항식의 계수가 앞서 만든 사영다양체의 교차수와 일치함을 증명하여 교차수의 호지-리만 관계가 로그-오목성을 가짐을 보였습니다.

로타 추측 증명의 중요성

 로타 추측, 리드-호가의 추측으로 대표되는 그래프/매트로이드에 관한 추측에 대한 허 교수의 증명은 물론 난제를 풀어낸 것 자체로도 큰 영향력을 가지고 있습니다. 하지만, 허 교수가 보여낸 증명의 방식이 기존의 조합론을 대표하는 그래프 이론에 대수기하학을 접목하여 기존의 대수기하학과 조합론이 정의하는 연구 범위를 더 확장하여 새로운 연구의 시작점을 제시한다는 점은 난제를 풀어낸 것 이상으로 강력한 의미를 지닌다고 볼 수 있습니다.

허준이 교수의 설명

 앞서 살펴본 로타 추측을 구성하는 매트로이드 이론에 대해 허 교수는 “매트로이드 이론은 선형대수학과 그래프 이론, 매칭 이론, 확장체 이론 등 많은 이론에서 공통적으로 등장하는 자연스러운 독립 개념들의 조합적 정수를 포착한다”고 설명했습니다.

 더불어, 허 교수는 이런 자연스러운 매트로이드의 특성을 나타내는 수열들이 대개 제거-압착 공식을 만족하고, 어떤 특성다항식의 계수로 표현할 수 있다는 점의 중요성에 대해서는 “로그-오목성은 그 응용 때문만이 아니라, 푸앵카레 쌍대성, 어려운 렙셰츠 및 호지-리만 관계를 만족하는 구조가 존재함을 암시하므로 중요하다”고 덧붙였습니다.

덧붙이는 말

 이번 기사를 쓰기 위해 허준이 교수의 연구 분야와 조합 대수기하학에 대해 새로이 배우면서, 지금까지 조합론/대수기하학에 대해 거의 문외한으로 살아온 입장에서 해당 연구를 이해하는 과정에 상당히 큰 어려움을 겪어야 했습니다. 기본적으로 용어 자체가 어려운 것도 하나의 고난이 되겠지만, 각 분야를 서로 떼어놓고 보더라도 이해하기 여간 힘든 것이 아닌데 두 분야를 엮는 직관을 통해 난제를 해결한다는 점은 용어의 어려움을 완전히 덮을 정도로 큰 고난처럼 느껴졌습니다. 특히, 내용을 이해했다고 생각하고 기쁘게 돌아서자마자 스스로가 이해했던 내용이 전혀 다른 내용임을 깨닫는 일도 많아서 과연 이번 기사를 성공적으로 마무리할 수 있을 지에 대한 걱정도 꽤나 많이 하게 되었습니다.

 그럼에도, 허 교수의 연구가 어떻게 이루어졌는지 조금씩 그 발자취를 따라가 보며 조합론/대수기하학의 기초에 대해 이해하고, 허 교수가 서로 다른 두 분야를 엮기 위해 어떤 직관을 발휘했는지를 체감할 수 있다는 점은 앞서 겪은 어려움들을 넘어설 만한 가치가 있었습니다. 물론 지금도 제게 허 교수의 연구를 이해했느냐고 묻는다면, 자신 있게 1%도 이해하지 못했다고 말해야겠지만 반대로 1%도 채 이해하지 못한 연구 속에서 완전한 새로움의 편린을 엿볼 수 있어 뜻깊은 시간이기도 했습니다. 이번 기사가 독자분들께 허 교수의 연구 속에서 새로움의 편린을 엿보며 뜻깊은 시간을 보내도록 돕는 효시가 되기를 바랍니다.