컨텐츠 바로가기
스토리 뉴스

스토리 뉴스

한국의 수학 천재, 세계를 놀라게 하다 - ⑯ 故 이임학

대한민국 과학기술유공자 ⑯ '리군(Ree群)'이론으로 세계수학사에 족적 남긴 수학자 故 이임학 브리티시컬럼비아대학교 명예교수

해방이후 한국인 최초로 미국학술지에 논문 게재 군론에 이바지한 위대한 수학자 21인에 선정

수학의 노벨상이라고 불리는 ‘필즈상’. 4년마다 열리는 세계수학자대회에서 수여되는 이 상은 수학계에서 가장 권위 있는 상으로 여겨진다. 
올해 8월 1일부터 브라질에서 열리는 세계수학자대회를 앞두고 각계의 이목이 집중되고 있는 것도 그 이유에서다. 한국인 필즈상 수상자는 아직 없지만, 최근 우리나라에도 젊은 스타수학자들이 많아지고 있어 근시일내에 수상 가능성이 있다는 예측이 다수다. 
젊은 수학자들에게 영감을 주는 대상이자, 한국수학계의 잠재력를 입증한 수학자가 있다. 
세계가 먼저 알아본 수학자, 故이임학 박사다.

1922년 함경남도 함흥에서 태어난 이임학 박사는 손재주가 많은 학생이었다. 
무엇이든 만드는 것을 좋아했는데, 중학교 때는 철판을 가위로 자르고 코일을 감아 전기 모터를 만든 적도 있었다. 어릴 때부터 수재로 손꼽혔던 이 박사는 한남공립중학교를 1등으로 졸업하고, 1939년 경성제국대학 예과 이갑(이공계)를 입학했다.

그가 수학 천재로 자질을 보였던 것도 대학시절부터다. 실용학문 위주의 식민지 교육 탓에 경성제대 본과에는 수학과가 없었고, 이 박사는 물리학과에 진학할 수밖에 없었다.
하지만 그는 당시 유일한 수학교수였던 일본인 교수로부터 간접적 지도를 받고, 거의 독학으로 수학을 공부해 당시 조선인 학생들 사이에서 ‘수학천재’로 유명세를 탔다. 1945년 10월, 광복과 함께 경성제국대학이 경성대학으로 개칭하며 처음으로 수학과가 개설되었는데, 이임학 박사는 당시 수학자들의 투표를 통해 24세의 젊은 나이에 교수로 선발됐다. 물리학과 졸업생이지만, 수학에 대한 재능이 남달랐기 때문이었다.

해방 직후 혼란스러운 상황에 대학교육은 열악했고, 대학 역시 정치적 영향 아래 있었다.
이임학 박사 역시 국립서울대학교설치안(국대안) 파동 등으로 한 차례 학교를 떠났지만, 1947년 9월 복직 이후부터, 캐나다로 유학을 떠난 1953년까지는 현대대수학, 고급정수론, 위상수학 등을 가르치며 짧지만 의미 있는 교육을 펼쳤다.

그 중 하나가 한국어로 수학 대학교재를 펴낸 것이다. 이임학 박사는 1948년 그랜빌(William Granville), 스미스(Percey Smith), 롱리(William Longley)의 미분적분학 영문판 교재의 편역을 시작으로, ‘미분학(1950)’, lsquo;적분학(1953)’, ‘미분적분학(1954)’, ‘평면해석기하학(1954)’, ‘대수학(1955)’, ’고등대수학(1955)‘ 등 여러 권의 대학 교재를 저술했다.
이는 황무지와도 같았던 해방 후 우리나라 수학교육계의 기반을 다지는데 크게 기여했다.

이임학 박사는 수학 연구에 대한 기반이 없던 열악한 시기에 한국인 학자 최초로 해외에 논문을 발표하기도 했다. 서울대조차 새 학술잡지와 도서를 전혀 구비하지 못했던 1947년, 
이 박사는 남대문 시장을 지나다 미군이 버린 쓰레기 더미에서 종이와 책을 발견하고 유심히 살펴봤고, 거기서 미국 수학회지였던 ‘Bulletin of American Mathematical Society’ 한 권을 발견했다. 집으로 가져와 한 장씩 공들여 책을 탐독하던 이 박사는 
막스 초른(Max Zorn)의 논문을 읽다가 그가 제시한 미해결 문제를 어렵지 않게 해결하고, 초른에게 편지를 보냈다. 초른은 그 편지를 근거로 논문을 작성한 뒤 이 박사의 이름으로 미국 수학회지에 투고했고, 그 논문은 1949년, 해방 이후 한국인으로서는 처음으로 미국 학술지에 게재됐다.

당시 초른은 논문을 통해 복소수 영역에서 보흐너의 정리를 증명하며, 실수인 경우 증명을 유보했는데, 이 박사가 이를 2페이지의 짧은 논문으로 명쾌하게 해결한 것이다.
독학으로 수학을 공부하고, 외국 학술지조차 접하기 어려웠던 상황에서 세계적인 수학자의 문제를 풀어낸 것이다. 그러나 그는 자신의 논문이 미국 수학회지에 실린 사실을 까맣게 몰랐다. 서울대 교수였음에도 자신이 직접 논문을 써서 잡지 편집인에게 보낼 줄 몰랐기 때문이다. 외국의 연구 관련 잡지나 책과 같은 자료를 거의 접할 수 없었던 시절, 그의 행동은 그 당시 할 수 있었던 최선이었다. 본인도, 나라도 모르는 사이 이미 세계수학계에 그의 이름이 알려지고 있었다.

늘 수학에 대한 갈증이 있던 이임학 박사는 한국전쟁 중에도 미국공보원(USIS)을 주기적으로 방문해 ‘Mathematical Reviews’를 읽고, 학자들에게 논문에 대한 의견을 서신으로 보내며 외국 수학자들과 교류했다. 그러던 중 이 박사는 캐나다 브리티시컬럼비아대학교(UBC) 제닝스(Stephen Jennings) 교수의 논문을 읽고 부족함을 지적한 편지를 보냈는데,
이를 읽은 제닝스 교수는 장학금을 주겠으니 와달라는 요청을 한다.
이후 워싱턴대학 등에서 더 많은 장학금을 주겠다는 제의가 있었지만, 처음 약속을 지키기 위해 1953년 캐나다로 유학을 떠났다.

제닝스 교수의 지도 아래 2년 만에 ‘비트 대수’로 박사학위를 받은 이임학 박사는 이후 왕성한 연구 활동을 펼치며, “UBC에는 이임학이 있다”는 말이 
세계 수학계의 유행어로 번질 만큼 나날이 유명해졌다. 
1960년까지 총 16편의 논문을 발표했는데, 16편 중 공저는 2편에 불과했고, 나머지 14편은 모두 단독 저술이었다. 그는 캐나다에서 활동하며 군론(group theory)의 발전에 공헌했다.

당시 수학계에서는 단순군의 분류가 집중적으로 연구되고 있었다. 특히 프랑스의 수학자 슈발리는 주어진 ‘리 대수(Lie algebra)’를 임의의 체위에서 생각하고 그로부터 단순군들을 얻는 방법을 발견했다.
그러나 슈발리 자신은 물론이고, 다른 초일류 수학자들조차 얻은 군이 정확히 어떤 성질인지 규명하지 못했다. 그런데 1957년 이 박사가 슈발리의 방법으로 구성한 군들이 고전 군들과 어떻게 연관되는지 밝히고 이들이 예상하는 성질을 지님을 증명했다. 나아가 그는 1960년에 새로운 종류의 단순군들의 무한한 두 모임을 찾아내 ‘리군(Ree group)’이라 명명했다.

명쾌하면서도 효과적인 그의 아이디어는 세계수학계에 큰 반향을 일으켰다. 
‘리군’에 대한 연구논문이 1984년부터 1994년까지 90여 편이 나올 만큼 그의 연구는 세계 수학사에 중요한 연구업적으로 남아 있다.  
일본의 저명한 ‘이와나미’ 수학사전에도 그의 리군 이론이 기록되어 있으며, 
영국 수학 아카이브 수학사 사이트에도 한국인 수학자로는 유일하게 이름을 올렸다.

수학자들의 역사서에도 그의 이름은 빠지지 않는다. 프랑스인 디유돈네(J. Dieudonne)가 쓴 ‘순수 수학의 파노라마’는 가장 권위 있는 수학 역사서라고 할 수 있는데,
디유돈네는 그 책에서 군론에 이바지한 위대한 수학자 21인 가운데 한 사람으로 이 박사를 꼽았다.
이 박사는 이러한 대내외 업적을 인정받아 1963년 40세의 젊은 나이에 캐나다 과학자의 최고 영예인 캐나다 왕립학회 정회원으로 선출되기도 했다.

이 박사의 서울대학교 제자였던 김주환 전 사이먼프레이저대학교 수학과 교수와 장범식 전 UBC 수학과 교수는 이임학 박사를 UBC 수학과를 세계적인 위치로 끌어 올린 연구자로 평가한다.

이 박사는 세계적으로 유명한 수학자였지만, 우리나라 사람들의 대부분은 그를 잘 알지 못했다. 박사 학위 논문을 마치고 세계 유수의 대학에서 러브콜을 받던 시점, 여권 연장을 위해 찾아간 대사관에서 여권을 압수당한 이 박사가 이후 한국인이 아닌 캐나다인으로 살아갔기 때문이다. 그래서 그의 모든 연구는 ‘한국인 이임학’이 아닌 ‘캐나다인 이임학’으로 소개됐다. 
국내 수학계는 이임학 박사의 국적을 회복시키고 그의 업적을 기리기 위한 노력을 꾸준히 했다. 1996년 대한수학학회 창립 50주년 기념식에 그를 초청한 것이 그 결실. 그는 김도한 서울대 명예교수, 이정림 POSTECH 명예교수 등 후배 수학자들을 만나 그가 기억하는 역사들을 구술했고, 이는 대한수학사에 그대로 실렸다. 학계에서는 그의 국적도 회복시키려 했지만 뜻을 이루지 못했고, 이임학 박사는 2005년 타계했다.

이임학 박사는 2006년 ‘과학기술인 명예의 전당’에 헌정되었으며, 2017년 최초 지정된 32인의 ‘과학기술유공자’ 명단에 이름을 올렸다. 
해방직후 가난하고 혼란스러운 국가가 품지 못했던 위대한 수학자 이임학 박사는 전 인류의 지식의 지평을 넓혀주며 조국의 후배들에 희망과 용기를 건넸고, 현재를 살아가는 젊은 수학자들에게도 귀감이 되고 있다. 그가 했던 것처럼, 이젠 후학들이 대한민국의 수학을 빛내줄 차례다.