방을 보면 그 사람의 취향이나 관심사를 알 수 있다. 음악을 좋아하는 사람은 철지난 음반이나 악기 모형을 장식해 놓고, 야구를 좋아하는 사람은 응원하는 팀의 마스코트나 유명 선수의 사인이 적힌 야구공을 두기도 한다.
햇살이 따스하게 쏟아지던 6월에 만난 윤아람 UNIST 전기전자컴퓨터공학부 교수의 연구실에는 감각적인 그림 액자가 몇 점 걸려 있었다. 그 중 한 작품이 눈길을 확 끌었다. 액자를 가득 채우는 밭의 양 옆으로 구불구불 강이 지나가는 그림이었다. 체스판 같은 밭이 어느 순간 기러기 떼로 변해 날아가고 있었다. 착시로 유명한 네덜란드의 판화가 마우리츠 에셔의 작품 ‘낮과 밤’이었다. 그의 작품들은 수학자들에게 단연 ‘연구 대상’이다.
풀지 않아도 쓸 수 있는 암호?
암호학 연구에서는 프로그래밍보다는 수학을 많이 활용하기 때문에, 기본적으로 수학적인 성숙도가 꼭 필요하다. | 사진: 아자스튜디오 남윤중
윤아람 교수의 연구 분야는 암호학이다. 암호학은 데이터를 안전하게 보호하는 방법을 연구하는 학문이다. 데이터의 내용을 들여다보지 못하게 암호화하거나, 데이터를 다른 사람이 위조하지 못하게 전자서명을 하는 등의 알고리즘을 연구한다.
이 중 암호화는 송신자가 수신자에게 메시지를 보낼 때, 수신자가 알고 있는 공개키(암호를 만드는 일종의 규칙)를 이용해 메시지를 암호문으로 바꾼 뒤에 전송하는 알고리즘이다. 수신자는 자기가 갖고 있는 비밀키(공개키와는 암호화 함수의 역수 관계)를 이용해 암호문을 원래 메시지로 복구할 수 있다. 그래서 공격자가 정보를 알아내기 위해 메시지를 훔치더라도 비밀키가 없으면 내용을 알 수 없다.
하지만 현재의 공개키방식 암호가 완벽하다고 장담할 수는 없다. 계산이 어려운 큰 수의 인수분해를 이용하고 있는데, 지금의 컴퓨터보다 훨씬 빨리 큰 수를 인수분해할 수 있는 양자컴퓨터가 등장한다면, 뚫릴 위험이 있기 때문이다. 그래서 국내외 수많은 암호학자들은 양자컴퓨터에도 끄떡없는 암호를 개발하고 있다.
예전에는 일정한 규칙 없이 숫자를 적은 난수표를 이용해 암호를 만들었다. 난수표가 클수록 조합해서 만들 수 있는 숫자가 더 많기 때문에 암호를 예측하기가 훨씬 어렵다. 그래서 전문가들은 컴퓨터 알고리즘을 이용해 셀 수 없이 많은 난수(의사난수)를 만드는 방식으로 암호를 만드는 연구를 하고 있다. 이 방법은 세계에 있는 어떤 하드디스크로도 담을 수 없을 만큼 방대한 난수표로 암호를 만드는 것과 마찬가지다. 즉, 암호를 예측하는 일이 거의 불가능하다.
윤 교수팀은 이런 알고리즘 중 하나인 HMAC의 양자 안전성을 최초로 밝혔다. 양자 안전성은 양자 계산 능력과 양자 통신 능력을 동시에 갖는 공격자에 대해 안전하다는 뜻이다. 즉, 양자컴퓨터가 개발된 뒤에도 뚫릴 위험이 없다.
윤 교수는 “앞으로도 새로운 암호 알고리즘을 설계하거나, 양자 안전성을 증명하는 연구를 계속할 것”이라고 밝혔다. 윤 교수는 그밖에도 암호학적으로 보호된 데이터를 가지고 연산을 하는 동형 암호와 함수 암호, 암호학적 기반 문제 및 암호학적 증명 기법에 관한 연구를 하고 있다.
[연구실 人사이드] “자기 확신을 가져라”
암호학을 전공한 학생들은 기업이나 한국 전자통신연구원, 국가보안기술연구소 같은 국책연구소에서는 암호와 보안 인력을 꾸준히 요구하고 있다. 양자컴퓨터에 대응해 새로운 암호체계를 개발하는 시기이므로, 앞으로 암호학자에 대한 수요가 점차 늘어날 것이다. | 사진: 아자스튜디오 남윤중
윤아람 교수는 “공부에 뜻이 있다면 ‘자기 확신’이 필요하다”고 강조했다. 소위 ‘근자감(근거 없는 자신감)’을 말하는 것은 아니다.
그는 “연구는 거의 일이 끝나는 마지막 순간의 직전까지도 어둠 속을 더듬거리는 것과 비슷하다”면서 “길을 잃기도 쉽고, 낙담하기도 쉽다. 훨씬 어두운 곳으로 한 걸음 더 들어가지 못하고 밝은 곳에 안주하기도 쉽다”고 말했다. 또 “이럴 때에 용기를 잃지 않을 수 있는 버팀목은 결국 자신의 능력과 가능성에 대한 신뢰”라고 말했다.
이정아 과학동아 기자 | zzunga@donga.com
<본 기사는 2017년 8월 ‘과학동아’에 “[Career] “수학, 미래 암호의 수호자””라는 제목으로 실린 것입니다.>
