<지식카페>잡스에 스카우트된 유클리드, 토이스토리를 만들다

클릭하시면 더 큰이미지를 보실 수 있습니다 그래픽=전승훈 기자 jeon@munhwa.com

박형주의 수학 이야기 - ⑤ 유클리드의 기하학

유클리드가 실재했던 인물이 아니라는 설이 있던데 사실인가요? 어느 강연 자리에서 난데없이 받은 질문이었다. 이것참 어쩌나. 역시 음모론은 어느 시대에나 있는 법이고 그래서 사람들의 심장을 뛰게 한다. 답부터 말하자면, 이런 주장이 있는 건 사실이다. 유클리드 개인에 대한 자료가 거의 남아있지 않아서다. 흔히 유클리드 전과 후의 많은 그리스 철학자에 대해서는 전기 수준의 상세한 기록이 있는 점과 대비된다. 각종 문헌에는 ‘원론’의 저자 정도로 짧게 기록되어 있어서 궁금증을 더한다.

알렉산드리아 초기의 수학자 유클리드는 그 이전부터 내려오던 수학을 집대성해서 ‘원론’을 집필했다. 흔히 기하학 원론이라고 알려져 있지만, 대수를 포함해서 당대의 수학 전 분야를 다루는 책이다. 음모론은, 유클리드가 실재했던 개인의 이름이 아니고 ‘원론’을 저술하기 위해 모인 하나의 팀을 부르는 명칭이라고 추정한다. 원론이 한 개인이 저술하기에는 너무 거대했다고 보기 때문이기도 할 것이다.

이 주장은 널리 받아들여지고 있지 않지만, 역사상 유례가 없는 건 아니다. 20세기에 들어 제1차 세계대전이 끝나고 폐허가 된 프랑스 수학을 재건설하려고 뭉친 부르바키 같은 익명의 수학 저술 그룹이 그 예다. 너무나 성공적이어서 프랑스를 넘어서 세계 수학의 흐름을 바꾸는 수준으로 활동을 했다. 정체가 외부에 공개되지 않은 익명의 수학자들이 모여서 난상토론의 방식을 통해서 수학의 전 분야에 대한 체계적이면서 통찰 가득한 책들을 만들어 냈다. 그들은 개인의 이름을 누락하고 니콜라스 부르바키라는 필명으로 이 책들을 출간해서 많은 이는 이 이름이 개인의 이름일 것으로 생각하곤 했다. 이제는 부르바키의 구성원이 상당수 알려져 있는데, 장피에르 세르 등의 불세출의 수학자들이 부르바키 이름 뒤에 숨어 있었다. 익명성을 전제로 누가 발언을 하던 아무나 중간에 끊고 껴드는 난상토론의 방식은 이제 부르바키 방식이라고 불린다. 예의를 중시하는 타 분야에서는 기겁할 일이다. 과연 부르바키는 유클리드가 팀 이름이라는 가정 하에 그 전례를 따른 걸까?

고대 그리스 문명은 기원전 700년 이후에 지중해 인근의 아테네를 중심으로 발전했다. 지중해 인근에서 발전했던 다른 두 문명인 이집트 문명이나 메소포타미아 문명과 비교해서 시기적으로 꽤 늦다. 기원전 330년쯤에는 알렉산더 대왕이 정복 전쟁을 통해 영토를 크게 확장하더니, 그가 사망하면서 아프리카 북단의 이집트 항구도시인 알렉산드리아로 그 중심이 옮겨 갔다.

고대 그리스 문명의 두 축을 이루는 아테네 시대와 알렉산드리아 시대는 유사하면서도 조금 색깔이 다르다. 아테네 시대의 대표적인 수학자로 피타고라스와 플라톤을 들 수 있는데, 이집트와 바빌로니아의 실용적 수학에 비해서 추상적이고 철학적인 수학을 발전시켰다. 특히 대수학 대신에 모든 것을 기하학으로 보는 관점을 추구했다. 알렉산더 대왕의 스승으로 큰 영향을 끼쳤던 아리스토텔레스가 알렉산더 대왕의 사망 1년 뒤에 따라서 사망하면서 아테네 시대는 종말을 고했다.

알렉산드리아 시대는 아테네 시대의 유산을 물려받고 발전시켜서 찬란한 문명의 꽃을 피웠다. 이곳에 건설된 알렉산드리아 도서관은 세계 최대 규모였고 헤아릴 수 없는 새로운 발견이 이루어진 장소가 되었다. 아테네 시대가 철저하게 추상적인 사유에 집중한 반면에 알렉산드리아 시대에는 달까지의 거리를 재는 등의 일부 실용적인 측면도 나타났다. 아르키메데스도 이런 예로 볼 수 있다.

유클리드는 바로 이 알렉산드리아 시대의 초기에 활동한 수학자였다. 유클리드의 원론은 문명사에서 독보적인 위치를 갖는다. 필사본을 통해 수많은 학자에게 지대한 영향을 끼쳤고, 인쇄술이 발명된 이후에는 대량 인쇄되어 기하학과 원론이 동일시되는 상황에 이르렀다. 일부 주장으로는, 역사상 성경 다음으로 많이 인쇄되고 읽힌 책이라고도 한다. 이렇게 대단한 유클리드 원론에도 없는 것이 두 가지가 있다. ‘무한’이 없고 ‘0(없음)’이 없다.

불교와 힌두교에 기초한 인도문명은 이미 기원전 10세기경에 무한의 개념을 알고 있었지만, 고대 그리스 문명은 무한의 개념을 발견하지 못했다. 원론에 나오는 모든 선분은 유한한 선분이다. 그러니까 직선이 끝없이 이어지면 어떻게 될까라는 질문 같은 건 다루지 않는다. 그래서 평행한 두 선분은 만나지 않는다. 평행한 철로가 끝없이 가다가 지평선에서 만나는 일 따위는 없다. 이러한 관점은 미술에도 반영돼서 17세기에 원근법이 나오기 전까지는 그림에 거리 개념이 분명하지 않았다. 원근법의 출현에 자극받은 파스칼이 무한을 도입해서 사영기하학을 창안할 때까지 기하학에서의 무한의 문제는 해결되지 못한 상태로 남아 있었다.

‘0’, 없음, 무, 공허의 문제는 더 심각하다. 고대 그리스는 물론이고 로마문명을 거쳐 중세까지도 유럽은 0이라는 숫자를 발견하지 못했다. 고작 자릿수 개념의 0을 사용했을 뿐인데, ‘없다’라는 추상적인 개념을 숫자로 표현한다는 것은 충만의 신학이라는 종교적 관점에서도 이질적인 것이었다. 인도 문명은 ‘무’의 개념을 7∼8세기경에 발견했고, 이를 사용하여 인도-아라비아 숫자를 만들어냈다. 인도에서 만들어져 사용되다가, 이슬람교도들에 의해 지중해 지역을 거쳐 유럽으로 전해지는데 800년 이상이 걸렸다. 르네상스 시대에 집중적으로 이루어진 문헌 번역작업 과정에서 유럽에 소개되었고, 15세기에 본격적으로 사용되면서 수학뿐 아니라 철학과 신학의 방향에 지대한 영향을 끼쳤다.

무한을 도입한 사영기하학이나 일반적인 공간의 문제를 다루는 리만기하학이 출현하면서 유클리드의 한계는 분명해졌다. 특히 아인슈타인의 일반상대성 이론은 리만기하학의 강력한 힘을 증빙한다. 이런 한계에도 불구하고 여전히 유클리드는 위대하고, 적어도 평면 위에서의 기하는 유클리드와 동일시된다.

클릭하시면 더 큰이미지를 보실 수 있습니다

이런 유클리드가 할리우드에도 진출했다. 이제 애니메이션 산업의 중추가 된 기하학적 모델링은, 컴퓨터에 의한 계산적 기법을 사용하는 차이가 있지만, 유클리드 기하학의 토대에 있다고 보아도 무방하다.

100% 컴퓨터 그래픽스로 만든 역사상 최초의 애니메이션은 무엇일까? 답은 토이스토리다. 1995년에 나온 이 애니메이션은 할리우드를 뒤흔들었다. 애플에서 쫓겨난 스티브 잡스가 절치부심하던 시기에 인수한 픽사는 수학자를 다수 고용해서 애니메이션의 새로운 패러다임을 모색했고, 그렇게 만든 첫 애니메이션 작품이 토이스토리다. 애니메이션의 새로운 지평을 열었다는 평가를 받았고 공전의 히트를 했다.

이전의 애니메이션은 솜씨 좋은 사람들이 손으로 그리는 게 주였고, 거기에 컴퓨터 그래픽스가 보조적인 역할을 했다. 픽사의 수학자들은 새로운 애니메이션 기법을 만들면서 경천동지의 수준으로 이 분야를 바꾸었다. 게다가 토이스토리2부터는 픽사 수학자들이 새로 창안한 섭디비전 방식이라는 걸 사용하기 시작했는데, 이건 해상도 조절이 자유로워서 그야말로 애니메이션의 새로운 세상을 열었다.

사람은 눈으로 보고 시각적으로 인식하지만, 컴퓨터는 숫자로 표현되어야 이해한다. 그림조차도 그렇다. 17세기에 데카르트와 페르마가 좌표기하학을 만들었는데, 이게 시각적인 데이터를 숫자로 바꾸어주는 통로 역할을 한다. 물론 이전의 그림 그리기 방식으로도 좋은 애니메이션이 많이 나왔지만, 만약 감독이 잘 그려서 만든 한 장면이 맘에 안 들어서 클로즈업 하라고 했다고 생각해 보자. 부드럽고 예쁘게 그려진 그림도 확대하면 직선으로 된 계단 같은 선들이 보인다. 결국 해당 장면 몇백 장을 다시 그려야 몇십 초 장면을 만들 수 있다.

그런데 수학을 사용하면 이걸 다시 그리지 않고도 확대된 그림을 여전히 부드럽게 표현해낼 수 있다. 보통 사람들은 그림을 최대한 세밀하고 자세한 수준까지 부드럽게 그릴 생각을 한다. 그렇게 하면 확대하고 나서도 웬만하면 부드러움을 유지할 테니까. 그런데 픽사 수학자들이 생각해낸 건 정말 발상의 전환이라 부를만하다. 오히려 거칠게 그림을 그린다. 그러니까 동그란 그릇을 그리는데도 부드러운 곡선이라기보다는 계단 같은 선들로 대강 그려진 그릇 그림을 연상하면 된다. 그러고 나서는 이 거친 그림을 필요에 따라 부드럽게 바꾸는데, 이 부드럽게 만드는 과정에서 섭디비전이라고 부르는 수학적 과정을 사용한다. 이건 사람이 개입하지 않고 컴퓨터로 쉽게 할 수 있는 과정이라서 직접 사람이 그림을 그릴 필요도 없다. 즉 거친 그림에서 출발하고 나서는 감독이 원하는 만큼 확대한 뒤에 부드럽게 만드는 것이다.

단지 해상도 조절뿐 아니라 이 방법의 여러 장점이 있다. 그림의 캐릭터가 흔들린다거나, 달리는 장면이 나올 때도 거칠게 그린 그림은 흔들거나 달리게 하는 게 쉽다. 컴퓨터에서 선 몇 개만 바꾸면 되니까. 그러고 나서 역시 부드럽게 만드는 수학적 과정을 거치면 되니, 실감 나는 여러 장면 연출을 다양하고 쉽게 할 수 있다.

20세기 말에 이루어진 애니메이션 산업의 혁신은 여러 요소의 결합으로 가능해졌다. 수천 년간 기하학과 동일시되던 유클리드 기하학이 기본 요소이고, 이를 숫자로 바꾸어 주는 좌표기하학이 보조했으며, 이렇게 바뀐 숫자들을 실시간으로 다루며 그림으로 그려내는 성숙한 컴퓨터 기술이 옆에 있었다. 좌표기하학을 사용해서 컴퓨터가 이해할 수 있는 형태로 그림을 표현하고 이걸 수학적으로 다루는 새로운 수학, 즉 기하 모델링이라고 부르는 수학 분야에 투자를 하고, 관련 연구자들을 모으고, 자유롭게 연구할 수 있게 해준 스티브 잡스 같은 지도자가 있었던 건 화룡정점이었을 것이다.(문화일보 8월 12일자 24면 4회 참조)

아주대 석좌교수