책표지

알고리즘, 패러다임, 법
로레인 대스턴 지음
홍성욱·황정하 옮김
까치

한경환 자유기고가

1279년 프랑스의 필리프 3세 국왕은 식사당 요리를 ‘매우 간단한’ 세 가지로 제한하는 조례를 시행했다. 타르트와 플랑 파이 없이 과일과 치즈만 먹는 한 디저트는 허용했다. 1294년의 조례는 수입이 6000리브르 미만인 귀족은 한 해 마련할 수 있는 새로운 의복의 수를 4벌 이하로 제한했다. 이 같은 사치금지법은 프랑스뿐 아니라 고대 그리스와 로마, 중세의 유럽, 도쿠가와 시대의 일본, 현대의 수단까지 놀라울 정도로 많은 문화권에서 나타났다. 한국에서도 허례허식을 일소한다는 명분으로 가정의례준칙이 시행된 적 있다.

인간 사회의 가장 큰 특징 중 하나는 규칙을 만든다는 것. 사치금지법, 맞춤법, 교통법 등 이루 다 헤아리기가 불가능한 거의 무한대의 규칙들에 포위돼 있다. 미국의 과학사학자 로레인 대스턴이 지은 『알고리즘, 패러다임, 법』은 인간과 규칙의 관계를 풍부한 식견을 통해 면밀히 관찰하고 탐구한 ‘규칙백과사전’이다. 대스턴은 이 책에서 수도원의 규칙에서 요리책까지, 군사적 교범에서 법률 조항까지, 계산 알고리즘에서 실용적 지침까지 다양한 규칙들을 장기적인 관점에서 다양한 사료들을 통해 조명했다.

1950년대 미국 패서디나 제트 추진 연구소의 여성 컴퓨터들, 즉 계산원들이 일하는 모습. [사진 까치]

고대 그리스 단어 카논(kanon)은 나무처럼 키가 크고 화살처럼 곧게 뻗은 거대한 지팡이 식물 ‘물대’를 가리키는 말이다. 직선 자를 뜻한다. 카논과 동일한 고대 라틴어에 해당하는 레굴라(regula)는 곧은 판자, 지팡이라는 의미와 연관이 있으며, 은유적으로는 ‘유지하고 지시하는 것’과 관련 있다. 카논과 레굴라로부터 세 가지의 주요한 의미론적 범주가 가지처럼 파생했다. 꼼꼼하고 주로 수학적인 정확성, 복제를 위한 모델 혹은 패턴, 그리고 법률 혹은 법령이다.

측정 및 계산의 도구로서의 규칙인 알고리즘은 수천 년 간 컴퓨터와는 무관하게 일반적 의미의 산술계산을 가리키는 용어로 사용돼 왔다. 지금은 계산이나 문제 해결에 사용되는 단계별 절차를 모두 포함하는 방향으로 의미가 확장됐다.

19세기 말 계산 천재로 불린 인물 자크 이나우디를 그려넣은 로베르-우댕 극장 포스터. 프랑스 파리 카르나발레 박물관 소장. [사진 까치]

알고리즘의 개념은 12세기 유럽에 이 단어가 처음 등장하기 훨씬 전의 수학에도 그 흔적이 남아 있다. 100개의 빵 중 50개를 6명에게 분배하고 나머지 50개를 다른 4명에게 분배하는 방법에 대한 고대 이집트의 문제, 음력 1개월의 길이 예측에 대한 고대 바빌로니아의 규칙들, 제곱근과 세제곱근을 구하는 중국의 절차들 등이다.

따라야 할 모델의 전범으로 꼽히는 『성 베네딕토 규칙서』는 535~545년에 작성됐다. 73개 장에 걸쳐 수도사들이 지켜야 할 규칙의 세부사항들을 구체적으로 담았다. 이 책은 오늘날까지 서방 그리스도 교회의 모든 수도원 공동체에서 기초적인 헌법으로서 그 역할을 하고 있다.

그러나 실제 성 베네딕토 수도원 생활은 ‘규칙의 규칙’인 수도원장을 중심으로 이루어졌다. 수도사들은 수도원장의 삶의 기준을 모델로 받아들였다. 범례로 해석될 경우의 패러다임이 규칙과 동의어로 여겨지던 시기가 있었지만 지금은 특정한 사람을 더는 ‘규칙’이라고 부르지 않는다. 다만 ‘롤 모델’ 같은 표현은 여전히 빈번하게 사용된다.

오늘날 ‘법’은 규칙이란 말과 거의 동일시된다. 이 책은 법과 규정, 자연법과 자연법칙 등의 관계에 대해서도 깊이 있게 다룬다.

지금 한국은 탄핵정국 강추위로 모든 것이 얼어붙었다. 저마다 법에 일가견이 있다는 법전문가들이 다투고 있다. 하지만 법을 자의적 잣대로 자신들에게 유리하게 해석하고 집행하는 데도 챔피언들이다. ‘규칙의 동물’인 인간 사회의 원형을 보는 듯하다.

대스턴이 쓴 이 책은 우리가 규칙을 어떻게 해석해야 하는지, 규칙에는 어떤 특징이 있는지 잘 보여 준다. 어쩌면 지금의 한국 사회, 정치에 대한 해법의 지혜도 이 책에서 얻을 수 있을 것이다.