이타성이 호모 사피엔스를 구원하리라

*본 글은 2021년 8월 13일 고등과학원(KIAS)에서 발간하는 웹진 ‘HORIZON’에  “이타성이 호모 사피엔스를 구원하리라”라는 제목으로 실린 것입니다. | HORIZON 바로가기

스코틀랜드 하이랜드Highlands의 굽고 좁은 산길을 따라 차를 몰다 보면 한동안 맞은편에 차량이 지나갈 때마다 오른쪽 안면이 시큰거림을 느낀다. 내 차는 부지불식 간에 길의 왼편으로 붙으려 하고, 때로 덩치 큰 트럭이나 버스와 교행할라치면 왼쪽 바퀴들이 포장된 노면과 흙길의 경계를 들락거리기도 한다. 비슷하게 좁고 굽은 알프스의 산길을 지날 때 왼쪽 안면 신경이 과민반응한 적이 있었던가? 느끼지 못했던 불편이다. 자연의 섭리에 좌우가 따로 없으니, 옛 영연방이나 일본 사람들이 우측통행을 하는 나라를 여행할 때도 아마 비슷한 불편을 겪으리라 짐작한다. 이제 시야가 트인 한적한 왕복 2차로. 나직이 깔린 구름 아래 언덕을 아스라이 내려오던 세단의 형체가 드러나고 드디어 서로의 눈빛이 교차하는 순간. 핸들에 걸쳐 있던 왼손의 네 손가락이 손목을 지렛대 삼아 올라간다. 대뇌가 모르게 일어난 일인 듯 싶다. 무조건 반사에 가까운 손가락 인사에 간발의 시차를 두고 반사되어 오는 ‘쿨’한 장풍. 이 연대감의 정체는 무엇인가? 만국의 운전자여 단결하라?

묘하게 마음이 따뜻해지는 짧은 조우를 뒤로하며 문득 밀려오는 생각. 맞은편 차량과 내 차의 상대속도는 어림잡아 시속 이백 킬로미터. 만약 맞은편 운전자의 운전이 태만하여 중앙선을 넘어온다면? 갑자기 걸려온 전화에 정신을 빼앗기거나 장시간 운전에 졸기라도 한다면? 그리하여 순식간에 내가 이 세상을 하직해야 한다면? 일상적으로 거기까지 생각이 미친다면 아마 상담을 받아봐야겠지만 그렇다고 그런 일이 아주 없는 것은 아니지 않은가.

어디에나 있지만 느끼지 못하는 공기처럼, 사실 우리는 일상적으로 타인과의 신뢰와 협동 속에서 살아간다. 물론 매체를 통해 접하는 세상사의 전형은 무너진 신뢰에 관한 아름답지 못한 이야기들이고, 인류의 역사는 말세를 향하여 꾸준히 악화가 양화를 구축해 가는 과정인 듯 보이기도 한다. 그렇지만 생사의 문턱이 될 수도 있는 왕복 2차로의 밤길을 재촉해 달리면서도, 맞은편에서 다가오는 불빛을 대부분의 사람들이 무감하게 넘기며 사는 일상은 어떻게 해석해야 할까?

초창기의 다윈은 사회를 이루고 사는 동물들에 만연한 협동cooperation과 이타성altruism을 자신의 진화이론을 위협하는 요소로 파악한 듯하다. 정작 다윈 자신은 쓴 적이 없는 ‘적자생존’ 같은 말로 진화론을 단순화하고, 『이기적 유전자』의 방점을 저자의 의도와 달리 ‘이기적’에 찍다 보면, 진화론은 약육강식과 유전자결정론을 정당화하고, 정치적 올바름이 결여된 우생학의 프로파간다가 되기도 한다. 자연현상에 가치론적 맥락을 부여하는 것으로부터 시작되는 성급한 일반화의 폐해는 특히 진화론의 언저리에 드물지 않다. 하지만 생물권biosphere에 만연한 협동의 사례에서 보는 것처럼 사실 협동은 그리 ‘해롭지’도 않고 협동하고 희생하는 종이 늘 도태되는 것도 아니다.

그림1 존 버든 샌더스 홀데인 | Wikipedia

협동의 발현? 그런데 이런 ‘촉촉’하고 ‘흐느적흐느적’한 이야기가 과학적 탐구의 영역에 들 수 있을까? 자연선택의 관점에서 일견 해롭기만 할 것 같은 협동, 희생, 이타성 같은 형질이 긴 진화의 시간 속에서 어떻게 살아남았나를 과학의 문제로 들여다본 선구자 중에는 피셔R.A. Fisher, 라이트Sewall Wright 등의 이론가들과 함께 집단유전학을 정초한 이튼Eton 출신의 걸물 홀데인J.B.S. Haldane이 있다. 효소학enzymology을 반응속도론의 정량적 반석 위에 올려놓은 미카엘리스-멘튼Michaelis-Menten 방정식[1]을 덜 제한된 근사로 일반화한 브릭스-홀데인Briggs-Haldane[2]의 바로 그 홀데인이다.

홀데인은 유전학자, 생화학자로 영국왕립학회 펠로우였으나 공식적인 학위는 없었고 정치적으로도 자유분방한 영혼이었으며, 같은 이유로 영국정부에는 성가신 존재였다. 그는 인도로 건너가 인도 시민으로 생의 마지막 8년을 보내는 동안 체외수정, 유전자 클로닝의 기본 아이디어를 제안했고, 심지어 자신을 대상으로 한 숱한 생체실험을 통해 당뇨, 파상풍 치료법을 개발하였으며 과학저술을 통해 대중과 소통하는 데에도 발군의 기여를 하였다 한다.1 물에 빠진 이가 ‘내 형제 둘이거나 사촌 여덟 명’이라면 기꺼이 자신의 목숨을 던져서라도 구하겠다는 그의 어록은 프라이스George Price의 수학적 정식화에 힘입어 해밀튼William D. Hamilton의 포괄적합도inclusive fitness 개념의 기반을 제공하였고, 메이나드 스미스John Maynard Smith, 도킨스Richard Dawkins 등으로 이어지면서 유전자 중심의 진화를 현대진화이론의 주류로 자리매김하는 데 두루 기여하였다.

1 1964년 12월 2일 자 뉴욕타임스에 실린 장문의 부고는 그가 살아낸 인생의 폭과 기백을 어렴풋이나마 짐작케 해준다.

다시 원래의 이야기로 돌아가 보자. 우리는 왜 협동하는가? 현대진화이론과 사회생물학, 게임이론 등의 논의를 종합하여 일찍이 하버드의 이론생물학자 노왁Martin Nowak은 협동이 일어나는 다섯 가지 메커니즘을 2006년 <사이언스>의 총설 논문에서 정리한 바 있다.[3] 첫 번째와 두 번째는 ‘그대의 등을 긁어줄 테니 내 등을 긁어주오’와 같은 직접적인 호혜성direct reciprocity, 그리고 ‘네가 선을 베풀면 사람들이 선한 자를 알아볼 것’이라는 평판을 통한 간접적 호혜성indirect reciprocity이다. 일견 자명한 원리처럼 들리지만 중추신경계가 발달하지 못한 원생동물이나 인지능력을 기대하기 힘든 단세포생물의 경우에는 그리 자명한 일이 아닐 수 있다. 아마도 자연스러운 것은 직·간접적 호혜성이 언어의 기원과 밀접하게 연동되고 호모사피엔스의 강력한 뇌의 출현에도 산파 역할을 했으리라는 추론일 것이다.

협동의 메커니즘을 정량적으로 이해하기 위한 정량적 모형연구의 중심에 게임이론Game Theory이 있다. 특히 1980년대에 정치학자 악셀로드Robert Axelrod가 주관했던 전략경연[4]을 통해 반복되는 죄수의 딜레마repeated Prisoner’s Dilemma 게임에서 누적된 보수payoff를 최적화하는 문제가 널리 관심을 끌었고 이에 대한 실용적 탐구는 정치·경제학은 물론 사회과학 전반에 영향을 미쳤다. 음악가이자 수리생물학자인 라포포트Anatol Rapoport가 제출한 ‘맞받아치기Tit for Tat’ 전략이 이때 유명세를 탔고, 얼핏 듣기에 가차 없는 복수의 함무라비 법전이 협동과 이타성이 진화할 수 있는 조건과 관련이 된다는 역설적인 사실도 알려졌다. 게임이론은 또한 군비경쟁과 상존하는 지정학적 갈등에 새로운 통찰을 제공하였고, 총기 규제, 백신 공포, 반독점규제의 전략 차원에서도 활발히 논의되었다.[5]

표 진화게임이론evolutionary game theory으로 정식화된 협동의 진화를 위한 다섯 가지 메커니즘. b는 협동하는 타인으로부터 얻게 되는 이득으로 타인에 의해 주어지고 c는 협동하는 이가 치르는 대가로 본인의 협동 여부에 의해 부과됨. w: 상호작용하는 개체들끼리 재회할 확률, q: 상대의 평판에 대해 인지하고 있을 확률, r: 유전적 근연도relatedness (부모-자식 간, 형제 간은 1/2, 사촌 간은 1/8). g: 집단의 크기, G: 집단의 갯수, k: 상호작용하는 이웃의 수 | 김철민

사실 호혜성에 기반한 협동의 발현과 정착을 위한 전략 연구는 꾸준히 외연을 넓혀 왔다. 최근에는 계산자원과 수치연구 역량의 가파른 증가에 힘입어 훨씬 더 정교하면서도 직관적인 해석이 가능한 협동의 전략들을 모색할 수 있게 되었다. 이를테면 과거 n번의 조우를 기억하는 반복된 죄수의 딜레마 게임에서 취할 수 있는 전략의 경우의 수는 2^(2×2)n가지이므로 단지 세 번의 내력만 기억한다 해도 2⁶⁴ ≅ 10¹⁹개의 선택지가 주어지는 셈이니, 우선 그 계산의 복잡도computational complexity에 주눅 들게 된다. 하지만 최근에는 한·일의 촉망받는 연구자들이 슈퍼컴퓨팅을 활용한 공동연구를 통해 다양한 환경에서 협동을 발현하는 극소수의 ‘우호적경쟁friendly rivalry’ 전략을 발굴하여 주목받기도 하였다.[6]

협동의 진화를 가능케 하는 세 번째와 네 번째 메커니즘은 2010년 <네이처> 지면을 통해 드러난 진화생물학계의 ‘내전’, 즉 혈연선택kin selection과 집단선택group selection 간의 살벌하기까지한 논쟁에 관한 것이다.[7] 다만 여기서 집단선택은 1960년대 윈-에드워즈V.C. Wynne-Edwards등이 주축이 된 구-집단선택론2과 구분되기 때문에 다수준선택multilevel selection이라 일컫기도 한다. 해밀튼W. Hamilton의 포괄적합도이론에 의해 확립된 혈연선택은 메이나드 스미스, 윌리엄스G. Williams, 트리버스R. Triverse와 도킨스를 거치면서 진화적 선택이 이루어지는 단위로서의 유전자(‘이기적’ 유전자) 개념을 확립하였다. 그리하여 이미 1970년대 중반이면 구-집단선택론은 깨끗이 ‘극복’되고 이런 혁명의 기운 속에서 집단선택에 대한 언급은 불온시 되고 반동의 취급을 받는다.

2 종과 같은 집단이 선택의 단위가 될 수 있어서 개체들이 집단의 이익을 위해 행동하도록 진화하였다는 가설이다. 대부분 개체 수준에서 선택된 형질이 결과적으로 집단의 번성에도 기여했다고 보는 것이 타당하므로 일찌감치 논박되었다.

분명 혈연선택은 희생적이고 영웅적인 행위들을 자연선택의 기반 위에서 이해할 수 있는 이론적 틀을 제공한다. 혈연은 잠재적으로 내 유전자의 대물림에 기여해줄 유전자 공동체이다.

비록 나에게 당장은 손해가 나더라도, 혈연을 도움으로써 내 유전자의 복제본이 더 많이 널리퍼져 나가는 데 도움이 된다면, 결과적으로 혈연을 돕게 하는 유전자가 자연선택을 통해 다음 세대로 전해질 가능성은 높아진다. 말인 즉 유전자의 ‘이기성’이 개체의 이타성을 가능케 한다는 소리인데, 이 비유적 표현이 적어도 일반 대중 독자들에게는 적지 않은 혼란의 원천이 되기도 한다.

잉크 방울이 물속에서 확산하는 현상을 설명하기 위해 잉크 분자들이 공간에 고루 퍼져 있으려 한다고 말하면 어떨까? ‘엔트로피’나 ‘자유에너지’를 들먹이면 조금 더 건조하고 엄밀한 설명을 할 수는 있겠지만, 앞의 설명을 두고 분자들이 농도 구배를 없애기 위해 목적 의식적으로 움직인다고 해석할 여지는 없어 보인다. ‘이기적’이라는 형용사로 유전자를 의인화할 때에도 마찬가지 수준의 비유가 적용된다. 혈연이라는 유전자 공동체의 이익을 위해 개체가 희생을 감내하는 행동특성이 유전자에 쓰여 있어 대물림되면 결과적으로 그 유전자를 공유하는 개체의 진화적 성공으로 나타난다는 뜻이지 뉴클레오타이드 사슬이 자기복제라는 목표를 위하여 결연한 의지를 갖고 개체를 조종한다는 뜻은 아닐 것이다. 변이와 선택이 빚어내는 진화의 양상은 결국 집단 내에서 유전자 수준의 빈도 경쟁으로 나타나고, 이것이 오랜 시간에 걸쳐 생명의 진화를 빚어낸 자연의 논리임을 통찰하고 정식화한 이가 바로 도킨스이다.[8]

한편 집단선택은 1960년대에 이미 폐기된 구舊버전은 논외로 하더라도 이야기가 그리 간단치 않다. 이미 고전이 된 『이기적 유전자』를 통해 도킨스가 개체니 집단이니 하는 것은 덧없는 운반자vehicle일 뿐, 자연선택의 단위는 불멸하는 복제자인 유전자임을 확립한 것이 1976년. 그 직전 해인 1975년에 야심 차게도 젊은 윌슨D.S. Wilson(사회생물학의 거두 윌슨E.O. Wilson이 아닌)은 이미 주류이론이 된 혈연선택에 맞서 신-집단선택으로 대안적 이론을 시도했다.[9] 하지만 너무도 탁월한 도킨스의 업적이 드리운 그늘이라고 해야 할까, 이후 도그마의 반열에 올라버린 유전자 중심의 혈연선택 진영은 ‘집단’이란 말만 들어도 알레르기에 가까운 거부반응을 보였는데[10], 당대 최고의 고생물학자 중 한 사람인 굴드S.J. Gould도 자신이 이런 반지성적 분위기의 피해자였음을 저서를 통해 통탄했던 적이 있다.3

3 “I have never witnessed a more distressing bandwagon in science, or seen any idea of such salutary origin pushed so far in the direction of thoughtless orthodoxy”[11]

꾸준히 저변을 넓혀가던 신-집단선택 진영은 드디어 2010년 혈연선택의 핵심이론인 포괄적합도 이론의 쓸모없음을 공격하며 본격적인 ‘내전’을 도발하기에 이른다. 도발자 중의 한 사람은 공교롭게도 사회생물학의 창시자이자 오랫동안 실증연구를 통해 혈연선택을 옹호해온 하버드의 윌슨이었다. 사실 그의 ‘배신’은 진즉부터 예견된 것이었는데[12,13], 자칭 ‘상아탑의 선동가’ 역할을 마다하지 않던 윌슨이 예의 그 반역의 깃발을 들었던 것이다. 그리하여 새로운 깃발 아래 집단선택은 논쟁의 한 가운데로 돌아왔고 이런 일련의 흐름은 후성(혹은 후생) 유전학epigenetics의 부상과 함께 재조명되고 있는 라마르크J.-B. Lamarck와 용불용설用不用說의 경우를 보는 듯한 기시감을 준다.

하지만 돌아온 써머스비4가 과연 옛날의 그 써머스비였나? 사실은 그렇지 않다는 것이 혈연선택 진영을 그토록 귀 닫고 눈 가리게 했던 측면이다. 혈연선택을 떠받치고 있는 포괄적합도 이론, 또한 포괄적합도 수식화의 기반이 된 프라이스 방정식이 동어반복tautology 이상이 아니라는[14] 도발에 대해 혈연선택 진영은 여전히 신-집단선택이라는 것도 결국 해밀튼이 이미 다 해놓은 이야기의 부차적 설명일 뿐이라는 입장인 듯하다. 필자를 포함한 구경꾼들은 목하 먼지가 가라앉기를, 미네르바의 부엉이가 날아오를 황혼이 내리기를 기다리는 중. 과학적 근거가 결여된 필자의 사심일 뿐이지만, 겨우 “피는 물보다 진하다”가 호모 사피엔스에게 던져진 구원의 최대치일까?

4 리처드 기어, 조디 포스터 주연의 1993년 영화 <써머스비>. 남북전쟁에 나가 행방불명이던 남편 써머스비가 6년 만에 고향으로 돌아왔지만 과연 돌아온 그가 옛날의 그인지에 대한 진실공방이 주된 플롯을 이룬다.

마지막으로, 공간적 호혜성spatial reciprocity은 상호작용하는 개체들 간의 공간적 분리와 유유상종의 뭉침과 관련이 있다. 표면장력을 줄이기 위해 계면이 최소화되는 것처럼, 협력자들은 영리한 전략 없이도 단지 뭉쳐 있음으로써 배신자들의 착취를 이겨낼 수 있게 되고, 마침내 협동은 진화의 시간에 걸쳐 대물림되고 살아남을 가능성을 획득한다.

그림2 공간적 호혜성: 협동을 위한 반독점 전략. 붉은색 노드는 허브hub, 푸른색은 허브들이 공유하고 있는 이웃 노드. 강한 양/음의 동류성assortativity(연결된 노드들의 연결선 수 사이의 피어슨 상관계수)을 갖는 왼쪽/오른쪽 그래프는 허브들이 공유하는 이웃의 수에서 확연히 대비된다. 허브들 간에 공유된 이웃이 많다는 것은 착취의 유혹에 취약한 허브들의 배신이 연결망 전체로 전파될 개연성을 키우므로 결과적으로 연결망의 동류성assortativity과 협동의 발현은 강한 음의 상관관계를 보인다.[15]

사실 생명체를 포함한 모든 물리적 대상이 (시)공간이라는 구속조건으로부터 자유로울 수 없는 이상, 저마다의 개체들이 관계를 맺고 상호작용하는 대상들의 공간적 분포는 필연적으로 이질성을 띨 수밖에 없다. 지리, 식생과 같은 환경요인도 있겠지만 개체들의 행동이 빚어내는 확률과정의 통계는 기본적으로 꼬리가 긴 분포를 나타내고 대개 균일함으로부터 크게 벗어나 있다. 일반적으로 연결망의 밀도가 높아지면 시스템은 ‘작은 세상Small World’이 되고 정보와 물질의 이동은 촉진된다. 특별히 축척이 없는scale-free, 혹은 연결선의 수가 멱급수power-law 분포를 따르는 연결망에서는 같은 연결선 밀도를 갖는 정규그래프regular graph나 랜덤그래프random network에 비해 마구잡이 오작동에 대한 ‘면역’이나 복원력은 커진다.

하지만 그와 동시에 전염병이나 가짜뉴스의 확산, 의도된 공격에 대한 시스템의 취약성도 높아지는데, 사회적 그물망에서의 이타성 발현에 대해서도 같은 직관을 적용할 수 있다. 상호작용을 주고 받는 개체 간의 연결망이 더욱 촘촘해질수록 타인의 선의를 이용만 하려는 배신자가 직접적으로 협력자들을 착취할 수 있게 되어 협력자들의 ‘공동체’는 진화적 안정성을 잃는다. 반대로 말하자면, 인구집단의 공간적 구조가 상호작용의 대상을 국한할 때 협력자들은 무리를 이루어 스스로를 보호할 수 있게 된다. 더 나아가 사회적 그물망에서의 연결선의 밀도가 일정한 상황이라도 실질적인 연결선의 분포 양상, 즉 연결확률분포의 고차 모멘트값이 달라지면 협력자들의 진화적 운명은 달라질 수 있다.

심층강화학습deep reinforcement learning을 활용한 최근의 연구가 보여주는 공간적 호혜성의 또 다른 발현양상은, 그물망의 구조가 협동의 발현을 돕고 다시 협력자들이 그물망을 협력자-친화적으로 재구축하는 선순환적 공진화의 가능성이다.[15] 물질세계에서 굳이 비유를 찾자면, 고분자전해질 수용액에서 반대이온의 전하밀도파를 매개로 하는 동종 전하 사이의 인력, 혹은 포논phonon과의 상호작용을 통해 전자들이 정전기적 밀침을 극복하고 쿠퍼쌍Cooper pair을 이루는 상황을 떠올릴 수 있다. 합리성으로 무장한 경제주체들 사이에서 일어나는 이런 동화 같은 창발성emergence이 생태계에서 얼마나 주된 협동의 작동방식인지는 실증이 필요한 문제이지만, 적어도 그 가능성은 적잖은 영감을 불러일으킨다.

그리하여 이제 다시 하이랜드의 굽고 좁은 산길. 어느덧 해가 지고 어둠이 내린다. 저만치에서 달려오는 불빛은 서로를 위협하는 불빛이 아니라 서로의 안녕을 바라고 공존을 도모하는 호모 사피엔스 간의 연대의 불빛이다.

참고문헌

1. Michaelis L, Menten M, Die Kinetik der Invertinwirkung, Biochem. Zeit. 49, 333-369 (1913).
2. Briggs GE, Haldane JBS, A note on the kinetics of enzyme action, Biochem. J. 19, 338-339 (1925).
3. Nowak MA, Five rules for the evolution of cooperation. Science 314, 1560-63 (2006).
4. Axelrod R, The Evolution of Cooperation, Basic Books, ISBN 0-465-02122-0 (1984).
5.백승기, 김범준, 최정규, 게임이론과 통계물리학, <물리학과 첨단기술> 2007년 10월호 pp.19-21.
6.Murase Y, Baek SK, Five rules for friendly rivalry in direct reciprocity, Sci. Rep. 10, 16904 (2020); Murase Y, Baek SK, Friendly-rivalry solution to the iterated n-person public-goods game, PLoS Comput. Biol. 17(1): e1008217 (2021).
7.Nowak MA, Tarnita CE, Wilson EO. The evolution of eusociality, Nature 466: 1057-62 (2010).
8.Dawkins R, Selfish Genes, Oxford University Press (1976).
9.Wilson DS, A theory of group selection, Proc. Nat. Acad. Sci. USA 72, 143-146 (1975).
10.Borrello ME, The rise, fall and resurrection of group selection, Endeavour 29, 43-47 (2005).
11.Gould SJ, The Structure of Evolutionary Theory, Harvard University Press (2002).
12.Wilson EO, Kin selection as the key to altruism: its rise and fall, Soc. Res. 72, 159-166 (2005).
13.Wilson DS, Wilson EO, Rethinking the theoretical foundation of sociobiology, Quart. Rev. Biol. 82, 327-348 (2007).
14.Nowak MA, Highfield R, SuperCooperators: Altruism, Evolution, and Why We Need Each Other to Succeed, Free Press (2011).
15.Yang H, Ghim CM, Structural antitrust: facilitated altruism in disassortative populations, Manuscript unpublished.