2014년 노벨 생리의학상 — 오키프·모저 부부, 뇌 안의 GPS를 발견하다

이 글을 읽으면

2014년 노벨 생리의학상은 우리 뇌 안에 있는 공간 좌표 시스템을 발견한 세 사람에게 돌아갔습니다. 미국-영국의 신경과학자 존 오키프는 1971년 쥐의 해마에서 특정 위치에 있을 때만 발화하는 뉴런 — 장소 세포(place cell) 를 발견했습니다. 30여 년 뒤 노르웨이 트론헤임의 부부 신경과학자 마이브리트 모저와 에드바르 모저는 오키프의 학생이었던 시절을 거쳐 2005년 내후각 피질(entorhinal cortex) 에서 삼각 격자 무늬로 발화하는 격자 세포(grid cell) 를 발견했습니다. 두 종류의 뉴런은 함께 뇌의 GPS 시스템을 이룹니다. 장소 세포는 특정 랜드마크의 좌표를, 격자 세포는 공간 전체의 좌표 격자를 인코딩합니다. 이 아키텍처는 알츠하이머 초기 병리·항해 능력·기억의 공간적 기반 이해의 근거이며, 21세기 인지신경과학의 큰 성취 중 하나입니다.

상식과 다른 이야기 — 뇌는 공간을 뉴런의 발화 패턴으로 인코딩합니다

"공간 인지는 시각·촉각 등 감각의 종합"이라는 상식은 그림의 일부만 맞습니다. 우리가 낯선 도시에서도 어느 정도 시간이 지나면 지도를 그리고, 눈을 감고도 방 안에서 방향을 찾을 수 있는 이유는, 뇌가 감각 정보를 통합해 내부적으로 공간의 좌표 표현을 만들기 때문입니다. 이 좌표 표현은 어디에 있고, 어떻게 만들어지고, 어떤 뉴런이 담당하는가에 대한 답을 세 수상자가 밝혔습니다.

장소 세포(place cell) 는 해마의 뉴런으로, 각 뉴런이 자기가 좋아하는 특정 위치가 있습니다. 쥐가 그 위치를 지나갈 때만 그 뉴런이 발화합니다. 예를 들어 어떤 뉴런은 방의 북서쪽 모서리에서만 발화하고, 다른 뉴런은 남동쪽 중앙에서만 발화합니다. 해마 안에는 수많은 이런 뉴런이 있어, 각각의 뉴런이 방의 특정 위치를 "자기 자리"로 갖습니다. 이 뉴런들의 발화 패턴을 읽으면 쥐가 어디 있는지 알 수 있습니다.

격자 세포(grid cell) 는 훨씬 놀라운 아키텍처입니다. 내후각 피질의 각 격자 세포는 자기가 좋아하는 위치가 하나가 아니라 여러 개입니다. 그리고 그 위치들이 방 안에 완벽하게 규칙적인 삼각 격자(hexagonal grid) 패턴으로 배열되어 있습니다. 각 격자 세포는 자기만의 격자 방향과 격자 간격을 가지며, 여러 격자 세포가 협력해 공간 전체를 완전히 커버하는 좌표계를 만듭니다.

CS 프레임으로 옮기면 이것은 memoized landmark cache와 grid coordinate system의 결합입니다. 장소 세포는 특정 좌표에 도달할 때 발화하는 랜드마크 캐시. 격자 세포는 공간 전체를 삼각 격자로 파티션한 좌표계의 basis vectors. 두 시스템이 함께 작동해 자기 위치 추정(self-localization)과 경로 계획(path planning)이 가능해집니다. 이는 로봇 SLAM(Simultaneous Localization and Mapping) 알고리즘의 자연 대응이자, 어쩌면 진화가 훨씬 앞서 발명한 아키텍처입니다.

시대의 풍경 — 세월호와 국민적 슬픔의 해

2014년 한국은 4월 16일 세월호 참사로 결정적 상흔을 남겼습니다. 진도 앞바다에서 침몰한 여객선에서 304명이 사망했고, 그 중 대부분이 수학여행을 가던 안산 단원고등학교 2학년 학생들이었습니다. 구조의 실패, 정부 대응의 문제, 사고 이후 진상 규명의 과정 하나하나가 국민적 슬픔의 대상이 됐고, 노란 리본이 사회 곳곳에 등장했습니다. 이 사건은 단순한 재난을 넘어 한국 사회가 안전, 국가의 책임, 재난 대응 시스템의 근본을 되묻는 계기가 됐고, 그 후폭풍은 이후 몇 년 동안 정치와 사회의 큰 배경이 됩니다.

동시에 9월 19일부터 10월 4일까지 인천에서 아시안게임이 개최됐고, 국제 스포츠 대회를 성공적으로 치르며 세월호의 아픔 속에서도 사회가 계속 움직인다는 사실이 확인됐습니다. 11월 정윤회 문건 파동이 청와대 내부 문건 유출을 통해 폭로됐고, 12월 헌법재판소가 통합진보당 해산을 결정했습니다. 정치적 격동이 이어졌습니다.

세계에서는 3월 러시아의 크림반도 병합으로 우크라이나 위기가 시작됐고, 미러 관계가 냉전 이후 최악으로 치달았습니다. 여름 이라크와 시리아에서 ISIS(이슬람국가)가 급속 확산하며 국제 대응이 시작됐습니다. 서아프리카에서 에볼라 대유행이 3월 시작되어 라이베리아·시에라리온·기니에서 1만 명 이상의 사망자가 발생했고, 국제 보건 위기가 새 국면에 접어들었습니다.

인터넷 세계에서는 여름의 아이스버킷 챌린지가 SNS 기부 문화의 새 형태를 만들었습니다. 루게릭병(ALS) 인식 확산을 위한 이 캠페인이 세계적으로 확산됐고, 셀럽·정치인·일반인이 함께 참여하며 SNS 시대의 사회적 행동주의의 형태를 예고했습니다.

기술 세계에서는 아이폰 6 시리즈 발매로 스마트폰 대형화 시대가 시작됐고, 애플워치가 발표되며 웨어러블 시대가 예고됐습니다. 인공지능 분야에서는 딥러닝의 폭발적 성장이 진행 중이었고, 알파고의 등장(2016)까지 약 2년 남은 시점이었습니다.

과학계에서 이 상은 부부가 함께 상을 받은 두 번째 사례로 화제였습니다. 마이브리트와 에드바르 모저는 대학원 시절 만나 결혼했고 함께 실험실을 이끌었습니다. 앞선 사례는 1947년 코리 부부(Carl and Gerty Cori, 노벨 생리의학상)와 1903년 퀴리 부부(마리·피에르 노벨 물리학상) 등이 있었습니다. 노르웨이라는 작은 나라의 지방 대학에서 세계적 발견이 나왔다는 사실도 이 이야기의 결에 있습니다.

인물 서사 — 뉴욕 근처 시골 소년과 노르웨이 트론헤임 커플

존 오키프(1939~ ) 는 미국 뉴욕 태생. 뉴욕 시립대학에서 학사, 몬트리올의 맥길 대학에서 심리학 박사학위를 받았습니다. 이후 영국 유니버시티 칼리지 런던(UCL)에 정착해 평생을 보냈습니다. 그의 관심은 해마의 기능이었습니다.

당시 해마는 이미 기억과 관련된 뇌 영역으로 알려져 있었습니다. 유명한 환자 H.M. — 간질 치료를 위해 해마를 포함한 측두엽 조직을 제거한 뒤 새로운 기억을 형성하지 못하게 된 환자 — 의 사례가 1957년에 발표되어 해마의 중요성이 명확해진 상태였습니다. 그러나 해마가 정확히 어떤 방식으로 기억에 관여하는지는 몰랐습니다.

오키프는 자유롭게 움직이는 쥐의 해마에서 단일 뉴런의 활동을 미세전극으로 기록하는 기법을 확립했습니다. 이 기법으로 그는 놀라운 관찰을 했습니다. 어떤 해마 뉴런들은 쥐가 특정 위치에 있을 때만 발화했습니다. 쥐가 그 위치에 있으면 뉴런이 반복적으로 발화하고, 다른 곳에 있으면 조용했습니다. 이런 뉴런을 오키프는 장소 세포(place cell) 라 명명했고, 1971년에 발표했습니다. 그의 1978년 저서 "The Hippocampus as a Cognitive Map"는 이 발견을 이론으로 확장하며 해마가 공간의 내적 지도를 표상한다 는 인지 지도 이론을 정립했습니다.

이 이론은 처음에는 격렬한 논쟁을 불러왔습니다. 심리학계는 해마를 학습·기억의 일반 시스템으로 보았지, 특정 도메인(공간)의 시스템으로 보는 것을 어려워했습니다. 오키프의 이론이 표준으로 자리 잡기까지 20～30년이 걸렸고, 그 사이 그는 UCL에서 조용히 연구를 계속했습니다.

에드바르 모저(1962~ ) 는 노르웨이 알레순 태생. 마이브리트 모저(1963~ ) 는 노르웨이 포스나보그 태생. 두 사람은 노르웨이 오슬로 대학에서 심리학을 공부하다 만났고, 결혼한 뒤 함께 신경과학을 전공했습니다. 1994년 두 사람은 함께 오키프의 UCL 실험실에서 몇 달간 방문 연구를 했습니다. 오키프의 장소 세포 실험을 직접 배우고 노르웨이로 돌아왔습니다.

그들은 노르웨이 과학기술대학(NTNU) 트론헤임 캠퍼스에 자기 실험실을 세웠습니다. 노르웨이의 지방 도시, 큰 대학이 아닌 곳에서 세계적 수준의 연구를 계속했습니다. 그들의 문제 설정은 이랬습니다. "장소 세포로 정보가 어디에서 들어오는가? 상류에는 어떤 뉴런이 있는가?"

해마의 주 입력원은 내후각 피질(entorhinal cortex) 입니다. 모저 부부는 이 영역의 뉴런을 기록하기 시작했습니다. 그리고 2005년, 그들은 놀라운 것을 발견했습니다. 내후각 피질의 뉴런 중 상당수가 발화하는데 — 발화 위치가 하나가 아니라 여러 개였고, 그 여러 위치가 완벽하게 규칙적인 삼각 격자 패턴을 이루고 있었습니다. 방 하나에 여러 개의 발화 지점이 삼각 격자 무늬로 배열되어 있었습니다. 이 세포를 격자 세포(grid cell) 라 명명했습니다.

발견의 임팩트는 즉시 이해됐습니다. 격자 세포는 공간의 좌표계 자체를 인코딩하고 있었습니다. 여러 격자 세포가 서로 다른 격자 방향과 격자 간격을 가지며, 이들의 조합이 공간 전체를 정확히 파티션하는 좌표계를 형성합니다. 이 좌표계 위에 장소 세포가 특정 랜드마크의 표상을 얹어 놓는 아키텍처가 완성됐습니다.

이후 몇 년간 모저 부부와 다른 실험실들은 관련 뉴런들을 더 밝혔습니다. 머리 방향 세포(head direction cell) — 특정 방향을 바라볼 때 발화, 경계 세포(border cell) — 벽이나 경계에 접근할 때 발화, 속도 세포(speed cell) — 이동 속도를 인코딩. 이 모든 세포가 함께 뇌 안의 완전한 GPS 시스템을 구성합니다.

세 수상자가 인정된 것은 오키프의 발견에서 43년, 모저 부부의 발견에서 9년 만이었습니다. 인지신경과학이 성체 뇌의 특정 인지 기능을 뉴런의 활동으로 설명한 대표 사례였기 때문입니다.

핵심 업적 — CS 프레임으로 본 뇌 GPS 아키텍처

뇌의 공간 좌표 시스템을 파이프라인으로 그리면 다음과 같습니다.

• 감각 입력 (Sensory input): 시각·촉각·전정 감각·자기 자신의 운동 정보가 여러 뇌 영역에서 통합됩니다.
• 좌표계 생성 (Grid layer): 내후각 피질의 격자 세포들이 이 감각 정보를 통합해 삼각 격자 좌표계를 만듭니다. 여러 격자 세포가 서로 다른 격자 방향과 크기를 가지며, 이들의 조합이 공간을 완전히 파티션합니다.
• 랜드마크 인코딩 (Place layer): 해마의 장소 세포들이 격자 세포로부터 정보를 받아 특정 위치(예: 방의 특정 모서리)를 자기 좌표로 인코딩합니다. 각 장소 세포는 하나의 랜드마크에 특화됩니다.
• 자기 위치 추정 (Self-localization): 현재 활성화된 장소 세포와 격자 세포의 패턴을 종합하면 뇌는 자기 위치를 실시간으로 알 수 있습니다.
• 경로 계획 (Path planning): 목적지의 장소 세포와 현재 위치의 장소 세포 사이의 격자 좌표계 상 경로를 계산해 이동 경로를 계획합니다.
• 기억과 재활성화 (Memory & replay): 잠자는 동안 해마의 장소 세포들이 낮 동안의 경로를 압축된 시간에 재활성화(replay)하며 기억을 강화합니다.

이 시스템의 정체는 hierarchical spatial representation with basis-vector coordinate system입니다. 격자 세포는 basis vectors 역할을 하며, 이들의 활성 조합이 임의의 좌표를 표현할 수 있습니다. 장소 세포는 이 좌표계 위의 랜드마크 캐시. 뇌는 이 두 층의 조합으로 로봇 SLAM보다 훨씬 정교한 공간 인지를 실현합니다.

놀라운 사실은 이 시스템이 어둠 속에서도 작동한다는 것입니다. 시각 정보가 사라져도 자기 자신의 운동 정보(고유수용감각·전정감각)로부터 뇌가 계속해서 격자 세포 활동을 업데이트합니다. 이 경로 통합(path integration) 이 격자 세포 시스템의 핵심 계산 기능이며, 이는 로봇 공학에서 데드 레커닝(dead reckoning)에 해당합니다.

이 비유의 한계도 짚어야 합니다. 뇌의 공간 좌표계는 순수한 유클리드 좌표가 아닙니다. 격자 세포의 격자 간격은 등뒤쪽에서 앞으로 갈수록 커지는 위계 구조를 가지며, 이는 스케일에 따라 서로 다른 해상도로 공간을 표상하는 계층 구조입니다. 또 뇌의 GPS는 특정 환경에 맞춰 재조정됩니다. 새 방에 들어가면 격자 세포 패턴이 재편성되며(remapping), 이 유연성이 로봇 SLAM에는 없는 특성입니다.

왜 중요한가 — 알츠하이머, 항해, 그리고 뇌 이해의 새 표준

첫째, 알츠하이머병 조기 병리 이해입니다. 알츠하이머병의 초기 병리는 내후각 피질에서 시작되며, 이는 격자 세포가 위치한 영역입니다. 알츠하이머 초기에 나타나는 길 잃기, 익숙한 장소에서의 혼란이 격자 세포 시스템의 조기 손상을 반영합니다. 이 관찰이 확립된 뒤로 알츠하이머 조기 진단을 위한 가상현실 공간 인지 검사가 개발되고 있고, 이는 기존의 인지 검사보다 조기에 병리를 감지할 가능성이 있습니다.

둘째, 뇌 인지 기능의 세포 수준 이해의 새 표준이 됐습니다. 이전에도 특정 뇌 영역이 특정 기능에 관여한다는 지도는 있었지만, 세포 하나하나가 어떤 정보를 어떻게 인코딩하는지를 이 정도 정밀도로 보여준 사례는 드물었습니다. 이 이야기 이후 다른 인지 기능들 — 시간 인지, 사회적 인지, 언어 — 에서도 세포 수준 코드를 찾으려는 연구가 활발해졌고, 몇 년 뒤 시간을 인코딩하는 시간 세포(time cell), 사회적 관계를 인코딩하는 사회 세포가 발견됩니다.

셋째, 인공지능과의 상호작용입니다. 딥마인드의 DeepMind를 비롯한 여러 AI 연구소가 격자 세포 아키텍처를 인공 신경망 내비게이션 알고리즘의 참조로 사용하고 있습니다. 딥마인드는 2018년 인공 신경망을 공간 내비게이션 과제에 훈련시켰더니 격자 세포와 유사한 표상이 자연 발생함을 보고했습니다. 진화가 발견한 좌표 시스템과 딥러닝이 발견하는 표상이 수렴하는 놀라운 관찰이었습니다.

넷째, 진화적 통찰입니다. 격자 세포는 쥐·박쥐·원숭이·인간에서 모두 발견됩니다. 박쥐에서는 2D 공간을 넘어 3D 공간의 격자 세포가 발견됐고, 이는 공간 좌표 시스템이 진화적으로 매우 오래된 뇌 부품임을 뜻합니다. 우리의 조상 포유류가 지상에서 이동을 시작한 시점부터 이 시스템이 필요했을 것이며, 이후 새의 3D 항해, 박쥐의 반향정위 항해, 인간의 지도 그리기 등이 모두 이 기반 위에서 확장됐습니다.

다섯째, 기억과 공간의 얽힘입니다. 해마는 원래 기억과 관련된 뇌 영역으로 알려져 있었고, 오키프의 발견 이후 이 영역이 공간 인지에도 관여함이 밝혀졌습니다. 이는 우연이 아닙니다. 에피소드 기억 — 특정 사건의 기억 — 은 언제, 어디서 일어났는가와 강하게 얽혀 있습니다. "언제, 어디서"의 인코딩이 해마의 공간 좌표계 위에서 이루어진다는 관점이 21세기 기억 연구의 큰 축이 됐습니다. 우리가 특정 사건을 회상할 때 그 사건의 공간 맥락이 함께 떠오르는 이유가 여기 있습니다.

여섯째, 노르웨이 지방 대학의 힘입니다. 모저 부부의 실험실이 세계 최고 수준의 발견을 만들어낸 이야기는 과학의 지리적 분포에 대한 중요한 시사입니다. 큰 대학, 큰 도시가 아니라도 명확한 문제 설정과 집중적 연구가 있다면 세계 최고 수준의 성과를 낼 수 있다는 것이 이 사례로 확인됐습니다. NTNU 트론헤임은 이 발견 이후 국제적 신경과학 허브로 성장했고, 노르웨이의 기초과학 지원 정책의 성공 사례로도 언급됩니다.

뇌 안에 이미 GPS가 있었다. 이 문장이 이 상의 축약된 요지입니다. 우리는 낯선 도시에서도 결국 지도를 그리고 길을 찾아내는 종이며, 그 능력이 우리 진화의 매우 오래된 부분입니다. 새 세기 열네 번째 노벨 생리의학상이 이 오래된 뇌 부품을 밝혔고, 이 이야기 위에서 알츠하이머 조기 진단, 인지 지도 이론, 인공 지능 항해 연구가 각각 자기 궤적을 이어갑니다.

→ 이전: 2013년 노벨 생리의학상 → 다음: 2015년 노벨 생리의학상