System S2 티어를 마치고, 완전히 다른 층위로

S26부터 S50까지, 우리는 서열·발현·변이 데이터를 통계적으로 분석하는 System 티어를 다뤘습니다. 여기서부터는 완전히 다른 질문을 던지는 Fullstack 티어로 넘어갑니다 — 서열 정보만으로 분자의 3차원 구조와 기능까지 예측하는 **파운데이션 모델(Foundation Model)**의 세계입니다.

그 출발점은 생물학에서 가장 오래된 난제 중 하나, **단백질 구조 예측(Protein Structure Prediction)**입니다. 단백질은 아미노산 서열(1차 구조)이 정해지면 특정한 3차원 형태로 스스로 접히고(folding), 그 형태가 기능의 핵심적인 결정 요인이 됩니다(다만 동역학·결합 파트너·번역 후 변형·천성적으로 구조가 고정되지 않은 부위처럼 구조만으로 설명되지 않는 예외도 있습니다). 서열은 시퀀싱으로 손쉽게 읽지만, 그 서열이 실제로 어떤 3차원 구조로 접히는지는 최근까지도 실험(X선 결정학, NMR, 저온전자현미경)에 의존해야 했습니다. 이 편에서는 이 문제가 왜 그렇게 어려웠는지, 그리고 물리 기반 탐색에서 학습된 함수로 패러다임이 바뀐 역사를 되짚어봅니다.

레빈탈의 역설, 그리고 탐색에서 학습으로의 전환

레빈탈의 역설: 왜 무작위 탐색으로는 답이 안 나오는가

1969년 Cyrus Levinthal은 단순한 계산으로 이 문제의 본질을 짚었습니다. 100개 아미노산으로 된 단백질에서, 각 아미노산 잔기가 취할 수 있는 백본 회전각(backbone dihedral angle) 조합을 단순화해 3가지 상태만 가능하다고 가정해도, 전체 조합의 수는 다음과 같습니다.

$3^{100} \approx 5.15 \times 10^{47} \text{가지}$

한 조합을 시험해보는 데 분자 진동 시간 스케일인 $10^{-13}$초가 걸린다고 하면, 모든 조합을 순차 탐색하는 데 걸리는 시간은

$5.15 \times 10^{47} \times 10^{-13}\text{초} \approx 5.15 \times 10^{34} \text{초}$

우주의 나이(약 $4.3 \times 10^{17}$초)보다 17자릿수(약 $1.2\times10^{17}$배) 더 긴 시간입니다(이 계산은 Levinthal의 원래 논증을 교육적으로 매우 단순화한 것으로, 실제 자유도에는 $\phi, \psi$ 이면각·곁사슬 회전각 등이 더 들어갑니다). 그런데 실제 단백질의 접힘 시간은 초고속으로 접히는 일부 소형 단백질에서는 마이크로초, 많은 단백질에서는 밀리초～초 단위이며 그보다 느린 경우도 있습니다 — 어느 쪽이든 위에서 계산한 무작위 탐색 시간과는 비교가 안 되게 짧습니다. 이 모순이 **레빈탈의 역설(Levinthal's Paradox)**입니다 — 오늘날의 정설은 접힘 자유에너지 지형(energy landscape)이 대체로 깔때기(funnel) 모양을 띠어, 무작위 탐색이 아니라 열적 요동에 의한 확률적 하강 경로를 통해 비교적 빠르게 낮은 에너지 상태 근방에 도달한다는 것입니다(다만 실제 지형은 매끈한 단일 경사가 아니라 여러 경로·중간체·국소 함정이 있는 거친 지형입니다). 이는 Anfinsen의 열역학적 가설(1973년 노벨상 — 특정 환경에서 서열이 최종 구조를 결정하고, 그 구조가 열역학적으로 안정하다는 별개의 주장)과 관련은 있지만 같은 이론은 아닙니다.

CASP: 예측 능력을 객관적으로 재는 격년 올림픽

이 문제를 정량적으로 추적하기 위해 1994년부터 **CASP(Critical Assessment of Structure Prediction)**가 격년으로 열립니다. 아직 실험적으로 구조가 풀리지 않은 서열을 참가팀에 미리 공개해 예측을 제출받고, 실험 구조가 나온 뒤 정확도를 블라인드로 채점하는 방식입니다. 수십 년간 CASP 순위는 이 분야의 발전을 재는 공식 척도 역할을 해왔습니다.

물리 기반 탐색 시대: Rosetta의 프래그먼트 조립 + 몬테카를로

에너지 지형을 깔때기로 이해했다면, 남은 문제는 "그 깔때기를 계산으로 어떻게 따라 내려가는가"입니다. Baker 연구실의 Rosetta(1990년대 후반~)는 두 가지 전략을 결합했습니다.

1. 프래그먼트 조립(Fragment Assembly): 알려진 구조 데이터베이스에서 짧은 서열 조각과 유사한 국소 구조 조각들을 가져와 조합합니다.
2. 몬테카를로 탐색(Monte Carlo Search): 물리·통계 항이 혼합된 경험적 점수 함수(수소결합, 반데르발스 힘, 소수성 상호작용 등을 근사)를 기준으로 무작위 국소 변형을 시도합니다. 에너지가 낮아지는 이동은 채택하고, 에너지가 높아지는 이동도 Metropolis 기준(온도와 에너지 증가폭에 따른 확률)으로 때때로 받아들여 국소 최소점에 갇히지 않게 하는 것이 핵심입니다 — 단순히 에너지가 낮아질 때만 채택하는 탐욕적 탐색이 아닙니다.

이 접근은 진짜 물리를 직접 계산하는 것이 아니라, 탐색 공간을 지식 기반 조각과 확률적 이동으로 효율화한 휴리스틱 탐색입니다. 수년간 이 방식이 CASP 상위권을 지켰지만, 대형 단백질이나 새로운 폴드(novel fold)에서는 여전히 한계가 뚜렷했습니다.

딥러닝의 등장: 탐색에서 학습된 함수로

2010년대 중반부터 딥러닝이 이 구조를 바꾸기 시작했습니다. 먼저 CNN 기반 모델(RaptorX 등)이 아미노산 쌍 사이의 접촉 여부·거리 분포를 서열의 진화적 공변이(co-evolution) 패턴으로부터 직접 예측했습니다. 2018년 CASP13에서 DeepMind의 **AlphaFold(1세대)**는 이 거리 예측을 경사하강법으로 최적화하는 물리 기반 후처리와 결합해 우승했습니다. 그리고 2020년 CASP14에서 AlphaFold2는 거리 예측과 구조 조립을 하나의 종단간(end-to-end) 신경망으로 통합해, 여러 참가팀의 실험 오차 수준에 근접하는 정확도로 이 분야를 사실상 재정의했습니다(다만 AlphaFold2도 recycling을 통한 반복적 갱신을 쓰므로, Rosetta 대비 반복적 탐색을 완전히 없앤 것이라기보다 대규모 명시적 conformational sampling에 대한 의존을 크게 줄인 것에 가깝습니다). Rosetta가 "탐색을 더 똑똑하게" 만드는 전략이었다면, AlphaFold2는 "서열에서 구조로 가는 함수 자체를 데이터로부터 학습"하는 데 훨씬 크게 무게를 둔 패러다임이었습니다.

CS 매핑

• 탐색 알고리즘의 진화(Heuristic Search → Learned Function): 체스·바둑 AI가 미니맥스 트리 탐색(전통 방식)에서 신경망이 직접 좋은 수를 예측하는 방식(AlphaZero)으로 넘어간 것과 같은 패러다임 전환이, 단백질 구조 예측에서도 Rosetta(탐색)→AlphaFold(학습된 함수)로 일어났습니다.
• 조합 폭발(Combinatorial Explosion): 레빈탈의 역설이 보여주는 $3^{100}$ 규모의 상태 공간은, 상태 수가 변수 개수에 지수적으로 비례해 폭발하는 조합 최적화 문제의 전형입니다.
• 에너지 지형과 경사하강(Gradient Descent): 깔때기형 에너지 지형을 따라 국소 최적화만으로 전역 최적해에 접근하는 것은, 볼록성이 완벽하지 않아도 잘 설계된 손실 함수 지형에서 경사하강법이 실용적으로 잘 작동하는 딥러닝 최적화와 유사한 직관을 공유합니다.

자주 만나는 결함

• 레빈탈의 역설을 "폴딩이 무작위"라는 뜻으로 오해: 역설의 결론은 정반대입니다 — 폴딩이 무작위 탐색이 아니기 때문에 빠르다는 것이 핵심이며, 역설은 "무작위 탐색 가설이 틀렸다"는 것을 보여주는 계산일 뿐입니다.
• CASP 순위를 절대적 성능 지표로 오해: CASP는 특정 회차에 출제된 타겟 서열의 난이도에 따라 순위가 흔들릴 수 있습니다. 여러 회차에 걸친 추세와, 타겟 난이도별(신규 폴드 vs 템플릿 기반) 분류를 함께 봐야 합니다.
• Rosetta를 완전히 낡은 방법으로 치부: Rosetta 계열은 여전히 단백질 설계(de novo design), 도킹, AlphaFold가 낮은 신뢰도를 보이는 영역의 정제(refinement)에서 활발히 쓰입니다. 구조 예측의 주력 자리를 내줬을 뿐, 도구 자체가 사라진 것은 아닙니다.

더 깊게 파고 싶다면

본문은 BPD 연구진이 직접 재구성한 서술입니다. 원 논문과 공식 자료로 심화해봅시다.

• 레빈탈의 역설: Levinthal (1969), How to Fold Graciously — 저널 논문이 아니라 학술회의(Mössbauer Spectroscopy in Biological Systems) 발표 원고입니다.
• Anfinsen 열역학적 가설 원 논문: Anfinsen (1973), Principles that Govern the Folding of Protein Chains, Science, 181(4096):223–230.
• AlphaFold(1세대) 원 논문: Senior et al. (2020), Improved protein structure prediction using potentials from deep learning, Nature, 577:706–710.
• CASP 공식 사이트: predictioncenter.org — 역대 CASP 결과와 평가 방법론 공개(CASP는 대표적인 독립·블라인드 평가 체계이며, 특정 회차 순위는 그해 타겟 난이도에 따라 출렁일 수 있습니다).

패러다임이 왜, 어떻게 바뀌었는지 살펴봤습니다. 다음 편에서는 그 전환의 정점, AlphaFold2의 내부 아키텍처 — MSA에서 공진화 정보를 뽑아내는 법과 Evoformer의 Triangle Attention을 직접 뜯어봅니다.

다음 편 F02에서는 AlphaFold2의 MSA·Evoformer·Triangle Attention 원리를 다룹니다(이미 배포된 편입니다).