F02 Evoformer 다음 — AlphaFold2의 한계와 AlphaFold3의 답

F02에서 AlphaFold2의 심장부인 Evoformer와 Triangle Attention을 뜯어봤습니다. AlphaFold2는 단백질 단일 사슬의 구조 예측에서는 압도적이었지만, 명확한 한계가 있었습니다. 첫째, 구조 조립을 담당하는 IPA(Invariant Point Attention) 모듈이 회전·이동 불변성을 명시적으로 인코딩해야 해서 설계가 복잡했습니다. 둘째, 단백질-DNA, 단백질-리간드(약물 후보 분자), 단백질-이온 같은 이종 분자 복합체를 다루기에는 입출력 표현이 단백질 중심으로 설계돼 있어 확장하기 어려웠습니다.

2024년 발표된 AlphaFold3(Abramson et al., Nature)는 이 두 문제를 동시에 풉니다. MSA 처리 비중을 크게 줄이고 Pair·Single 표현 중심으로 재설계한 Pairformer로 표현을 학습한 뒤(MSA 모듈 자체가 없어진 것은 아닙니다), 최종 3차원 좌표는 이미지 생성 AI에서 쓰이던 **확산 모델(Diffusion Model)**로 직접 생성합니다. 그리고 단백질·핵산·리간드를 공통 토큰 표현으로 통합하되 분자 종류에 따라 토큰 단위(잔기 단위 vs 원자 단위)를 다르게 둬서, PDB에 존재하는 대부분의 주요 분자 유형 조합을 하나의 모델로 다룰 수 있게 됐습니다.

Pairformer의 단순화, 그리고 Diffusion이 좌표를 만드는 원리

Pairformer: MSA 표현을 가볍게, Pair 표현을 중심으로

AlphaFold2의 Evoformer는 MSA 표현(수백～수천 개의 정렬 서열)과 Pair 표현(잔기 쌍 관계) 사이에서 정보를 반복적으로 교환했습니다. AlphaFold3의 Pairformer는 MSA 처리를 훨씬 가볍게 줄이고, 대신 **Pair 표현 자체의 삼각 업데이트(Triangle Update)**를 중심 연산으로 남겨둡니다. MSA가 여전히 진화적 공변이 신호를 제공하긴 하지만, 최종 구조 정보의 대부분은 Pair 표현과 이후 확산 모듈이 담당하도록 역할을 재배분한 것입니다. 이 단순화 덕분에 다양한 분자 종류(단백질뿐 아니라 핵산·리간드)를 하나의 통합 토큰 집합으로 처리하는 구조가 훨씬 자연스러워졌습니다.

Diffusion 모듈: 노이즈에서 좌표를 "그려내기"

확산 모델의 핵심 아이디어는 "정답 데이터를 점점 흐리게(노이즈를 추가) 만드는 과정을 정의하고, 신경망이 그 반대 방향 — 노이즈를 한 걸음씩 제거하는 과정 — 을 학습한다"는 것입니다. 원자 좌표 $x_0$에 타임스텝 $t$만큼 노이즈를 더한 상태는

$x_t = \sqrt{\bar{\alpha}_t}\, x_0 + \sqrt{1-\bar{\alpha}_t}\, \epsilon, \quad \epsilon \sim \mathcal{N}(0, I)$

로 정의됩니다($\bar{\alpha}_t$는 $t$가 커질수록 0에 가까워지는 노이즈 스케줄). 신경망은 노이즈 낀 좌표 $x_t$(그리고 Pairformer가 만든 서열·구조 조건 정보)를 입력받아 원래 노이즈 $\hat{\epsilon}_\theta(x_t, t)$를 예측하도록 학습됩니다. 추론(inference) 시에는 완전한 무작위 좌표에서 시작해, 이 노이즈 예측을 거꾸로 적용하며 한 스텝씩 원자 좌표를 "복원"해 나갑니다.

손 계산 예제: 1차원 토이 모델로 보는 한 스텝의 노이즈 제거

원자 좌표 하나를 1차원으로 단순화한 토이 예제를 봅시다. 진짜 좌표 $x_0 = 2.0$이고, 타임스텝 $t$에서 $\bar{\alpha}_t = 0.64$라고 합시다. 노이즈 $\epsilon = 0.5$가 더해졌다면,

$x_t = \sqrt{0.64}(2.0) + \sqrt{1-0.64}(0.5) = 0.8 \times 2.0 + 0.6 \times 0.5 = 1.6 + 0.3 = 1.9$

이 예제는 AlphaFold3의 실제 구현을 그대로 재현한 것이 아니라, "노이즈 낀 값에서 원 신호를 추정한다"는 diffusion의 일반 원리를 보여주는 표준 DDPM 토이 예제입니다(AlphaFold3 자체는 $\epsilon$을 예측하는 원조 DDPM보다, 노이즈가 낀 좌표에서 노이즈 제거된 좌표를 직접 예측하는 EDM 계열 파라미터화에 더 가깝습니다). 이 토이 모델에서, 만약 신경망이 $x_t=1.9$를 보고 노이즈를 $\hat{\epsilon}=0.5$로 정확히 예측했다면, 원본 좌표 추정치는 다음과 같이 역산됩니다.

$\hat{x}_0 = \frac{x_t - \sqrt{1-\bar{\alpha}_t}\,\hat{\epsilon}}{\sqrt{\bar{\alpha}_t}} = \frac{1.9 - 0.6 \times 0.5}{0.8} = \frac{1.9 - 0.3}{0.8} = \frac{1.6}{0.8} = 2.0$

정확히 원본 $x_0=2.0$이 복원됩니다. 실제로는 이 과정을 여러 타임스텝에 걸쳐 조금씩(한 번에 전부가 아니라) 반복합니다. 다만 diffusion 샘플링은 뉴턴-랩슨처럼 하나의 정답으로 수렴이 보장된 수치해법이 아니라, 학습된 분포에서 그럴듯한 3차원 구조 표본을 생성하는 확률적 과정이라는 점에 유의해야 합니다.

CS 매핑

• 확산 모델(Diffusion Model): AlphaFold3의 좌표 생성 원리는 DALL-E·Stable Diffusion 같은 이미지 생성 AI가 노이즈에서 이미지를 그려내는 것과 정확히 같은 수학적 틀(DDPM, Denoising Diffusion Probabilistic Model)을 원자 좌표에 적용한 것입니다.
• 통합 토큰화(Unified Tokenization): 단백질 잔기·핵산 염기·리간드 원자를 모두 같은 형식의 토큰으로 표현해 하나의 모델이 처리하게 하는 것은, 멀티모달 Transformer가 텍스트·이미지·오디오를 공통 토큰 공간으로 투영해 하나의 모델로 다루는 전략과 같은 설계 철학입니다.
• 점진적 정제(Iterative Refinement): 완전한 노이즈에서 시작해 여러 스텝에 걸쳐 조금씩 정답에 가까워지는 것은, 뉴턴-랩슨 같은 반복적 수치해법이 초기 추정치를 점진적으로 개선해 나가는 것과 유사한 계산 패턴입니다.

자주 만나는 결함

• 모든 예측에 동일한 신뢰도를 부여: 확산 모델은 매번 조금씩 다른 좌표를 생성할 수 있어(확률적 샘플링), 여러 번 샘플링한 결과의 일치도(consistency)와 함께 제공되는 신뢰도 지표(pLDDT, PAE 등)를 반드시 함께 확인해야 합니다.
• 리간드·핵산 예측을 단백질과 동일한 정확도로 기대: 통합 아키텍처라고 해서 모든 분자 종류에서 동일한 정확도가 보장되는 것은 아닙니다. 특히 새로운 화학 구조의 리간드는 학습 데이터 분포 밖(out-of-distribution)일 수 있어 검증이 더 필요합니다.
• AlphaFold2와 AlphaFold3를 완전 대체 관계로 오해: 최초 공개(2024년) 당시에는 웹 서버(AlphaFold Server)를 통한 비상업적 이용만 가능했고, 이후 코드가 공개되고 가중치(weights)는 요청 기반 비상업적 조건으로 제공되는 형태로 접근 방식이 넓어졌습니다. 로컬 배치 대량 처리나 상업적 파이프라인 통합이 필요하면, 시점에 따라 달라질 수 있는 현재 사용 조건을 반드시 원문에서 확인해야 합니다.

더 깊게 파고 싶다면

본문은 BPD 연구진이 직접 재구성한 서술입니다. 원 논문과 공식 자료로 심화해봅시다.

• AlphaFold3 원 논문: Abramson et al. (2024), Accurate structure prediction of biomolecular interactions with AlphaFold3, Nature.
• DDPM 확산 모델 원 논문: Ho, Jain & Abbeel (2020), Denoising Diffusion Probabilistic Models, NeurIPS.
• AlphaFold Server: alphafoldserver.com — 비상업적 연구 목적 웹 인터페이스.

Pairformer와 Diffusion이 무거운 연산을 요구하는 만큼, 이걸 무료 환경에서 실제로 돌려보려면 실용적인 타협이 필요합니다.

다음 편 F04에서는 무료 T4 GPU에서 실제로 구조를 예측해보는 ColabFold + MMseqs2 실무를 다룹니다.