Después de F02 Evoformer: Limitaciones de AlphaFold2 y la solución de AlphaFold3

En F02 analizamos el núcleo de AlphaFold2, el Evoformer y la atención triangular (Triangle Attention). Aunque AlphaFold2 fue muy eficaz en la predicción de la estructura de cadenas proteicas individuales, presentaba limitaciones claras. Primero, el módulo IPA (Invariant Point Attention), encargado del ensamblaje estructural, debía codificar explícitamente la invariancia a la rotación y la traslación, lo que complicaba su diseño. Segundo, las representaciones de entrada/salida estaban diseñadas para centrarse en proteínas, lo que dificultaba su ampliación para manejar complejos heteromoleculares como proteína-ADN, proteína-ligando (candidatos a fármacos) o proteína-ion.

AlphaFold3 (Abramson et al., Nature), presentado en 2024, resuelve simultáneamente estos dos problemas. Reduce significativamente la carga del procesamiento de MSA y rediseña el aprendizaje de representaciones basándose en Pairformer, centrado en las representaciones de pares y secuencias individuales (el módulo MSA en sí no ha desaparecido). Por último, genera directamente las coordenadas tridimensionales mediante un modelo de difusión (Diffusion Model), utilizado anteriormente en la IA para la generación de imágenes. Además, integra proteínas, ácidos nucleicos y ligandos en una representación común de tokens, diferenciando la unidad del token (unidad de residuo frente a unidad de átomo) según el tipo de molécula, lo que permite que un único modelo maneje la mayoría de las combinaciones principales de tipos moleculares presentes en PDB.

Simplificación de Pairformer y el principio de generación de coordenadas mediante difusión

Pairformer: MSA más ligero, centrado en la representación de pares

El Evoformer de AlphaFold2 intercambiaba información repetidamente entre la representación de MSA (cientos a miles de secuencias alineadas) y la representación de pares (relaciones entre pares de residuos). El Pairformer de AlphaFold3 reduce drásticamente el procesamiento de MSA y deja como operación central la actualización triangular (Triangle Update) de la propia representación de pares. Aunque el MSA sigue proporcionando señales de covariación evolutiva, se ha redistribuido la responsabilidad para que la mayor parte de la información estructural final sea asumida por la representación de pares y el módulo de difusión subsiguiente. Esta simplificación facilita que la estructura para manejar diversos tipos moleculares (no solo proteínas, sino también ácidos nucleicos y ligandos) como un conjunto integrado de tokens sea mucho más natural.

Módulo de difusión: "Dibujar" coordenadas a partir del ruido

La idea central del modelo de difusión es "definir el proceso de difuminar progresivamente los datos correctos (añadiendo ruido) y entrenar a la red neuronal para aprender la dirección opuesta: eliminar el ruido paso a paso". El estado con ruido añadido al tiempo $t$ a las coordenadas atómicas $x_0$ es

$x_t = \sqrt{\bar{\alpha}_t}\, x_0 + \sqrt{1-\bar{\alpha}_t}\, \epsilon, \quad \epsilon \sim \mathcal{N}(0, I)$

se define como ($\bar{\alpha}_t$ es un programa de ruido que se acerca a 0 a medida que $t$ aumenta). La red neuronal se entrena para predecir el ruido original $\hat{\epsilon}_\theta(x_t, t)$ a partir de las coordenadas con ruido $x_t$ (y la información de secuencia y estructura proporcionada por Pairformer) como entrada. Durante la inferencia, se comienza con coordenadas completamente aleatorias y se aplica la predicción de ruido en sentido inverso, paso a paso, para "restaurar" gradualmente las coordenadas atómicas.

Ejemplo de cálculo manual: eliminación de ruido en un paso, visto con un modelo simplificado unidimensional

Consideremos un ejemplo simplificado en una dimensión para un solo átomo. Supongamos que la coordenada real es $x_0 = 2.0$ y, en el paso de tiempo $t$, $\bar{\alpha}_t = 0.64$. Si se añade ruido $\epsilon = 0.5$,

$x_t = \sqrt{0.64}(2.0) + \sqrt{1-0.64}(0.5) = 0.8 \times 2.0 + 0.6 \times 0.5 = 1.6 + 0.3 = 1.9$

Este ejemplo no reproduce exactamente la implementación real de AlphaFold3, sino que es un ejemplo simplificado estándar de DDPM que ilustra el principio general de "estimar la señal original a partir de un valor con ruido" (AlphaFold3 en sí se asemeja más a una parametrización de la familia EDM, que predice directamente las coordenadas sin ruido a partir de las coordenadas con ruido, en lugar de predecir $\epsilon$ como lo hace el DDPM original). En este modelo simplificado, si la red neuronal observa $x_t=1.9$ y predice correctamente el ruido como $\hat{\epsilon}=0.5$, la estimación de la coordenada original se calcula inversamente de la siguiente manera:

$\hat{x}_0 = \frac{x_t - \sqrt{1-\bar{\alpha}_t}\,\hat{\epsilon}}{\sqrt{\bar{\alpha}_t}} = \frac{1.9 - 0.6 \times 0.5}{0.8} = \frac{1.9 - 0.3}{0.8} = \frac{1.6}{0.8} = 2.0$

Se restaura exactamente el valor original $x_0=2.0$. En la práctica, este proceso se repite gradualmente a lo largo de múltiples pasos de tiempo (no todo de una vez). Sin embargo, debe tenerse en cuenta que el muestreo de difusión no es un método numérico que garantice la convergencia a una única solución correcta, como el método de Newton-Raphson, sino un proceso estocástico diseñado para generar muestras plausibles de estructuras tridimensionales a partir de la distribución aprendida.

Mapeo de CS

• Modelo de difusión: El principio de generación de coordenadas de AlphaFold3 aplica el mismo marco matemático (DDPM, Modelo probabilístico de difusión con eliminación de ruido) que utilizan las IA generadoras de imágenes como DALL-E y Stable Diffusion para crear imágenes a partir del ruido, pero aplicado a las coordenadas atómicas.
• Tokenización unificada: Representar los residuos de proteínas, las bases de los ácidos nucleicos y los átomos de los ligandos en el mismo formato de token para que un único modelo los procese, sigue la misma filosofía de diseño que la utilizada en los transformadores multimodales, que proyectan texto, imágenes y audio en un espacio de tokens común para manejarlos con un solo modelo.
• Refinamiento iterativo: Comenzar con ruido completo y acercarse gradualmente a la solución correcta en varios pasos es un patrón computacional similar al de los métodos numéricos iterativos, como Newton-Raphson, que mejoran progresivamente una estimación inicial.

Defectos frecuentes

• Asignar la misma confianza a todas las predicciones: Dado que el modelo de difusión puede generar coordenadas ligeramente diferentes en cada ejecución (muestreo estocástico), es fundamental verificar la consistencia de los resultados al muestrear varias veces, junto con los indicadores de confianza proporcionados (como pLDDT, PAE, etc.).
• Esperar la misma precisión para ligandos y ácidos nucleicos que para proteínas: El hecho de tener una arquitectura unificada no garantiza la misma precisión en todos los tipos de moléculas. En particular, los ligandos con nuevas estructuras químicas pueden estar fuera de la distribución de los datos de entrenamiento, por lo que requieren una validación más rigurosa.
• Interpretar erróneamente AlphaFold2 y AlphaFold3 como relaciones de sustitución completa: En el momento de su publicación inicial (2024), solo estaba disponible el uso no comercial a través del servidor web (AlphaFold Server). Posteriormente, se amplió el acceso al código y los pesos, que se proporcionaron bajo condiciones no comerciales mediante solicitud. Si se necesita procesamiento masivo en una instalación local o la integración en flujos de trabajo comerciales, es obligatorio verificar las condiciones de uso actuales en el texto original, ya que pueden variar con el tiempo.

Para profundizar más

El presente texto ha sido reescrito directamente por el equipo de investigación de BPD. Profundice consultando el artículo original y los materiales oficiales.

• Artículo original de AlphaFold3: Abramson et al. (2024), Predicción precisa de la estructura de las interacciones biomoleculares con AlphaFold3, Nature.
• Artículo original del modelo de difusión DDPM: Ho, Jain y Abbeel (2020), Modelos probabilísticos de difusión con eliminación de ruido, NeurIPS.
• Servidor de AlphaFold: alphafoldserver.com — Interfaz web para fines de investigación no comerciales.

Dado que Pairformer y Diffusion requieren cálculos intensivos, es necesario encontrar una solución práctica para ejecutarlos en un entorno gratuito.

En el próximo episodio F04, abordaremos la práctica de ColabFold + MMseqs2 para predecir estructuras reales en una GPU T4 gratuita.