La arquitectura ESMFold (Evolutionary-Scale Protein Structure Prediction) es un modelo de aprendizaje profundo diseñado para predecir la estructura tridimensional de proteínas directamente a partir de sus secuencias de aminoácidos, utilizando representaciones aprendidas por un modelo de lenguaje proteico.
Su principal innovación consiste en combinar ESM-2 (Evolutionary Scale Modeling 2), un Transformer preentrenado sobre numerosas secuencias proteicas, con un módulo especializado de plegamiento que transforma las representaciones del lenguaje en coordenadas atómicas tridimensionales.
A diferencia de sistemas tradicionales de predicción estructural que utilizan alineamientos múltiples de secuencias (Multiple Sequence Alignments, MSA) durante la inferencia, ESMFold puede generar una estructura utilizando una sola secuencia de aminoácidos.
Esta característica permite evitar la búsqueda de secuencias homólogas y el cálculo de alineamientos durante cada predicción, reduciendo considerablemente el tiempo necesario para analizar grandes colecciones de proteínas.
ESMFold fue desarrollada por investigadores del equipo Fundamental AI Research (FAIR) de Meta, junto con colaboradores de otras instituciones.
La investigación fue dirigida por Zeming Lin, Halil Akin, Roshan Rao y colaboradores, y publicada en marzo de 2023 en la revista Science con el título Evolutionary-scale prediction of atomic-level protein structure with a language model.
El estudio demostró que modelos de lenguaje de proteínas entrenados a gran escala pueden aprender representaciones que contienen información relevante para reconstruir estructuras tridimensionales.
La investigación incluyó modelos ESM-2 de hasta 15.000 millones de parámetros, aunque el checkpoint ESMFold de uso habitual utiliza un backbone ESM-2 de aproximadamente 3.000 millones de parámetros.
Una de las aplicaciones más importantes fue la creación de ESM Metagenomic Atlas, un recurso que incorporó predicciones estructurales para más de 617 millones de secuencias de proteínas metagenómicas.
De ellas, más de 225 millones recibieron predicciones clasificadas por los autores como de alta confianza.
Esta capacidad de analizar proteínas a gran escala representa una contribución importante a la bioinformática estructural.
ESMFold también produce métricas de confianza, como pLDDT y pTM, que permiten evaluar diferentes aspectos de la fiabilidad estimada de una estructura.
Sin embargo, una estructura predicha no constituye automáticamente una estructura experimental validada.
La precisión puede variar según la proteína, la longitud, el contexto molecular y la disponibilidad de patrones similares durante el preentrenamiento.
En esta guía estudiaremos qué es ESMFold, cómo utiliza ESM-2, por qué no necesita un MSA durante la inferencia, qué es el Folding Trunk, cómo se calculan las coordenadas atómicas y cuáles son las diferencias respecto a ESM-3, AlphaFold 2 y AlphaFold 3.
También incluiremos ejemplos prácticos en Python, archivos PDB, visualización de proteínas, métricas pLDDT y TM-score, limitaciones científicas, referencias oficiales y metadatos SEO preparados para WordPress.
¿Qué es la arquitectura ESMFold?
ESMFold es un modelo neuronal de predicción estructural que recibe una secuencia de aminoácidos y produce una representación tridimensional de la proteína correspondiente.
Su función puede expresarse conceptualmente como:
[
f_\theta(S)=\hat{X}_{3D}
]
Donde:
- (S) representa la secuencia de aminoácidos.
- (f_\theta) representa el modelo neuronal.
- (\theta) contiene los parámetros aprendidos.
- (\hat{X}_{3D}) representa las coordenadas tridimensionales predichas.
La entrada habitual es una cadena de símbolos como:
MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ
Cada letra representa un aminoácido.
ESMFold convierte la secuencia en tokens, calcula representaciones contextuales mediante ESM-2 y utiliza un módulo de plegamiento para producir una estructura.
El resultado puede almacenarse en un archivo PDB.
Este formato contiene información sobre átomos y coordenadas tridimensionales.
ESMFold también produce medidas de confianza para ayudar a interpretar la predicción.
Origen y desarrollo de ESMFold
Durante décadas, la predicción de estructuras proteicas ha sido uno de los problemas fundamentales de la biología computacional.
La estructura de una proteína está relacionada con su secuencia, pero predecirla no es un problema sencillo.
Las proteínas contienen numerosas interacciones entre residuos.
Estas interacciones determinan qué configuraciones son físicamente posibles y cuáles pueden resultar estables.
Los primeros métodos computacionales utilizaban diferentes aproximaciones, como simulación física, modelado por homología y técnicas estadísticas.
Posteriormente, el aprendizaje profundo introdujo nuevas posibilidades.
En 2021, AlphaFold 2 demostró avances muy importantes en predicción estructural.
Ese sistema utiliza información evolutiva procedente de alineamientos múltiples de secuencias y mecanismos de aprendizaje profundo.
La familia ESM investigó una estrategia complementaria.
En lugar de necesitar un alineamiento explícito durante cada predicción, los investigadores entrenaron modelos de lenguaje utilizando enormes cantidades de secuencias proteicas.
La hipótesis era que el preentrenamiento permitiría aprender regularidades evolutivas útiles para comprender estructuras.
ESMFold convirtió esas representaciones en predicciones de coordenadas atómicas.
El resultado fue una arquitectura capaz de producir estructuras directamente desde secuencias individuales.
¿Qué significa Evolutionary-Scale?
El término Evolutionary-Scale hace referencia a la escala de los conjuntos de secuencias utilizados durante el aprendizaje.
Las proteínas naturales contienen patrones que reflejan restricciones evolutivas.
Por ejemplo, ciertos residuos pueden conservarse porque resultan importantes para la estabilidad o función.
Otros pueden variar sin alterar significativamente la estructura.
Los modelos de lenguaje de proteínas pueden aprender estas regularidades a partir de extensas colecciones de secuencias.
ESM-2 fue entrenada utilizando el conjunto UniRef50, con estrategias de muestreo y preentrenamiento específicas.
Los investigadores desarrollaron modelos de diferentes tamaños para estudiar cómo cambia la calidad de las representaciones al aumentar la escala.
La investigación mostró que los modelos más grandes podían aprender información estructural más útil.
Sin embargo, la escala de entrenamiento no garantiza precisión para cualquier proteína.
La calidad depende también de la diversidad de datos y de las características de la secuencia analizada.
¿Por qué es importante predecir estructuras de proteínas?
Las proteínas desempeñan numerosas funciones biológicas.
Entre ellas se encuentran:
- Catálisis de reacciones químicas.
- Transporte de moléculas.
- Señalización celular.
- Reconocimiento molecular.
- Regulación de procesos celulares.
- Soporte estructural.
- Participación en sistemas inmunitarios.
La función de una proteína está relacionada con sus características estructurales.
Por ejemplo, una enzima puede contener una región donde se unen determinadas moléculas.
La organización de esa región puede influir en la actividad.
También existen proteínas que interactúan con otras moléculas mediante superficies tridimensionales específicas.
Conocer la estructura puede ayudar a formular hipótesis sobre mecanismos moleculares.
Sin embargo, una estructura tridimensional no describe automáticamente toda la función.
También importan las condiciones ambientales, la dinámica molecular y las interacciones con otras proteínas o moléculas.
Los cuatro niveles de estructura proteica
Estructura primaria
Es la secuencia de aminoácidos.
Por ejemplo:
M A D E K L V
Estructura secundaria
Describe patrones locales de plegamiento.
Entre ellos destacan:
- Hélices alfa.
- Láminas beta.
- Giros y bucles.
Estructura terciaria
Representa la conformación tridimensional global de una cadena proteica.
Estructura cuaternaria
Describe cómo varias cadenas o subunidades pueden organizarse para formar un complejo.
ESMFold se centra principalmente en la predicción estructural a partir de secuencias.
La implementación también permite introducir múltiples cadenas mediante una representación específica, pero esto no significa que esté validada para todos los tipos de complejos biomoleculares.
¿Cómo funciona ESMFold paso a paso?
Podemos dividir el procedimiento en ocho etapas.
Paso 1. Introducir una secuencia
El usuario proporciona una secuencia de aminoácidos.
Paso 2. Tokenización
Cada aminoácido se transforma en un identificador numérico del vocabulario del modelo.
Paso 3. Procesamiento mediante ESM-2
El Transformer produce representaciones contextualizadas para cada residuo.
Paso 4. Extracción de relaciones entre residuos
La arquitectura utiliza las representaciones internas y la información disponible en los mapas de atención.
Paso 5. Construcción de representaciones estructurales
Las características se transforman en estados de residuos individuales y pares de residuos.
Paso 6. Folding Trunk
Un conjunto de bloques de actualización combina información secuencial y relacional.
Paso 7. Structure Module
El modelo predice la geometría tridimensional y las coordenadas atómicas.
Paso 8. Métricas y exportación
Las coordenadas se exportan en formato PDB y se calculan métricas de confianza.
Arquitectura interna de ESMFold
ESMFold contiene tres componentes principales.
1. ESM-2 Language Model
Es el backbone encargado de aprender representaciones de secuencias proteicas.
2. Folding Trunk
Integra características individuales y relaciones entre pares de residuos.
3. Structure Module
Transforma las representaciones en coordenadas tridimensionales y produce información estructural.
El flujo puede resumirse como:
Secuencia de aminoácidos
↓
Tokenización
↓
ESM-2 Transformer
↓
Embeddings y características de atención
↓
Folding Trunk
↓
Structure Module
↓
Coordenadas atómicas
↓
PDB y métricas de confianza
Este diseño permite separar parcialmente el aprendizaje general del lenguaje proteico de la reconstrucción geométrica.
¿Qué es ESM-2?
ESM-2 (Evolutionary Scale Modeling 2) es una familia de modelos de lenguaje proteico basados en Transformers.
Su principal objetivo de preentrenamiento consiste en reconstruir aminoácidos ocultos dentro de secuencias.
Este procedimiento se conoce como Masked Language Modeling.
Supongamos que tenemos:
M K T A Y I A K
Podemos ocultar una posición:
M K T [MASK] Y I A K
El modelo intenta predecir el aminoácido original utilizando el contexto.
La función de pérdida puede expresarse como:
-\sum_{i\in M}
\log P_\theta(x_i\mid x_{\setminus M})
]
Donde:
- (M) representa las posiciones enmascaradas.
- (x_i) representa el aminoácido original.
- (x_{\setminus M}) contiene el contexto visible.
Este aprendizaje permite producir representaciones que contienen información estadística sobre las secuencias.
ESMFold utiliza esas representaciones como base para construir estructuras.
¿Qué tamaños existen de ESM-2?
La familia ESM-2 incluye varios modelos.
| Modelo ESM-2 | Parámetros aproximados |
|---|---|
| ESM-2 8M | 8 millones |
| ESM-2 35M | 35 millones |
| ESM-2 150M | 150 millones |
| ESM-2 650M | 650 millones |
| ESM-2 3B | 3.000 millones |
| ESM-2 15B | 15.000 millones |
Los investigadores utilizaron diferentes escalas para estudiar la relación entre tamaño y calidad de las representaciones.
La familia de modelos alcanza 15B parámetros.
Sin embargo, el checkpoint ESMFold v1 habitual utiliza el backbone ESM-2 de aproximadamente 3B parámetros.
Por tanto, no debe confundirse el tamaño del modelo de lenguaje más grande de la investigación con el backbone concreto utilizado en el predictor estructural publicado.
¿Qué aprende ESM-2 sobre proteínas?
Durante el preentrenamiento, ESM-2 puede aprender regularidades relacionadas con:
- Composición de aminoácidos.
- Motivos conservados.
- Patrones de secuencia.
- Restricciones evolutivas.
- Relaciones estadísticas entre residuos.
- Características asociadas con estructuras.
Algunas de estas relaciones pueden resultar útiles para predecir contactos entre residuos.
Por ejemplo, dos posiciones alejadas dentro de la secuencia pueden terminar próximas dentro de la estructura tridimensional.
Un modelo de lenguaje suficientemente expresivo puede aprender señales indirectas relacionadas con estas dependencias.
Sin embargo, las representaciones no constituyen mediciones experimentales directas de estructura.
La reconstrucción tridimensional necesita un componente especializado.
¿Qué es Multiple Sequence Alignment (MSA)?
Un Multiple Sequence Alignment es un alineamiento de varias secuencias biológicas.
En proteínas, se utiliza para comparar secuencias relacionadas evolutivamente.
Por ejemplo:
Proteína A: MKTAYIAKQRProteína B: MKTAFIAKQRProteína C: MKTAYVAKQR
El alineamiento permite identificar posiciones conservadas y variables.
Los métodos basados en información evolutiva pueden utilizar estas regularidades para inferir relaciones estructurales.
Por ejemplo, dos residuos pueden cambiar de forma correlacionada a lo largo de la evolución.
Esta covariación puede aportar información sobre posibles contactos.
AlphaFold 2 utiliza representaciones construidas a partir de MSAs en su flujo habitual de predicción.
ESMFold utiliza una estrategia diferente durante la inferencia.
¿Por qué ESMFold no necesita MSA durante la inferencia?
Porque ESM-2 ya fue preentrenado sobre grandes cantidades de secuencias.
Durante ese aprendizaje, el modelo pudo capturar regularidades estadísticas presentes en proteínas relacionadas.
Cuando ESMFold recibe una secuencia nueva, utiliza las representaciones aprendidas previamente.
No necesita buscar explícitamente secuencias homólogas ni construir un alineamiento para cada entrada.
Esto reduce los requisitos del flujo de inferencia.
En particular, elimina la dependencia de búsquedas externas en grandes bases de datos.
Sin embargo, debe hacerse una distinción importante.
ESMFold no utiliza MSA durante la inferencia, pero sí aprovecha información evolutiva aprendida indirectamente durante el preentrenamiento de ESM-2.
Por ello, no sería correcto describirlo como un sistema que ignora completamente la evolución.
Su innovación consiste en incorporar esa información a través de los parámetros del modelo.
Ventajas de evitar el MSA
El procedimiento ofrece varias ventajas.
Menos pasos previos
No es necesario ejecutar una búsqueda de homólogos por cada secuencia.
Menor dependencia de bases de datos externas
La inferencia puede realizarse con el modelo y una secuencia individual.
Mayor facilidad de automatización
El proceso es más directo para colecciones extensas.
Velocidad
La eliminación de búsquedas y alineamientos puede reducir considerablemente el tiempo total.
Análisis metagenómico
Facilita obtener predicciones estructurales para grandes colecciones de proteínas poco caracterizadas.
Sin embargo, estas ventajas no garantizan que ESMFold sea siempre más preciso.
Para determinadas proteínas, los métodos que utilizan información evolutiva explícita pueden obtener mejores resultados.
¿Qué es el Folding Trunk?
El Folding Trunk es el componente de ESMFold encargado de transformar las representaciones de ESM-2 en características útiles para el plegamiento.
Recibe información sobre residuos individuales y relaciones entre pares de residuos.
Podemos representar sus entradas como:
[
S\in\mathbb{R}^{L\times d_s}
]
y:
[
Z\in\mathbb{R}^{L\times L\times d_z}
]
Donde:
- (L) representa la cantidad de residuos.
- (S) contiene características individuales.
- (Z) contiene características de pares de residuos.
- (d_s) y (d_z) representan dimensiones internas.
Las representaciones individuales contienen información contextual de cada aminoácido.
Las representaciones de pares ayudan a modelar relaciones entre posiciones.
El Folding Trunk actualiza estos estados mediante bloques neuronales especializados.
Su diseño toma ideas de los módulos de plegamiento utilizados en arquitecturas como AlphaFold.
Sin embargo, ESMFold simplifica el flujo porque recibe representaciones de un modelo de lenguaje en lugar de un MSA construido para cada proteína.
¿Qué es una representación Pairwise?
Una representación pairwise describe características de un par de residuos.
Por ejemplo, para una proteína de 100 aminoácidos podemos representar relaciones entre:
[
100\times100=10,000
]
pares ordenados de posiciones.
Estas relaciones pueden contener información útil para inferir geometría.
Por ejemplo, algunos residuos pueden estar próximos en el espacio tridimensional aunque se encuentren lejos en la secuencia.
Las representaciones pairwise permiten estudiar estas posibles relaciones.
Sin embargo, no son necesariamente matrices directas de distancias reales.
Son características latentes aprendidas que el modelo utiliza para construir la estructura.
¿Qué son las representaciones Single?
Las representaciones single describen características de cada residuo individual.
Para una proteína de longitud (L), contienen una representación por posición.
Estas características pueden incorporar información procedente del Transformer y del proceso de plegamiento.
Las representaciones single y pairwise se actualizan conjuntamente.
Esta interacción ayuda al modelo a construir una interpretación estructural coherente de la secuencia.
¿Qué es Recycling?
Recycling es un procedimiento donde determinadas representaciones o predicciones estructurales se utilizan de nuevo para refinar el resultado.
En lugar de producir una estructura final mediante una única transformación, el modelo puede actualizar iterativamente sus estados.
Una representación conceptual es:
F_\theta(H^{(t)},X)
]
Donde:
- (H^{(t)}) representa el estado estructural actual.
- (X) representa la información de entrada.
- (F_\theta) representa el módulo de actualización.
ESMFold permite controlar el número de ciclos de reciclaje.
En la implementación original, el valor habitual por defecto es cuatro.
Aumentar o reducir este número modifica el coste de inferencia y puede afectar a las predicciones.
No debe suponerse que un número mayor produce siempre una estructura más correcta.
¿Qué es el Structure Module?
El Structure Module transforma las representaciones aprendidas en geometría tridimensional.
Su objetivo consiste en producir posiciones espaciales de los residuos y átomos.
Para cada átomo podemos representar una coordenada:
[
p_i=(x_i,y_i,z_i)
]
El conjunto de coordenadas describe la estructura predicha.
Sin embargo, producir coordenadas físicamente plausibles requiere respetar diferentes restricciones.
Entre ellas:
- Conectividad de la cadena.
- Geometría local.
- Distancias entre átomos.
- Orientación de residuos.
- Compatibilidad espacial.
ESMFold utiliza un módulo de plegamiento basado en representaciones geométricas y procedimientos relacionados con los desarrollados para AlphaFold.
El modelo también utiliza mecanismos de predicción de confianza.
¿Qué significa predicción a resolución atómica?
Significa que el modelo produce coordenadas asociadas con átomos de la proteína, no solamente una etiqueta general de su forma.
Por ejemplo, una estructura puede contener coordenadas de átomos del esqueleto proteico y cadenas laterales.
Esto permite construir representaciones tridimensionales detalladas.
Sin embargo, la resolución atómica de la salida no significa que cada coordenada sea experimentalmente exacta.
Las posiciones son predicciones.
La precisión depende de la proteína y de la calidad del modelo.
¿Qué es pLDDT?
pLDDT (predicted Local Distance Difference Test) es una métrica de confianza utilizada en predicción estructural.
Su objetivo consiste en estimar la precisión local de las posiciones predichas.
Los valores se expresan habitualmente entre 0 y 100.
Un valor elevado indica que el modelo estima mayor confianza local.
Una interpretación orientativa es:
| pLDDT | Interpretación habitual |
|---|---|
| 90–100 | Confianza local muy alta |
| 70–90 | Confianza local alta |
| 50–70 | Confianza baja |
| 0–50 | Confianza muy baja |
Estos intervalos son convenciones orientativas, no garantías de precisión experimental.
Una región con pLDDT bajo puede corresponder a una predicción incierta.
También puede tratarse de una región flexible o intrínsecamente desordenada.
Por tanto, pLDDT debe interpretarse junto con otras evidencias.
¿Cómo calcula ESMFold pLDDT?
ESMFold utiliza una cabeza neuronal especializada para estimar confianza local.
La métrica intenta anticipar una medida relacionada con LDDT, que compara entornos locales de residuos.
Para obtener el LDDT real se necesita una estructura de referencia.
pLDDT es una predicción de esa calidad local.
Por ello, puede calcularse incluso cuando no existe una estructura experimental disponible.
Esta propiedad resulta útil para analizar grandes colecciones de proteínas.
Sin embargo, pLDDT no sustituye la comparación con estructuras reales cuando estas están disponibles.
¿Qué es TM-score?
TM-score (Template Modeling Score) es una métrica utilizada para comparar similitud entre estructuras proteicas.
Sus valores suelen encontrarse entre 0 y 1.
Un valor elevado indica mayor similitud estructural bajo la alineación utilizada.
Una formulación simplificada es:
[
TM=
\max_{\mathrm{alineación}}
\left[
\frac{1}{L_{\mathrm{ref}}}
\sum_{i=1}^{L_{\mathrm{ali}}}
\frac{1}{
1+\left(\frac{d_i}{d_0}\right)^2
}
\right]
]
Donde:
- (L_{\mathrm{ref}}) representa la longitud de referencia.
- (L_{\mathrm{ali}}) representa los residuos alineados.
- (d_i) representa una distancia entre residuos correspondientes después de superposición.
- (d_0) es un parámetro de normalización dependiente de longitud.
Para calcular TM-score como medida de evaluación se necesitan dos estructuras.
Por ejemplo, una estructura predicha y otra determinada experimentalmente.
Diferencia entre TM-score y pTM
Esta distinción es fundamental.
TM-score compara dos estructuras.
pTM (predicted TM-score) es una estimación producida por el modelo sobre su confianza en la estructura global.
Por tanto:
[
TM\text{-score}\neq pTM
]
Aunque están relacionados conceptualmente, no son exactamente la misma cantidad.
ESMFold puede producir pTM sin disponer de una estructura experimental.
Para calcular TM-score real se necesita una referencia estructural.
¿Qué es RMSD?
RMSD (Root Mean Square Deviation) mide diferencias entre coordenadas de estructuras alineadas.
Una expresión simplificada es:
[
RMSD=
\sqrt{
\frac{1}{N}
\sum_{i=1}^{N}
|p_i-q_i|^2
}
]
Donde:
- (p_i) representa una coordenada de la primera estructura.
- (q_i) representa la coordenada correspondiente de la segunda.
- (N) representa el número de átomos o residuos comparados.
Antes del cálculo es necesario alinear las estructuras de manera apropiada.
Un RMSD bajo suele indicar una mayor similitud geométrica en el conjunto comparado.
Sin embargo, la interpretación depende del tamaño, las regiones incluidas y el procedimiento de alineamiento.
¿Qué es ESM Metagenomic Atlas?
ESM Metagenomic Atlas es un recurso desarrollado para proporcionar predicciones estructurales de proteínas metagenómicas a gran escala.
La metagenómica estudia material genético obtenido directamente de muestras ambientales o comunidades biológicas.
Estas muestras pueden contener secuencias de numerosos organismos, muchos de ellos poco caracterizados.
Los investigadores utilizaron ESMFold para predecir estructuras de más de:
[
617,000,000
]
secuencias proteicas metagenómicas.
Dentro de ese conjunto, más de:
[
225,000,000
]
estructuras recibieron puntuaciones consideradas de alta confianza según los criterios utilizados por los autores.
Este resultado permitió ampliar considerablemente el catálogo de estructuras proteicas predichas.
Sin embargo, las estructuras del Atlas no deben confundirse con estructuras determinadas experimentalmente.
Son resultados computacionales.
Su utilidad depende de las métricas de confianza y de las evaluaciones posteriores.
¿Por qué es importante el Atlas?
Porque el número de secuencias proteicas conocidas es mucho mayor que el número de estructuras determinadas experimentalmente.
Muchas proteínas aparecen en organismos que no han sido estudiados detalladamente.
Predecir estructuras a gran escala puede facilitar exploraciones sobre diversidad molecular.
También permite identificar similitudes estructurales que no son evidentes a partir de secuencias.
Sin embargo, una similitud estructural no implica necesariamente identidad funcional.
La asignación de funciones requiere análisis adicionales.
Resultados experimentales de ESMFold
La publicación de Science presentó diferentes resultados.
Predicción desde secuencia única
Los investigadores demostraron que ESMFold podía predecir estructuras tridimensionales sin realizar búsquedas MSA durante inferencia.
Escalado de modelos de lenguaje
El trabajo mostró que aumentar la capacidad de modelos ESM podía mejorar la información estructural aprendida.
Velocidad de inferencia
La eliminación de pasos de búsqueda y alineamiento permitió acelerar significativamente el flujo de predicción respecto a determinadas configuraciones de AlphaFold 2.
Los autores describieron una aceleración del orden de magnitud en sus comparaciones.
Precisión estructural
En determinados conjuntos de proteínas, ESMFold obtuvo resultados comparables a los de AlphaFold 2 y RoseTTAFold, especialmente cuando el modelo de lenguaje presentaba buena comprensión estadística de la secuencia.
Metagenómica a gran escala
La arquitectura permitió construir ESM Metagenomic Atlas con cientos de millones de estructuras predichas.
Estos resultados respaldan la utilidad de ESMFold como herramienta de predicción estructural.
Sin embargo, la precisión y velocidad dependen del conjunto de datos, hardware, longitud y configuración experimental.
ESMFold frente a ESM-2
ESM-2 y ESMFold no son exactamente el mismo modelo.
ESM-2 es un modelo de lenguaje de proteínas.
ESMFold utiliza representaciones de ESM-2 e incorpora módulos de plegamiento.
| Característica | ESM-2 | ESMFold |
|---|---|---|
| Objetivo principal | Representación proteica | Predicción de estructura 3D |
| Arquitectura | Transformer | ESM-2 + Folding Trunk |
| Preentrenamiento inicial | Masked Language Modeling | Utiliza backbone ESM-2 preentrenado |
| Entrada | Secuencia | Secuencia |
| Salida | Embeddings y logits | Coordenadas y confianza |
| PDB | No como salida principal | Sí |
| pLDDT | No como salida principal | Sí |
| Aplicaciones | Clasificación y representación | Plegamiento de proteínas |
La diferencia principal es el objetivo del sistema.
ESM-2 aprende representaciones.
ESMFold transforma esas representaciones en estructuras.
ESMFold frente a ESM-3
ESM-3, estudiada en la Entrada 126, utiliza una arquitectura generativa multimodal.
ESMFold está especializada en predicción estructural.
| Característica | ESMFold | ESM-3 |
|---|---|---|
| Arquitectura | ESM-2 + módulo de plegamiento | Transformer multimodal |
| Entrada principal | Secuencia de aminoácidos | Secuencia, estructura y función |
| Salida destacada | Estructura 3D | Reconstrucción y generación multimodal |
| MSA en inferencia | No | No como requisito central |
| Generación condicionada de secuencias | No como objetivo principal | Sí |
| Datos estructurales de entrada | No necesarios | Opcionales |
| Uso principal | Predicción estructural | Modelado generativo multimodal |
ESM-3 ofrece un conjunto de tareas más amplio.
Sin embargo, esto no significa que supere automáticamente a ESMFold en precisión estructural.
La comparación debe realizarse mediante benchmarks concretos.
ESMFold frente a AlphaFold 2
AlphaFold 2 utiliza un flujo de predicción basado en información evolutiva explícita.
ESMFold utiliza representaciones de un modelo de lenguaje preentrenado.
| Característica | AlphaFold 2 | ESMFold |
|---|---|---|
| Entrada principal | Secuencia y características evolutivas | Secuencia |
| MSA en flujo habitual | Sí | No |
| Búsqueda de bases externas | Habitualmente sí | No necesaria |
| Backbone | Evoformer | ESM-2 |
| Módulo geométrico | Structure Module | Structure Module |
| Predicción atómica | Sí | Sí |
| Confianza local | pLDDT | pLDDT |
| Ventaja destacada | Alta precisión estructural | Inferencia directa y escalabilidad |
La elección depende del objetivo.
AlphaFold 2 puede aprovechar información evolutiva explícita.
ESMFold ofrece una forma directa de obtener predicciones de secuencias individuales.
Cuando necesitamos analizar millones de secuencias, la reducción de pasos externos puede ser especialmente útil.
ESMFold frente a AlphaFold 3
AlphaFold 3 amplió el enfoque de predicción estructural hacia interacciones entre diferentes tipos de moléculas.
Incluye proteínas, ácidos nucleicos y determinados ligandos dentro de sus capacidades documentadas.
ESMFold está centrada principalmente en estructuras proteicas.
| Característica | ESMFold | AlphaFold 3 |
|---|---|---|
| Objetivo | Estructuras proteicas | Complejos biomoleculares |
| Arquitectura | ESM-2 + plegamiento | Arquitectura de interacción molecular |
| Entrada característica | Secuencia de proteína | Diferentes componentes moleculares |
| Salida | Coordenadas proteicas | Estructuras de complejos |
| MSA | No necesario en inferencia | Puede incorporar información evolutiva |
| Aplicación destacada | Escalabilidad proteómica | Interacciones y complejos |
ESMFold no reemplaza AlphaFold 3 para todas las tareas.
Los sistemas están optimizados para objetivos diferentes.
Aplicaciones prácticas de ESMFold
1. Predicción estructural
Permite obtener estructuras tridimensionales a partir de secuencias.
2. Análisis metagenómico
Puede utilizarse para estudiar grandes colecciones de proteínas poco caracterizadas.
3. Exploración de regiones estructurales
Las predicciones permiten investigar posibles hélices, láminas y dominios.
4. Identificación de similitudes
Las estructuras predichas pueden compararse con otras estructuras mediante métodos especializados.
5. Generación de hipótesis funcionales
Una similitud estructural puede motivar investigaciones sobre posibles funciones.
6. Priorización experimental
Las predicciones pueden ayudar a seleccionar proteínas o regiones para estudiar mediante experimentos.
7. Visualización molecular
Los archivos PDB pueden analizarse utilizando herramientas de visualización.
8. Enseñanza de aprendizaje profundo aplicado a biología
ESMFold constituye un ejemplo importante de transferencia desde modelos de lenguaje hacia predicción geométrica.
Ejemplo práctico 1: validar una secuencia proteica con Python
Antes de ejecutar ESMFold, podemos comprobar que la secuencia contenga aminoácidos válidos.
AMINO_ACIDS = set( "ACDEFGHIKLMNPQRSTVWY")def validate_protein(sequence): sequence = sequence.upper().strip() if not sequence: raise ValueError( "Protein sequence is empty" ) invalid = set(sequence) - AMINO_ACIDS if invalid: raise ValueError( f"Unsupported amino acids: {invalid}" ) return sequenceprotein = ( "MKTVRQERLKSIVRILERSKEPVSGAQLAEELSVSR" "QVIVQDIAYLRSLGYNIVATPRGYVLAGG")protein = validate_protein(protein)print("Sequence:", protein)print("Length:", len(protein))
Este código utiliza los veinte aminoácidos estándar.
Algunas bibliotecas admiten símbolos adicionales, como X, para residuos desconocidos.
El tratamiento exacto debe adaptarse al tokenizador utilizado.
Ejemplo práctico 2: cargar ESMFold
El repositorio original de Meta proporciona el paquete fair-esm.
La instalación de ESMFold requiere versiones compatibles de PyTorch, CUDA y OpenFold.
En el entorno histórico documentado por los autores, el procedimiento incluía:
pip install "fair-esm[esmfold]"
También podían ser necesarias dependencias adicionales y un compilador CUDA.
Por tanto, no debe suponerse que esta instalación funciona sin modificaciones en cualquier sistema operativo o versión moderna de Python.
La implementación también está disponible mediante Hugging Face Transformers.
Esta alternativa puede simplificar la integración en determinados entornos.
Ejemplo práctico 3: predecir una estructura con la implementación oficial
El repositorio original proporciona un procedimiento directo.
import torchimport esmmodel = esm.pretrained.esmfold_v1()model = model.eval().cuda()sequence = ( "MKTVRQERLKSIVRILERSKEPVSGAQLAEELSVSR" "QVIVQDIAYLRSLGYNIVATPRGYVLAGG")with torch.no_grad(): pdb_string = model.infer_pdb( sequence )with open( "esmfold_prediction.pdb", "w", encoding="utf-8") as file: file.write(pdb_string)print("PDB file created")
El programa realiza las siguientes operaciones.
Primero, carga ESMFold v1.
Después, recibe una secuencia.
El modelo predice una estructura.
Finalmente, exporta las coordenadas a un archivo PDB.
Este ejemplo requiere una GPU CUDA con memoria suficiente y el entorno compatible del repositorio.
La predicción debe evaluarse mediante métricas de confianza y, cuando exista, comparación con una estructura experimental.
Ejemplo práctico 4: utilizar Hugging Face Transformers
El checkpoint oficial también está disponible en:
facebook/esmfold_v1
Podemos cargarlo mediante Transformers.
from transformers import ( AutoTokenizer, EsmForProteinFolding)model_name = "facebook/esmfold_v1"tokenizer = AutoTokenizer.from_pretrained( model_name)model = EsmForProteinFolding.from_pretrained( model_name, device_map="auto")print("ESMFold loaded")
Este ejemplo utiliza una interfaz documentada de Hugging Face.
Sin embargo, la ejecución puede requerir versiones compatibles de Transformers, Accelerate y otras dependencias.
El modelo es grande.
Por tanto, device_map="auto" no garantiza que la inferencia pueda completarse en cualquier equipo.
Ejemplo práctico 5: ejecutar una predicción con Transformers
Después de cargar el modelo:
import torchsequence = ( "MKTVRQERLKSIVRILERSKEPVSGAQLAEELSVSR" "QVIVQDIAYLRSLGYNIVATPRGYVLAGG")inputs = tokenizer( [sequence], return_tensors="pt", add_special_tokens=False)device = next(model.parameters()).deviceinputs = { key: value.to(device) for key, value in inputs.items()}model.eval()with torch.inference_mode(): outputs = model(**inputs)print( "Predicted positions:", outputs.positions.shape)print( "pLDDT shape:", outputs.plddt.shape)
La salida contiene información estructural y métricas de confianza.
Dependiendo de la versión de Transformers, el modelo puede producir varias representaciones atómicas y auxiliares.
Para exportar PDB con esta implementación pueden utilizarse utilidades específicas del modelo.
También debe considerarse que los tensores pueden encontrarse distribuidos entre varios dispositivos si se utiliza un mapa de dispositivos complejo.
Ejemplo práctico 6: calcular pLDDT desde un archivo PDB
La implementación original almacena información de confianza en el campo B-factor del archivo PDB.
Podemos leerla utilizando Biotite.
import biotite.structure.io as bsiostructure = bsio.load_structure( "esmfold_prediction.pdb", extra_fields=["b_factor"])mean_plddt = structure.b_factor.mean()print( "Mean pLDDT:", float(mean_plddt))
El resultado proporciona una medida media de confianza local.
Sin embargo, una media puede ocultar regiones con baja confianza.
Por ello, en aplicaciones reales conviene analizar las puntuaciones por residuo.
El campo B-factor en otros archivos PDB puede representar información diferente.
No debe suponerse que cualquier archivo PDB contiene pLDDT en ese campo.
Ejemplo práctico 7: clasificar confianza pLDDT
Podemos crear una función educativa.
def classify_plddt(score): if score >= 90: return "Very high confidence" if score >= 70: return "High confidence" if score >= 50: return "Low confidence" return "Very low confidence"scores = [95, 82, 61, 34]for score in scores: print( score, classify_plddt(score) )
Esta clasificación utiliza los intervalos convencionales de pLDDT.
No debe tratarse como una clasificación definitiva de fiabilidad biológica.
Una región flexible puede presentar baja confianza incluso cuando esa flexibilidad sea una propiedad natural de la proteína.
Ejemplo práctico 8: visualizar una estructura PDB
Podemos utilizar la biblioteca py3Dmol.
Instalación:
pip install py3Dmol
Ejemplo en Jupyter Notebook:
import py3Dmolwith open( "esmfold_prediction.pdb", "r", encoding="utf-8") as file: pdb_data = file.read()viewer = py3Dmol.view( width=900, height=600)viewer.addModel( pdb_data, "pdb")viewer.setStyle({ "cartoon": { "color": "spectrum" }})viewer.zoomTo()viewer.show()
El resultado muestra una representación tridimensional interactiva.
La visualización permite observar hélices, láminas y regiones de la cadena.
Sin embargo, el color utilizado en este ejemplo representa la secuencia, no la confianza.
Para visualizar pLDDT debe configurarse una escala de color basada en los valores correspondientes.
Ejemplo práctico 9: guardar una secuencia en formato FASTA
FASTA es uno de los formatos más utilizados para almacenar secuencias biológicas.
Podemos crear un archivo mediante Python.
protein = ( "MKTVRQERLKSIVRILERSKEPVSGAQLAEELSVSR" "QVIVQDIAYLRSLGYNIVATPRGYVLAGG")with open( "protein.fasta", "w", encoding="utf-8") as file: file.write(">protein_example\n") for i in range(0, len(protein), 60): file.write( protein[i:i + 60] + "\n" )print("FASTA file created")
Este formato puede utilizarse con múltiples herramientas bioinformáticas.
También permite organizar colecciones de proteínas para procesamiento por lotes.
Ejemplo práctico 10: inferencia mediante línea de comandos
La implementación original proporciona una utilidad denominada esm-fold.
Por ejemplo:
esm-fold \ -i protein.fasta \ -o predictions \ --num-recycles 4 \ --chunk-size 128
El programa recibe un archivo FASTA y genera archivos PDB.
El parámetro --num-recycles controla las iteraciones de refinamiento.
El parámetro --chunk-size permite reducir el consumo de memoria de determinadas operaciones de atención.
Utilizar bloques pequeños puede disminuir la memoria necesaria, aunque también puede reducir la velocidad.
La disponibilidad de la utilidad depende del entorno instalado.
¿Qué recursos computacionales necesita ESMFold?
ESMFold utiliza un modelo de lenguaje de gran tamaño y un módulo adicional de plegamiento.
Esto puede requerir una cantidad considerable de memoria GPU.
El consumo depende de:
- Longitud de la secuencia.
- Número de secuencias procesadas simultáneamente.
- Precisión numérica.
- Cantidad de ciclos de reciclaje.
- Tamaño de los bloques de atención.
- Implementación utilizada.
La documentación original recomienda utilizar GPU CUDA para inferencia práctica.
También proporciona opciones como CPU offloading.
Estas técnicas permiten trasladar parte de los parámetros a memoria principal y reducir el consumo de VRAM.
Sin embargo, pueden aumentar considerablemente el tiempo de ejecución.
Para experimentos educativos conviene comenzar con proteínas cortas y una sola secuencia.
¿Por qué las proteínas largas son más difíciles?
El modelo debe construir representaciones para cada residuo.
Además, mantiene información sobre relaciones entre pares.
Para una proteína de longitud (L), una representación pairwise puede contener:
[
L^2
]
pares.
Por ejemplo:
| Residuos | Pares |
|---|---|
| 100 | 10.000 |
| 300 | 90.000 |
| 500 | 250.000 |
| 1.000 | 1.000.000 |
| 2.000 | 4.000.000 |
El crecimiento cuadrático aumenta el coste de memoria.
Por ello, las secuencias extensas pueden resultar exigentes incluso cuando la entrada original solamente contiene una cadena de aminoácidos.
Limitaciones de ESMFold
1. Precisión variable
Las predicciones pueden presentar diferentes niveles de calidad según la proteína.
2. Regiones desordenadas
Las proteínas intrínsecamente desordenadas no siempre tienen una única estructura estable.
3. Complejos moleculares
La predicción de múltiples cadenas requiere consideraciones adicionales.
4. Ausencia de información contextual
La secuencia por sí sola no especifica todas las condiciones ambientales o celulares.
5. Ligandos y modificaciones
Determinadas interacciones con moléculas pequeñas, metales o modificaciones postraduccionales pueden influir en la estructura.
6. Memoria computacional
Las proteínas largas pueden requerir GPU de alta memoria.
7. Confianza estimada
pLDDT y pTM son predicciones de confianza, no medidas experimentales.
8. Generalización
La precisión puede disminuir para proteínas con patrones poco representados durante entrenamiento.
9. Dinámica estructural
Una estructura estática no describe todas las conformaciones posibles.
10. Función biológica
Una estructura predicha no demuestra automáticamente cuál es la función de la proteína.
ESMFold y la inteligencia artificial aplicada a biología
ESMFold representa un ejemplo importante de transferencia de aprendizaje.
El modelo ESM-2 aprende representaciones generales de secuencias.
Posteriormente, un módulo especializado utiliza esas representaciones para predecir geometría.
Esta estrategia demuestra que el aprendizaje autosupervisado puede producir información útil para tareas científicas diferentes del objetivo original de entrenamiento.
El modelo no aprende directamente a predecir coordenadas durante toda la etapa inicial de lenguaje.
Primero aprende regularidades de secuencias.
Después utiliza entrenamiento estructural especializado.
Este principio también aparece en otras áreas de inteligencia artificial.
Por ejemplo, un modelo visual preentrenado puede adaptarse a clasificación médica.
Un modelo de lenguaje puede adaptarse a extracción de información.
ESMFold muestra una versión particularmente interesante de esta transferencia: pasar desde secuencias simbólicas hacia coordenadas tridimensionales.
Importancia de ESMFold en la evolución de los modelos proteicos
La principal contribución de ESMFold consiste en demostrar que las representaciones de un modelo de lenguaje proteico pueden utilizarse para predecir estructuras tridimensionales directamente desde una secuencia individual.
La arquitectura elimina la necesidad de ejecutar una búsqueda MSA durante cada inferencia.
Esto reduce la complejidad del flujo operativo y facilita el procesamiento masivo.
La creación de ESM Metagenomic Atlas mostró que esta estrategia podía aplicarse a cientos de millones de proteínas.
También ayudó a consolidar el uso de modelos fundacionales para bioinformática estructural.
Posteriormente, arquitecturas como ESM-3 ampliaron las posibilidades hacia generación multimodal de proteínas.
Sin embargo, ESMFold conserva una importancia específica.
Demostró que aprender patrones estadísticos sobre grandes colecciones de secuencias puede proporcionar representaciones suficientemente informativas para reconstruir geometría molecular.
Preguntas frecuentes sobre ESMFold
¿Qué es ESMFold?
ESMFold es un modelo de aprendizaje profundo que predice estructuras tridimensionales de proteínas directamente desde sus secuencias de aminoácidos.
¿Quién desarrolló ESMFold?
Fue desarrollada por investigadores de Meta FAIR y colaboradores, con Zeming Lin, Halil Akin y Roshan Rao entre los principales autores.
¿Cuándo se publicó ESMFold?
La investigación se publicó en Science en marzo de 2023.
¿Qué significa Evolutionary-Scale Protein Structure Prediction?
Hace referencia a la predicción estructural mediante modelos entrenados sobre grandes colecciones evolutivas de secuencias proteicas.
¿ESMFold utiliza Transformers?
Sí. Utiliza ESM-2, un modelo de lenguaje proteico basado en Transformers.
¿Qué es ESM-2?
Es una familia de modelos de lenguaje de proteínas entrenados mediante Masked Language Modeling.
¿ESMFold necesita un MSA?
No durante la inferencia habitual. Utiliza directamente las representaciones aprendidas por ESM-2.
¿ESMFold utiliza información evolutiva?
Sí, de forma indirecta mediante el preentrenamiento sobre numerosas secuencias proteicas.
¿Qué es Folding Trunk?
Es el módulo que transforma representaciones de secuencias y pares de residuos en características útiles para el plegamiento.
¿Qué es Structure Module?
Es el componente que utiliza representaciones aprendidas para producir coordenadas tridimensionales.
¿Qué es Recycling?
Es un procedimiento de refinamiento iterativo que reutiliza representaciones estructurales.
¿Qué es pLDDT?
Es una puntuación de confianza local predicha para diferentes regiones de una estructura.
¿Qué significa pLDDT alto?
Indica mayor confianza estimada en la precisión local, pero no constituye una garantía experimental.
¿Qué es TM-score?
Es una métrica utilizada para comparar similitud entre dos estructuras proteicas.
¿Qué diferencia existe entre TM-score y pTM?
TM-score necesita dos estructuras para comparar. pTM es una predicción interna de confianza global.
¿Qué es RMSD?
Es una medida de distancia media entre coordenadas de estructuras alineadas.
¿Cuántos parámetros tiene ESMFold?
El checkpoint habitual utiliza un backbone ESM-2 de aproximadamente 3.000 millones de parámetros, además de módulos de plegamiento. La familia ESM-2 incluye modelos de hasta 15.000 millones.
¿Qué es ESM Metagenomic Atlas?
Es un recurso con estructuras predichas para más de 617 millones de proteínas metagenómicas.
¿Cuántas estructuras del Atlas son de alta confianza?
Los autores clasificaron más de 225 millones como predicciones de alta confianza según sus criterios.
¿ESMFold puede analizar proteínas desconocidas?
Puede producir predicciones para nuevas secuencias compatibles, aunque la precisión depende del caso.
¿ESMFold puede predecir complejos?
La implementación original admite representaciones de múltiples cadenas, pero no debe suponerse que su rendimiento es equivalente al de modelos especializados en complejos.
¿Qué diferencia existe entre ESMFold y ESM-3?
ESMFold está especializada en predicción estructural. ESM-3 es un modelo generativo multimodal de secuencia, estructura y función.
¿Qué diferencia existe entre ESMFold y AlphaFold 2?
ESMFold no requiere generar un MSA durante inferencia. AlphaFold 2 utiliza información evolutiva explícita en su flujo habitual.
¿Qué diferencia existe entre ESMFold y AlphaFold 3?
AlphaFold 3 está diseñada para modelar complejos biomoleculares más amplios. ESMFold se centra principalmente en proteínas.
¿ESMFold funciona con Python?
Sí. Existen implementaciones mediante fair-esm y Hugging Face Transformers.
¿ESMFold necesita GPU?
La inferencia práctica suele beneficiarse considerablemente de GPU, especialmente para secuencias largas.
¿ESMFold puede exportar PDB?
Sí. La implementación oficial permite exportar estructuras en formato PDB.
¿ESMFold puede determinar la función de una proteína?
Una estructura predicha puede aportar pistas, pero no demuestra directamente la función.
¿Por qué es importante estudiar ESMFold?
Porque demuestra cómo los modelos de lenguaje de proteínas pueden transferir conocimiento aprendido de secuencias hacia la predicción tridimensional de estructuras.
Conclusión
La arquitectura ESMFold representa una contribución importante al desarrollo de inteligencia artificial aplicada a la biología estructural.
Su innovación principal consiste en predecir estructuras tridimensionales directamente desde secuencias de aminoácidos utilizando representaciones aprendidas por ESM-2.
La arquitectura combina un Transformer de lenguaje proteico, un Folding Trunk y un Structure Module especializado.
Este diseño permite generar coordenadas atómicas sin realizar búsquedas MSA durante cada inferencia.
La eliminación de ese paso facilita el procesamiento de grandes colecciones de proteínas.
Los investigadores demostraron esta capacidad mediante la creación de ESM Metagenomic Atlas, que contiene predicciones para más de 617 millones de secuencias metagenómicas.
ESMFold también proporciona métricas como pLDDT y pTM para estimar diferentes aspectos de confianza estructural.
Sin embargo, las predicciones deben interpretarse cuidadosamente.
Una estructura generada por inteligencia artificial no equivale a una determinación experimental.
Su utilidad depende de la precisión, el contexto molecular y la validación posterior.
Para estudiantes, investigadores y desarrolladores de inteligencia artificial, ESMFold ofrece una lección fundamental:
Los modelos de lenguaje entrenados sobre secuencias biológicas pueden aprender representaciones que contienen información estructural, permitiendo transformar datos simbólicos en predicciones tridimensionales sin requerir alineamientos evolutivos explícitos durante cada inferencia.
Comprender ESMFold permite profundizar en los fundamentos de Transformers proteicos, transfer learning, plegamiento molecular, métricas estructurales y modelos fundacionales aplicados a bioinformática.
Referencias y fuentes oficiales
- Lin, Z. et al. (2023). Evolutionary-scale prediction of atomic-level protein structure with a language model. Science, 379(6637), 1123–1130. https://doi.org/10.1126/science.ade2574
- PubMed. Evolutionary-scale prediction of atomic-level protein structure with a language model. https://pubmed.ncbi.nlm.nih.gov/36927031/
- Meta FAIR. ESM — Repositorio original. https://github.com/facebookresearch/esm
- Meta FAIR. ESMFold — Implementación original. https://github.com/facebookresearch/esm/tree/main/esm/esmfold
- Hugging Face. ESMFold v1 — Checkpoint oficial. https://huggingface.co/facebook/esmfold_v1
- Hugging Face. ESM — Documentación de Transformers. https://huggingface.co/docs/transformers/model_doc/esm
- ESM Atlas. ESM Metagenomic Atlas. https://esmatlas.com/
- Rives, A. et al. (2021). Biological structure and function emerge from scaling unsupervised learning to 250 million protein sequences. PNAS. https://doi.org/10.1073/pnas.2016239118
- Jumper, J. et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature. https://doi.org/10.1038/s41586-021-03819-2
- Abramson, J. et al. (2024). Accurate structure prediction of biomolecular interactions with AlphaFold 3. Nature. https://doi.org/10.1038/s41586-024-07487-w
- Hayes, T. et al. (2025). Simulating 500 million years of evolution with a language model. Science. https://doi.org/10.1126/science.ads0018
- Zhang, Y. y Skolnick, J. (2004). Scoring function for automated assessment of protein structure template quality. Proteins. https://doi.org/10.1002/prot.20264
