GPT-OSS
El primer modelo de lenguaje grande de código abierto de OpenAI (20B / 120B)
GPT-OSS es el primer modelo de lenguaje grande de código abierto publicado por OpenAI, un proyecto que traslada la tecnología central de la serie GPT comercial al ecosistema open source. Se ofrece en dos líneas: un modelo dense de 20B y un modelo Mixture of Experts (MoE) de 120B. En particular, la versión MoE de 120B muestra una velocidad de inferencia sorprendente incluso en GPU de consumo, ya que activa pocos parámetros en relación con el total. En mediciones reales alcanza aproximadamente 42 tok/s en GPU, más de cinco veces la cifra de un modelo dense de clase 70B. En rendimiento se acerca a las primeras versiones de GPT-4 y ofrece un alto grado de completitud en razonamiento complejo y análisis multilingüe.
Para los investigadores de biotecnología, la mayor ventaja de GPT-OSS es que puede ejecutarse completamente sin conexión. Datos sensibles que no pueden enviarse a nubes externas —como datos de ensayos clínicos, borradores de artículos inéditos e información genómica de pacientes— pueden analizarse localmente con un modelo de nivel GPT-4. Es como disponer de un asistente de IA dedicado dentro del laboratorio. Gracias a su arquitectura MoE, 65 GB de VRAM bastan para cargar el modelo 120B completo en la GPU, por lo que una estación de trabajo con una sola GPU de alto rendimiento puede operarlo.
La versión dense de 20B ocupa 13 GB y es adecuada para asistencia cotidiana de programación, resúmenes documentales y traducción; la versión MoE de 120B se reserva para tareas analíticas complejas. Su capacidad multilingüe, incluido el coreano, es excelente y genera resultados naturales al resumir artículos biotecnológicos coreanos o traducir entre coreano e inglés. Puede instalarse y ejecutarse con un solo comando mediante Ollama y ofrece una API compatible con OpenAI, permitiendo migrar localmente las canalizaciones basadas en GPT-4 sin cambiar el código.
💻 Requisitos del sistema
20B → 16GB / 120B MoE → 65GB (una sola GPU o varias GPU)
20B → 13GB / 120B → 65GB
⚡ Instalación
4-1. Inicio rápido
# Modelo dense de 20B (uso ligero)
ollama run gpt-oss:20b
# Modelo MoE de 120B (análisis de alto rendimiento)
ollama run gpt-oss:120b
4-2. Instalación detallada
# 1. Instalar Ollama
curl -fsSL https://ollama.com/install.sh | sh
# 2. Descargar el modelo (pull previo)
ollama pull gpt-oss:120b
# 3. Usarlo desde Python
pip install ollama
import ollama
response = ollama.chat(model='gpt-oss:120b', messages=[
{'role': 'user', 'content': 'Resume las conclusiones principales de este artículo.'}
])
print(response['message']['content'])
🧬 Casos de uso en biociencias
Caso 1
Análisis de datos clínicos confidenciales: procesar localmente 50 informes de ensayos clínicos inéditos con el MoE de 120B. Con temperature=0.2, extraer estructuradamente 15 indicadores cuantitativos, como la frecuencia (%) de efectos adversos y la tasa de abandono de pacientes. Completarlo en cinco minutos sin transferir datos a la nube. (150 caracteres)
Caso 2
Asistencia en el cribado de candidatos a fármacos: combinar Python + RDKit con GPT-OSS 20B para analizar los sitios activos de proteínas diana. Seleccionar automáticamente los 12 compuestos principales, con energía de unión ≤ -8.0 kcal/mol, entre 500 candidatos. El modelo genera directamente el script de análisis de docking. (160 caracteres)
Caso 3
Sistema RAG multilingüe para patentes y artículos: construir un RAG local con Ollama y herramientas de embeddings. Identificar ocho elementos tecnológicos con alta probabilidad de infracción en 200 patentes coreano-inglés usando un backend MoE de 120B. Eliminar por completo el riesgo de filtración de información confidencial. (130 caracteres)
FAQ
¿Qué es GPT-OSS?
GPT-OSS es el primer modelo de lenguaje grande de código abierto publicado por OpenAI, un proyecto que traslada la tecnología central de la serie GPT comercial al ecosistema open source. Se ofrece en dos líneas: un modelo dense de 20B y un modelo Mixture of Experts (MoE) de 120B. En particular, la versión MoE de 120B muestra una velocidad de inferencia sorprendente incluso en GPU de consumo, ya que activa pocos parámetros en relación con el total. En mediciones reales alcanza aproximadamente 42 tok/s en GPU, más de cinco veces la cifra de un modelo dense de clase 70B. En rendimiento se acerca a las primeras versiones de GPT-4 y ofrece un alto grado de completitud en razonamiento complejo y análisis multilingüe. Para los investigadores de biotecnología, la mayor ventaja de GPT-OSS es que puede ejecutarse completamente sin conexión. Datos sensibles que no pueden enviarse a nubes externas —como datos de ensayos clínicos, borradores de artículos inéditos e información genómica de pacientes— pueden analizarse localmente con un modelo de nivel GPT-4. Es como disponer de un asistente de IA dedicado dentro del laboratorio. Gracias a su arquitectura MoE, 65 GB de VRAM bastan para cargar el modelo 120B completo en la GPU, por lo que una estación de trabajo con una sola GPU de alto rendimiento puede operarlo. La versión dense de 20B ocupa 13 GB y es adecuada para asistencia cotidiana de programación, resúmenes documentales y traducción; la versión MoE de 120B se reserva para tareas analíticas complejas. Su capacidad multilingüe, incluido el coreano, es excelente y genera resultados naturales al resumir artículos biotecnológicos coreanos o traducir entre coreano e inglés. Puede instalarse y ejecutarse con un solo comando mediante Ollama y ofrece una API compatible con OpenAI, permitiendo migrar localmente las canalizaciones basadas en GPT-4 sin cambiar el código.
¿Cuándo debería usar GPT-OSS?
El primer modelo de lenguaje grande de código abierto de OpenAI (20B / 120B)
¿Cuál es un caso de uso biomédico de GPT-OSS?
Caso 1: Análisis de datos clínicos confidenciales: procesar localmente 50 informes de ensayos clínicos inéditos con el MoE de 120B. Con temperature=0.2, extraer estructuradamente 15 indicadores cuantitativos, como la frecuencia (%) de efectos adversos y la tasa de abandono de pacientes. Completarlo en cinco minutos sin transferir datos a la nube. (150 caracteres)
📝 Notas de actualización
Aún no hay notas de actualización.
🧪 Código de la vida relacionado
Aún no hay publicaciones relacionadas de Código de la vida.