Ollama
Runtime estándar para ejecutar LLM locales; permite iniciar más de cien modelos con un solo comando.
Ollama simplifica la descarga, configuración y ejecución local de modelos de lenguaje mediante una interfaz de línea de comandos y una API compatible.
💻 Requisitos del sistema
Mínimo 16GB (modelo Q4 7B), recomendado 32GB (13B), 64GB+ (32B), 128GB+ (modelos de memoria unificada 70B/120B — Apple M4 Ultra, NVIDIA Grace, AMD Ryzen AI MAX+)
8GB (Q4 7B) / 24GB (Q4 32B, nivel RTX 4090) / 48GB (Q4 70B, nivel A6000) / 80GB+ (120B o distribución multi-GPU). También funciona solo con CPU, pero la velocidad de procesamiento de tokens es 5-10 veces más lenta en comparación con GPU. Apple Silicon (M1 Pro o superior) es muy eficiente gracias a la memoria unificada
4-70GB por modelo (basado en cuantización Q4). Se recomienda NVMe SSD de 1-2TB para operar con múltiples modelos. También es posible montar almacenamiento en red como NFS/SMB (variable de entorno OLLAMA_MODELS)
⚡ Instalación
Ejecuta ollama run <modelo> tras instalar Ollama desde su documentación oficial.
🧬 Casos de uso en biociencias
Pipeline de análisis local de datos de artículos y experimentos
Procesamiento automático mediante cron + API REST de Ollama de datos como RSS de PubMed, notas de investigación y resultados de secuenciación. Ejemplo: cada día se procesan 50 nuevos artículos → llama3.3:70b genera resumen del abstract, etiquetas de emoción y puntuación de relevancia → INSERT en estado DRAFT en la base de datos. Coste externo de API 0, sin transmisión externa de datos 0.
Núcleo de sistema RAG — Búsqueda de conocimiento corporativo + chatbot
Vectorización de PDFs de artículos, documentos docx de protocolos y notas markdown en formato markdown mediante incrustaciones BGE-M3 → carga en Qdrant/ChromaDB → al realizar una búsqueda, la inferencia con gemma/llama de Ollama sintetiza los resultados de la búsqueda junto con el contexto. Interfaz Streamlit/Gradio que permite a cualquier usuario consultar el conocimiento interno mediante lenguaje natural.
Asistente EMR para datos de pacientes protegidos por HIPAA/GDPR
Alojamiento de Ollama + medllama3/BioGPT en Mac Studio/estaciones de trabajo dentro del hospital → conversión automática a formato SOAP mediante API de ollama de los resultados STT de notas clínicas + sugerencia de códigos ICD-10 + revisión de recetas. Embebido en el Modelfile: prompt SYSTEM + temperature 0.3 + num_ctx 16384. Sin transmisión a la nube 0 = cumplimiento del Safe Harbor de HIPAA.
FAQ
¿Qué es Ollama?
Ollama simplifica la descarga, configuración y ejecución local de modelos de lenguaje mediante una interfaz de línea de comandos y una API compatible.
¿Cuándo debería usar Ollama?
Runtime estándar para ejecutar LLM locales; permite iniciar más de cien modelos con un solo comando.
¿Cuál es un caso de uso biomédico de Ollama?
Pipeline de análisis local de datos de artículos y experimentos: Procesamiento automático mediante cron + API REST de Ollama de datos como RSS de PubMed, notas de investigación y resultados de secuenciación. Ejemplo: cada día se procesan 50 nuevos artículos → llama3.3:70b genera resumen del abstract, etiquetas de emoción y puntuación de relevancia → INSERT en estado DRAFT en la base de datos. Coste externo de API 0, sin transmisión externa de datos 0.
📝 Notas de actualización
Aún no hay notas de actualización.
🧪 Código de la vida relacionado
Aún no hay publicaciones relacionadas de Código de la vida.