GPT-4 acertó el 90,2 % de las preguntas de MedQA, un banco de preguntas tipo test tomado de exámenes médicos, principalmente del USMLE, en la evaluación que Microsoft publicó en 2023; Med-PaLM 2, de Google, se quedó en el 86,5 %. Con esos números, cabría esperar hospitales llenos de chatbots diagnosticando. No los hay: el listado de la FDA de dispositivos médicos con IA incorporada rondaba el millar, y la mayoría se concentra en imagen, sobre todo en radiología, como herramientas de priorización acotadas. Esa distancia entre lo que un modelo sabe y lo que se le permite hacer define el debate actual sobre la IA médica, y se entiende mejor separando dos preguntas: qué aporta hoy un modelo ejecutado en local y dónde sigue siendo imprescindible un profesional.
Qué significa «modelo local» en sanidad
«Local» significa que el modelo corre dentro de la red del hospital o del consultorio: una máquina con GPU dedicada (lo que cuesta y rinde en tu propio VPS), Ollama o llama.cpp como servidor de inferencia (el stack completo en IA local en WordPress con Ollama y Qdrant) y sin que ningún paquete de datos salga hacia un proveedor externo. Sobre esa base caben modelos generales como Llama 3.1, Qwen 2.5 o Mistral Small, y variantes médicas abiertas como MedGemma, la familia que Google publicó en 2025 en tamaños de 4B y 27B, o BioMistral, un ajuste fino comunitario de Mistral 7B entrenado con literatura biomédica de PubMed Central. La voz también se queda en casa: Whisper, el reconocedor de código abierto de OpenAI, transcribe dictados clínicos sin conexión. En cuanto a hardware, un modelo de 7.000-8.000 millones de parámetros en versión cuantizada cabe en una GPU de consumo; la barrera de entrada no es el clúster.
Un modelo que corre en tu servidor, no en la nube del proveedor
El motivo de esta arquitectura es legal antes que técnico. El RGPD clasifica los datos de salud como categoría especial en su artículo 9, y cada proveedor cloud que los toca añade un encargado de tratamiento, un contrato y una justificación de transferencia. Con el modelo en tu rack, ese capítulo desaparece del mapa de riesgos.
Antes de mirar comparativas de GPUs, haz la auditoría inversa: lista qué proveedores externos tocan hoy los datos clínicos de tu organización y cuántos contratos de encargo de tratamiento sostienen esa cadena. Ese inventario, y no la tarjeta gráfica, suele ser la primera decisión del proyecto.
Dónde ya rinde un modelo local
El terreno natural es el texto, no el diagnóstico en sentido estricto. En tareas delimitadas, con un profesional revisando al final, un modelo local ya ahorra horas:
Diagnóstico por imagen, redacción clínica estructurada y triaje documental
- Transcripción y resumen de consulta: Whisper convierte el dictado en texto y el LLM lo reorganiza como nota clínica estructurada.
- Borradores de alta, derivación o informe: el profesional edita y firma en lugar de partir de la página en blanco.
- Codificación asistida: propuestas de códigos CIE-10 sobre el texto del episodio, siempre con revisión posterior.
- Consulta documental con RAG: un índice vectorial local, por ejemplo Qdrant, sobre guías y protocolos internos devuelve el pasaje fuente, no una paráfrasis sin cita.
Nada de esto diagnostica nada: prepara el material para quien diagnostica. En imagen, de hecho, el panorama enseña mucho. El diagnóstico asistido desplegado en hospitales lo forman dispositivos certificados, como los de Aidoc o Viz.ai, que priorizan estudios sospechosos en la lista de trabajo del radiólogo; ni diagnostican ni firman, y esa delimitación es la que les permitió pasar el filtro regulatorio. Cualquier uso clínico de un LLM tendrá que igualar ese estándar de evidencia.
Para saber si el modelo te sirve, mide algo honesto: el porcentaje de palabras del borrador que sobrevive a la revisión humana. Si ese número es alto en un flujo repetitivo, tienes un caso de uso; si es bajo, tienes una demo.
Dónde el humano sigue siendo innegociable
Los benchmarks engañan por diseño: MedQA tiene la respuesta correcta entre las opciones; la consulta real, no. El modelo llega al paciente sin el contexto completo de la historia clínica y sin responsabilidad sobre lo que produce. El acceso a ese contexto es un problema de integración, no de tamaño de modelo: sin constantes, analíticas y medicación en la ventana del modelo, este opina a ciegas.
Decisión diagnóstica final, consentimiento y casos ambiguos
Los errores más caros son de invención, no de ignorancia. Un LLM puede redactar un alta impecable con una dosis de anticoagulante inventada o una interacción olvidada, y la fluidez del texto hace el fallo más difícil de detectar, no más leve. Ese tipo de decisión no se delega, ni siquiera como borrador automático sin leer.
En España, la Ley 41/2002 de autonomía del paciente regula la información y la documentación clínica, incluida la historia clínica y quién responde de ella. Un texto generado no altera esa cadena: la responsabilidad sigue en quien firma. El límite real de la IA médica hoy no es la precisión en un test, sino el reparto de responsabilidades.
Criterio operativo: si el error puede dañar a un paciente o acabar en un juzgado, hay humano en el bucle; si solo cuesta tiempo de redacción, hay modelo.
Privacidad: lo que cambia cuando el modelo vive en tu rack
Ejecutar en local elimina de golpe el mayor foco de riesgo: la salida de datos clínicos hacia terceros. Cortada esa salida, no quedan transferencias internacionales que justificar ni proveedores que auditar por cada llamada a la API. Para el sector público español hay un marco propio, el Esquema Nacional de Seguridad regulado por el Real Decreto 311/2022, que se cumple con menos fricción cuando el dato no cruza el perímetro.
El dato clínico no sale de tu infraestructura: qué exige y qué exime
Ojo: local no equivale a privado por defecto. Si los logs de inferencia guardan el texto íntegro de las peticiones, tu herramienta de trazabilidad se convierte en una base de datos de historias clínicas con peor control que la historia real. Los índices vectoriales almacenan embeddings de textos sensibles, y una copia de seguridad sin cifrar restaura el problema entero tras un incidente. El pipeline local exige lo mismo que exigirías a un proveedor externo: control de acceso por roles, cifrado en disco, retención corta y un registro de qué versión del modelo procesó qué documento.
Este tipo de stack se monta con herramientas abiertas: en MCP en tu stack local: conecta Ollama, Qdrant y WordPress con Model Context Protocol cuento cómo dar a un modelo local acceso controlado a documentos internos. La propiedad que importa ahí es una sola: los embeddings de tus guías e informes no salen de la máquina.
Dibuja el flujo completo antes del primer piloto: qué dato entra, qué componente lo procesa, dónde se almacena y cuánto tiempo vive. Cada casilla «cloud» del dibujo es un contrato y una auditoría pendientes; sustitúyela por un componente local cuando exista equivalente.
Límites regulatorios: qué puedes desplegar ya y qué no
El Reglamento europeo de productos sanitarios (MDR, 2017/745), aplicable desde mayo de 2021, fija la frontera. Su regla 11, en el anexo VIII, clasifica como dispositivo médico, como mínimo de clase IIa, cualquier software que aporte información para tomar decisiones diagnósticas o terapéuticas. Un sistema que sugiere un diagnóstico entra ahí; uno que redacta cartas o estructura documentación administrativa, no. Ahí está la ventana legal que hace viable el despliegue actual de modelos locales.
MDR, GDPR y la línea entre asistente y dispositivo médico
El Reglamento de IA (UE) 2024/1689 añade la capa temporal. Entró en vigor el 1 de agosto de 2024; sus prohibiciones se aplican desde el 2 de febrero de 2025, la aplicación general llega el 2 de agosto de 2026 y los sistemas de alto riesgo integrados en productos regulados por legislación de armonización de la UE, incluidos los productos sanitarios, deben cumplir desde el 2 de agosto de 2027. La IA médica cae en ese último tramo.
La consecuencia práctica es incómoda y clara: hoy puedes poner en producción un modelo local para documentación, codificación revisada y consulta de guías sin certificado de producto. Para cualquier uso que toque la decisión clínica, el camino es comprar software con marcado CE ya existente o asumir un proceso de certificación que se mide en años. La autoridad competente en España es la Agencia Española de Medicamentos y Productos Sanitarios (AEMPS).
Etiqueta cada caso de uso como «dispositivo» o «no dispositivo» antes de escribir la primera línea de código. Esa etiqueta decide el presupuesto, el calendario y si el piloto arranca esta semana o dentro de tres años.
Un plan de aterrizaje en cuatro pasos
Elige un único flujo de texto repetitivo y de bajo riesgo, como dictado y resumen de consulta, y ejecuta el piloto completo en local. Fija la métrica antes de empezar: porcentaje de borradores aceptados sin cambios sustanciales.
Piloto de un caso de uso, medición y revisión con el equipo
Los cuatro pasos que siguen al piloto son de ingeniería y de gobernanza a partes iguales:
- Congela versiones: fija el modelo y su cuantización exacta, versiona los prompts en git y anota en cada documento qué configuración lo generó.
- Evalúa antes de producir: comparación retrospectiva entre el borrador del modelo y el texto final del profesional sobre episodios propios anonimizados.
- Audita el pipeline: registro de accesos, retención corta de logs y cifrado en reposo para datos, índices y pesos.
- Documenta el marco: una etiqueta device/no-device por caso de uso y el responsable que firma cada salida.
Cuando el flujo necesite encadenar transcripción, generación y revisión, la orquestación por contenedores evita los scripts sueltos: en Agentes de IA locales: Hermes Agent y automatización con Docker Compose describo cómo desplegar un agente local con ese enfoque. La misma receta encaja aquí, con el dato clínico sin salir del host.
La métrica que decide el siguiente paso
La tecnología corre más rápido que la certificación: un modelo abierto de 4B funciona hoy en la GPU de una sobremesa mientras su equivalente para decisión clínica puede tardar años en llegar al mercado con marcado CE. La respuesta sensata no es esperar a que todo esté homologado, sino acotar el despliegue a lo que la ley permite hoy y medirlo con el mismo criterio con que se mide cualquier equipo clínico. Toma un solo flujo de texto, corre el piloto en local durante un trimestre y decide con la tasa de aceptación humana en la mano; ese número vale más que cualquier titular sobre IA médica. El profesional que firma no ha cambiado de sitio; lo que cambia es cuánto trabajo le llega ya hecho, trazado y revisable.
Tiempo ahorrado por documento, no accuracy en abstract
Si quieres levantar este tipo de stack en tu propio VPS, despliega tu servidor y monta Ollama en menos de una hora.