Usos de IA en entornos clínicos

En salud, el riesgo de un uso de IA no sale del tamaño del modelo ni de lo sofisticado que sea. Sale de tres preguntas: qué decisión toca su salida (una cita, una factura, una categoría de urgencia, un diagnóstico), quién actúa con ella (un profesional, un paciente, otro sistema) y qué revisión hay en medio antes de que llegue al paciente.

Un asistente que agenda citas puede equivocarse y el daño es una molestia. Un sistema que propone en qué orden se atiende a los pacientes de urgencias puede equivocarse y el daño es una espera que cuesta la vida. Por eso un inventario de IA clínica no se ordena por proveedor ni por tecnología, sino por el efecto de la salida sobre la atención.

La revisión de un profesional es el control más común en la IA clínica: el médico lee el resumen, la enfermera confirma la categoría, el radiólogo lee la imagen. Cuando la salida llega directamente al paciente, ese control desaparece, y el paciente no tiene cómo saber si la explicación está mal ni qué hacer con ella. Eso no prohíbe el uso, pero lo coloca en otro nivel de exigencia.

Quien registra un sistema en el inventario suele declarar su categoría, y la tentación es declararlo administrativo: menos evaluación, menos comité, más rápido a producción. Pero la categoría la decide el efecto, no la etiqueta. Un sistema que solo «ordena una lista» de pendientes clínicos decide quién espera más, y eso es una decisión sobre la atención.

Trevo tiene una regla interna, PI-IA-02, que exige una evaluación clínica antes de producción a todo sistema con efecto clínico, lo haya declarado así su área o no. Aplicarla bien obliga a mirar el efecto real de cada sistema, no solo su etiqueta, y a cruzar el inventario con el registro de evaluaciones.

El sistema que explica resultados a los pacientes está en piloto con 300 personas y sin evaluación. Detenerlo todo no siempre es la mejor salida, pero dejarlo tal cual tampoco: hay que decidir qué cambia antes de que siga.