Investigadores: La medicina necesita introducir la figura del consultor algorítmico de IA

La necesidad de una nueva profesión se explica por el hecho de que la interacción directa entre los médicos y la IA no siempre mejora la calidad de las decisiones: incluso con acceso a los resultados de los algoritmos, los médicos a menudo los interpretan incorrectamente y las herramientas de interpretación existentes siguen siendo insuficientemente transcribibles para la práctica clínica.

Según los autores del artículo, el consultor algorítmico desempeñará dos funciones principales. La primera es ayudar a los médicos a elegir un modelo de IA adecuado e interpretar sus resultados. La segunda es gestionar el ecosistema de algoritmos en una organización médica, supervisando su implementación, actualización y correcta aplicación. Esta práctica ya existe en otros ámbitos; por ejemplo, los farmacéuticos clínicos ayudan a los médicos a trabajar con medicamentos y el formulario hospitalario.

Los investigadores reconocieron que implementar un servicio de este tipo requeriría costos adicionales, pero creen que está justificado. «Algunos argumentan que el uso de un consultor algorítmico, en comparación con el uso directo de la IA por parte de los médicos, socava la eficacia prevista del uso de la IA en la práctica clínica. Sin embargo, nuestra hipótesis es que dicho servicio mejoraría significativamente el rendimiento de los sistemas de IA que gestiona», argumentan los autores. Al igual que los farmacéuticos clínicos, los consultores algorítmicos podrían hacer que el uso de la IA en medicina sea más seguro y eficaz.

Se presta especial atención a la cuestión de la responsabilidad. Aún no existe una solución universal sobre quién asume la responsabilidad legal de los errores en los algoritmos de IA, pero la presencia de especialistas que revisen los modelos y respalden su uso reducirá los riesgos para los médicos y las organizaciones médicas. Un consultor algorítmico compartirá la responsabilidad, liberando al médico de parte de la carga y minimizando la probabilidad de uso incorrecto de herramientas no verificadas, según creen los científicos.

También señalaron que los médicos no siempre sabrán cuándo es necesario recurrir a un especialista. Por lo tanto, el trabajo de estos especialistas debe basarse en el principio del apoyo continuo, con la capacidad de contactarlos rápidamente cuando se identifique el riesgo de una aplicación incorrecta del algoritmo.

Los consultores algorítmicos deben poseer una formación combinada en medicina y ciencia de datos, lo que les permitirá considerar tanto el contexto clínico como las particularidades de un modelo específico. Los autores del artículo propusieron desarrollar la formación de estos especialistas con base en programas de informática clínica, donde podría surgir una orientación independiente.

A pesar de los costes adicionales, la implementación de consultores algorítmicos, según los investigadores, mejorará la eficiencia de la IA en la atención sanitaria, reducirá los riesgos para los pacientes, reducirá la carga de trabajo de los médicos y garantizará la sostenibilidad a largo plazo de las tecnologías digitales. En el futuro, estos profesionales pueden convertirse en un eslabón clave en la integración de la IA en el sistema sanitario, lo cual es especialmente importante en el contexto de la rápida introducción de nuevos modelos como el GPT-5, que ya se utilizan en medicina, pero que aún conllevan altos riesgos sin un control adecuado y el apoyo de expertos.

Un estudio interdisciplinario de la Universidad de Zúrich sobre gemelos digitales en medicina reveló que la mayoría de los encuestados reconoce el potencial de la tecnología de IA, pero insiste en que su uso es voluntario y que los médicos conservan el liderazgo. Los expertos también señalan los riesgos de la desigualdad digital, la posible presión de los algoritmos sobre el estilo de vida y la baja confianza en los desarrolladores comerciales.