La Comisión Británica propone 44 salvaguardas para la IA utilizada en la salud

Reglamento diseñado para sistemas adaptativos

Una comisión del Reino Unido ha publicado 44 recomendaciones para la regulación de la inteligencia artificial utilizada por el Servicio Nacional de Salud y otros proveedores de salud. BBC News informó las recomendaciones el 10 de septiembre después de que la Agencia de Regulación de Medicamentos y Productos de Salud publicara el plan final de la comisión. El argumento central es que las reglas diseñadas para dispositivos estáticos no gobiernan adecuadamente el software que puede cambiar a medida que se encuentra con nuevos datos.

Las propuestas incluyen el seguimiento continuo después de que un producto de IA ingrese en uso, la capacidad de retirar la aprobación cuando el rendimiento se deteriora, sanciones más claras para los desarrolladores que infringen los requisitos de seguridad y caminos supervisionados para probar nuevos sistemas. Los pacientes también tendrán derecho a saber cuándo se involucra la IA en su cuidado y a obtener información comprensible sobre el producto. Estas medidas buscan preservar la responsabilidad clínica al tiempo que permiten herramientas útiles para llegar a hospitales y cirugías.

El apoyo público ha llegado con condiciones

La comisión ha recogido evidencia de más de 12.000 pacientes, clínicos, líderes de la salud, desarrolladores y miembros del público durante un año, según el informe del gobierno. La investigación deliberativa adicional encontró que la precisión era la prioridad del público, mientras que la supervisión humana, la regulación proporcional y la protección contra los resultados desiguales eran condiciones recurrentes para la aceptación. Por lo tanto, las recomendaciones tratan la confianza como un requisito de seguridad operativa en lugar de un ejercicio de comunicación.

El informe de la BBC destacó el desafío práctico a través de las herramientas de notación de la AI ya utilizadas en la práctica general. Estos sistemas pueden reducir el trabajo administrativo, pero también pueden producir registros inexactos o hacer que los pacientes sean menos dispuestos a revelar información sensible. El enfoque de la comisión deja a los clínicos responsables de revisar los resultados y propone información más clara y expectativas de desistimiento cuando sea apropiado. No recomienda sustituir el juicio profesional por decisiones automatizadas.

Desde el informe consultivo hasta las normas aplicables

La MHRA regula medicamentos y dispositivos médicos, pero la propia comisión era independiente y no estatutaria. Su informe es, por tanto, un plan, no una legislación ya en vigor. Los gobiernos y los reguladores deben decidir qué propuestas requieren legislación primaria, reglas revisadas de dispositivos médicos o cambios en la adquisición y la gobernanza clínica. Esta distinción es esencial: la publicación establece una dirección de la política, mientras que las obligaciones legales dependerán de las decisiones posteriores.

Las siguientes pruebas serán si los ministros aceptan el paquete completo, cuánto seguimiento continuo funcionará a través de los modelos cambiantes, y quién se responsabiliza cuando el rendimiento se desvanece después de la aprobación. Los reguladores también tendrán que coordinarse a nivel internacional porque muchos sistemas de salud utilizan los mismos desarrolladores y modelos. Sin embargo, el desarrollo inmediato es concreto: una revisión oficial de un año ha entregado un marco regulador detallado, al igual que la IA se mueve de apoyo administrativo a uso clínico más amplio.