UK-Kommission legt 44 Sicherungen für AI in der Gesundheitsversorgung vor

Verordnung für adaptive Systeme

Eine britische Kommission hat 44 Empfehlungen zur Regulierung künstlicher Intelligenz veröffentlicht, die von der National Health Service und anderen Gesundheitsdienstleistern verwendet werden. Die BBC News berichtete über die Empfehlungen am 10. September, nachdem die Regulierungsbehörde für Medikamente und Gesundheitsprodukte das letzte Plan der Kommission veröffentlicht hat. Das zentrale Argument ist, dass Regeln für statische Geräte nicht angemessen die Software regeln, die sich ändern kann, da sie neue Daten treffen.

Zu den Vorschlägen gehören kontinuierliche Überwachung nach der Verwendung eines AI-Produkts, die Fähigkeit, die Genehmigung zu widerrufen, wenn die Leistung verschlechtert, klarere Sanktionen für Entwickler, die Sicherheitsanforderungen verletzen, und überwachte Wege für die Prüfung neuer Systeme. Patienten haben auch das Recht, zu wissen, wann AI in ihre Pflege beteiligt ist und verständliche Informationen über das Produkt zu erhalten. Diese Maßnahmen zielen darauf ab, die klinische Verantwortung zu erhalten und zugleich nützliche Werkzeuge für den Zugang zu Krankenhäusern und Chirurgien zu ermöglichen.

Die öffentliche Unterstützung kommt mit Bedingungen

Die Kommission hat über ein Jahr Beweise von mehr als 12.000 Patienten, Klinikern, Gesundheitsleuten, Entwicklern und öffentlichen Mitgliedern gesammelt. Zusätzliche bewährte Forschung ergab, dass Präzision die wichtigste Priorität der Öffentlichkeit war, während menschliche Überwachung, verhältnismäßige Regulierung und Schutz vor Ungleichergebnissen wiederholende Voraussetzungen für die Akzeptanz waren. Die Empfehlungen behandeln daher Vertrauen als Bedienungssicherheitsanforderung und nicht als Kommunikationsübung.

Die BBC-Bericht betonte die praktische Herausforderung durch AI-Note-Tools, die bereits in der allgemeinen Praxis verwendet werden. Solche Systeme können administrativen Arbeiten reduzieren, aber sie können auch unsachgemäße Aufzeichnungen produzieren oder Patienten weniger bereit machen, sensible Informationen zu offenbaren. Der Ansatz der Kommission verlässt die für die Prüfung der Ergebnisse zuständigen Kliniker und legt gegebenenfalls klarere Informationen und Abweichungserwartungen vor. Es empfiehlt nicht, die Berufsurteile durch automatisierte Entscheidungen zu ersetzen.

Von der Beratungsversammlung bis zur Durchführbaren Vorschriften

Die MHRA regelt Medikamente und medizinische Geräte, aber die Kommission selbst war unabhängig und nicht gesetzlich. Der Bericht ist daher ein Plugin, nicht eine bereits in Kraft stehende Gesetzgebung. Regierungen und Regulierungsbehörden müssen entscheiden, welche Vorschläge primäre Gesetzgebung, überprüfte Medizinische Geräte-Vorschriften oder Änderungen der Beschaffung und klinischer Verwaltung erfordern. Diese Unterscheidung ist wesentlich: Die Veröffentlichung stellt eine Richtlinie fest, während die gesetzlichen Verpflichtungen von nachfolgenden Entscheidungen abhängen.

Die nächsten Tests werden darstellen, ob die Minister das vollständige Paket akzeptieren, wie kontinuierlich die Überwachung durch sich veränderende Modelle funktioniert und wer die Verantwortung trägt, wenn die Leistung nach der Genehmigung verschwindet. Die Regulierungsbehörden müssen auch international koordinieren, da viele Gesundheitssysteme die gleichen Entwickler und Modelle verwenden. Die unmittelbare Entwicklung ist jedoch konkret: Eine jahrelange offizielle Überprüfung hat ein detailliertes Regulierungsrahmen bereitgestellt, da AI von Verwaltungssteuer nach weit verbreiterem klinischem Gebrauch verläuft.