Британская комиссия предлагает 44 меры защиты при использовании ИИ в здравоохранении

Регламент, предназначенный для адаптивных систем

Комиссия Великобритании опубликовала 44 рекомендации по регулированию искусственного интеллекта, используемых Национальной службой здравоохранения и другими поставщиками медицинских услуг. BBC News сообщила о рекомендациях 10 сентября после того, как Регулирующее агентство по лекарствам и продуктам здравоохранения опубликовало окончательный план комиссии. Центральный аргумент заключается в том, что правила, предназначенные для статических устройств, не регулируют адекватно программное обеспечение, которое может измениться, поскольку оно встречает новые данные.

В предложениях входит постоянное наблюдение после ввода в эксплуатацию ИИ продукта, возможность отклика одобрения при ухудшении производительности, более четкие штрафы для разработчиков, которые нарушают требования безопасности, и надзорные пути тестирования новых систем. Пациенты также имеют право знать, когда ИИ участвует в их уходе и получить понятную информацию о продукте. Эти меры направлены на сохранение клинической ответственности, а также на предоставление полезных инструментов для доступа к больницам и хирургическим операциям.

Общественная поддержка пришла с условиями

Комиссия собрала данные из более чем 12 000 пациентов, клиников, лидеров здравоохранения, разработчиков и членов общественности в течение года, согласно правительственному отчету. Дополнительные умышленные исследования показали, что точность была главным приоритетом общественности, в то время как человеческий надзор, пропорциональное регулирование и защита от неравномерных результатов были повторными условиями для принятия. Поэтому в рекомендациях доверие рассматривается как требование оперативной безопасности, а не как упражнение коммуникаций.

В докладе BBC подчеркнули практический вызов посредством инструментов AI-записи, которые уже используются в общей практике. Такие системы могут уменьшить административную работу, но они также могут производить неточные записи или сделать пациентов менее готовы к раскрытию чувствительной информации. Приступ комиссии оставляет клиников ответственными за осмотр результатов и предлагает более четкую информацию и ожидания отбора, когда это необходимо. Не рекомендуется заменить профессиональное суждение автоматизированными решениями.

От консультативного доклада к действующим правилам

MHRA регулирует медикаменты и медицинское оборудование, но сама комиссия была независимой и не-законодательной. Поэтому его доклад является планом, а не уже действующим законодательством. Правительство и регуляторы должны решить, какие предложения требуют первичного законодательства, пересмотренных правил медицинского оборудования или изменений в приобретении и клиническом управлении. Такая отличия имеет важное значение: публикация устанавливает политическое направление, в то время как юридические обязательства будут зависеть от последующих решений.

Следующие тесты будут определяться тем, принимают ли министры полный пакет, насколько непрерывно будет работать мониторинг по переменным моделям, и кто несет ответственность, когда после утверждения производительность проходит. Регуляторы также должны будут координировать международную деятельность, поскольку многие системы здравоохранения используют одни и те же разработчики и модели. Тем не менее, немедленное развитие является конкретным: ежегодный официальный обзор предоставил подробную нормативную основу, так как ИИ переходит от административной поддержки к более широкому клиническому использованию.