Первый государственный секретарь Великобритании заявила, что правительство должно отреагировать на предупреждения о безопасности передового ИИ

Огромное послание от правительства

Премьер-министр Великобритании Луиза Хайг заявила, что правительство должно серьезно принимать предупреждения от ведущих разработчиков искусственного интеллекта, продолжая добиваться преимуществ технологии. В комментариях, подготовленных для Конгресса Trade Union, она представила ИИ как потенциальный двигатель для более сильных общественных услуг, бизнес-продуктивности и научных исследований, но также как источник рисков общественной безопасности и национальной безопасности. Вмешательство отмечает значительную перемену в акценте после того, как несколько отраслевых фигур усилили требования к правительствам оградить самые мощные системы.

Хагг не объявил законопроект, лицензирующий режим или мораторий. Ее конкретная позиция заключалась в том, что министры должны оставаться готовы к сотрудничеству с международными партнерами и адаптировать политику, как развиваются возможности. Это отличие имеет значение. Правительство признает, что существующие правила могут оставаться недостаточными, но не приняло гораздо более широких предложений, пропагандируемых кампании, в том числе запрета на искусственную сверхинтелигенцию или обязательный механизм третьих сторон, способный остановить системы границ.

Существующая политика уже рассматривает риск как операционный

Правительственный инструмент управления рисками AI, опубликованный 8 сентября, обеспечивает практический фон. Она требует от команд публичного сектора выяснить, оправдать и обратить внимание на риски во время проектирования, приобретения и эксплуатации услуг, предоставляемых искусственным искусством. Отдельные рекомендации национальной комиссии по здравоохранению призывают к постоянному мониторингу, общественному доступу к информации о безопасности и человеческому надзору. Эти документы показывают, что политика Великобритании уже переходит за рамки добровольных этических принципов в конкретных секторах, хотя передовой статус-модель пограничного характера остается нерешенным.

Сейчас речь идет о соответствующих нормативных ограничениях. Компании, которые разрабатывают самые способные системы, утверждают, что строго ориентированные правила могут уменьшить катастрофические риски без нагрузки на обычные стартапы. Парламентаристы и правозащитники также беспокоятся о немедленных ущербах, таких как распознавание лица, изготовленные сексуальные изображения и автоматизированные решения на рабочем месте. Политика, ориентированная только на гипотетические системы будущего, могла бы пропустить эти проблемы; рамка, покрывающая каждую применение ИИ, могла бы наложить непропорциональные затраты на соответствие и разветвленный специалистский надзор над самыми высокими моделями риска.

От предупреждения к применимой политике

Следующим значимым развитием будет правительственный ответ, определяющий, какие модели, компании и используют облицовые обязательства. Министры должны будут решить, нужен ли новый регулятор, как должно функционировать доклад о инцидентах, а также согласовать ли Великобритания границы с европейскими и другими партнерами. Говорят о том, что это важно, потому что оно ставит вопросы безопасности в растущую и общественную программу правительства, а не рассматривает их как внешнее возражение. Его значение в конечном счете будет зависеть от того, вырабатывает ли этот язык применимые, технически достоверные правила, прежде чем моделируемые возможности переходят за пределы предположений, основанных на сегодняшнем руководстве.