Британские «Зелёные» предлагают создать глобальный регулятор ИИ и запретить автономное летальное оружие

Пятисторонний политический вызов

Зеленая партия Великобритании предложила программу пяти пунктов, которая будет преодолеть мощные и безопасные риски передовой искусственной интеллекта. Sky News сообщила 10 сентября, что пакет включает в себя международное сотрудничество по созданию глобального органа надзора за ИИ и законного запрета на летальное автономное оружие. Предложение символизирует политическое вмешательство, а не изменение законодательства Великобритании, но оно ставит военную автономию и корпоративную власть внутри той же регуляторной дебаты.

Причина партии заключается в том, что системы границ развиваются быстрее, чем их могут контролировать национальные институты. Его план стремится к более сильному общественному контролю над крупными технологическими компаниями, а также к международным правилам по системам, способным нанести серьезные ущербы. Глобальный регулятор потребует переговоров с другими правительствами, в то время как запрет на вооружение должен определять, какие системы осуществляют неприемлемую автономию и какой уровень человеческого контроля должен оставаться.

Компонент оружия раскрывает прямую политическую ошибку. В июне правительство Великобритании объявило о более чем 5 миллиардах фунтов стерлингов на беспилотные и автономное оружие в рамках своего плана инвестиций в оборону. Программа предусматривает беспилотные морские системы, автономные самолеты, работающие вместе с экипированными боевиками и расширенные возможности боевого поля-дрон. Правительство описывает эти инвестиции как способ улучшения угнетения и военной эффективности.

Нерешенный вопрос о человеческом контроле

Организация Объединенных Наций определила автономное оружие, способное атаковать гражданских лиц без человеческого контроля, как угрозу защите гражданских лиц. Генеральный секретарь Антонио Гутеррес неоднократно утверждал, что машины не должны принимать решения жизни или смерти без значительной человеческой власти. Эта официальная позиция поддерживает международную актуальность предложения «Зеленых», хотя она не поддерживает полную внутреннюю платформу партии.

По существующей политике Великобритании говорится, что страна не обладает полностью автономными системами вооружения и не намерена развивать оружие, которое будет выбирать и атаковать цели без контекстного человеческого участия. В то же время правительство утверждает, что некоторые оборонные системы могут потребовать действовать быстрее, чем прямые разрешения на надзор в режиме реального времени. Поэтому не просто в том, что человечество имеет значение, а в том, как человеческий контроль должен быть определен, аудитован и выполнен при увеличении оперативной скорости.

Следующий этап — политический, а не технологический. Зеленым нужна парламентская поддержка национальных ограничений и дипломатических партнеров для глобальной институции или обязательного соглашения о вооружении. Правительство будет испытывать давление, чтобы объяснить, как расширяющаяся программа самообороны соответствует существующим этическим обязательствам. До тех пор, пока не будет принято законодательство, договор или исполнительное решение, пятисторонний пакет остается предложением и не квалифицируется как военное предупреждение.