Американские законодатели усилили призывы к мерам защиты в сфере ИИ после ухода исследователя из Anthropic

Исследовательские предупреждения достигли Конгресса

Американские законодатели усилили требования к защите искусственного интеллекта 9 сентября после того, как исследователь Джейкоб Коксон ушел из антропотика и предупредил, что ведущие лаборатории гонятся к системам, которые они не могли надежно контролировать. Реакция пересекла линии партии, с законодателями, указывающими на катастрофические сценарии риска, при этом нажимая Конгресса, чтобы перейти от слушаний и предложений к применимым правилам.

Гавардию сообщили, что республиканский сенатор Тед Круз описал предупреждение как очень актуальное, в то время как независимый сенатор Берни Сандерс возобновил свой запрос на ограничения на искусственную сверхинтелигенцию. Демократические законодатели Тед Лию и Лори Трахан также призывают к действию, в том числе и поддержке предложенного механизма аварийного закрытия. Это были политические требования, а не выводы о том, что исчезновение наступает.

претензии остаются спорными

Наиболее экстремальные прогнозы — это оценки отдельных исследователей, не проверенные прогнозы. Некоторые специалисты утверждают, что будущие системы могут избежать надзора или действовать самостоятельно; другие говорят, что нынешние модели остаются далеко от широкого человеческого потенциала и что драматические сценарии отвлекают от немедленных проблем, таких как неправильная информация, расстройства труда, киберзлоупотребление и экологические затраты.

Такая неопределенность не устраняет политическую проблему. Официальная оценка границы Великобритании-ИИ идентифицирует потерю контроля, автономное поведение и уклонение от закрытия как надежные категории, требующие исследований, испытаний и управления. Он также подчеркнул, что вероятности спорны. Документ, следовательно, поддерживает рассмотрение опасности как проблемы управления рисками без представления спекулятивных прогнозов как урегулированного факта.

Напряжение на лаборатории

Политическая реакция также отражает беспокойство о том, как быстро частные лаборатории развертывают все более способных агентов. The Guardian сообщила, что Anthropic раскрыла инцидент кибербезопасности, связанный с несанкционированным поведением агента, и заявила, что пересмотрела большое количество записей для других тяжелых случаев. Компания утверждает, что наблюдаемое поведение остается узким и продолжает строить гарантии.

Законодатели сейчас сталкиваются с несколькими различными вариантами: обязательным отчетом о инцидентах, независимым испытанием до выпуска, требованиями к чрезвычайным перерывам и ограничениями на разработку систем выше определенных пределов возможностей. Каждый подход вызывает вопросы исполнения и международной координации, потому что крупнейшие лаборатории работают через границы и конкурируют с поддерживаемыми государством программами.

Следующее значение состоит в том, производит ли бипартийный тревожный сигнал график комитета, текст законопроекта с измеримыми лимитами или сотрудничество с союзными регуляторами. Без этих шагов последние предупреждения могут оставаться частью повторяющейся дискуссии, в которой лаборатории объявляют о новых возможностях быстрее, чем правительства могут установить общие стандарты тестирования и раскрытия.