미국의 법률가들은 인공지능 보호에 대한 요구를 강화 한 후 인류학 연구원 사퇴

연구 경고는 의회에 도달

미국의 법률가들은 9 월 9 일 연구원 Jacob Coxon이 Anthropic에서 퇴직 한 후 인공 지식 보안에 대한 요구를 강화했으며 선도적 인 실험실이 신뢰할 수없는 시스템으로 경주하고 있다고 경고했습니다. 반응은 파티 라인을 건너고, 의회 의원들은 재앙 위험 시나리오를 지적하면서 의회가 청문회와 제안에서 시행 가능한 규칙으로 이동하도록 압박했다.

가디언은 공화당 상원 의원 테드 크루즈가 경고를 매우 관련된 것으로 묘사했으며 독립 상원 의장 버니 샌더스 (Bernie Sanders)는 인공 슈퍼 인텔리전스에 대한 제한에 대한 요구를 재개했다고보고했다. 민주당 의회 의원 테드 리우와 로리 트라한은 또한 응급 폐쇄 메커니즘을 제안하는 지원을 포함하여 조치를 요구했다. 이것은 정치적 요구였고, 멸종이 다가오고 있다는 결론이 아니었다.

청구는 여전히 논란이

가장 극단적 인 예측은 개별 연구자에 의한 추정치이며, 검증되지 않은 예측입니다. 일부 전문가들은 미래의 시스템이 감시를 피하거나 독립적으로 행동할 수 있다고 주장하고, 다른 사람들은 현재 모델이 광범위한 인간 능력에서 멀리 남아 있으며, 극적인 시나리오가 잘못된 정보, 노동 방해, 사이버 오용 및 환경 비용과 같은 즉각적인 문제에서 벗어나고 있다고 말한다.

이러한 불확실성은 정치 문제를 제거하지 않습니다. 영국의 공식 국경-AI 평가는 통제 손실, 독립적 인 행동 및 폐쇄 탈출을 연구, 테스트 및 통치가 필요한 확실한 범주로 식별합니다. 또한 확률이 논쟁되고 있다는 것을 강조한다. 따라서 이 문서는 위험을 위험 관리 문제로 취급하는 것을 지원하며, 확실한 사실으로 추측 예측을 제시하지 않습니다.

실험실에 대한 압력

정치적 반응은 또한 개인 실험실이 점점 더 능숙한 에이전트를 얼마나 빨리 배치하는지에 대한 우려를 반영합니다. 가디언은 Anthropic이 처벌받지 않은 에이전트 행동을 포함한 사이버 보안 사건을 공개했으며 다른 심각한 사례에 대한 기록의 큰 기관을 검토했다고보고했다. 회사는 관찰 된 행동이 좁아지고 보안을 계속 구축하고 있다고 주장했다.

법률가들은 이제 여러 가지 다른 선택에 직면하고 있습니다 : 의무적 인 사고 보고, 독립적 인 사전 발행 테스트, 긴급 중단 요구 사항 및 시스템 개발에 대한 제한은 정의 된 능력 한도 위에. 각 접근 방식은 가장 큰 실험실이 국경을 넘어 운영하고 국가 지원 프로그램과 경쟁하기 때문에 집행 및 국제 조정 문제를 제기합니다.

다음에 중요한 것은 양측 경보가 위원회 일정, 측정 가능한 한 한계를 가진 법안 텍스트 또는 연합 규제 기관과의 협력을 생산하는지 여부입니다. 이러한 단계가 없으면 최신 경고는 실험실이 정부가 공통 테스트 및 공개 표준을 설정할 수 있는 것보다 더 빨리 새로운 능력을 발표하는 반복적인 토론의 일부로 남아있을 수 있습니다.