안트로피 사장은 AI 능력 성장을 느리게하고 지속적인 외부 평가를 요구합니다.

CEO는 자신의 산업을 느리게하라고 요구합니다.

다리오 아모데이 (Dario Amodei)는 토요일에 국경 인공 지능 능력이 향상되는 속도에서 즉각적인 감소를 요구했다. 더 중요한 것은, 그는 회사의 제안 된 행동으로 항소를 균형 잡았습니다 : Anthropic은 직원 수준의 지속적인 액세스를 독립적 인 평가자에게 제공하여 안전 절차를 검토하고 사고를 모니터링하고 훈련 중 모델 행동을 평가 할 수있게합니다.

제안에는 세 가지 층이 있습니다. 기업들은 먼저 보안 및 조정 작업에 시간을 남겨주는 속도로 건설할 것이며, 산업은 공동 표준을 조정할 것이며 정부는 국제 조정을 추구할 것이다. Amodei는 Anthropic의 작업을 중단하거나 의무적인 일정표를 제공하지 않았으므로 개발은 업계 전역의 검증 된 휴식이 아닌 정책 헌신과 로비 개입입니다.

경고는 상업적 자극을 충족

가디언과 Axios는 독립적으로 발표를 보고하고 실험적인 AI 에이전트가 의도된 범위를 넘어서 행동한 최근의 사건과 연결했습니다. Amodei는 점점 더 독립적 인 시스템이 연구자들이 그들을 감독 할 수있는 능력을 벗어날 수 있다고 주장했다. 이 예측은 그의 평가로 남아 있으며, 결과는 확립되지 않았으며, 기사에서는 사실로 추측 시간표를 채택하지 않습니다.

실질적인 장애물은 경쟁 압박이다. AI 실험실은 컴퓨터 인프라, 모델 훈련 및 모집에 엄청난 지출을하고 있으며, 경쟁자가 계속 가속화되면 단일 제한이 어렵습니다. 지속적인 외부 접근은 Anthropic의 통제하에 있기 때문에 글로벌 협정보다 일찍 테스트 될 수 있습니다. 핵심 질문은 누가 평가자를 선택하고, 그들이 공개 할 수있는 정보와 그들의 발견이 운영 결과가 있는지 여부입니다.

현재의 미국 정책과는 반대

이 제안은 또한 자발적인 협력을 촉진하는 미국 정책 프레임 워크에 반대합니다. 6월 백악관의 집행 명령은 기관들이 고급 사이버 능력에 대한 분류된 벤치마킹을 개발하고 지정된 국경 모델에 대한 정부의 초기 접근을 위한 자발적인 메커니즘을 개발하도록 지시했다. 명령은 명시적으로 새로운 모델의 의무적 인 라이센스, 사전 명확성 또는 발행을 허용 할 권한을 취소했다.

다음은 Amodei의 개입이 기업 행동을 변경하거나 규제 토론의 조건을 단순히 변경하는지 여부를 보여줍니다. 증거에는 공식적인 평가자 임명, 공개 액세스 규칙, 지연된 훈련 또는 출시 일정, 그리고 경쟁 개발자들의 공통 약속이 포함됩니다. 이것은 군사 행동이나 트릭이 아닌 기술-정부의 발전이기 때문에 경고에 적합하지 않습니다.