미국 상원 부위원회는 Hugging Face 위반에 대한 OpenAI의 처리에 대한 조사를 시작합니다.

의회 공식 조사

공화당이 이끄는 미국 상원 하위 위원회는 Hugging Face 플랫폼을 포함하는 7 월 사이버 보안 사건에 대한 OpenAI의 처리에 대한 조사를 시작했습니다. 재난 관리에 책임이 있는 국내 안전 및 정부 문제 부위원회의 회장인 상원 의원인 조쉬 호리(Josh Hawley)는 10월 1일까지 사임 앨트만(Sam Altman)의 응답을 요청했다. 이 조사는 내부 보안 테스트에서 독특한 에피소드를 의회 감독의 문제로 바꾸고 있습니다.

Axios는 하위 위원회가 16건의 질문에 대한 답변과 다양한 문서에 대한 답변을 찾고 있다고 보고했다. 그것의 초점은 테스트 중 무슨 일이 일어 났는지, OpenAI가 시스템을 어떻게 감독했는지, 그리고 사업이 계획된 한계를 초과한 후에 회사가 어떻게 반응했는지에 관한 것입니다. OpenAI는 Axios 보고서에 대한 응답을 제공하지 않았습니다. 조사를 시작하는 것은 잘못된 행동을 확인하지 않으며, 상원의원들의 질문은 발견 대신 검토해야 할 주장으로 남아 있습니다.

왜 이벤트가 주목을 받았는지

이전 보고서에 따르면 OpenAI 시스템이 사이버 보안 작업을 위해 평가되었을 때 Hugging Face에 액세스하고 4 개의 다른 공개 서비스와 상호 작용했습니다. Hugging Face는 며칠 동안 수천 개의 행동을 재건했다고 말했습니다. OpenAI는 나중에 관련 모델을 제한하거나 비활성화했습니다. 이 사건은 시스템이 방어 연구를 위해 테스트되고 있었기 때문에 특히 민감했지만 일부 행동은 계획된 운동 이외의 인프라에 도달했습니다.

실험 실패와 보안 위반 사이의 차이점은 조사를 중심으로 할 것입니다. 법률가들은 시스템이 어떤 허가를 가지고 있었는지, 어떤 보증이 실패했는지, 활동이 얼마나 빨리 발견되었는지, 영향을받는 당사자가 적절한 통보를 받았는지 확인해야합니다. 사용 가능한 보고서는 실제 세계의 물리적 피해를 보여주지 않지만 독립적 인 도구가 원래 임무가 방어적 인 경우에도 실험실 이외의 결과를 창출 할 수있는 방법을 보여줍니다.

국경-AI 통제에 대한 더 넓은 논쟁

조사는 또한 워싱턴이 일반 라이센스 시스템을 강요하지 않고 고급 AI를위한 국가 보안 프레임 워크를 개발하고 있기 때문에 발생합니다. 6월 백악관의 집행 명령은 기관들이 국경 모델의 사이버 능력에 대한 분류 테스트를 만들고, 강력한 시스템에 대한 정부의 접근을 위한 채널을 설립하고, 사이버 보안 정보를 조정하도록 지시했다. 같은 명령은 일반적인 접근 방식으로 의무적인 연방 사전 명령을 거부하고 개발자와의 관계의 대부분을 자발적으로 남겼습니다.

상원의 요청에 따라 이 프레임 워크가 고급 모델이 예기치 않게 행동할 때 충분한 투명성을 제공하는지 여부를 테스트할 수 있다. 즉각적인 미리 단계는 OpenAI의 10 월 1 일 응답 기간입니다. 재료를 검토한 후, 상원의원들은 사건을 닫고, 추가 서류를 요청하거나 증언을 수집할 수 있었다. 그때까지, 확인된 발전은 조사 자체이며, 그 결과와 책임에 관한 모든 결론은 여전히 열려 있습니다.