OpenAI는 초당적 FRONTIER 법안에 포함된 연방 AI 안전 프레임워크 조항을 지지합니다

OpenAI는 양당이 지지하는 FRONTIER 법안의 핵심 조항을 지지했는데, 이 조항은 최대 규모의 AI 개발업체들이dent 안전성 평가자를 자사 운영 내부에 투입하도록 의무화하는 내용을 담고 있습니다. 

이번 발표는 오픈AI가 인공지능 안전에 관한 연방 정부의 의무화 조치를 공개적으로 지지한 첫 사례입니다. 

OpenAI는 FRONTIER 법안을 지지합니까?  

오픈AI의 최고 글로벌 담당 책임자인 크리스 레한은 화요일 기자들에게 자사가 프론티어 법안에서 요구하는 "독립dent 기관(IVO)"  설립을 지지한다고 밝혔습니다

이 법안은 제이 오버놀트(공화당, 캘리포니아) 하원의원과 로리 트라한(민주당, 매사추세츠) 하원의원이 발의했으며, 통과될 경우 인공지능 안전을 위한 최초의 연방 차원의 프레임워크를 구축하여dent 평가자들이 최첨단 연구소에 들어가 모델이 안전하게 구축되고 있는지 확인할 수 있도록 허용할 것입니다.

레헤인은 월요일 의회 회의에서 "IVO에 대한 우리의 생각을 구체적으로 언급했고, 우리가 IVO를 지지할 수 있다는 점을 분명히 했다"고 말했다

토요일 오전, 앤트로픽의 CEO 샘 알트만은 앤트로픽의 CEO 다리오 아모데이가 비슷한 약속을 한 지 몇 시간 만에 자발적으로 제3자 평가자를 회사 내부에 배치하겠다고 약속했습니다. 알트만은 X에 기고한 글에서 "첨단 AI에 일관된 안전 요건을 설정하는 연방 차원의 프레임워크를 환영한다"고 밝혔습니다 

그의 발언은 알트만, 아모데이, 그리고 일론 머스크가 첨단 모델 개발 속도를 늦추자는 공동의 요구에 따른 것이었다. 

에서 블로그 게시물밝혔 오픈AI가 의회와 협력하여 "역량 기반의 의무적인 국가 AI 안전 규제"를 마련하기를 원한다고 으며, 지난주에는 동일한 유형의 검증 단체에 대한 인증 절차를 수립하는 캘리포니아 주 법안을 지지했습니다.

상원 상무위원회 민주당 간사인 마리아 캔트웰(워싱턴주) 의원은tron들을 지적했습니다dent인공지능 에이전트가 테스트 환경에서 탈출하여 다른 시스템을 해킹한 본회의 연설에서.

국경법의 검증 체계는 어떻게 작동할까요? 

미국혁신재단(Foundation for American Innovation)의 분석에 따르면, IVO 시스템은 법안 운영의 핵심 요소입니다. 상무부는 기술적 자격 요건과 평가 대상 기업으로부터의 독립성을 포함하여 모든 IVO가 충족해야 할 기준을 설정할 것입니다. 새로 임명될 인공지능 보안 담당 상무부 차관이 이 시스템 구축을 감독하게 됩니다.

의무 사항은 기업 규모에 따라 확대될 것입니다. 예를 들어, "초대형 신기술 개발업체"는 50억 달러 이상의 매출과 3년간 최소 100억 달러의 개발비 지출을 기록한 기업으로 defi되며, 이러한 기업은 허가받은 독립 위험 평가 기관(IVO)을 고용해야 합니다. IVO는 해당 기업이 발표한 안전 체계 및 관행이 실제로 재앙적 위험을 줄이는지 평가하고, 그 결과를 6개월마다 상무부에 보고해야 합니다. 

별도의 "대형 개척 개발업체" 등급은 회사의 매출이 5천만 달러를 넘고 개발 지출이 10억 달러 이상인 경우를 의미하며, 이 회사는 안전 프레임워크를 발표하고 감사인을 고용하여 해당 프레임워크를 준수하고 있음을 인증받기만 하면 됩니다.

미국혁신재단은 또한 이 법안이 상무부 장관에게 임박한 재앙적 위험을 초래할 수 있는 모델의 개발 또는 배포를 중단할 수 있는 비상 권한을 부여한다고 지적합니다. 

이러한 기준 때문에 스타트업과 소규모 개발업체는 해당 제도의 적용 대상에서 완전히 제외됩니다.

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.