오픈AI의 알트만은 생물무기 오용 보고가 늘어남에 따라 AI의 성장 속도가 느려질 수 있다고 말했습니다

이번 주 오픈AI 직원들은 AI 연구소가 최첨단 AI 분야에서 연구 속도를 늦출 의향이 있다는 통보를 받았습니다. 샘 알트만은 앤트로픽을 포함한 AI 경쟁사들에게도 같은 제안을 했습니다. 앤트로픽 또한 국가 기관과 연계된 과학자들이 자사의 클로드 모델을 생물학 무기 연구에 이용하려 했다는 보고서를 통해 AI 개발과 관련된 위험성을 인정한 바 있습니다. 

OpenAI는 안전 문제로 인해 이미 일부 내부 학습 실행을 일시 중단하고 모델 개발의 일부를 완화했다고 밝혔습니다.

연이은 정보 공개로 인해 업계가 기업공개(IPO)를 너무 서두르고 있는 것은 아닌지에 대한 논쟁이 더욱 격화되고 있으며 , 양사 모두 이를 암시하는 듯한 발언을 계속하고 있다.

알트만은 왜 인공지능 개발 속도를 늦추고 싶어하는 걸까요?

오픈AI의 최고경영자 샘 알트만은 전사 회의에서 자사의 AI 연구소를 비롯한 동의한 연구소들이 최첨단 모델 공개 속도를 늦출 수 있다고 참석자들에게 알렸다.

블룸버그가 인용한 소식통에 따르면, 알트만은 그러한 협약이 자발적인 참여에 기반한 것이기 때문에 모든 회사가 그 계획에 동의하지는 않을 것이라고 인정했습니다.

그러한 회의론에는dent있습니다. 3년 전인 2023년 3월, 일론 머스크, 스티브 워즈니악을 비롯한 1,000명 이상의 사람들이 첨단 AI 연구를 6개월간 중단할 것을 촉구하는 공개 서한에 서명했습니다.

당시 언론 보도와 마찬가지로 , 연구소들은 공동으로 합의했던 검사 중단 조치를 실제로 이행하지 않았습니다.

AI 위험성에 대한 경고는 오픈AI의 최고 과학자인 야쿠브 파초키가 9월 6일 게시글에서 제기했는데, 그는 AI 기업들에게 "필요에 따라 향후 개발 속도를 늦추기 위해 협력할 것"을 촉구했습니다. 파초키는 "공동의 안전장치가 마련될 때까지 자발적인 개발 속도 늦추기가 일반화되기를 바란다"고 밝혔습니다

앨트먼은 7월에 백악관 관계자들에게 인공지능 개발 속도를 늦춰야 한다고 말했다고 밝혔습니다. 그는 또한 앤트로픽 CEO 다리오 아모데이와 함께 인공지능이 한 줄짜리 성명서 .

인공지능 모델을 생물학 무기 개발에 활용할 수 있을까?

인공지능 모델이 생물학 무기 연구를 지원할 수 있을 정도로 발전했습니다. 바로 이번 주에 오픈AI는 논란의 여지가 있는 용어를 사용하긴 했지만, 자사 모델이 나비에-스토크스 방정식 문제를 해결했다고 발표했습니다.

앤트로픽 연구소는 154페이지 분량의 위협 정보 보고서연구원들이 클로드의 기능을 생물학 무기 연구에 활용하려 시도한 사례 5건을 상세히 기술하며 해당 논쟁에 새로운 불씨를 지폈습니다.

앤스로픽은 "지원되지 않는 지역"에서 시도된 접속들이 위치 제한을 우회하고 작업 목적을 위장하려는 시도였다고 밝혔습니다. 연구소는 해당 계정들을 삭제했지만, 특정 국가나 기관의 이름은 공개하지 않았습니다.

이제 인공지능의 위험이 이점보다 더 커진 것일까요?

이러한 보고서는 연구소 내부에서 나온 공개적인 우려의 물결 속에서 나왔습니다. 9월 8일, 연구원 제이콥 콕슨은 사임하면서 오픈AI와 앤트로픽이 "우리의 생명을 가지고 도박을 하고 있다"고 비난했습니다. 그는 동료들이 해당 기술이 "2020년대 말까지 우리 모두를 죽일 수 있다"고 믿고 있으며, 2030년까지 인류 멸종을 경고한다고 밝혔습니다.

그의 게시물은 1억 5천만 회 이상의 조회수를 기록했습니다. 이틀 후인 9월 10일, 앤트로픽과 구글 딥마인드의 전 직원들이 비슷한 우려를 표명하며 투명성 강화를 촉구했습니다.

7월 말, AI 개발 속도를 늦추는 메커니즘을 마련해 달라는 청원에는 주요 AI 기업 직원 1,000명 이상이 서명했습니다.

OpenAI는 현재 의회에 테스트,dent 평가, 사이버 보안 및dent 보고를 포괄하는 의무적인 역량 기반 안전 규정을 마련하도록 촉구하고 있습니다. 최고 글로벌 담당 책임자인 크리스 레한은 "AI 가속화 개발 전망은 자발적인 약속 이상의 것을 요구한다"고 밝혔습니다.

캘리포니아 주가 가장 먼저 움직였습니다. 개빈 뉴섬 주지사는 수요일에 인공지능 기반 생물학적 위협에 대비하기 위한 법안인 AB 1864와 함께 SB 813과 AB 1405에 서명했습니다.

워싱턴에서 버니 샌더스 상원의원은 고도화된 인공지능 개발을 일시 중단하고 인공 초지능을 금지하는 법안을 발의하면서, 과학자들의 경고를 무시하는 것은 "멍청한 짓"이라고 BBC에 말했다

도널드 트럼프dent 목요일에 "만약 우리가 인공지능 경쟁에서 이기지 못한다면, 매우 곤란한 상황에 처하게 될 것"이라고 우려를 표명하며 반박했습니다

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.