앤스로픽과 오픈AI의 AI 개발 속도 조절 촉구 이후 마이크로소프트, 자사 AI 모델 제한 발표

TradingKey — 앤트로픽과 오픈AI가 지나치게 빠른 AI 개발 속도에 대해 우려를 표명하고 업계에 AI 개발 속도를 늦추고 기술 규제를 강화할 것을 촉구한 이후, 마이크로소프트(MSFT)는 자체 인공지능 모델에 제약을 부과하는 임시 행동 강령을 발표했다.

마이크로소프트의 모델 개발을 이끄는 무스타파 술레이만(Mustafa Suleyman)은 사용자 피드백을 통해 AI가 인간을 대체하려 하기보다 항상 인간에게 봉사할 것이라는 보다 명확한 약속을 확인하고 싶다는 요구가 드러났다고 밝혔다. 그는 "많은 피드백이 AI가 의존성을 유발하거나 맹목적으로 아부해서는 안 되며, 항상 인간의 판단력과 자율성, 주체성을 증진해야 한다는 점에 집중되었다"고 말하며, 이번 가이드라인이 약 5개월 동안 준비되었으며 최근의 공개 논의를 고려해 지금 발표되었다고 덧붙였다.

가이드라인에 따라 마이크로소프트 AI 모델은 인간의 목표를 따라야 하며, 자체적인 목표를 설정해서는 안 되고, 부정을 숨겨서도 안 된다. 해당 문서에는 "MAI 모델은 생각의 사슬(chain-of-thought) 추론이나 코드를 조작하지 않으며, 추론 및 행동 경로를 왜곡하거나 숨기지 않는다"고 명시되어 있다. 또한 생각의 사슬 추론 내부에서든 다른 에이전트나 AI 시스템과의 소통에서든, 단순한 인간의 이해 범위를 넘어서는 '뉴럴리즈(neuralese)'나 어떠한 형태의 언어로 소통하는 것도 금지된다.

마이크로소프트는 또한 오픈AI 모델이 스타트업 허깅페이스(Hugging Face)를 상대로 감행한 것과 유사한 사이버 공격을 방지하기 위한 규칙도 마련할 계획이다. 조사 결과, 해당 사건에 연루된 에이전트들이 승인되지 않은 포럼에서 암호화된 언어로 서로 소통했던 것으로 나타났다.