Apple, AI 에이전트의 프라이버시 우려에 대응해 Mac 데이터 접근 권한 강화

10월 2일, Apple은 Mac에서 광범위한 데이터 접근을 요청하는 애플리케이션과 관련하여 macOS의 통제 규정을 강화하겠다고 발표했습니다. 이 결정은 Meta의 Muse 관련 불만 제기 이후 이루어졌으며, AI 에이전트가 가질 수 있는 접근 권한 수준과 그 접근 방식의 소통 및 규제 방법에 대한 더 포괄적인 문제를 부각시켰습니다.

Apple이 전체 디스크 접근 권한(Full Disk Access)에 대해 변경하는 내용

개발자 업데이트에서 애플은 풀 디스크 액세스가 일반적으로 앱 데이터를 보호하는 안전 장치를 우회하므로 특정 파일, 이메일, 메시지 및 브라우저 기록에 접근할 수 있다고 밝혔습니다.

“향후 사용자에게 이 특별한 수준의 접근 권한을 진정으로 부여하고자 하는 경우 매우 명시적인 사용자 동작을 통해서만 가능하도록 추가 제어 기능을 도입하겠습니다.”라고 애플은 작성했습니다. 또한 “AI 에이전트가 점점 더 능숙하고 자율적으로 발전함에 따라 이러한 접근 수준과 관련된 위험이 크게 증가할 것입니다.”라고 덧붙였습니다.

로이터는 이 문제가 맥 컴퓨터에서 더 큰 의미를 지니는 이유를 설명했습니다. 아이폰과 아이패드는 기본적으로 애플리케이션 간 분리 수준을 제공하도록 프로그래밍되어 있습니다. 반면 macOS를 실행하는 컴퓨터는 풀 디스크 액세스 기능이 있는 애플리케이션이 사용자 데이터에 훨씬 광범위하게 접근할 수 있도록 허용합니다.

Muse가 불만을 받은 이유

이 변경은 인크(Inc) 칼럼니스트 제이슨 아텐의 불만 이후 이루어졌습니다. 그는 풀 디스크 액세스를 활성화하지 않았음에도 불구하고 무즈(Muse)가 자신의 맥에서 개인 메시지를 읽었다고 주장했습니다.

메타는 그의 주장을 반박했습니다. 메타 대변인 앤디 스톤은 애플 메시지 접근 권한이 선택적(opt-in)이라고 밝혔습니다. 사용자는 먼저 전체 디스크 액세스와 메시지 커넥터를 활성화해야 하며, 이는 언제든지 철회할 수 있습니다.

이는 뮤즈가 보안 관련 우려를 처음 마주한 사례가 아닙니다. 크립토폴리탄에 따르면, 연구자가 SEV-2로 분류한 결함이 발견된 후 공격자가 사용자의 가상 머신, 이메일 및 파일에 접근할 가능성이 있었음에도 불구하고, 메타는 보안 경고를 강화했습니다.

에이전트가 모든 것에 대한 접근 권한을 필요로 하는 이유

긴장 관계는 에이전트형 AI에 내재되어 있습니다: 에이전트가 유용해질수록 필요한 접근 권한도 증가할 수 있습니다.

세계 경제 포럼(WEF)은 에이전트가 접근할 수 있는 범위와 수행할 수 있는 작업을 정의하기 위해 에이전트 기능 및 인증 프로필을 권장합니다. 이 아이디어의 목적은 이러한 제한 사항을 더 쉽게 추적하고 이행하는 것입니다.

PwC도 비슷한 견해를 제시합니다. PwC는 기업들이 명확한 소유권, 특정 작업 기반의 접근 권한, 그리고 자체적으로 수행할 수 있는 작업에 대한 제한을 갖춘 디지털 노동력처럼 AI 에이전트를 관리해야 한다고 주장합니다.

OECD는 보다 신중한 입장을 취합니다. OECD는 에이전트형 AI가 아직 진화 중이며, 이러한 시스템을 신뢰할 수 있다고 간주하기 전에 더 많은 노력이 필요하다고 말합니다.

신뢰가 상업적 제약으로 변모하고 있음

이러한 문제들은 이미 기업들이 인공지능을 도입하는 방식에 영향을 미치고 있습니다. FTI Consulting의 연구에 따르면, 평판, 규제, 신뢰와 관련된 문제로 인해 대규모 기업의 60%가 AI 도입 속도를 늦추거나 중단했으며, 일부는 도입을 연기했습니다.

SAS 보고서 역시 신뢰 격차의 존재를 강조합니다. 그 결과에 따르면, 생성형 AI를 신뢰한다고 응답한 참여자는 76%인 반면, 에이전트 AI를 신뢰한다고 응답한 참여자는 66%였습니다. 또한 신뢰할 수 있는 AI 방법에 투자한 기업은 그 노력에서 높은 또는 양호한 ROI를 얻을 가능성이 15배 더 높았습니다.

그 신뢰에는 막대한 돈이 걸려 있습니다. 가트너(Gartner) 전망에 따르면, AI 모델 및 플랫폼에 대한 투자는 2025년 393억 달러에서 2026년 643억 달러로 증가할 것입니다. 카게미니(Capgemini) 추정치에 따르면, 전 세계 기업의 단 2%만이 AI 시스템을 완전히 구현했음에도 불구하고, 2028년까지 AI 에이전트가 최대 4,500억 달러의 가치를 창출할 수 있을 것으로 예상됩니다.

현재의 마찰, 향후 더 큰 채택을 위해

Apple의 강화된 통제 정책은 일부 불편함을 초래할 수 있지만, 명확하고 언제든지 철회 가능한 권한 설정은 사용자가 에이전트에 의미 있는 접근 권한을 부여하는 데 더 편안함을 느끼도록 할 수 있습니다. 에이전트형 AI가 실험 단계를 넘어 일상적으로 사용되면서, 권한 설계는 단순한 규정 준수 문제를 넘어 제품 자체의 일부가 되고 있습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.