은행들이 아직 AI 에이전트를 신뢰하지 않기 때문에 AI 에이전트는 시범 운영 모드에 머물러 있습니다

에이전트형 AI는 금융 업계 전반에서 주목받고 있지만, 업계의 가장 큰 장애물은 더 이상 모델의 성능 문제가 아닙니다. 오히려 은행, 자산운용사, 재무 부서가 자금 관리, 책임성, 규정 준수를 유지하면서 자율 시스템에 금융 업무를 위임할 수 있는 인프라를 갖추고 있는지가 더 어려운 문제입니다.

딜로이트 설문조사에서 3,300명 이상의 재무 및 회계 전문가를 대상으로 실시한

Citi Sky는 인프라 논쟁이 왜 중요한지를 보여주었습니다

씨티는 구글 클라우드와 구글 딥마인드 기술로 구축한 AI 기반 자산 관리 도우미인 씨티 스카이(Citi Sky)를 4월 22일에 출시했습니다. 이 도구는 구글의 제미니 엔터프라이즈 에이전트 플랫폼을 사용하여 개발되었으며, 올여름 미국 내 씨티골드(Citigold) 고객을 대상으로 단계적으로 출시될 예정입니다.

이번 출시로 에이전트형 AI 논쟁에 실제 은행권 사례가 적용되었습니다. 씨티은행 자산관리 기술 책임자인 디펜드라 말호트라는 메모리 문제를 지적하며 , 시스템이 오류를 범하기 시작하기 전에 고객이 얼마나 오랫동안 대화를 이어갈 수 있는지 질문했습니다.

대부분의 에이전트는 외부 데이터베이스를 통해 메모리를 확장하기 위해 검색 증강 생성 방식을 사용합니다. 컨텍스트 윈도우는 여전히 에이전트가 한 번에 저장할 수 있는 정보의 양을 제한합니다.

재무 자문, 재무 관리 또는 포트폴리오 실행에 있어서 그러한 메모리 한계는 단순한 기술적 문제를 넘어 운영상의 위험 요소가 됩니다.

코인펠로의 공동 창립자인 박민치 씨는 신뢰할 수 있는 위임의 조건은 간단하다고 말했습니다. 즉, 에이전트는 사용자의 지시에 따라서만 행동할 수 있고, 사용자는 위임을 중지할 수 있으며, 기초 자산은 절대 제3자에게 이전되지 않는다는 것입니다.

dentEthereum 신원 확인을 위한 온체인 기본 요소 초안 작성

Ethereum 표준안 ERC-8004는 에이전트dent, 평판 및 검증 시스템을 도입합니다. 이 초안 표준은dent레지스트리, 평판 레지스트리, 검증 레지스트리의 세 가지 레지스트리를 규정하고 있습니다.

이 둘은 자율 에이전트가 자신을 증명하고, 행동 기록을 구축하고, 다른 시장 참여자의 검증을 지원하는 데 도움을 주기 위해 만들어졌습니다.

ERC-8183은 보다 구체적인 접근 방식을 취합니다. 이 표준은 평가자 인증을 포함하는 작업 에스크로 표준을 제안하는데, 여기서 고객은 작업에 자금을 지원하고, 제공자는 작업을 제출하며, 평가자는 결과를 확정하거나 거부합니다.

이 제안은 중재나 공식적인 분쟁 해결 절차를 제공하지는 않지만, 에이전트 기반 시장에 에스크로된 작업과 검증 가능한 완료를 위한 프레임워크를 제공합니다.

arXiv에 게재된 논문 "에이전트 경제: 자율 AI 에이전트를 위한 블록체인 기반 토대"는 이러한 변화를 위한 5계층 아키텍처를 제시하며, 물리적 인프라, 온체인 신원 확인, 인지 도구, 경제적 결제 및 집단 거버넌스를 포괄dent.

평판 계층은 여전히 구조적 취약점을 가지고 있습니다. 에이전트는 인간이 따라잡을 수 없는 속도와 규모로 활동을 생성할 수 있으므로 단기간에 신뢰 신호를 부풀릴 수 있습니다.

이로 인해 금융기관은 어려운 질문에 직면하게 됩니다. 에이전트가 좋은 실적을 가지고 있을 때, 그 실적은 신뢰성을 입증하는 것일까요, 아니면 단순히 자동화된 활동이 반복적으로 이루어졌다는 증거일까요?

맥킨지는 은행 운영의 50~60%를 분석 대상으로 삼는다

맥킨지는 은행 정규직 환산 인력의 50~60%가 운영 부문에 투입된다고 추산합니다. 전문가들은 기관들이 운영 모델을 전면적으로 개편하지 않고 제한적인 개념 증명만 시행하는 "파일럿 프로그램의 늪"에 빠질 수 있다고 경고합니다.

따르면 Cryptopolitan 보도한 바에 홍콩 웹3 페스티벌에서

W3.io의 CEO인 포터 스토웰은 "기업은 자율 시스템이 자사 자금을 어떻게 사용하는지 확인하거나 통제하거나 감사할 방법이 없습니다. 인간의 감독이 사라지는 것이 아니라, 단지 상위 단계로 올라갈 뿐입니다."라고 말했습니다

여전히 해결되지 않은 네 가지 질문이 남아 있습니다. 인공지능 에이전트가 재정적 손실을 초래했을 때 누가 책임을 져야 하는가, 에이전트의 평판을 신뢰할 수 있는가, 이러한 시스템이 대규모로 배포된 후 누가 통제권을 갖게 되는가, 그리고 에이전트가 자신의 범위를 벗어난 행동을 했을 때 어떤 규제 체계가 적용되는가입니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.