구글 딥마인드 의장, 더 강력한 보안을 촉구하며 최근 해킹을 "경고 신호"라고 언급

구글 딥마인드 의장 데미스 하사비스는 더블린에서 열린 AI 정상회의에서 자율형 AI 에이전트를 둘러싼 최근 해킹 사건들이 더 큰 보안 위협의 초기 신호일 수 있다고 경고했다. 그는 AI 기술이 더욱 고도화되기 전에 기업과 정부가 방어 체계를 강화할 것을 촉구했다.

딥마인드 공동 창립자이자 알파벳 최고과학책임자(CSO)인 하사비스는 국제 AI 정상회의에서 AI의 과학적 잠재력에 대한 낙관론과 그로 인한 보안 위험에 대한 경고 사이에서 균형을 잡았다.

자율 AI 에이전트가 일으킨 해킹 사례를 언급한 그는 심각한 피해를 초래하지는 않았지만 근본적인 보안 취약점을 드러냈다고 지적하며, 시스템이 “아직 건강하지 않다”는 점을 고려할 때 이러한 문제를 무시해서는 안 된다고 강조했다.

하사비스는 해당 사건들로 인해 중대한 피해가 발생하기에는 아직 기술력이 충분히 갖춰지지 않았다고 말했다.

딥마인드 의장, 방어 측의 무장을 우선시하다

하사비스는 AI 도구가 대중에게 공개되기 전에 보안 팀들이 우위를 점해야 한다고 강조했다. 그는 “우리가 수행해야 할 중요한 과제 중 하나는 방어 측에 비대칭적인 힘을 실어주고, 방어 측을 신뢰하는 것”이라고 밝혔다. 또한 그는 동일한 시스템이 소프트웨어 취약점을 사전에 발견하고 출시 전 패치하는 데 활용되어야 한다고 덧붙였다.

해사비스는 기업과 정부에게 자율 에이전트를 출시하기 전에 안전한 샌드박스를 구축하고 철저히 테스트할 것을 촉구했습니다. 또한 위험한 시스템을 관리하는 데 경험이 있는 핵기술 및 생물학 분야의 전문가들을 활용하여 AI 위험을 통제할 방법을 개발할 것을 제안했습니다.

딥마인드 공동 창립자는 또한 AI 에이전트가 운영자의 목표에서 벗어날 위험성인 ‘정렬 불일치’에 대해 경고했다. 그는 최근 이를 목격했다고 말하며 “그 시스템들이 무엇을 할지 관련된 위험을 증가시킨다”고 말했다.

해사비스는 고급 AI를 위한 안전 장치를 마련하기 위해 국제 표준 기구를 제안했으며, 어떤 프레임워크도 연구를 위축시키지 않으면서 기술의 발전 속도에 맞춰야 한다고 강조했습니다. 그는 또한 새로운 기능과 취약성이 나타남에 따라 진화하는 잠재적 위험 기반 인증 프로세스를 제안했습니다.

마이크로소프트의 브래드 스미트 회장은 2026년을 AI 안전 측면에서 “눈물겨운 해”라고 규정하며 전 세계 규제 기관들에게 AI 발전 동향을 주시할 것을 촉구했다. 그는 Cryptopolitan이 이전에 보도했듯이 어떤 기업이나 기술도 법 위에 있어서는 안 된다고 덧붙였다.

노벨상 수상자의 낙관론

해사비스는 존 재퍼와 함께 거의 2억 종의 알려진 단백질 구조를 예측하는 AI 모델을 개발한 공로로 2024년 노벨 화학상을 수상했습니다. 스웨덴 왕립과학원(Royal Swedish Academy of Sciences)에 따르면 이 기술은 이미 항생제 내성 연구와 플라스틱 분해 효소 설계에研究人员을 돕고 있습니다.

AI 사용에 대한 그의 실적은 더블린에서의 발언에 영향을 미쳤습니다. 해사비스는 AI가 질병 치료와 다양한 작업을 수행하는 데 도움이 될 수 있지만 나쁜 행위자에게 악용될 수도 있는 양면성을 가진 기술이라고 설명했습니다.

그는 보안 조치가 AI의 잠재적 이점을 장기적으로 보호해야 하며, 이를 완전히 저해해서는 안 된다고 주장했습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.