러시아, 이란, 북한, 중국 등 국가 차원의 해커들은 인공지능을 기본적인 작업에만 사용하고 있다

기술 기업과 정부 관계자들은 인공지능이 외국 적대 세력의 위험한 무기가 될 수 있다고 끊임없이 들려줍니다 . 최근 보고서에 따르면 국가 지원을 받는 단체들이 일반 인터넷 사용자들과 마찬가지로 공개적으로 이용 가능한 도구를 사용하고 있으며, 심지어 일반 사용자들 못지않게 어려움을 겪고 있는 것으로 나타났습니다.

최근 OpenAI는 정부와 연계된 단체들이 자사 플랫폼을 어떻게 악용하려 했는지

가장 주목할 만한 사례는 중국의 영향력 행사 공작이 우연히 드러난 dent . 한 중국 법 집행관이 ChatGPT를 개인 일기처럼 사용하면서 해외에 거주하는 중국 비판자들을 겨냥한 작전에 대해 기록했기 때문입니다 .

오픈아이디에 따르면 이 캠페인에는 수백 명의 운영자와 수천 개의 가짜 소셜 미디어 계정이 연루되었습니다 .

이들은 미국 이민국 직원을 사칭하여 반대 의견을 가진 사람에게 그들의 공개 발언이 미국 법을 위반했다고 거짓dent 퍼뜨려 협박하려 했습니다. 또 다른 사례에서는, 이들은 지방 법원에서 발행된 것처럼 위조된 문서를 사용하여 비판자들의 소셜 미디어 계정을 삭제하려 했습니다.

가짜 부고와 위조 문서는 괴롭힘 캠페인의 일부입니다

그들은 가짜 부고와 묘비 사진을 만들어 한 반체제 인사 dent 사망에 대한 허위 소문을 퍼뜨렸습니다. 실제로 이러한 소문은 나타났 으며, 중국어로 된 미국의 소리(VOA) 기사에서도 이를 확인했습니다. 오픈AI에서 조사를 이끄는 벤 님모는 이러한 행위를 중국 공산당 비판자들을 여러 경로를 통해 조직적으로 괴롭히는 행위 라고 규정했습니다

ChatGPT를 기록 도구로 사용한 것이 결국 작전의 실체를 드러내는 결과를 초래했습니다. ChatGPT는 작전 담당자가 trac 될 실제 콘텐츠의 대부분을 생성했습니다 이러한 활동을 발견한 후 해당 사용자를 차단했습니다

OpenAI 조사관들은 ChatGPT 사용자의 설명과 실제 온라인 활동을 대조해 보았습니다. 해당 사용자는 가짜 부고와 묘비 사진을 만들어 온라인에 게시함으로써 중국dent의 사망을 조작했다고 설명했습니다.

또 다른 사례로, ChatGPT 사용자는 미국 관세에 대한 분노를 조장하여 새로 취임하는 일본 총리 다카이치 사나에의 평판을 훼손하는 계획을 시스템에 요청했습니다. ChatGPT는 이를 거부했습니다. 그러나 10월 말 다카이치가 총리직에 오르자, 일본 그래픽 아티스트들이 많이 이용하는 포럼에 그녀를 비난하고 관세에 대해 불만을 토로하는 해시태그가 등장했습니다 .

OpenAI 보고서는 캄보디아에서 해당 플랫폼을 이용한 로맨스 사기 및 투자 사기, 그리고 러시아와 연계된 아르헨티나 및 아프리카를 대상으로 한 영향력 행사 캠페인 등 여러 사기 행각에 대해서도 다뤘습니다.

마이크로소프트 보고서에 따르면 기본적인 사용 패턴은 유사한 것으로 나타났습니다

북한, 이란, 중국 등 국가 차원의 사이버 공격자들이 대규모 언어 모델을 이용해 사이버 공격 작전을 지원하는 방식을 분석 한 보고서 를 발표했습니다 . 두 회사는 해당 국가와 연계된 공격자 5곳의 계정을 폐쇄하여 이들의 공격 시도를 차단했습니다.

마이크로소프트 보고서에 따르면 이러한 공격자들은 주로 같은 간단한 작업을 위해 서비스를 이용하려 했던 것으로 나타났습니다. 현재까지 이러한 모델을 이용한 대규모 또는 새로운 공격은 발견되지 않았습니다.

워싱턴과 베이징이 이 기술의 통제권을 놓고 치열한 가운데 두려움 과 현실 사이의 이러한 괴리가 발생합니다 어떤 쟁점이 되었습니다 . 최근 미 국방부는 또 다른 회사인 앤트로픽(Anthropic ) 에 금요일까지 자사 모델에서 특정 안전 기능을 제거하지 않으면 방산 계약을 잃을 수 있다고 trac .

마이크로소프트는 국가 주도 그룹이나 범죄 조직이 이러한 도구를 악용하는 위험을 줄이기 위한 원칙을 마련 중이라고 밝혔습니다 악의적인 찾아 내 차단하고 , 다른 서비스 제공업체 정보를 제공하고 협력하며 , 투명성을 유지하는 것이 포함됩니다.

암호화폐 업계 최고 전문가들에게 당신의 프로젝트를 알리고 싶으신가요? 데이터와 영향력이 만나는 저희 차기 산업 보고서에 당신의 프로젝트를 소개하세요.