중국의 AI 규제로 인해 바이트댄스와 알리바바는 챗봇 서비스를 중단했습니다

바이트댄스와 알리바바는 중국에서 인간과 AI의 상호작용을 규제하는 새로운 법률 시행에 앞서 사용자가 직접 개발한 AI 도우미 도구들을 단계적으로 중단하고 있다. 

바이트댄스의 더우바오는 7월 15일부터 맞춤형 AI 페르소나 기능을 비활성화할 예정입니다. 회사 측은 이번 조치가 "제품 기능 조정"의 일환이라고 설명했습니다

또한 10월 15일까지 남아있는 모든 데이터를 삭제하거나 안전하게 보관할 것이라고 밝혔습니다. 이에 따라 알리바바의 큐웬(Qwen) 도 7월 10일에 사람처럼 보이는 봇을 제거하고 7월 15일에 모든 에이전트 기능을 종료한다고 발표했습니다.

이러한 플랫폼의 서비스 중단은 사용자에게 개인화된 서비스를 제공하는 데 있어 큰 손실이 될 것입니다. 이 애플리케이션들은 사용자와 기업 모두가 제작할 수 있는 다양한 맞춤형 에이전트를 제공했으며, 이 에이전트들은 각기 다른 언어 스타일을 사용하여 특정 작업을 수행할 수 있었습니다. 사용자들은 챗봇을 개인 비서, 가정교사 또는 동반자로 활용할 수 있었습니다.

중국은 인간과 인공지능의 상호작용을 규제하는 체계를 마련했다

두바오와 큐웬은 했습니다 . 위안바오는 진입점이 비활성화되면 사용자는 관련 대화를 더 이상 볼 수 없으며, 해당 대화는 플랫폼의 데이터 보존 정책에 따라 삭제될 것이라고 설명했습니다. 

이번 서비스 중단은 7월 15일부터 시행되는 새로운 법률 제정과 관련이 있습니다. 지난 4월에 제안된 "인공지능 기반 인간화 상호작용 서비스 관리 임시 조치"는 인간의 성격 특성과 인지 방식, 그리고 장기적인 감정적 관계를 모방하는 인공지능을 규제 하는 것을 목표로 합니다

이 법안은 사람들이 실사처럼 생생한 인공지능에 지나치게 감정적으로dent 하게 될 것이라는 우려에서 비롯되었습니다. 입법자들은 미성년자의 정신 건강에 심각한 악영향을 미치고, 데이터 보안 침해, 공중 보건 위험, 윤리적 문제 등을 지적했습니다. 따라서 새로운 법규는 플랫폼이 미성년자의 감정을 교란하거나 미성년자가 현실 친구보다 인공지능 친구를 선택하도록 유도하는 콘텐츠를 제작하는 것을 금지합니다. 또한, 플랫폼은 개인의 채팅 기록을 향후 인공지능 모델 학습에 사용하는 것도 금지됩니다.

하지만 새로운 규정은 장시간 감정적 몰입을 유발하지 않는 직장 보조 도구, 고객 서비스 봇, 교육 도구 및 연구 플랫폼은 제외합니다. 

바이트댄스는 공식 발표에서 캣박스 앱이 새로운 지능형 에이전트를 생성하고 대화형 서비스를 시작하는 기능을 유지할 것이라고 명확히 밝혔습니다. 

전 세계적으로 AI 챗봇 규제의 필요성이 커지고 있는가?

전 세계적으로 실사처럼 행동하는 인공지능 기술 플랫폼들이 거센 비판에 직면하고 있습니다. 특히, 오픈AI 와 알파벳 산하의 캐릭터AI는 미국에서 여러 건의 고액 소송에 휘말렸습니다. 비평가들은 이러한 챗봇들이 사람과 유사한 특성을 모방하여 사용자들 사이에 위험한 감정적 유대감을 형성하고, 최악의 경우 자살로까지 이어질 수 있다고 주장합니다.

지난 9월, 16세 아들 애덤을 비극적으로 스스로 목숨을 끊은 아버지 매튜 레인은 미국 상원 패널에서 오픈AI의 ChatGPT가 아들을 자살로 몰아갔다고 증언했습니다. 그는 "우리는 애덤의 죽음이 피할 수 있었던 것이라고 믿기 때문에 이 자리에 섰습니다. 그리고 우리가 목소리를 높임으로써 전국의 다른 가족들이 같은 고통을 겪는 것을 막을 수 있다고 생각합니다."라고 말했습니다

거의 같은 시기에 연방거래위원회는 일론 머스크의 xAI, 스냅(Snap Inc.), 캐릭터 테크놀로지스(Character Technologies Inc.)의 인공지능 봇이 어린이에게 위험을 초래할 수 있다는 우려 속에 이들 회사에 대한 조사를 시작했습니다. 

한 학부모는 캐릭터 AI가 아들의 정신 상태를 악화시키는 데 일조했다고 비난하기도 했습니다. 그녀는 챗봇이 아들을 폭력적으로 만들고 자해 행동을 부추겼다고 주장했습니다.

한편, 중국은 물리적 하드웨어에 대한 규제를 검토하고 있습니다. 중국의 두 로봇 산업 단체는 최근 급증하는 반려 로봇과 실물 크기 휴머노이드 로봇에 대한 윤리적 안전장치 강화를 촉구하고 있습니다. 모건 스탠리 연구원들은 2050년까지 전 세계적으로 약 10억 대의 휴머노이드 로봇이 존재하며, 이는 7조 5천억 달러 규모의 산업으로 성장할 것이라고 예측하기도 했습니다.

미국에서도 휴머노이드 로봇에 대한 비슷한 우려가 제기되고 있습니다. 휴머노이드 로봇 제조업체들은 지금까지 자신들의 로봇으로 인해 심각한 부상이나 사망 사고가 발생한 적은 없다고 주장합니다. 하지만 이러한 로봇들이 거의 90kg에 달하는 무게로 성장함에 따라, 작업자들은 보행 로봇이 갑자기 동력을 잃을 경우 발생할 수 있는 피해에 대해 우려하고 있습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.