단독-호주, AI 시대 단속에 따라 앱 스토어 및 검색 엔진 규제에 나설 수 있다고 밝혀

Byron Kaye

시드니, 3월01일 (로이터) - 호주의 인터넷 규제 당국은 로이터의 검토 결과 절반 이상이 다음 주 기한까지 연령 제한 준수 조치를 공개하지 않은 것으로 나타난 후 검색 엔진과 앱 스토어에 사용자 연령 확인에 실패한 인공지능 서비스 차단을 촉구할 수 있다고 밝혔다.

이 경고는 자해나 폭력을 막지 못하거나 심지어 조장했다는 이유로 소송(link https://www.reuters.com/sustainability/boards-policy-regulation/openai-altman-sued-over-chatgpts-role-california-teens-suicide-2025-08-26/)이 증가하는 AI 기업을 규제하려는 전 세계의 가장 적극적인 노력 중 하나를 반영하며, 연구자들은 이러한 플랫폼이 소셜 미디어보다 청소년 정신 건강에 더 해롭다고 경고한다.

12월 호주는 정신 건강 문제를 이유로 청소년의 소셜 미디어 사용을 금지한최초의 국가가 됐으며 (link), 이에 따라 세계 지도자들 (link) 도 같은 조치를 취하겠다고 밝혔다. 호주는 이제 사람들이 이 기술을 통해 액세스할 수 있는 콘텐츠에 연령 제한을 두는 등 유사한 AI 단속을 주도하고 있다고 밝혔다.

3월 9일부터 오픈AI의 챗GPT와 같은 검색 도구와 잘 알려지지 않은 컴패니언 챗봇을 포함한 호주의 인터넷 서비스는 18세 미만의 호주인이 포르노, 극단적 폭력, 자해 및 섭식 장애 콘텐츠를 수신하지 못하도록 제한하거나 최대 4950만 호주 달러(3500만 달러)의 벌금을 물어야 한다.

위원회의 대변인은 "eSafety는 규정 위반이 있을 경우 모든 권한을 행사할 것"이라며 "특정 서비스에 대한 주요 액세스 지점을 제공하는 검색 엔진 및 앱 스토어와 같은 게이트키퍼 서비스에 대한 조치"를 포함한다고 말했다.

오픈AI와 컴패니언 챗봇 스타트업인 Character.AI는 어린 사용자와의 상호작용으로 인해 부당 사망 소송에 직면했으며, 이번 주에는 캐나다에서 발생한 10대 총격 사건 용의자의 챗GPT 계정을 당국에 알리지 않고 비활성화한 사실을 인정했다(link https://www.reuters.com/world/openais-ban-canada-school-shooters-account-raises-scrutiny-other-online-activity-2026-02-25/).

호주에서는 아직 챗봇 관련 폭력이나 자해 보고는 없지만, 규제 당국은 10세 이하의 어린이가 하루에 최대 6시간까지 AI 기반 대화형 도구와 대화한다는 보고를 받은 바 있다.

eSafety 대변인은 "AI 기업들이 감정 조작, 의인화 및 기타 고급 기술을 활용하여 청소년을 유인하고 몰입시켜 과도한 챗봇 사용에 고착화시키고 있는 것에 대해 우려한다"고 말했다.

최대 앱 스토어 운영사인 Apple AAPL.O는 답변을 하지 않았지만 지난주 웹사이트를 통해 호주와 연령 제한을 도입하고 있는 다른 관할권에서 미성년자가 18세 이상 앱을 다운로드하는 것을 막기 위해 "합리적인 방법"을 사용할 것이라고 말했지만, 구체적인 방법은 밝히지 않았다.

호주의 지배적인 검색 엔진 제공업체이자 2위 앱 스토어 운영사인 구글 GOOGL.O의 대변인은 논평을 거부했다.

규제 당국의 승인을 받기 전에 AI 규범 초안 작성을 주도한 인터넷 산업 그룹 DIGI의 정책 책임자 제니퍼 덕스버리는 eSafety가 챗봇 서비스에 새로운 규칙에 대해 알리려고 노력하고 있지만 "궁극적으로 호주에서 운영되는 모든 서비스는 법적 의무를 이해하고 이를 준수할 책임이 있다"고 말했다.

소수의 규정 준수

로이터 리뷰에 따르면 호주의 마감일 일주일 전, 가장 인기 있는 50개 텍스트 기반 AI 제품 중 9개 제품이 연령 확인 시스템을 출시했거나 계획을 발표한 것으로 나타났다. 이 검토는 제한 콘텐츠 및 중재 정책에 대한 문의에 대한 각 플랫폼의 응답, 서비스 약관을 포함한 공개 성명서, 로이터에 보낸 성명서를 기반으로 이루어졌다.

11개 플랫폼은 포괄적인 콘텐츠 필터를 적용하거나 모든 호주인의 서비스 사용을 차단할 계획으로, 모든 사용자에게 제한 콘텐츠 접근을 막아 새로운 법을 준수하는 조치였으나 30개 플랫폼은 새 규칙을 준수하기 위한 뚜렷한 조치를 취하지 않은 것으로 조사됐다.

챗GPT, Replika, Anthropic의 Claude와 같은 대부분의 대형 채팅 기반 검색 어시스턴트는 연령 확인 시스템이나 포괄적인 필터를 출시하기 시작했다. 챗봇 제공업체인 Character.AI는 18세 미만의 개방형 채팅을 차단했다.

컴패니언 챗봇 제공업체인 Candy AI, Pi, Kindroid, Nomi는 자세한 설명 없이 규정을 준수할 계획이라고 로이터에 밝혔으며, HammerAI는 규정을 준수하기 위해 우선 호주에서 서비스를 차단하겠다고 말했다.

하지만 이들은 소수에 불과했다. 컴패니언 챗봇 중 4분의 3은 필터링이나 연령 확인 기능이 없거나 계획이 없었으며, 6분의 1은 위반 의심 사항을 신고할 수 있는 공개 이메일 주소가 없었고, 이는 또한 필수 사항이다.

아동의 합성 성적인 이미지 제작을 중단하지 않은 혐의로 전 세계적으로 조사를 받고 있는 일론 머스크의 채팅 기반 검색 도구 Grok에는 연령 확인 조치나 텍스트 기반 콘텐츠 필터가 없는 것으로 로이터 통신은 밝혀냈다. Grok의 모회사인 xAI는 논평 요청에 응답하지 않았다.

RMIT 대학의 인간-AI 정보 환경 센터의 책임자인 리사 기븐은 "이러한 도구의 대부분은 잠재적 위험과 이러한 종류의 안전 제어의 필요성을 고려하지 않고 설계되었기 때문에 로이터의 조사 결과는 놀랄 일이 아니라고 말했다."

"마치... 이 모든 것을 베타 테스트하고 있는 것 같고, 사회가 어디까지 밀어붙일 수 있는지 보려고 하는 것 같다"고 그녀는 말했다.

(1달러 = 1.4085 호주달러)