Meta, AI를 활용해 페이스북과 인스타그램에서 아동 학재 소재로 유도하는 광고 차단

Meta는 이제 광고가 사용자를 어디로 이끄는지와 광고의 내용을 함께 검토합니다. 수요일에 새로운 AI 도구와 함께 발표된 이번 조치는 페이스북과 인스타그램 외부에 호스팅된 아동 성학재 소재로 사용자를 조용히 유도하는 광고를 겨냥합니다.

Meta는 사범들이 광고 분야에 진입했다고 말했습니다. 광고 자체로는 무해해 보일 수 있지만 외부 사이트의 불법적인 소재로 사용자를 이끌 수 있습니다.

메타는 보고된 광고에 그치지 않았습니다. 수법을 파악한 후 메타는 플랫폼 전반에 걸쳐 조사를 확대하고, 관련 계정을 비활성화하며 오프플랫폼 링크를 차단했습니다.

적색 팀링 에이전트가 2011부터 사용되어 온 PhotoDNA에 합류

메타의 새로운 대규모 언어 모델은 메타가 ‘길잡이(signposting)’라고 부르는 요소를 탐지합니다. 메타는 이를 겉보기에는 무해하지만 불법 콘텐츠나 해로운 활동으로 메타 플랫폼 외부로 사용자를 유도할 가능성이 강하게 의심되는 광고 콘텐츠로 설명합니다.

AI 기반 광고 콘텐츠 스캔이 이전 시스템에서 놓쳤을 수 있는 착취물질을 찾아냅니다. 메타는 조사가 진행됨에 따라 신호를 계속 추가하고 있다고 밝혔습니다.

적색 팀링 AI 에이전트는 메타 자체 방어 체계의 약점을 탐색하여 새로운 전술이 확산되기 전에 발견되도록 합니다. 또한, 제거된 후 새 계정을 생성하는 악의적인 행위자에 대한 재범 감지를 개선하는 것이 목표입니다.

메타는 2011년부터 앱에서 PhotoDNA 사진 및 동영상 매칭을 운영해 왔으며, Tech Coalition의 Lantern 프로그램을 통해 다른 기업에 이미지 및 동영상 해시를 제공하고 있습니다.

메타는 차단된 링크가 포함된 광고, 게시물, 댓글을 검색하여 삭제합니다. 차단된 링크가 포함된 광고는 업로드 시 거부됩니다.

사전 탐지 시스템이 3,320만 건의 악성 항목 중 97% 이상을 포착

Meta acted는 2026년 1월부터 6월까지 전 세계적으로 페이스북과 인스타그램에서 아동 성학학 소재 콘텐츠 3,320만 건을 처리했습니다. 이 중 97% 이상이 신고 전에 자체 감지되었습니다.

인도의 경우 동일한 6개월 동안 530만 건이 적발되었으며, 이 중 98% 이상이 최초 발견 시 차단되었습니다. 9월 메타는 인도 사이버범죄 조정센터가 운영하는 인도의 국가 사이버 범죄 신고 포털로 아동 안전 관련 사건을 직접 전달받을 것이라고 밝혔습니다.

이러한 조치들은 메타가 법정에서 아동 안전 관련 소송에 직면한 가운데 이루어졌습니다. 8월 메타는 주장을 인정하지 않으면서도 미국 29개 주와 최대 180억 달러 규모의 합의에 도달했습니다.

주들은 Meta가 인스타그램과 페이스북을 설계해 어린이들을 중독시켰다고 주장했습니다. Meta와의 합의 이전 오클랜드 연방법원에서 개회 진술이 진행되었으며, Meta는 법정에 자신의 앱이 어린이들을 중독시키기 위해 설계되지 않았다고 밝혔으며, Cryptopolitan이 보도했습니다.

EU 소비자 단체 BEUC는 Meta, Google, TikTok이 5월 사기성 광고를 제거하지 못했다고 비난했으며, Cryptopolitan이 보도했습니다.

메타는 이러한 주장들을 일축하며, 2025년 한 해 동안 1억 5,900만 개 이상의 사기성 광고를 제거했으며, 그중 92%는 사용자 신고 전에 먼저 삭제되었다고 설명했습니다.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.