Meta는 더 안전한 재설계가 완료될 때까지 청소년 AI 접근을 일시적으로 중단합니다

메타는 전 세계 모든 앱에서 청소년의 AI 캐릭터 접근을 차단한다고 발표했습니다.

"향후 몇 주 안에 업데이트된 환경이 준비될 때까지 10대들은 당사 앱에서 AI 캐릭터에 더 이상 접근할 수 없게 됩니다."라고 Meta는 블로그 게시물에서 밝혔습니다.

회사 측은 업데이트된 블로그 게시물에서 이 규칙은 10대 생일을 제공한 사람과 성인이라고 주장하지만 연령 예측 기술에 의해 10대로 추정되는 사람 모두에게 적용된다고 밝혔습니다.

학부모들이 십대 자녀의 AI 상호작용에 대한 더 명확한 정보와 통제권을 요구하자, 메타는 접근을 차단했습니다.

해당 회사는 이러한 기능을 올해 출시할 계획이었지만, 인공지능 캐릭터 기능을 완전히 비활성화하기로 결정했습니다.

메타 플랜은 연령별 AI 캐릭터를 계획합니다

이 회사는 10대 청소년만을 위한 특별한 AI 캐릭터를 개발하는 것을 목표로 하고 있습니다. 메타는 새로운 10대용 AI 캐릭터에 자녀 보호 기능이 포함될 것이라고 밝혔습니다.

새로운 캐릭터들은 연령대에 맞는 답변을 제공하고 교육, 스포츠 및 취미에 중점을 둘 것입니다.

10월에 메타는 청소년들이 앱에서 AI와 상호작용하는 방식을 맞춤 설정할 수 있는 자녀 보호 기능을 도입했습니다. 이 새로운 기능은 PG-13 등급에서 영감을 받아 극심한 폭력, 노출, 노골적인 마약 사용 장면을 청소년들이 볼 수 없도록 제한합니다.

며칠 후, 회사는 AI 캐릭터 관리 도구를 도입하여 학부모와 보호자가 자녀를 trac 메타는 학부모가 AI 캐릭터와의 채팅을 완전히 차단할 수 있다고 밝혔습니다.

목요일, 와이어드는 메타가 청소년 정신 건강에 대한 소셜 미디어의 영향 및 관련 보고서에 대한 정보 수집을 제한하려 했다고 밝혔습니다

회사 측은 소셜 미디어와 연관된 최근 십대 자살 사건에 대한 언급과 메타의 재정 상황, 직원 활동, 마크 주커버그의 하버드 시절에 대한 언급을 모두 삭제하기를 원합니다.

메타가 10대 AI 캐릭터 제공을 중단한 것은 뉴멕시코에서 메타가 앱에서 아동을 보호하지 못한 혐의로 기소되어 재판을 앞두고 있는 시점에 이루어졌습니다.

메타는 자사 사이트에서 미성년자를 대상으로 한 온라인 성매매, 인신매매 및 성적 학대로부터 보호 조치를 제대로 시행하지 않았다는 혐의를 받고 있습니다.

메타는 재판 전 제출한 신청서에서 배심원단은 메타가 아동 안전 및 청소년 정신 건강과 관련된 뉴멕시코주의 불공정 행위 금지법을 위반했는지 여부만 판단해야 한다고 주장했습니다. 

선거 개입 의혹, 허위 정보 유포, 개인정보 침해 등의 다른 문제들은 고려 대상이 아닙니다.

뉴멕시코 사건 외에도, 메타는 소셜 미디어 중독을 유발한 혐의로 다음 주 재판을 앞두고 있습니다. 

KGM이라는 가명으로 알려진 19세 원고는 해당 플랫폼의 알고리즘이 중독을 유발하고 자신의 정신 건강을 해쳤다고 주장했습니다.

마크 저커버그 CEO는 재판이 시작되면 증언할 가능성이 높습니다.

온라인 플랫폼, 청소년 접근 제한 강화

소셜 미디어 플랫폼과 AI 기업들은 자해를 조장했다는 소송으로 인해 십대들의 경험을 바꿔놓았습니다. 

1월 20일, OpenAI는 ChatGPT에 연령 예측 기능을 도입하여 어린 사용자를 감지하고 보호 조치를 강화했습니다.

ChatGPT의 연령 예측 모델은 사용자가 밝힌 나이, 계정 생성일, 활동 시간, 사용 추세와 같은 행동 및 계정 데이터를 분석합니다.

지난주 틱톡은 유럽에서 13세 미만 사용자의 계정을 감지하고 삭제하는 AI 기술을 도입했습니다. 

AI 기반 연령 확인 시스템은 프로필 정보, 동영상 클립, 게시 습관 등을 분석하여 미성년자 계정을dent합니다. 이 기능은 향후 몇 주 내에 출시될 예정입니다.

인스타그램, 유튜브, 틱톡, 로블록스와 같은 다른 온라인 플랫폼들도 연령 제한 조치를 도입했습니다.

1,000명의 회원으로 제한된 암호화폐 거래 커뮤니티 에서 무료 자리를 신청하세요