[AI 신기술] 메타(Meta)의 청소년 보호용 조치 기능 (부모에게 즉시 통보)

메타, Meta AI서 청소년 ‘극단적 선택·자해’ 대화 감지 시 부모에게 즉시 통보

[데일리뉴스] 메타(Meta)가 자사의 인공지능(AI) 챗봇 ‘메타 AI(Meta AI)’ 이용 중 청소년이 극단적 선택이나 자해에 대해 언급할 경우, 이를 부모에게 알리는 새로운 보호 조치를 도입했다고 발표했다. 또한, 위험도가 임박했다고 판단될 경우 경찰 등 긴급 구호 기관에 직접 연락하는 시스템 구축에도 나섰다.

이번 조치는 최근 AI 챗봇이 위기 상황에 놓인 사용자, 특히 미성년자에게 미치는 영향에 대해 규제 당국과 학부모들의 우려가 커짐에 따라 마련됐다.

AI 감지 후 전담 인력 검토 거쳐 부모 알림 발송

메타에 따르면, 메타 AI는 청소년 사용자가 스스로를 해치려는 명확한 정황이 담긴 대화를 감지하는 전담 AI 시스템을 구축했다.

다만 오발송으로 인한 혼란을 줄이기 위해 메타는 AI가 1차로 감지한 대화를 전담 인력이 직접 재검토(Manual Review)한 뒤 부모에게 알림을 보내기로 했다. 의도가 다소 모호하더라도 안전을 최우선으로 고려해 알림을 발송한다는 방침이다.

메타 측은 자사 블로그를 통해 "부모가 이러한 알림을 받는 것 자체가 매우 불안하고 경악스러울 수 있음을 잘 알고 있다"면서도 "안전을 위한 올바른 첫걸음이라 판단했으며, 시스템을 지속적으로 개선해 나갈 것"이라고 밝혔다.

해당 기능은 현재 미국, 영국, 호주, 캐나다 지역의 인스타그램 자녀 보호 기능(Parental Supervision) 이용자를 대상으로 우선 적용되었으며, 올해 말까지 한국시장을 포함한 전 세계로 확대될 예정이다.

콘텐츠 제한 확대 및 긴급 구호 기관 연계 강화

이번 업데이트는 기존 인스타그램 내 검색어 감지 기능 및 '메타 AI 주간 대화 주제 공유' 기능을 한층 강화한 것이다.

또한, 부모가 자녀의 인스타그램 환경을 보다 엄격하게 제한할 수 있는 '민감한 콘텐츠 제한(Limited Content)' 설정이 메타 AI에도 동일하게 적용된다. 이에 따라 청소년과의 성적·로맨틱한 대화나 음주 관련 주제 제한 외에도 AI가 거절하는 프롬프트의 범위가 대폭 넓어진다.

한편, 메타는 성인과 미성년자를 불문하고 메타 AI와의 대화에서 긴급한 위험 신호가 포착될 경우, 911 등 지역 긴급 서비스에 직접 통보하는 시스템도 조만간 도입할 예정이다. 이는 기존 페이스북 및 인스타그램 게시물에 적용되던 긴급 대응 체계를 AI 챗봇 영역까지 확장하는 조치다.