원문 용어 표시처벌·제재

최근 생성형 인공지능 기술의 급속한 확산으로 대화형 인공지능 챗봇이 청소년의 일상적 의사소통, 정보 탐색, 오락 및 정서적 교류의 수단으로 빠르게 확산되고 있음.

그러나 이러한 서비스는 청소년과 지속적이고 개인화된 상호작용을 통해 정서적 의존을 유발하거나, 자해ㆍ자살ㆍ폭력ㆍ성적대화 등 유해한 내용에 부적절하게 반응할 위험이 있다는 우려가 국내외에서 지속적으로 제기되고 있음. 특히 청소년은 인지적ㆍ정서적 발달 특성상 인공지능이 제공하는 정보를 비판적으로 평가하거나 인공지능과 인간의 관계를 명확히 구분하는 데 취약할 수 있어 특별한 보호가 필요함.

그런데 현행 「청소년 보호법」은 영화, 게임, 인터넷 콘텐츠 등 전통적 매체 중심으로 청소년 유해환경을 규율하고 있어, 실시간으로 대화를 생성하고 청소년과 상호작용하는 생성형 인공지능 서비스에 대해서는 충분한 보호체계를 갖추지 못하고 있음.