제안이유 및 주요내용 국회 공식 원문

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 인공지능을 통해 전문분야의 정보를 제공하거나 청소년이 이용하는 경우에 대한 규정을 두지 않음. 최근 의료ㆍ법률ㆍ금융 등 전문분야와 관련하여 이용자가 잘못된 정보를 얻는 사례가 늘고 있음. 또한, 청소년이 자살 방법이나 선정적ㆍ폭력적인 정보에 노출되면서 이용자 보호 필요성이 높아지는 상황임. 실제로 최근 일론 머스크의 xAI ‘그록’이 생성한 아동ㆍ청소년 성착취 사진으로 인해 전세계적으로 논란이 되고 있으며, 2024년 2월과 작년 4월 미국에서는 청소년이 인공지능 챗봇과 대화를 나누다 자살한 사건이 발생한 바 있음. 이에 따라 작년 9월 미국 캘리포니아주에서는 자살이나 성적 이미지 관련 규제하는 법안을 통과시키도 했으며, 미국 연방거래위원회(FTC)는 구글, 오픈AI, 메타 등 AI 챗봇 제작기업 7곳에 대해 AI 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보한 바 있음. 우리나라에서도 인공지능사업자는 생성형 인공지능 또는 이를 이용한 제품ㆍ서비스를 통하여 보건의료ㆍ법률ㆍ금융 등 전문분야의 결과물을 제공하려는 경우 해당 결과물이 전문가의 판단을 대체할 수 없다는 사실을 고지 또는 표시하도록 하고, 청소년을 대상으로 인공지능 서비스를 제공하는 경우에는 청소년 보호를 위한 기술적 조치를 이행하도록 함으로써 인공지능기술 이용의 투명성과 안전성을 강화하는 내용을 담고자 함(안 제31조제4항, 제32조제4항 신설 등).

국회 원문 · 수집 2026년 8월 10일 · 확인 2026년 10월 14일