제안이유 및 주요내용 국회 공식 원문

제안이유 세계적으로 인공지능이 교통, 의료, 서비스 등 다양한 분야에 활용되면서 일상생활의 편의 증진은 물론 산업적 활용 가능성에 대한 기대를 높이고 있음. 이처럼 인공지능의 개발ㆍ이용이 거의 모든 산업분야에 적용되어 부가가치를 창출할 것으로 예상되고 있으나, 다른 한편으로는 인공지능의 위험성에 대한 우려도 확대되고 있음. 특히 인공지능기술은 대량의 데이터를 학습하여 성능을 향상시키는 기계학습에 기반하고 있어 불확실성과 불투명성을 가지고 있으며, 노이즈 데이터로 인한 오류생성 가능성도 큼. 따라서 인공지능기술이 특정 분야에서 인간의 통제수준을 넘어서서 고의적으로 악용될 수 있는 문제에 대한 법적 규제의 필요성이 있음. ChatGPT 4.0 출시 이후 법률을 통해 무엇을 허용하고 무엇을 허용하지 말아야 할지 ‘가이드라인’을 설정하는 것이 더욱 시급해졌고 유럽의회가 「인공지능법」을 제정하여 구체적인 규제에 나서는 상황에서, 우리나라도 인공지능의 부작용과 위험이 무엇인지 정확하게 파악하고 인공지능 산업진흥 및 규제 정책을 형성해 나가는 것이 필요할 것임. 단순한 신기술의 위험성에 대한 규제를 넘어, 개인의 자유에 대한 억압이나 제한을 지양하고, 지속적인 성장이 가능한 사회로 나아가는 것이 인공지능 관련 산업진흥과 규제의 목표가 되어야 할 것임. 이에 향후 신뢰할 수 있는 인공지능의 사용환경을 조성하기 위하여 인공지능의 개발 및 이용에 관한 기본원칙, 인공지능사업자의 책무 및 이용자의 권리를 규정하고, 고위험 인공지능ㆍ저위험 인공지능으로 인공지능의 유형을 구분하여 이용자를 보호하기 위한 인공지능과 관련한 시책을 구분하여 마련하도록 하는 등 안전하고 신뢰할 수 있는 인공지능기술ㆍ정책의 제도적 기반을 조성하려는 것임. 동시에 인공지능 관련 신뢰기반 조성과 함께 인공지능 기술개발 및 산업진흥을 위한 정책을 종합적으로 추진하여 육성할 필요성이 있음. 주요내용 가. 안전하고 신뢰할 수 있는 인공지능의 개발ㆍ이용을 위한 기반 조성 및 인공지능 관련 정책의 수립ㆍ추진에 필요한 사항을 규정하여 국민의 권익과 존엄성을 보호하고 국민의 삶의 질을 높이는 것을 목적으로 함(안 제1조). 나. 인공지능, 고위험영역 인공지능, 생성형 인공지능 및 인공지능사업자 등에 대하여 정의함(안 제2조). 다. 과학기술정보통신부장관이 3년마다 인공지능의 안전하고 합리적인 개발 및 이용을 위하여 인공지능 기본계획을 국가인공지능위원회의 심의ㆍ의결을 거쳐 수립ㆍ시행하도록 하고, 기본계획에는 인공지능에 관한 정책의 기본 방향과 전략, 신뢰 기반 조성 등에 관한 사항이 포함되도록 함(안 제5조). 라. 인공지능사회의 구현, 인공지능산업의 신뢰 확보와 관련된 사항을 심의ㆍ의결하기 위하여 대통령 소속으로 국가인공지능위원회를 두도록 하고, 국가인공지능위원회는 기본계획의 수립 및 그 추진상황 점검ㆍ분석에 관한 사항 등을 심의ㆍ의결하도록 함(안 제6조 및 제7조). 마. 과학기술정보통신부장관은 인공지능과 관련하여 발생할 수 있는 위험으로부터 국민의 생명ㆍ신체ㆍ재산 등을 보호하고 인공지능사회의 신뢰 기반을 유지하기 위한 상태를 확보하기 위한 업무를 전문적이고 효율적으로 수행하기 위하여 인공지능안전연구소를 운영할 수 있음(안 제11조). 바. 과학기술정보통신부장관은 인공지능기술 및 알고리즘의 개발 활성화와 안전하고 편리한 이용을 위하여 국내ㆍ외 동향 및 관련 제도의 조사, 기술의 실용화, 연구개발 등의 사업을 지원할 수 있고, 인공지능기술의 발전과 관련된 표준화를 위하여 표준 제정 등의 사업을 추진할 수 있음(안 제12조 및 제13조). 사. 과학기술정보통신부장관은 인공지능의 개발ㆍ활용 등에 사용되는 데이터의 생산ㆍ수집ㆍ유통 등을 촉진하기 위하여 필요한 시책을 추진하여야 하고, 다양한 학습용데이터를 제작ㆍ생산하여 제공하는 사업을 시행할 수 있음(안 제14조). 아. 과학기술정보통신부장관은 인공지능기술의 개발 및 인공지능산업의 진흥을 위하여 관련 전문인력을 양성하고, 해외 전문인력의 확보를 위한 각종 시책을 추진할 수 있음(안 제19조). 자. 인공지능등과 관련한 연구 및 업무에 종사하는 자는 과학기술정보통신부장관의 인가를 받아 한국인공지능진흥협회를 설립할 수 있음(안 제22조). 차. 과학기술정보통신부장관이 인공지능등이 국민의 생활에 미치는 잠재적 위험을 최소화하고 안전한 인공지능의 이용을 위한 신뢰 기반을 조성하기 위한 시책을 마련하도록 함(안 제24조). 카. 고위험영역 인공지능에 대한 확인제도를 마련하고, 고위험영역인공지능사업자는 인공지능의 신뢰성과 안전성을 확보하기 위한 조치를 하도록 함(안 제26조부터 제28조까지). 타. 생성형 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스가 생성형 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하고, 생성형 인공지능에 의한 생성 사실을 결과물에 표시하여야 함(안 제29조).

국회 원문 · 수집 2026년 8월 22일 · 확인 2026년 9월 20일