인공지능 기본법 제정 촉구에 관한 청원

인공지능은 의료ㆍ복지ㆍ교육 등 국민의 일상생활에서부터 과학의 난제 해결 등 전문영역에 이르기까지 전방위적으로 활용되고 있음. 그런데 최근 인공지능 기술의 발전으로 문서ㆍ음성ㆍ이미지ㆍ영상의 제작 및 창작과 판단ㆍ추론 등 과거 인간의 고유한 영역으로 여겨졌던 범위까지 인공지능이 활용됨에 따라 인공지능 기술의 잠재적 위험성에 대한 인식이 국제적으로 확산되고 있음. 인공지능이 시민의 인권 및 안전에 미칠 수 있는 위험을 식별ㆍ완화하고 인공지능 제품 및 서비스의 제공자ㆍ운영자의 책임성을 보장하지 않는다면, 인공지능 기술 및 산업의 발전 역시 가로막히게 될 우려가 있음. 이에 안전하고 신뢰할 수 있는 인공지능의 개발ㆍ운영을 위한 기반 조성 및 인공지능 관련 정책의 수립ㆍ추진에 필요한 사항을 규정함으로써 사람의 건강이나 안전, 권리ㆍ의무에 중대한 영향을 미칠 우려가 있는 인공지능에 관한 규율 체계를 정립하려는 것임. 주요내용 가. 안전하고 신뢰할 수 있는 인공지능의 개발ㆍ운영을 위한 기반 조성 및 인공지능 관련 정책의 수립ㆍ추진에 필요한 사항을 규정하여 국민의 권익과 존엄성을 보호하고 국민의 삶의 질을 높이는 것을 목적으로 함(안 제1조). 나. 인공지능, 고위험 인공지능, 제공자, 운영자 및 범용 인공지능 모델 등에 대하여 정의함(안 제2조). 다. 인공지능 개발ㆍ운영의 기본원칙과 인공지능의 안전한 운영ㆍ관리 등을 위한 국가 등의 책무를 규정함(안 제3조 및 제4조). 라. 인공지능에 관한 규제와 이용자 보호 등의 업무를 독립적으로 수행하기 위하여 국무총리 소속으로 인공지능위원회를 두고, 인공지능위원회는 인공지능 기본계획의 수립 및 인공지능의 운영ㆍ관리 및 이용자 보호에 관련된 정책 등에 관한 사항을 심의ㆍ의결하도록 함(안 제7조부터 제22조까지). 마. 인공지능위원회는 인공지능 기술 및 알고리즘 개발 활성화를 위하여 관련 사업을 지원할 수 있도록 함(안 제24조). 바. 사람의 신체적 또는 정신적 피해를 유발하거나 유발할 가능성이 있는 방식으로 특정인의 행동을 현저하게 왜곡하기 위하여 잠재의식을 활용하는 인공지능 등에 대하여 개발ㆍ운영을 금지함(안 제27조). 사. 금지된 인공지능 및 고위험 인공지능에 대한 확인제도를 마련함(안 제28조 및 제31조). 아. 고위험 인공지능 제공자 및 고위험 인공지능 운영자가 지켜야 할 준수사항을 규정함(안 제30조 및 제35조). 자. 고위험 인공지능 제공자로 하여금 인공지능위원회의 적합성인증을 받도록 함(안 제32조). 차. 고위험 인공지능을 직접 개발하거나 운영하는 업무를 수행하는 공공기관의 장 및 민간부문의 고위험 인공지능 운영자는 자신이 개발 또는 운영하는 고위험 인공지능이 인권에 미치는 위험요인의 분석과 개선 사항 도출을 위한 평가를 실시하도록 함(안 제36조). 카. 범용 인공지능 모델 제공자 및 중대한 위험이 있는 범용 인공지능 모델 제공자가 지켜야 할 사항을 규정함(안 제37조 및 제38조). 타. 고위험 인공지능 제공자, 공공기관인 운영자 또는 고위험 인공지능 운영자는 인공지능위원회에 해당 인공지능에 관한 사항을 등록하도록 함(안 제43조).