공직선거법 일부개정법률안

최근 생성형 인공지능(AI) 기술의 급격한 발달로 인해 선거 과정에서 딥페이크 등 정교한 인공지능 생성물을 이용한 허위정보 유포 및 여론 조작의 위험이 증대되고 있음. 현행법은 선거일 전 90일부터 인공지능 생성물을 이용한 선거운동을 전면적으로 금지하고 있으나, 이는 헌법상 표현의 자유를 과도하게 제한할 우려가 있고, 기술 발전 속도에 비추어 규제의 실효성에도 한계가 있다는 지적이 제기되고 있음. 이에 인공지능 생성물에 대한 규제 방식을 ‘전면 금지’에서 ‘투명성 확보 및 유통 관리’ 중심으로 전환하여, 인공지능 생성물임을 명확히 표시하도록 의무화하는 한편, 자동화된 수단을 이용한 인위적 정보 증폭 행위를 엄격히 규제하고자 함. 아울러 온라인 플랫폼 운영자에게 정보 유통의 시스템적 관리에 관한 노력의무를 부여하고, 이를 위반한 경우에 대한 형사벌 및 과태료 규정을 연동함으로써 디지털 시대에 부합하는 선거의 공정성을 실효적으로 확보하려는 것임. - -

가. 인공지능 기술을 이용하여 생성ㆍ편집된 콘텐츠를 유포하는 경우 해당 콘텐츠가 인공지능 생성물임을 명확히 표시하도록 의무화함(안 제82조의8제1항). 나. 인공지능 생성 여부를 표시하지 아니하거나 거짓으로 표시하여 유권자를 오인하게 하는 행위와 자동화된 수단 또는 알고리즘의 인위적 증폭을 통해 허위 또는 오도될 수 있는 정보를 대규모로 확산시키는 행위를 금지함(안 제82조의8제2항). 다. 풍자ㆍ패러디 등 예술적 표현이나 언론 보도의 경우 표시의무 등의 예외를 인정하여 표현의 자유를 보호함(안 제82조의8제3항). 라. 온라인 플랫폼 운영자에게 자동화된 계정 등에 의한 정보 조작이 발생하지 않도록 합리적인 관리조치를 할 노력의무를 부여함(안 제82조의9). 마. 인공지능 생성물을 이용한 조직적ㆍ고의적 허위사실 공표 행위에 대해서는 형사처벌을 부과하고, 표시의무 위반이나 플랫폼의 관리조치 미이행에 대해서는 과태료를 부과함으로써 위반행위의 경중에 따라 단계적 제재체계를 마련함(안 제250조의2 및 제261조).