정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

제안이유 및 주요내용

제안이유 최근 인공지능기술의 급속한 발전으로 딥페이크를 활용한 허위ㆍ과장 광고와 가짜 정보가 SNS 등 정보통신망을 통해 무분별하게 유통되고 있음. 특히 의사 등 전문가를 사칭하거나 체험기를 조작하여 소비자를 현혹하는 사례가 빈번하여 국민의 생명과 재산에 심각한 피해가 우려되는 상황임. 아울러, 실제와 구별이 어려운 인공지능 생성물의 특성으로 인해 아동ㆍ청소년 등 디지털 취약계층의 피해 또한 확대되고 있음. 그러나 현행법상 정보통신망을 통해 유통되는 인공지능 생성물에 대해 게시자의 명시적인 표시 의무가 없어 이용자가 해당 정보의 진위를 파악하기 어렵고, 불법 정보가 유통될 경우에도 심의 및 차단에 상당한 시일이 소요되어 신속한 피해 예방과 구제에 한계가 있음. 이에 정보통신망을 통해 유통되는 인공지능 생성물에 대해 표시 의무를 부과하여 이용자의 알 권리를 보장하고, 국민의 생명ㆍ재산에 명백한 피해가 우려되는 경우 관계 기관의 요청에 따라 신속하게 임시조치를 취할 수 있는 절차를 마련함으로써 건전한 정보통신망 환경을 조성하고 이용자 보호를 강화하려는 것임. 주요내용 가. 인공지능시스템을 이용하여 생성한 실제와 구분하기 어려운 가상의 음향ㆍ이미지 또는 영상 등의 정보(이하 “인공지능 생성물”이라 함)를 직접 제작ㆍ편집하여 제공하려는 자로 하여금 해당 사실을 이용자가 명확하게 인식할 수 있도록 고지 또는 표시(표시등)할 의무를 부과함(안 제43조의2제1항 신설). 나. 누구든지 인공지능 생성물의 유통 시 표시등을 훼손하거나 위조ㆍ변조하는 행위를 금지하고, 정보통신서비스 제공자로 하여금 자신이 운영ㆍ관리하는 서비스에서 표시등의 지원 및 훼손ㆍ위조ㆍ변조를 방지하기 위한 기술적ㆍ관리적 조치를 하도록 함(안 제43조의2제2항 및 제3항 신설). 나. 인공지능 생성물로서 표시 의무를 이행하지 아니하거나, 표시 등을 훼손ㆍ위조ㆍ변조하여 제공하는 정보를 정보통신망에서 유통이 금지되는 불법정보로 규정함(안 제44조의7제1항제5호의2 신설). 다. 관계 중앙행정기관의 장이 표시 의무를 위반한 인공지능 생성물로 인해 국민의 생명ㆍ재산에 대한 피해가 발생할 우려가 있어 삭제를 요청하는 경우 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의위원회의 심의를 거쳐 해당 정보의 처리를 거부ㆍ정지ㆍ제한하도록 명하도록 함(안 제44조의7제5항 신설).

출처: 열린국회정보(open.assembly.go.kr), 의안정보시스템(likms.assembly.go.kr)