의안번호 2210304
정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안
김상훈의원 등 13인 · 발의 2025-05-01 · 과학기술정보방송통신위원회
위원회 심사
제안이유 및 주요내용
최근 인공지능기술이 급속도로 발전함에 따라 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 제정되어 인공지능사업자에게 인공지능기술을 활용한 생성물이라는 표시를 하도록 의무를 부여하고 있음. 그런데 정보통신망에서의 인공지능기술 활용 생성물의 유통을 규제하기 위한 직접적인 규정은 미비한바, 실제와 구분하기 어려운 합성물이 급증하고 있는 실정임. 특히, 인공지능기술을 통해 화장품, 탈모치료제, 다이어트보조제 등의 효능을 광고하는 허위의 영상을 생성하여 소비자를 기만하는 사례도 발생하는 등 허위정보와 가짜뉴스의 확산 우려가 높아지고 있는 만큼 이러한 생성물에 대해서도 표시의무 부과를 통한 실효성 확보가 필요함. 이에 정보제공자에게 인공지능기술로 생성한 딥페이크영상등의 표시의무를 규정하고, 해당 표시를 훼손하고 영리목적으로 제공하는 내용의 정보를 불법정보로 규정하여 유통을 금지함으로써 정보통신망에서의 인공지능 생성물 유통에 관한 안전장치를 마련하고자 함(안 제42조의4 및 제44조의7제1항제5호의2 신설 등).
출처: 열린국회정보(open.assembly.go.kr), 의안정보시스템(likms.assembly.go.kr)
진행 단계
- 접수접수 2025-05-01
- 위원회 심사소관위 회부 2025-05-02소관위 상정 2025-08-26
- 체계자구 심사
- 본회의 심의
- 정부이송
- 공포
현재 단계: 위원회 심사
신구조문대비
삭제신설·변경
자동 생성된 비교 자료로 참고용입니다. 정확한 내용은 의안 원문과 관보를 확인하세요.
정보통신망 이용촉진 및 정보보호 등에 관한 법률 제42조의4
1개 변경현행
〈신 설〉
개정안
의안 2210304〈신 설〉
제42조의4(딥페이크영상등의 표시) 정보제공자 중 인공지능기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 “딥페이크영상등”이라 한다)을 제공하려는 자는 해당 콘텐츠가 인공지능기술을 이용하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있도록 대통령령으로 정하는 표시방법에 따라 표시하여야 한다. 이 경우 해당 콘텐츠가 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 표시할 수 있다.
개정지시문 원문 1건
- 신설제42조의4를 다음과 같이 신설한다.검수 전
정보통신망 이용촉진 및 정보보호 등에 관한 법률 제44조의7
(불법정보의 유통금지 등)2개 변경이 대비는 발의 시점에 시행 중이던 조문을 기준으로 합니다. 현행 조문과 다를 수 있습니다.현행 제44조의7 보기 →
발의 시점 조문(2024-08-14 시행, 법률 제20260호)
불법정보의 유통금지 등제44조의7(불법정보의 유통금지 등)
① 누구든지 정보통신망을 통하여 다음 각 호의 어느 하나에 해당하는 정보를 유통하여서는 아니 된다. <개정 2011.9.15, 2016.3.22, 2018.6.12>
1. 음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시하는 내용의 정보
2. 사람을 비방할 목적으로 공공연하게 사실이나 거짓의 사실을 드러내어 타인의 명예를 훼손하는 내용의 정보
3. 공포심이나 불안감을 유발하는 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 반복적으로 상대방에게 도달하도록 하는 내용의 정보
4. 정당한 사유 없이 정보통신시스템, 데이터 또는 프로그램 등을 훼손ㆍ멸실ㆍ변경ㆍ위조하거나 그 운용을 방해하는 내용의 정보
5. 「청소년 보호법」에 따른 청소년유해매체물로서 상대방의 연령 확인, 표시의무 등 법령에 따른 의무를 이행하지 아니하고 영리를 목적으로 제공하는 내용의 정보
6. 법령에 따라 금지되는 사행행위에 해당하는 내용의 정보
6의2. 이 법 또는 개인정보 보호에 관한 법령을 위반하여 개인정보를 거래하는 내용의 정보
6의3. 총포ㆍ화약류(생명ㆍ신체에 위해를 끼칠 수 있는 폭발력을 가진 물건을 포함한다)를 제조할 수 있는 방법이나 설계도 등의 정보
7. 법령에 따라 분류된 비밀 등 국가기밀을 누설하는 내용의 정보
8. 「국가보안법」에서 금지하는 행위를 수행하는 내용의 정보
9. 그 밖에 범죄를 목적으로 하거나 교사(敎唆) 또는 방조하는 내용의 정보
② 방송통신위원회는 제1항제1호부터 제6호까지, 제6호의2 및 제6호의3의 정보에 대하여는 심의위원회의 심의를 거쳐 정보통신서비스 제공자 또는 게시판 관리ㆍ운영자로 하여금 그 처리를 거부ㆍ정지 또는 제한하도록 명할 수 있다. 다만, 제1항제2호 및 제3호에 따른 정보의 경우에는 해당 정보로 인하여 피해를 받은 자가 구체적으로 밝힌 의사에 반하여 그 처리의 거부ㆍ정지 또는 제한을 명할 수 없다. <개정 2016.3.22, 2018.6.12>
③ 방송통신위원회는 제1항제7호부터 제9호까지의 정보가 다음 각 호의 모두에 해당하는 경우에는 정보통신서비스 제공자 또는 게시판 관리ㆍ운영자에게 해당 정보의 처리를 거부ㆍ정지 또는 제한하도록 명하여야 한다. <개정 2016.3.22, 2018.12.24>
1. 관계 중앙행정기관의 장의 요청[제1항제9호의 정보 중 「성폭력범죄의 처벌 등에 관한 특례법」 제14조에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다)에 대하여는 수사기관의 장의 요청을 포함한다]이 있었을 것
2. 제1호의 요청을 받은 날부터 7일 이내에 심의위원회의 심의를 거친 후 「방송통신위원회의 설치 및 운영에 관한 법률」제21조제4호에 따른 시정 요구를 하였을 것
3. 정보통신서비스 제공자나 게시판 관리ㆍ운영자가 시정 요구에 따르지 아니하였을 것
④ 방송통신위원회는 제2항 및 제3항에 따른 명령의 대상이 되는 정보통신서비스 제공자, 게시판 관리ㆍ운영자 또는 해당 이용자에게 미리 의견제출의 기회를 주어야 한다. 다만, 다음 각 호의 어느 하나에 해당하는 경우에는 의견제출의 기회를 주지 아니할 수 있다.
1. 공공의 안전 또는 복리를 위하여 긴급히 처분을 할 필요가 있는 경우
2. 의견청취가 뚜렷이 곤란하거나 명백히 불필요한 경우로서 대통령령으로 정하는 경우
3. 의견제출의 기회를 포기한다는 뜻을 명백히 표시한 경우
⑤ 국내에 데이터를 임시적으로 저장하는 서버를 설치ㆍ운영하는 정보통신서비스 제공자 중 사업의 종류 및 규모 등이 대통령령으로 정하는 기준에 해당하는 자는 제1항 각 호에 해당하는 정보의 유통을 방지하기 위하여 다음 각 호의 기술적ㆍ관리적 조치를 하여야 한다. <신설 2024.1.23>
1. 제2항 및 제3항에 따른 심의위원회의 심의를 거친 제1항 각 호의 정보가 서버에 저장되어 있는지 식별하여 신속하게 접근을 제한하는 조치
2. 제1호에 따라 식별한 정보의 게재자에게 해당 정보의 유통금지를 요청하는 조치
3. 제1호에 따른 조치의 운영ㆍ관리 실태를 시스템에 자동으로 기록되도록 하고, 이를 대통령령으로 정하는 기간 동안 보관하는 조치
4. 그 밖에 제1항 각 호에 해당하는 정보의 유통을 방지하기 위하여 필요한 대통령령으로 정하는 조치
개정안
의안 2210304제44조의7(불법정보의 유통금지 등)
① 누구든지 정보통신망을 통하여 다음 각 호의 어느 하나에 해당하는 정보를 유통하여서는 아니 된다. <개정 2011.9.15, 2016.3.22, 2018.6.12>
1. 음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시하는 내용의 정보
2. 사람을 비방할 목적으로 공공연하게 사실이나 거짓의 사실을 드러내어 타인의 명예를 훼손하는 내용의 정보
3. 공포심이나 불안감을 유발하는 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 반복적으로 상대방에게 도달하도록 하는 내용의 정보
4. 정당한 사유 없이 정보통신시스템, 데이터 또는 프로그램 등을 훼손ㆍ멸실ㆍ변경ㆍ위조하거나 그 운용을 방해하는 내용의 정보
5. 「청소년 보호법」에 따른 청소년유해매체물로서 상대방의 연령 확인, 표시의무 등 법령에 따른 의무를 이행하지 아니하고 영리를 목적으로 제공하는 내용의 정보
6. 법령에 따라 금지되는 사행행위에 해당하는 내용의 정보
6의2. 이 법 또는 개인정보 보호에 관한 법령을 위반하여 개인정보를 거래하는 내용의 정보
6의3. 총포ㆍ화약류(생명ㆍ신체에 위해를 끼칠 수 있는 폭발력을 가진 물건을 포함한다)를 제조할 수 있는 방법이나 설계도 등의 정보
7. 법령에 따라 분류된 비밀 등 국가기밀을 누설하는 내용의 정보
8. 「국가보안법」에서 금지하는 행위를 수행하는 내용의 정보
9. 그 밖에 범죄를 목적으로 하거나 교사(敎唆) 또는 방조하는 내용의 정보
② 방송통신위원회는 제1항제1호부터 제5호까지, 제5호의2, 제6호, 제6호의2 및 제6호의3의 정보에 대하여는 심의위원회의 심의를 거쳐 정보통신서비스 제공자 또는 게시판 관리ㆍ운영자로 하여금 그 처리를 거부ㆍ정지 또는 제한하도록 명할 수 있다. 다만, 제1항제2호 및 제3호에 따른 정보의 경우에는 해당 정보로 인하여 피해를 받은 자가 구체적으로 밝힌 의사에 반하여 그 처리의 거부ㆍ정지 또는 제한을 명할 수 없다. <개정 2016.3.22, 2018.6.12>
③ 방송통신위원회는 제1항제7호부터 제9호까지의 정보가 다음 각 호의 모두에 해당하는 경우에는 정보통신서비스 제공자 또는 게시판 관리ㆍ운영자에게 해당 정보의 처리를 거부ㆍ정지 또는 제한하도록 명하여야 한다. <개정 2016.3.22, 2018.12.24>
1. 관계 중앙행정기관의 장의 요청[제1항제9호의 정보 중 「성폭력범죄의 처벌 등에 관한 특례법」 제14조에 따른 촬영물 또는 복제물(복제물의 복제물을 포함한다)에 대하여는 수사기관의 장의 요청을 포함한다]이 있었을 것
2. 제1호의 요청을 받은 날부터 7일 이내에 심의위원회의 심의를 거친 후 「방송통신위원회의 설치 및 운영에 관한 법률」제21조제4호에 따른 시정 요구를 하였을 것
3. 정보통신서비스 제공자나 게시판 관리ㆍ운영자가 시정 요구에 따르지 아니하였을 것
④ 방송통신위원회는 제2항 및 제3항에 따른 명령의 대상이 되는 정보통신서비스 제공자, 게시판 관리ㆍ운영자 또는 해당 이용자에게 미리 의견제출의 기회를 주어야 한다. 다만, 다음 각 호의 어느 하나에 해당하는 경우에는 의견제출의 기회를 주지 아니할 수 있다.
1. 공공의 안전 또는 복리를 위하여 긴급히 처분을 할 필요가 있는 경우
2. 의견청취가 뚜렷이 곤란하거나 명백히 불필요한 경우로서 대통령령으로 정하는 경우
3. 의견제출의 기회를 포기한다는 뜻을 명백히 표시한 경우
⑤ 국내에 데이터를 임시적으로 저장하는 서버를 설치ㆍ운영하는 정보통신서비스 제공자 중 사업의 종류 및 규모 등이 대통령령으로 정하는 기준에 해당하는 자는 제1항 각 호에 해당하는 정보의 유통을 방지하기 위하여 다음 각 호의 기술적ㆍ관리적 조치를 하여야 한다. <신설 2024.1.23>
1. 제2항 및 제3항에 따른 심의위원회의 심의를 거친 제1항 각 호의 정보가 서버에 저장되어 있는지 식별하여 신속하게 접근을 제한하는 조치
2. 제1호에 따라 식별한 정보의 게재자에게 해당 정보의 유통금지를 요청하는 조치
3. 제1호에 따른 조치의 운영ㆍ관리 실태를 시스템에 자동으로 기록되도록 하고, 이를 대통령령으로 정하는 기간 동안 보관하는 조치
4. 그 밖에 제1항 각 호에 해당하는 정보의 유통을 방지하기 위하여 필요한 대통령령으로 정하는 조치
〈신 설〉
5의2. 딥페이크영상등의 표시의무를 이행하지 아니하거나 그 표시를 정당한 사유 없이 위조ㆍ변조ㆍ훼손 또는 제거하여 영리를 목적으로 제공하는 내용의 정보
개정지시문 원문 2건
- 신설제44조의7제1항에 제5호의2를 다음과 같이 신설한다.검수 전
- 자구수정같은 조 제2항 본문 중 “제6호까지”를 “제5호까지, 제5호의2, 제6호”로 한다.검수 전