제안이유 최근 인공지능기술을 악용하여 의사 등 전문가를 사칭하거나 제품의 효능을 거짓으로 꾸며낸 체험기를 제작하는 등 소비자를 기만하는 허위ㆍ과장 광고가 SNS를 통해 급속도로 확산되고 있음.

이러한 정보는 실제와 구분이 어려워 소비자의 합리적인 선택을 방해할 뿐만 아니라, 건강기능식품이나 의약품 등의 오인ㆍ혼동을 유발하여 국민의 건강과 재산에 심각한 피해를 줄 우려가 큼.

그러나 현행법상 인공지능기술을 이용한 허위 광고를 정보통신망에서 즉시 차단할 수 있는 명시적 근거가 부족하고, 심의 절차에 상당한 시간이 소요되어 피해 확산을 조기에 막기 어려운 실정임.

이에 AI 생성물에 대한 표시 의무를 도입하는 한편 법령에서 금지하는 불법 표시ㆍ광고에 해당하는 인공지능기술을 활용한 광고를 불법정보로 명확히 규정하고, 긴급한 경우 관계 기관의 요청으로 신속하게 임시조치를 할 수 있도록 하여 건전한 시장 질서를 확립하고 이용자를 보호하려는 것임.

주요내용 가.

인공지능시스템을 이용하여 생성한 실제와 구분하기 어려운 가상의 음향ㆍ이미지 또는 영상 등의 정보(이하 “인공지능 생성물”이라 함)를 직접 제작ㆍ편집하여 제공하려는 자로 하여금 해당 사실을 이용자가 명확하게 인식할 수 있도록 고지 또는 표시(이하 “표시등”이라 함)할 의무를 부과함(안 제43조의2제1항 신설).

나.

누구든지 인공지능 생성물의 유통 시 표시등을 훼손하거나 위조ㆍ변조하는 행위를 금지하고, 정보통신서비스 제공자로 하여금 자신이 운영ㆍ관리하는 서비스에서 표시등의 지원 및 훼손ㆍ위조ㆍ변조를 방지하기 위한 기술적ㆍ관리적 조치를 하도록 함(안 제43조의2제2항 및 제3항 신설).

다.

인공지능 생성물을 활용한 광고성 정보 중 관계 법령에서 금지하는 표시ㆍ광고에 해당하는 내용의 정보를 정보통신망에서 유통이 금지되는 불법정보로 규정함(안 제44조의7제1항제5호의2 신설).

라.

관계 중앙행정기관의 장이 인공지능 생성물을 활용한 불법 광고로 인해 국민의 생명ㆍ재산에 대한 피해가 발생할 우려가 있어 삭제를 요청하는 경우 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의위원회의 심의를 거쳐 해당 정보의 처리를 거부ㆍ정지ㆍ제한하도록 명하도록 함(안 제44조의7제5항 신설 등).