정부가 인공지능(AI)을 활용한 가짜 의사 등 허위·과장 광고로 인한 시장 질서 교란과 소비자 피해를 막기 위해 신속 차단에 방점을 둔 종합 대응 방안을 발표했습니다.

정부는 오늘(10일) 오전 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했습니다.

최근 AI로 만든 가짜 전문가나 유명인 딥페이크를 이용한 허위·과장 광고가 식·의약품 분야를 중심으로 급증하면서, 특히 노년층 등 소비자 피해를 야기하고 시장 질서를 교란한다는 지적에 따른 조치입니다.

정부는 AI 허위·과장 광고에 대해 유통 전 사전 방지, 유통 시 신속 차단, 그리고 제재 강화 및 단속 역량 확충 등 세 가지 방향으로 대책을 추진합니다.

방송미디어통신위원회는 유통 전 사전 방지 대책으로 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 플랫폼 등에 AI 생성물 표시제를 도입합니다.

이에 따라 AI 생성물을 제작·편집해 게시하는 '직접 정보제공자'는 해당 사진·영상이 AI로 제작된 사실을 표시해야 합니다. 플랫폼 이용자가 이 표시를 제거하거나 훼손하는 행위는 금지되며, 플랫폼사는 직접 정보제공자의 표시 의무 준수 여부를 관리해야 합니다. 과학기술정보통신부는 AI 사업자의 표시 의무 이행과 투명한 사용을 돕기 위한 가이드라인을 마련할 예정입니다.

방송미디어통신위원회와 방송미디어통신심의위원회는 유통 시 신속한 차단을 위해 AI 허위·과장 광고가 빈발하는 식·의약품, 화장품, 의료기기 등의 영역을 서면심의 대상에 추가하는 법 개정을 추진합니다.

법 개정이 이뤄지면 이들 영역의 허위·광고에 대해 심의 요청 후 24시간 이내에 신속한 심의가 가능할 것으로 기대됩니다. 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요할 경우, 방미통위는 플랫폼사에 긴급 시정요청 절차를 도입해 방미심위 심의 완료 전에도 차단 조치가 이뤄지도록 할 방침입니다.

위법 행위자에 대한 제재도 강화됩니다. 공정거래위원회와 식품의약품안전처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화합니다.

AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고행위는 '소비자를 기만하는 광고'에 해당합니다. 방미통위와 공정위는 정보통신망 등에서의 악의적인 허위·조작 정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배)을 도입하고, 표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향 조정할 계획입니다.

정부는 대책에 포함된 법령·제도 개선 등을 조속히 추진하고, 플랫폼 업계 및 소비자 단체 등 이해관계자와도 긴밀히 소통할 예정입니다.

김민석 국무총리는 이번 대책을 통해 신기술의 부작용을 최소화하고 AI 시대에 걸맞은 시장 질서를 확립할 것이라고 밝혔습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

김동욱(DK1@yna.co.kr)