중국의 소셜미디어 플랫폼들이 이달부터 시행된 법규에 따라 인공지능(AI)으로 생성한 콘텐츠 게시물에 'AI 생성'을 표기하고 있습니다.

2일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 '위챗'과 '더우인'(틱톡의 중국판) 등은 전날부터 AI로 생성한 텍스트와 이미지, 음성, 영상 등 모든 형식의 콘텐츠에 AI 생성 표기를 제공하고 있습니다.

위챗은 전날 "콘텐츠 창작자는 자발적으로 모든 AI 생성 콘텐츠에 관련 표기를 해야 한다"고 밝혔습니다.

위챗은 또 "플랫폼이 추가한 AI 표기의 삭제나 변조, 위조, 은폐 등을 엄격히 금지하며 AI를 이용한 허위 정보 생성과 저작권 침해 등의 불법 행위를 금지한다"고 공지했습니다.

더우인도 전날 공지를 통해 AI로 생성한 콘텐츠를 게시할 때 가시적인 표기를 추가하도록 요구했으며 메타데이터를 통해 모든 콘텐츠의 출처를 점검할 것이라고 밝혔습니다.

아울러 웨이보는 AI 표기를 하지 않은 콘텐츠를 이용자가 신고할 수 있도록 했으며 '중국판 인스타그램'이라고 불리는 샤오훙수는 이용자가 AI 생성 표기를 하지 않은 콘텐츠에 대해서는 법규에 따라 자체적으로 관련 표기를 추가할 권리가 있다고 안내했습니다.

앞서 중국국가인터넷정보판공실 등 4개 부처는 지난 3월 'AI 생성·합성 콘텐츠 표식 방법'을 발표하면서 9월부터 시행한다고 밝힌 바 있습니다.

이 규정은 콘텐츠 외부에 표기할 경우 사용자가 분명히 알아볼 수 있도록 해야 하며 콘텐츠 내부에 표식할 경우 디지털 워터마크 등의 형태로 제공하도록 했습니다.

또 어떤 조직이나 개인도 식별 정보를 악의적으로 삭제하거나 변조, 위조 또는 은폐해서는 안 된다고 규정했습니다.

국내에서도 실제와 구분하기 어려운 AI 영상이 별다른 표기 없이 게시돼 사회적 혼란을 불러일으켜 논란이 된 바 있습니다.

지난 6월, 대선을 앞두고는 후보들의 얼굴을 합성한 AI 딥페이크 영상이 잇따라 공개됐습니다.

이 영상에서는 후보가 실제로 한 말이 아님에도, 음성을 조작해 실제 발언처럼 보여 사회적 혼란을 초래할 우려가 커졌습니다.



지난 7월에는 ‘산을 뒤덮은 러브버그를 먹는 참새’라며 여러 언론사에서 보도했지만 AI로 제작된 사진임이 밝혀져 논란이 일었습니다.

또한, 러브버그 살충 작업을 비판하는 동물환경보호가의 인터뷰 영상도 온라인에서 확산되며 비난을 받았으나 이 영상 역시 AI로 제작된 것으로 드러났습니다.

이처럼 실제와 구분하기 어려운 AI 영상은 재미를 넘어 가짜 뉴스·사기 등 악용 위험성이 커지고 있습니다.

국내에서는 AI 기본법이 지난해 12월 국회를 통과해 내년 1월 시행될 예정이었으나, AI 콘텐츠에 워터마크를 표기하도록 하는 조항을 3년간 유예하자는 개정안이 발의되는 등 법적 공백 우려가 남아 있습니다.

AI 기본법 제31조~제35조는 인공지능 창작물에 ‘인공지능의 작품’임을 워터마크 등으로 표기하고, 사업자의 책임과 의무를 규정하는 내용을 담고 있습니다.

개정안은 이 조항들이 AI 기술 발전을 저해하고 기업 혁신을 위축시킬 수 있다며 규제 조항은 2029년 1월 22일로 3년간 유예하도록 했습니다.

이에 인권위는 딥페이크 범죄가 지난해 10월 기준 전년 대비 518% 급증한 상황에서 해당 조항 시행을 유예할 경우, 인공지능 기술로 인한 인권 침해를 예방할 장치가 장기간 공백 상태에 놓이게 된다고 지적했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

김민서(ms3288@yna.co.kr)