[앵커]

AI 기술의 발전으로 진짜인지 가짜인지 분별이 어려운 각종 딥페이크 콘텐츠들이 난무하고 있죠.

국정감사장에서도 등장했습니다.

정부는 딥페이크 피해를 막기 위해 'AI 결과물 표시의무제'를 뒀지만 사각지대에 대한 우려 섞인 목소리도 큽니다.

이에 정부가 규제 강화를 검토하기로 했는데, 실효성에 대한 의문도 여전합니다.

문형민 기자입니다.

[기자]

국정감사 첫날, 과학기술정보방송통신위원회에 AI로 만든 가짜 녹취 영상이 등장했습니다.

<김장겸 / 국회 과방위 소속(국민의힘)> “경각심을 일으키는 차원에서 페이크 영상을 하나 준비했습니다.”

<AI 생성 가짜 녹취 영상> “이춘석이 그 시기에 국정기획위에 있었잖아. 정부 AI사업도 보고 받고, 그쪽에 관심이 많았나봐. (그래? 그래서 배경훈이랑?)”

배경훈 과학기술부총리와 무소속 이춘석 의원이 비밀 회동하는 듯한 상황을 AI 딥페이크 영상과 녹취로 만들어 재생한 건데, 여당 의원들의 항의로 감사가 일시 중단되기도 했습니다.

이런 혼란을 막기 위해 정부가 도입하는 게 ‘AI 기본법’의 핵심인 ‘AI 결과물 표시 의무제’.

AI가 만든 모든 콘텐츠에 ‘AI가 만들었다’는 ‘워터마크’를 남기도록 의무화하겠다는 겁니다.

다만 사람들이 바로 확인할 수 없게 콘텐츠 파일 내부에 표식을 남기는 비가시적 워터마크도 허용되는데, 이 경우엔 디지털 판독 과정을 거쳐야만 AI 생성물 여부를 알 수 있습니다.

<최민희 / 국회 과학기술정보방송통신위원장> "각종 페이크에 대해 기계가 피해를 봅니까? 누가 피해봅니까? 사람이 보죠. 그럼 사람이 판독할 수 있어야죠. 이거 재고해야 됩니다."

이 같은 지적에 과기정통부는 비가시적 워터마크 허용 방침을 재검토하겠다는 계획입니다.

다만, AI 기술의 고도화로 워터마크를 제거하거나 변조할 수 있는 각종 도구들도 흔한 만큼, 가시적 워터마크 의무화만으로 관련 피해를 모두 막기에는 역부족이라는 지적도 나옵니다.

'워터마크' 기술 자체의 불완전성을 보완할, 보다 실효성이 있는 대책이 필요해 보입니다.

연합뉴스TV 문형민입니다.

[영상편집 최윤정]

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

문형민(moonbro@yna.co.kr)