"개인 노력만으론 역부족"…딥페이크 예방 기술 현주소는

[앵커]

최근 딥페이크가 논란이 되면서 피해 예방에도 관심이 모아지고 있습니다.

자기 얼굴이 나온 프사를 삭제하는 등 개인의 노력도 있지만, 역시 이걸론 역부족입니다.

보다 근본적으로 기술 개발이 필요한데요.

이런 노력을 기울이는 기업들을 만나봤습니다.

최덕재 기자입니다.

[기자]

버락 오바마 전 미국 대통령과 미국의 한 유명 영화배우 겸 코미디언의 영상입니다.

한 IT보안·인증 플랫폼 기업이 자체 개발한 기술로 눈이나 입 등 움직임과 색감의 변화를 분석해보니, 오바마 전 대통령 영상이 딥페이크일 확률은 90%를 훌쩍 넘습니다.

반면 나머지 영상이 진짜일 확률은 90%를 넘습니다.

실제로 오바마 전 대통령 영상은 가짜, 다른 영상은 진짜입니다.

이 기술을 이용하면 개인이나 공공기관 등이 딥페이크 피해를 입증할 수 있고, 더 심각한 피해를 보는 것도 어느 정도 예방할 수 있어 보입니다.

<박현우 / 라온시큐어 AI연구센터장> "'입 모양을 좀 자세히 봐봐' 또는 '특정 색깔을 좀 더 자세히 보는 게 좋겠어' 이렇게 계속 명령을 내려주는 겁니다. 여러 개의 AI 모델을 같이 사용해서 종합 점수를 통해서 결과를 알려주는 형태로 되어 있습니다."

앞으로 생성형AI 기술이 발전하면 기존 머신러닝으로 만든 것보다 훨씬 현실적이고 정교한 딥페이크도 가능할 것으로 전망되는데, 이 때 발생할 수 있는 피해를 예방하기 위한 연구도 진행 중입니다.

<윤두식 / 이로운앤컴퍼니 대표> "이미지에 노이즈를 생성시켜서 딥페이크를 생성하는 엔진들이 학습을 해도 제대로 페이크된 이미지가 나오지 않도록 하는 그런 기술들을 연구를 하고 있고요. 실제로 이게 그 사람이냐를 먼저 판별하는 그런 쪽의 연구도 같이 진행을 하고 있습니다."

다만 개인정보를 보호해야 한다는 측면과 더불어 비용 부담이 크다는 점은 딥페이크 방지 기술 개발을 위한 데이터 수집에서 넘어야 할 난제입니다.

연합뉴스TV 최덕재입니다. (DJY@yna.co.kr)

[영상취재 : 윤제환]

#딥페이크 #예방 #AI #기술

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)