인도네시아 정부가 성 착취물을 생성해 논란을 일으킨 챗봇 '그록'(Grok) 서비스를 차단한 지 3주 만에 이 조치를 해제했습니다.

현지시간 2일 로이터·AFP 등에 따르면 인도네시아 통신디지털부는 전날 성명에서 그록 서비스 접속을 다시 허용한다고 밝혔습니다.

통신디지털부 고위 관계자는 "서비스 개선과 오용 방지를 위한 구체적 조치를 담은 약속을 서면으로 받았다"며 "조건부로 접속이 복원되고 있다"고 설명했습니다.

이어 "그록을 계속 감독하고 평가할 것"이라며 위반이 발견되면 재차 서비스를 중단하는 등 시정 조치를 하겠다고 밝혔습니다.

일론 머스크 테슬라 최고경영자(CEO)의 AI(인공지능) 회사인 xAI의 그록은 지난해 12월 AI를 이용한 '딥페이크'(이미지 합성 기술)로 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스(X)를 통해 유포해 논란을 일으켰습니다.

이 사진들은 "여성들 사진을 비키니 차림으로 편집해 달라"는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐습니다.

그록이 성 착취물 생성으로 논란이 일으킨 후 인도네시아는 세계에서 처음으로 이 서비스 접근을 차단했습니다.

이후 유럽 국가들과 말레이시아 등도 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔습니다.

영국 미디어 규제 당국 오프콤(OfCom)과 미국 캘리포니아주 검찰은 그록과 관련해 수사에 착수했으며 필리핀 정부도 그록 접속을 차단했다가 해제했습니다.

논란이 커지자, 엑스와 xAI 측은 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하고, 실제 인물의 이미지로 비키니 수영복이나 속옷 차림 등 노출이 심한 이미지를 만들지 못하게 조치했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이성섭(leess@yna.co.kr)