[탐사보도 뉴스프리즘] AI가 만든 가짜뉴스와 알고리즘의 잘못된 만남, 결과는

[오프닝: 이광빈 기자]

안녕하십니까 이광빈입니다. 우리 사회의 문제점을 진단하고, 지속 가능한 사회를 모색하는 뉴스프리즘 시작합니다.

[영상구성]

[이광빈 앵커]

지난달 말 영국에서 어린이 3명이 흉기 난동으로 숨진 뒤 가짜뉴스가 퍼지면서 영국 전역이 대규모 폭동 시위로 홍역을 앓았습니다. 영국 총리실이 소셜미디어상의 선동 콘텐츠를 사태 악화의 주범으로 지목한 가운데, X의 소유주인 일론 머스크는 영국 내각의 대응을 비판하며 논란이 벌어지기도 했는데요. 미국에서도 가짜뉴스를 놓고 사회적 논란이 커지고 있습니다. 오는 11월 대선을 앞두고 음모론에 기댄 가짜뉴스가 넘쳐나고 있는데요. 소셜미디어상의 허위 정보와 관련 규제 문제, 먼저 윤석이 기자가 살펴봤습니다.

[가짜뉴스에 영국 '극우 폭동'…대선앞둔 미국도 '몸살' / 윤석이 기자]

[기자]

지난 4일 잉글랜드 로더럼. 난민 수용시설로 알려진 한 호텔 앞에 시위대가 몰려들었습니다.

<현장음 / 지난 4일 잉글랜드 로더럼>

저들을 내쫓아라! 저들을 내쫒아라!

극우 폭력시위에 반대하는 시민들도 거리로 나섰습니다.

<현장음 / 지난 4일, 잉글랜드 랭커스터>

나치 쓰레기들아, 우리 거리에서 나가라! 나치 쓰레기들아, 우리 거리에서 나가라!

지난달 29일 어린이 3명이 숨진 댄스교실 흉기난동 사건과 관련해 범인이 '무슬림 이민자'라는 가짜 뉴스가 확산하며 폭력 시위로 번진 겁니다. 경찰은 범인이 영국 태생의 17세 남성이라고 확인했고, 기독교인이었지만 시위를 잠재우진 못했습니다.

<키어 스타머 / 영국총리(지난 4일)>

이건 시위가 아니라 조직적이고 난폭한 폭력 행위입니다. 그건 거리에서도 온라인에서도 용납될 수 없습니다. 있는 그대로 말하겠습니다. 이건 극우의 폭력입니다.

엑스(X)를 소유하고 있는 일론 머스크 테슬라 최고경영자는 시위와 관련해 "내전은 불가피하다"며 논란에 기름을 부었습니다.

오는 11월 대선을 앞둔 미국에서는 온갓 음모론과 가짜뉴스, 혐오 표현이 홍수를 이루고 있습니다. 트럼프 전 대통령 피격 사건과 관련해 '바이든의 꼭두각시가 공격했다'거나, 흑인 여성으로 대선 후보인 해리스 부통령에 관한 인종차별적 비방들도 넘쳐나고 있습니다.

<일론 머스크 / 테슬라 최고경영자(지난 13일)>

석유와 가스업계를 악마화해서는 안 된다고 생각해요. 인류에게는 아직 시간이 있어요. 농부들이 농사를 못 짓게 하거나 사람들이 스테이크를 못 먹게 하는 등 (탄소 배출을 줄이기 위해) 서두를 필요가 없다는 거죠.

가짜 계정인 '봇(BOT)'의 증가와 인공지능 도구의 발달로 정치인과 유명인들의 딥페이크 영상들도 쉽게 퍼지고 있습니다.

트럼프 전 대통령은 팝스타 테일러 스위프트가 자신을 지지하는 가짜 사진을 소셜미디어에 올리고 "수락한다"고 적어 빈축을 샀습니다.

독일에서는 유력 언론사와 똑같은 가짜 홈페이지를 통해 허위 정보가 유포되기도 했습니다. 'SNS 가짜 선동'에 몸살을 앓은 영국 정부는 결국 '온라인 규제법'을 손질해 가짜뉴스 유통을 통제하기로 했습니다.

앞서 유럽연합(EU)은 엑스가 허위·불법콘텐츠 확산 방지 의무를 준수하지 못했다고 잠정 결론을 내렸습니다.

<토마스 레니에 / EU 집행위원회 대변인(지난달 13일)>

오늘 EU 집행위원회는 엑스가 세 가지 영역에서 디지털서비스법을 위반했다는 예비 조사 결과를 통보했습니다.

극단주의 반대모임의 린지 슈비너 국장은 "인터넷 스스로 편견이나 음모론을 만드는 것은 아니라며 다만 확산의 범위와 속도가 급격하게 늘고 있다"고 우려했습니다.

연합뉴스TV 윤석이 입니다.

#가짜뉴스 #영국 #미국_대선 #독일 #일론_머스크_엑스

[이광빈 앵커]

가짜뉴스, 생성형 AI를 만나면서 소셜미디어에서 확산의 폭발력이 커졌습니다. 우리나라에서도 유튜버 쯔양 협박 사건과 사이버레커 논란 이후 관련 규제 논의에 속도가 붙고 있는데요. 홍석준 기자입니다.

[소셜미디어 가짜뉴스 확산…못 따라가는 규제·처벌 / 홍석준 기자]

[기자]

영국 흉기난동 사건 직후 소셜미디어 엑스에는 '알리 알샤카티'라는 무슬림 이민자가 범인이라는 소문이 돌기 시작했습니다.

피의자는 영국에 건너온 망명 신청자로, 영국 비밀정보국 MI6의 감시 명단에 있다고도 소개됐습니다. 뉴스기사 형식의 글로 둔갑한 소문은 알고리즘을 타고 삽시간에 퍼져 나갔습니다.

그러나 '알리 알샤카티'는 실존하지 않는 인물이었습니다.

가짜뉴스 전문가인 카타르 하마드 빈 칼리파 대학의 마크 오언 존스 교수는 피의자를 무슬림이나 난민 등으로 언급하거나 추정하는 엑스 게시물이 2,700만회 이상 노출됐다고 밝혔습니다. 생성형 AI가 작성한 것으로 추정되는 기사 형식의 글과 소셜 미디어의 추천 알고리즘이 만나 가짜뉴스를 폭발적으로 확산시킨 겁니다.

<구정우/성균관대 사회학과 교수>

가짜뉴스라고 하는 것들을 요즘은 쉽게 AI를 활용해서 만들 수가 있는 상황이기 때문에 최신 기술을 오히려 혐오를 부추기는 도구로 활용한 측면이 있다고 봐야 되겠죠.

우리나라도 가짜뉴스로 인해 골머리를 앓는 건 마찬가지입니다. 국내에선 특히 유튜브에서의 가짜뉴스 제작, 확산이 문제시 되고 있습니다.

최근 유튜버 쯔양 협박 사건이 수면 위로 떠오르면서 유명인을 대상으로 한 악의적 편집과 짜깁기를 하는 이른바 '사이버레커'에 대한 사회적 공분이 커졌습니다. 하지만 이를 막을 만한 제도는 아직 미비한 실정입니다.

<구정우/성균관대 사회학과 교수>

우리는 디지털 규제라든가 AI 규제 관련된 합리적인 법 시스템이 존재하지 않는 상황이기 때문에…

가짜뉴스로 타인의 명예를 훼손했을 시 솜방망이 처벌에 그친다는 것도 가짜뉴스의 확산을 부추긴다는 지적이 나옵니다.

<홍석준 기자>

대검찰청 자료에 따르면 지난해 정보통신망법상 명예훼손으로 접수된 사건은 8천7백여 건으로, 그 중 약 22%에 해당하는 1천8백여 건만 재판에 넘겨졌고 이중 1천6백여 건이 벌금형 약식기소 처분으로 종결됐습니다.

'가짜뉴스 처벌을 강화해야 한다'는 국회 입법 청원이 이어진 가운데 정보통신망법 일부 개정안이 발의됐습니다.

<노종언/변호사>

민사적으로 위자료 청구를 한다 하더라도 위자료 액수는 1천만원, 2천만원 정도에 그치는 게 현실인데 반해서 사이버레커로 인해서 발생하는 피해는 막심합니다.

또 가짜뉴스를 생산해 얻는 수익이 큰 것에 대해서 제재가 필요하다는 주장도 제기됐습니다.

<노종언/변호사>

'이익이 있는 곳에 범죄가 있다' 그래서 사이버레커에 대한 근원적인 해결 방안을 마련하기 위해선 사이버레커가 가짜뉴스를 양산함으로써 얻는 그 이익을 전면적으로 몰수하고…

AI를 이용한 허위정보 또는 가짜뉴스의 확산을 억제하지 못한다면 향후 사회에 극심한 혼란을 초래할 심각한 잠재적 위험요소로 작용할 전망입니다.

연합뉴스TV 홍석준입니다.

#가짜뉴스 #허위정보 #소셜미디어

[진행자 코너]

최근 영국에서 가짜뉴스에 의한 대규모 폭동으로 유럽연합(EU)의 디지털시장법(DSA)이 주목을 받고 있습니다. 영국이 디지털시장법을 참고해 온라인상 허위 정보에 대한 규제를 강화할 것이라는 전망이 나오는데요.

EU의 디지털시장법은 온라인 플랫폼이 혐오와 차별 표현, 허위 정보 등 불법적인 정보를 자체적으로 걸러내도록 하는 내용입니다. 구글, 메타 등 유럽연합 역내에서 이용자 4천500만 명 이상의 19개 플랫폼이 적용 대상인데요. 서비스 사업자가 이를 어길 경우 전 세계 매출의 6%까지 과징금을 부과받을 수 있으며, 반복적으로 위반할 경우 유럽연합 내에서 서비스가 퇴출될 정도로 처벌이 강력한 법입니다.

이 법은 경제적으로 미국의 글로벌 공룡 온라인 플랫폼을 견제하려는 의도도 있다는 분석이지만, 혐오 표현에 대해 유럽 사회가 쌓아온 문제의식이 다분히 담겨 있습니다.

이 법의 모태는 독일에서 실질적으로 2018년 1월부터 시행된 '소셜네트워크 내 법 집행 개선법'(NetzDG)입니다. 여기서 SNS위법규제법이라고 부르겠습니다.

SNS위법규제법은 기존 형법을 근거로 하고 있습니다. 혐오·증오 표현, 테러선동·허위정보 등을 규제하는 형법 조항이 온라인에서도 적용되도록 옮겨 놓은 셈입니다. 2015년 시리아 난민이 독일로 대거 몰려온 뒤 난민에 대한 증오와 허위 정보 등이 온라인상에서 문제가 되면서 법 제정 논의에 탄력이 붙었습니다.

이제 이 법은 독일이 유럽연합의 디지털시장법을 국내에 적용해 새로운 법을 만들면서 폐기됐는데요. 사실상 법 이름만 바뀐 셈이지 그 취지는 이어지고 있습니다. 그러면 독일에서 SNS위법규제법은 현실적으로 효과가 있었을까요.

유튜브의 2023년 상반기 투명보고서를 살펴보면, 2023년 1월에서 6월까지 이 법에 따른 총 신고수는 19만3천131건입니다. 이 가운데 16%인 3만870건이 삭제됐는데요.

신고된 이유로는 '증오 표현 및 정치 극단주의' 콘텐츠가 29.5%로 가장 높았습니다. 또, '명예훼손 및 모욕' 콘텐츠는 14.4%, '테러리스트 또는 위법 콘텐츠'는 7%를 차지했습니다.

소셜미디어 X도 2023년 1월에서 6월까지 총 110만1천456건이 신고돼 이 가운데 24% 정도가 삭제됐습니다.

독일 정부는 법 제정 후 효과를 긍정적으로 자체 판단하지만, 아직 불법 콘텐츠 감소에 얼마나 영향을 미쳤는지에 대해선 분석이 더 필요해 보입니다.

독일 등 유럽에선 디지털시장법 등을 놓고 온라인 플랫폼이 '사실상 판사 역할을 하는 것 아니냐'는 비판적인 시선이 여전합니다. 디지털시장법은 우리나라에서도 많이 소개돼 왔는데요. 어떤 점이 적용 가능한지에 대해선 부작용 등을 감안해 심층적인 논의가 필요할 것으로 보입니다.

[이광빈 앵커]

지난 2018년 4월 독일 도시 뮌스터에서 차량 돌진 사건이 발생해 3명이 사망하고 20여 명이 다쳤습니다. 곧바로 극단주의 정치인들은 이슬람 난민을 사건의 배후로 암시하는 내용의 글을 소셜미디어에 남겼는데요. 가뜩이나 당시 유럽에서 발생한 주요 차량 돌진 사건이 이슬람 극단주의자에 의한 테러였다는 점에서 테러 가능성이 의심되는 상황이었습니다. 이슬람 난민 테러설이 확산하자, 수사당국은 신속하게 "이슬람과 연관 있다는 어떤 증거도 없다"고 못을 박았고, 주요 지도자들도 현장을 방문해 루머 차단에 나섰습니다. 언론도 루머의 근원지가 된 극단주의 정치인들을 질타했고, 온라인상에서 허위 정보나 선동적인 게시물의 확산도 제한적이었습니다. 이를 통해 이번 영국 폭동 시위와 같은 불행한 사태를 피할 수 있었던 것이죠.

소셜미디어상의 허위 정보에 대한 규제 문제도 면밀하게 논의해야겠지만, 허위 정보와 선동에 차분히 대응할 수 있는 사회적 내공도 키워나가야 하지 않을까요. 이번 주 뉴스프리즘 여기까지입니다. 시청해주신 여러분, 고맙습니다.

PD 임혜정

AD 최한민

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)