딥페이크·사이버해킹 기승…AI 안전연구소 개소

[앵커]

인공지능 AI 기술이 고도화되면서 그 위험성 역시 대두되고 있죠.

이에 안전하고 신뢰할 수 있는 AI 기술이 그 어느 때보다 중요한데요.

정부가 AI의 위험에 대응하기 위해 전담기관인 'AI안전연구소'를 공식 출범시켰습니다.

문형민 기자가 보도합니다.

[기자]

AI는 빠르게 진화하며 우리의 삶을 바꾸고 있습니다.

AI 챗봇이 사용자와 자연스럽게 소통하는가 하면, 간단한 명령어로 사진과 영상을 뚝딱 만들어내기도 합니다.

여기에 AI 로봇과 자율주행 등 각종 기술들로 삶의 편의성은 크게 향상되고 있습니다.

<염재호 / 국가 AI위원회 부위원장> "AI 기술의 발전으로 인류는 생산성 혁신과 과학적 진보를 이루고, 누구나 일상 속에서 쉽게 AI의 효용을 누릴 수 있게 됐습니다."

다만, AI 기술 발달에 따른 안보 위협에 국가 차원으로 대응해야 할 필요성 역시 커졌습니다.

AI가 잘못된 정보를 제공하는 '할루시네이션' 등 기술적 한계는 물론, 딥페이크와 사이버 해킹 등 인간의 악용이 바탕이 된 AI의 위험성이 나날이 커지고 있기 때문입니다.

<류광준 / 과학기술정보통신부 과기혁신본부장> "안전은 지속 가능한 AI의 전제이며 AI 분야에 종사하는 우리 모두가 함께 해결해 나가야 할 가장 큰 도전과제입니다."

이에 정부가 AI 위험 대응 전담기관인 'AI 안전연구소'를 공식 출범시켰습니다.

AI 안전연구소는 AI 위험을 예방할 수 있는 정책과 기술을 연구 개발하고, AI 안전 분야의 경쟁력 있는 인력을 육성하는 등의 역할을 하게 됩니다.

<김명주 / AI 안전연구소장> "글로벌 표준에도 참여를 해서 우리나라 기업이 세계로 나아갈 때 위험·안전 장애로 어려움을 겪지 않는데 있어서 가장 큰 역할을…."

정부는 또 연구소를 중심으로 산업계와 학계 24곳이 참여한 AI 안전컨소시엄을 운영하는 한편, 국제 AI 안전연구소 네트워크의 회원국으로서 활동 범위를 넓힐 계획입니다.

연합뉴스TV 문형민입니다. (moonbro@yna.co.kr)

#AI안전연구소

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

(끝)