호주 대형마트의 인공지능 챗봇이 고객 상담 중 존재하지도 않는 '엄마' 이야기를 하며 횡설수설하는 일이 벌어져, 마트 측이 급히 조치에 들어갔습니다.

27일 AFP 통신에 따르면, 호주의 대형마트 울월스는 AI 상담 챗봇 '올리브'가 어머니에 대한 이야기를 하는 등 맥락과 맞지 않는 답변을 한다는 신고를 받고 일부 기능을 제한했습니다.

최근 몇 주 간 올리브가 이상한 말을 한다는 경험담이 온라인 커뮤니티와 SNS 등을 통해 퍼졌습니다.

한 사용자는 "올리브가 생년월일을 물었고, 날짜를 알려주자 '우리 엄마도 같은 해에 태어났다'고 횡설수설했다"고 밝혔습니다.

또 다른 사용자는 "올리브가 거짓으로 농담을 하고, 친척 이야기를 하고, 가짜로 타자 치는 소리를 냈다"고 말했습니다.

"올리브가 자신을 진짜 사람이라고 주장하고, 어머니의 '화난 목소리' 등 어머니에 대한 기억을 이야기했다"는 사례도 전해졌습니다.

AFP에 따르면, 울월스 측은 "'생일에 대한 답변'은 고객에게 더 인간적인 방식으로 다가가기 위한 목적으로 몇 년 전 한 직원이 작성했던 것"이라고 해명했습니다.

그러면서 고객 의견을 반영해 해당 답변을 삭제했다고 밝혔습니다.



한편, AI가 고객을 불편하게 만들었던 사례는 세계 곳곳에서 쉽게 찾아볼 수 있습니다.

지난 2024년 미국 맥도날드는 '드라이브 스루'에 AI 직원을 시범 도입했다가, 황당한 오류가 발생해 사용을 중단했습니다.

당시 화제를 모은 한 틱톡 영상에는 AI가 주문을 잘못 알아듣는 바람에 무려 260개에 달하는 맥너겟이 주문되는 모습이 담겨 있었습니다.

같은 해 캐나다 항공사 에어 캐나다는 2022년 AI 챗봇이 고객에게 잘못된 환불 방침을 안내한 데 대해 법원으로부터 배상 명령을 받았습니다.

당시 에어 캐나다 챗봇은 '유족할인 소급적용이 가능한지'를 묻는 고객 질문에 '가능하다'고 안내하며 규정 페이지 링크를 보냈는데, 정작 규정에는 '소급 적용 불가' 방침이 적혀 있었습니다.

챗봇이 모순된 정보를 제공한 겁니다.

에어 캐나다는 챗봇이 '오해의 소지가 있는 표현'을 사용했다면서도 제공된 규정에 정확한 정보가 나와 있기 때문에 책임을 질 필요가 없다고 주장했으나, 법원은 2년 뒤 고객 손을 들어줬습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

박지운(zwoonie@yna.co.kr)