고객 서비스 업무를 처리하기 위해 은행의 챗봇에 대한 의존도가 높아짐에 따라 소비자 감시원이 걱정됩니다.

뉴욕(AP) — Erica, Sandi 또는 Amy가 부정확한 정보를 제공하거나 잘못된 곳으로 돈을 보내지 않고도 금융 생활의 일부를 점점 더 통제할 수 있다고 믿을 수 있습니까?

소비자 금융 보호국(Consumer Financial Protection Bureau)은 화요일 발표된 보고서에서 일상적인 고객 서비스 요청을 처리하기 위해 은행에서 챗봇 사용이 증가하는 것에 대한 여러 가지 우려를 제시하는 내용을 요구하고 있습니다.

CFPB는 은행이나 대출 서비스 회사가 인간 고객 서비스 직원을 줄이고 AI에 점점 더 많은 일상적인 작업을 맡길 수 있다고 우려합니다. 또한, 규제 당국은 잘못 설계된 챗봇은 부채 추심 방법이나 개인 정보 사용 방법을 규율하는 연방법을 위반할 수 있다고 밝혔습니다.

CFPB의 로히트 초프라 국장은 AP통신과의 인터뷰에서 "기업이 이러한 서비스를 제대로 배포하지 않으면 광범위한 고객 피해가 발생할 위험이 크다"고 말했습니다.

지난 몇 년 동안 은행에서는 산탄데르의 Sandi, HSBC의 Amy, Capital One의 Eno와 같은 여성스러운 이름을 사용하는 챗봇을 사용하여 점점 더 많은 고객 서비스 요청을 처리해 왔습니다.

Bank of America는 Erica 브랜드로 가장 크고 성공적인 금융 챗봇을 운영하고 있습니다. 미국의 마지막 다섯 글자인 Erica는 이제 BofA 고객의 연간 수억 건의 문의를 처리합니다.

처음에 은행 챗봇은 고객의 주소나 전화번호 변경, 고객에게 가장 가까운 지점 위치 또는 계좌의 라우팅 번호를 알려주는 등의 기본적인 문의에 사용되었습니다. 그러나 은행이 이러한 서비스에 수백만 달러를 투자함에 따라 챗봇은 특히 정교해졌으며 전체 문장을 이해하거나 고객이 돈을 이동하거나 청구서를 지불하도록 도울 수도 있습니다.

CFPB는 지난해 미국인 10명 중 약 4명이 은행 챗봇과 상호작용한 것으로 추정하고 있으며, 이 수치는 앞으로도 늘어날 것으로 예상하고 있습니다.

은행들은 더욱 발전된 AI와 유사한 서비스를 출시할 준비를 하고 있습니다. JPMorgan Chase는 고객이 적절한 투자를 선택할 수 있도록 ChatGPT와 인공 지능을 사용할 계획을 개발 중인 것으로 알려졌습니다. Bank of America 은행가는 Erica를 사용하여 고객 프로필을 구축하고 잠재적으로 해당 고객에게 제품을 추천할 수 있습니다.

이러한 서비스를 통해 고객은 일상적인 질문을 하기 위해 사람에게 연락하기 위해 대기하는 시간을 몇 분 또는 몇 시간 단축할 수 있지만, 기관에서는 이러한 챗봇이 고객에게 부정확한 정보를 제공하지 않고 소비자 보호법의 미묘한 차이와 복잡한 성격을 처리할 수 있을지에 대해 우려하고 있습니다.

초프라는 "부채 또는 거래 분쟁과 관련하여 고객에게 권리를 부여하는 연방법이 있으며 고객 서비스 상담원이 챗봇으로 대체되는 경우 해당 소프트웨어가 고객에게 부정확한 정보를 제공하면 문제가 될 수 있다"고 말했습니다.

또한, 국은 나이가 많은 고객이나 기본 언어가 영어가 아닌 고객이 결국 고객 서비스 "루프"에 빠져 상담원에게 연락할 수 없다는 사실을 발견했습니다.

"우리는 고객이 로봇과 순환 논쟁에 갇히거나 잘못된 정보를 얻는다는 불만을 몇 번이고 발견했습니다."라고 그는 말했습니다.

현재 CFPB 이사이자 이전에 연방거래위원회 위원이었던 초프라는 은행과 기업이 알고리즘이나 인공지능 소프트웨어를 제대로 구현하지 않으면 소비자법을 위반할 수 있다는 우려를 반복적으로 제기해 왔습니다. Microsoft, Google 및 기타 회사의 챗봇이 메시지를 받을 때 편견 언어를 사용했다는 보고가 많이 있었습니다.