싱가포르 MAS, 금융권 모든 AI 활용 사례에 독립 검토 기대 제시

무슨 일이 있었나

싱가포르 중앙은행인 통화감독청(MAS)은 금융 분야의 모든 AI 활용 사례가 독립적인 검토를 거쳐야 한다는 기대를 밝혔다. 기관이 자체 개발한 AI든 외부 벤더가 제공한 AI든 동일하게 적용되며, 실패에 대한 책임은 AI 제공업체가 아니라 규제 대상 금융기관이 지도록 했다. 이 내용은 The Register가 두 건의 보도로 전했다.

핵심은 검토 대상의 범위와 책임 소재다. 외부에서 도입한 솔루션이라도 기관이 운영 책임을 피할 수 없다는 점을 명확히 함으로써, 금융사가 AI 도입을 계획할 때 거버넌스 기준을 처음부터 갖춰야 한다는 신호를 주고 있다.

왜 중요한가

이번 방향은 AI를 기술 조달의 문제에서 운영 책임의 문제로 옮겨 놓는다. 벤더가 모델을 만들었다는 사실은 고객이 잘못된 결과를 마주했을 때 설명 책임을 줄여주지 않는다. 금융기관은 AI가 어떤 근거로 어떤 결정에 관여했는지 설명하고 입증할 수 있어야 하며, 이는 곧 고객 경험의 신뢰도와 직결된다.

조직 측면에서도 시사점이 크다. 독립 검토가 요구되면 데이터 과학팀의 모델 성능 점검만으로는 부족하며, 문서화, 위험 평가, 이상 상황 시의 에스컬레이션, 고객 민원 처리 경로까지 하나의 운영 체계로 묶어야 한다. 디지털 전환을 추진하는 리더라면 AI 도입 속도만큼이나 책임 구조를 얼마나 명확히 설계했는지를 점검할 필요가 있다.

Renascence의 관점

많은 독자는 이 소식을 규제 준수 뉴스로만 읽겠지만, 실질적인 신호는 다른 데 있다. 누가 책임지는지가 고객이 결과를 보기 전에 이미 정해져 있어야 한다는 점이다.

AI가 실패했을 때 그 책임이 벤더가 아니라 기관에 있다는 원칙은, 사실상 고객 경험을 설계하는 출발점이 된다. 행동경제학의 관점에서 보면, 책임 주체가 불분명한 서비스에서 사람들은 신뢰를 빠르게 거두고 이탈한다. 따라서 고객 중심의 조직이라면 자사가 사용하는 모든 AI 접점, 즉 자체 개발과 외부 도입을 가리지 않고, 책임자와 고객 구제 경로를 지정해야 한다. 정확도 지표만 볼 것이 아니라, AI가 틀렸을 때 고객이 겪는 여정을 직접 설계하고 시험해 보는 것이 진짜 과제다.