음성 복제 및 딥페이크 비디오로 인해 사람을 사칭하는 것이 저렴하고 설득력 있게 되면서, 인간이 주장하는 사람임을 증명하는 '검증된 신뢰'는 배경 보안 제어가 아닌 고객 경험의 설계된 계층이 됩니다.
검증된 신뢰는 사기 위험이 가장 높은 순간(대규모 결제, 계정 변경, 경영진 승인, 콜센터 에스컬레이션)에 음성, 영상, 생체 인식 또는 행동 등 신원 확인 절차를 의도적으로 설계하는 것입니다. 기존의 보안 연극(끝없는 비밀번호 재설정, 정적인 보안 질문)과 달리, 고객을 심문하지 않고도 신원을 확인하는 계층화되고 마찰이 적은 신호를 사용합니다.
그 계기는 극명합니다. 2024년 초, 엔지니어링 회사 Arup의 홍콩 지사에서 근무하는 한 재무 담당 직원이 회사 CFO 및 동료로 보이는 사람들과의 화상 통화에 참여한 후 HK$2억(약 US$2,500만)을 이체하도록 속았습니다. 이들은 모두 딥페이크로 재구성된 인물이었습니다. 이 사건으로 딥페이크 사기는 이론적인 것에서 하룻밤 사이에 이사회에서 시급히 다뤄야 할 문제로 바뀌었습니다.
설계 과제는 기술적인 것만큼이나 행동적인 측면이 강합니다. 비난하는 듯한 느낌을 주는 확인 절차는 보호하려는 바로 그 신뢰를 훼손하기 때문입니다.
Why we think it'll come up
The Arup precedent went public in early 2024
Arup's disclosure that a single video call — entirely fabricated using deepfake technology — cost its Hong Kong office HK$200 million (~US$25 million) turned an abstract cybersecurity warning into a concrete case study that finance, legal, and CX leaders now cite directly.
Voice cloning tools became consumer-accessible
Commercial voice-cloning software can now replicate a person's speech patterns from seconds of sample audio, lowering the barrier for impersonation scams targeting call centres, family members, and executive assistants.
Regulators started drafting deepfake-specific rules
Financial regulators and standards bodies in multiple markets began 2024–2025 consultations on synthetic-media fraud, signalling that verification obligations will soon be formalised rather than left to individual firms.
What it changes for customer experience
For customers
Extra verification steps at high-risk moments, ideally invisible during routine ones — the trade-off between protection and friction becomes tangible and personal.
For business
A single successful deepfake fraud can cost tens of millions and permanently damage partner and client trust in financial and operational processes.
For CX & operations
Verification design becomes a core experience discipline — fraud teams, CX teams, and technology teams must co-design checks that protect without alienating.
Industries on the front line
실재하지 않는 통화
2024년 초, 엔지니어링 회사 Arup의 재무 담당 직원은 완전히 평범해 보이는 화상 통화에 참여했습니다. CFO가 있었고, 동료들도 있었습니다. 지시가 내려졌고, 직원은 그 지시에 따라 회사 홍콩 지점에서 2억 홍콩 달러(약 2천5백만 미국 달러)를 이체했습니다. 그 통화에 참여한 사람 중 누구도 실재하지 않았습니다. 모든 얼굴과 목소리는 합성으로 재구성되었습니다. 회의 자체가 사기라는 것을 깨닫기도 전에 돈은 사라졌습니다.
이 단 한 번의 사건은 수년간의 추상적인 사이버 보안 브리핑보다 경영진의 관심을 더 집중시켰습니다. 딥페이크 사기가 더 이상 속기 쉬운 대상이나 조잡한 대본을 필요로 하지 않는다는 것을 보여주었습니다. 설득력 있는 화상 통화와 그럴듯한 지시만 있으면 됩니다. 재무, 법률, CX 리더들에게 Arup은 약어가 되었습니다. 즉, 사칭이 더 이상 새로운 것이 아니라 운영상의 위협이 되었음을 증명한 사례입니다.
왜 검증이 이제 디자인 문제인가
신원 확인은 과거에는 백그라운드 인프라였습니다. 비밀번호, 보안 질문, 가끔 걸려오는 콜백 등. 경험 뒤에 숨어 있었고, 문제가 발생하지 않는 한 보이지 않았습니다. 딥페이크 사기는 이 모델을 깨뜨립니다. 위조되는 것이 더 이상 자격 증명이 아니기 때문입니다. 그것은 사람입니다. 목소리입니다. 그 사람이 그럴듯하게 말할 만한 것을 말하는 화면 속 얼굴입니다.
이는 검증을 기술적 통제에서 고객 및 직원 경험의 설계된 계층으로 전환시킵니다. 문제는 단순히 사기를 탐지하는 것이 아닙니다. 누군가에게 자신이 주장하는 사람임을 증명하도록 언제, 어떻게 요청할지 결정하는 것입니다. 그들이 비난받는다고 느끼게 하지 않으면서 말이죠. 심문처럼 느껴지는 검증 단계는 보호하려는 신뢰를 훼손합니다. 자신의 직원에게조차 자신이 CFO임을 반복적으로 증명해야 하는 CFO는 그 확인을 보호가 아닌 마찰과 의심으로 경험합니다.
딥페이크가 만들어내는 문제는 사람들이 속는다는 것이 아닙니다. 진짜를 포함한 모든 사람이 이제 자신이 가짜가 아님을 증명해야 한다는 것입니다.
도구는 이미 소비자의 손에 있습니다
Arup 사례가 예외가 아니라 신호인 이유 중 하나는 접근성입니다. 상업용 음성 복제 소프트웨어는 이제 짧은 오디오 샘플(몇 초, 몇 시간이 아님)만으로 사람의 음성 패턴을 복제할 수 있습니다. 이는 콜센터, 가족 구성원, 비서 등을 대상으로 하는 사칭 사기의 진입 장벽을 낮춥니다. 한때 기술과 계획이 필요했던 사기는 이제 녹음과 시판 소프트웨어만 있으면 됩니다.
이러한 접근성은 CX 디자인에 중요합니다. 위협이 이사회 수준의 사기에만 국한되지 않는다는 것을 의미하기 때문입니다. 화상 통화에서 CFO를 조작하는 데 사용된 것과 동일한 기술이 지원 라인에서 고객의 목소리를 조작하거나 조난 통화에서 가족 구성원의 목소리를 조작할 수 있습니다. 목소리나 얼굴을 신원 증명으로 인식하는 모든 채널이 이제 노출되어 있습니다.
규제는 천천히 따라잡고 있습니다
여러 시장의 금융 규제 기관과 표준 기관은 2024년과 2025년에 합성 미디어 사기에 대한 협의를 시작했습니다. 이는 방향을 제시합니다. 현재 개별 기업의 재량에 맡겨져 있는 검증 의무는 공식적인 요구 사항이 될 가능성이 높습니다. 오늘날 계층화된 검증을 자발적인 개선으로 여기는 조직은 내일 다른 사람의 일정에 따라 의무화될 수 있음을 알게 될 것입니다.
기업의 경우, 규제를 기다리지 않아도 이미 계산은 명확합니다. 단 한 번의 성공적인 딥페이크 사기는 수천만 달러의 비용을 초래하고 파트너와 고객이 운영 및 재무 프로세스를 신뢰하는 방식에 지속적인 손상을 입힐 수 있습니다. Arup의 손실은 단순한 비용 항목이 아니었습니다. 그것은 모든 관찰자에게 회사의 검증 프로세스에 조작된 CFO가 통과할 수 있을 만큼 큰 간극이 있음을 보여주는 시연이었습니다.
마찰 없이 보호를 설계하기
실질적인 해결책은 진정으로 위험이 높은 순간(대규모 결제, 계정 변경, 경영진 승인, 콜센터 에스컬레이션)에 집중된 계층화되고 마찰이 적은 검증입니다. 행동 생체 인식, 독립적으로 검증된 채널을 통한 콜백 프로토콜, 다중 채널 확인은 각 상호 작용을 검문소로 만들지 않으면서도 한 층의 보증을 추가할 수 있습니다.
이를 제대로 해낼 가능성이 가장 높은 조직은 모든 곳에 한꺼번에 검증을 배포하지 않을 것입니다. 그들은 사기가 가장 큰 영향을 미치는 접점에서 계층화된 검사를 시범 운영하고, 고객과 직원이 이러한 검사를 어떻게 경험하는지 학습하며, 마찰이 추가되는 것이 아니라 제거되도록 설계된 후에만 확장할 것입니다. 잘 수행된 검증은 기본적으로 당신을 의심하는 회사가 아니라 당신의 보호를 진지하게 여기는 회사처럼 느껴져야 합니다.
고가치, 고위험 접점에서 계층화된 검증(행동 생체 인식, 콜백 프로토콜, 다채널 확인)을 면밀히 관찰하고 시범 운영한 후 모든 곳에 의무화하십시오.
Trends Radar
Other trends
Build for what's next
Turn this trend into a measurable experience advantage.