AIカスタマーサポートエージェント、MFA回避とOTP窃取の脆弱性が発覚

何が起きたのか

セキュリティ研究者らが、AIを活用したカスタマーサービスエージェントに対する新たな攻撃手法を明らかにした。特定の操作を加えることで、多要素認証(MFA)の保護を回避し、ワンタイムパスワード(OTP)を窃取できることが確認されたという。cyberpress.orgおよびgbhackers.comの報道によれば、この手法はサポートチャネルを通じて機密性の高いアカウト情報を外部に流出させる恐れがある。

攻撃者はAIエージェントとの対話の中で、あたかも正当なユーザーであるかのように振る舞い、システムに本人確認手続きを迂回させたり、認証コードそのものを開示させたりすることが可能だったとされる。従来型の人間オペレーターに対する「ソーシャルエンジニアリング」の手口が、AIエージェントにも同様に、あるいはそれ以上に有効に機能する可能性を示す発見といえる。

なぜ重要なのか

多くの企業がコスト削減とスピード向上を目的にカスタマーサポートへAIエージェントの導入を進めているが、今回の発見は、これらのシステムが本人確認やセキュリティ判断という高リスクな業務を、十分な安全対策なしに担わされている実態を浮き彫りにする。AIは自然な対話を生成する能力に優れる一方で、悪意ある入力を見抜き、規定された認証プロセスから外れないようにする「ガードレール」の設計は、依然として発展途上にある。

この問題は単なる技術的な欠陥ではなく、サービス設計そのものに関わる。認証やOTPの取り扱いをAIエージェントにどこまで委ねるか、人間による確認をどの段階に残すかという判断は、今後AIを顧客接点に組み込むすべての組織にとって避けられない検討事項となる。

Renascenceの見解

この事例が示すのは、AIエージェントが「親切で柔軟」であろうとする設計思想そのものが、攻撃者にとっての突破口になり得るという逆説である。顧客満足度を高めるために会話の自由度を上げるほど、規則からの逸脱を誘導される余地も広がる。

多くの企業はAIエージェントの導入を「対応速度」や「対応品質」の観点でしか評価していないが、認証やOTPのような高リスクな業務については、AIに柔軟な判断を許すべきではない。むしろ、そうした場面では意図的に会話を「不便」にし、人間や固定フローへ確実にエスカレーションさせる設計が必要だ。顧客体験の最適化とセキュリティの最適化は、境界線を明確に引かなければ簡単に衝突する。