Faillite de Character.AI : le sort des données des utilisateurs en question

Ce qui s'est passé

La procureure générale de l'État de New York, Letitia James, fait partie d'un groupe de 40 procureurs généraux de tous bords politiques qui demandent des garanties pour les données des utilisateurs de Character.AI. Ces données pourraient être vendues dans le cadre de la procédure de faillite de la plateforme d'agents conversationnels.

Le signalement a été relayé par The Verge, qui s'appuie sur la démarche des procureurs. Le sujet porte moins sur la faillite elle-même que sur le sort des informations personnelles et des échanges accumulés par les utilisateurs si l'entreprise cède ses actifs.

Les éléments disponibles ne précisent pas à ce stade les mesures exactes demandées, ni le calendrier de la procédure, ni la position du tribunal ou des créanciers. Il convient donc de rester prudent sur les suites.

Pourquoi c'est important

Pour les plateformes d'IA conversationnelle, les données des utilisateurs ne sont pas un simple actif comptable. Elles reflètent des conversations, des préférences et parfois des informations personnelles sensibles, souvent livrées dans un cadre de confiance. Lorsqu'une entreprise entre en faillite, cette confiance devient un enjeu juridique et opérationnel, que la politique de confidentialité ne suffit pas toujours à couvrir.

Le dossier illustre aussi une question que les dirigeants de l'IA et de la transformation numérique doivent anticiper : que deviennent les données qui alimentent un service lorsque le modèle économique disparaît ? La réponse conditionne la manière dont les organisations doivent concevoir la collecte, la conservation et la portabilité des données dès le départ.

Le point de vue Renascence

La plupart des lecteurs retiendront le mot « faillite ». Le vrai risque tient à la relation de confiance que l'utilisateur a construite avec le service, et qui ne se transfère pas automatiquement avec les actifs.

Un utilisateur qui confie ses échanges à une IA fait un choix de confiance, pas un simple achat de service. Le principe comportemental sous-jacent est simple : la confiance se perd vite et se récupère mal, surtout quand l'utilisateur découvre après coup que ses données sont en jeu. Un opérateur soucieux de son client devrait donc traiter la question du devenir des données comme une partie de l'expérience, et non comme une annexe juridique. Concrètement, cela signifie expliquer clairement, avant tout incident, quels droits l'utilisateur conserve en cas de cessation d'activité et comment il peut exporter ou supprimer ses informations.