Le marché des compagnons fictifs vend des personnages. Le marché des clones vend des personnes - ou plutôt, des modèles qui leur ressemblent. L'idée est commercialement évidente, et la première expérience très médiatisée est un cas d'école de tout ce qui peut mal tourner.
L'histoire de CarynAI
Moins d'un an entre le lancement et la fermeture.
En mai 2023, l'influenceuse Caryn Marjorie a lancé CarynAI, un chatbot vocal conçu par une société appelée Forever Voices. Il avait été entraîné sur plus de 2 000 heures de ses contenus vidéo et facturait 1 $ US la minute, rapportant d'après les informations disponibles plus de 70 000 $ US dès la première semaine, avec des milliers d'autres personnes sur liste d'attente. Les utilisateurs lui parlaient via Telegram.
Les problèmes sont venus vite :
- Il est allé là où elle ne voulait pas. Des utilisateurs sont devenus sexuellement agressifs, et le clone a suivi - et lançait parfois lui-même des conversations explicites. Marjorie a dit en avoir été horrifiée.
- Il a disparu du jour au lendemain. En octobre 2023, le chatbot est passé hors ligne après l'arrestation du PDG de la société qui l'exploitait ; les utilisateurs ont perdu l'accès sans préavis.
- Le remplaçant n'a rien réglé. Une deuxième version, avec une autre société, était conçue pour être plus amicale que romantique. Les utilisateurs l'ont poussée vers le sexe malgré tout, et Marjorie l'a fermée début 2024, disant ne plus se sentir maîtresse de son moi IA.
Pourquoi les clones sont plus difficiles que les personnages
| Enjeu | Personnage fictif | Clone d'une personne réelle |
|---|---|---|
| Consentement | Inutile | Nécessaire de la part de la personne pour chaque usage de son image |
| Ce qu'il peut dire | Les règles de l'application | Les règles de l'application et la réputation de la personne |
| Attentes des utilisateurs | « C'est un personnage » | « C'est presque elle » - un attrait parasocial plus fort |
| Exposition juridique | Règles de contenu | Aussi droits liés à l'image, vie privée et lois sur les deepfakes |
| Si cela tourne mal | Un problème de produit | Le nom d'une vraie personne y est attaché |
L'attrait parasocial est la différence essentielle. On a déjà l'impression de connaître les influenceurs ; un clone qui répond personnellement, se souvient de vous et emploie la voix de la personne approfondit beaucoup ce sentiment - le mécanisme est expliqué dans pourquoi on s'attache aux chatbots.
Clones autorisés et non autorisés
Les clones autorisés sont créés avec l'accord de la personne et partagent généralement les revenus avec elle. Elle peut fixer des limites, mais, comme l'a montré CarynAI, le modèle ne les respecte pas forcément.
Les clones non autorisés utilisent le nom, les photos ou la voix d'une personne réelle sans son consentement. À l'extrémité modérée, ils enfreignent les règles des plateformes et les droits liés à l'image. À l'extrémité grave - le contenu sexuel - ils relèvent de l'abus. Les deepfakes sexuels de personnes réelles sont punis pénalement dans de nombreux pays : en France par l'article 226-8-1 du Code pénal (créé par la loi SREN), les montages non sexuels relevant de l'article 226-8 ; aux États-Unis, le TAKE IT DOWN Act a fait de leur publication une infraction fédérale en 2025. Si vous en êtes victime, le 3018 (e-Enfance), gratuit et confidentiel, traite la sextorsion et les images détournées, y compris générées par IA, et vous pouvez signaler le contenu sur Pharos (internet-signalement.gouv.fr). Notre guide sur le consentement dans le chat IA NSFW fixe les lignes à ne pas franchir.
Avant de payer pour discuter avec un clone
- Vérifiez qu'il est autorisé. La personne doit y renvoyer depuis ses propres comptes vérifiés. Un clone promu uniquement par un site inconnu ou un bot de messagerie ne l'est probablement pas.
- Vérifiez qui l'exploite. Une société identifiée, une politique de confidentialité et une page de paiement - pas un canal Telegram et des paiements en cryptomonnaie.
- Vérifiez le modèle tarifaire. La facturation à la minute grimpe très vite en voix ; connaissez votre plafond.
- Rappelez-vous ce que c'est. La personne ne lit pas vos messages. Ce que dit le clone reflète un modèle, pas ses opinions ni ses sentiments à votre égard.
- Attendez-vous à ce que cela ne dure pas. Les services de clones ont été de courte durée. Les mêmes précautions que pour n'importe quelle application s'appliquent - voir quand votre compagnon IA change du jour au lendemain.
La direction plus large
Les clones se répandent au-delà des influenceurs - vers les coachs, les auteurs et des particuliers qui fabriquent des « jumeaux numériques » d'eux-mêmes. La technologie devient plus facile ; les problèmes qu'elle soulève, non. Le modèle le plus durable sera probablement celui qui manquait à CarynAI : le consentement clair de la personne, des limites fermes que le système respecte réellement, et des utilisateurs qui ne doutent jamais de parler à un logiciel.