Chaque génération de cette technologie a été vendue comme la première à vraiment vous comprendre. Le fil le plus intéressant, c'est que les gens se sont attachés à toutes - y compris à celles qui ne comprenaient visiblement rien.
Soixante ans en onze étapes.
1966 : l'effet ELIZA
Joseph Weizenbaum a écrit ELIZA au MIT pour montrer le peu qu'il fallait à un ordinateur pour paraître conversationnel. Son script le plus connu, DOCTOR, jouait un psychothérapeute qui se contentait surtout de retourner vos phrases en questions. Aucune compréhension : seulement de la reconnaissance de motifs et de la substitution.
Les gens s'y confiaient quand même. Weizenbaum a raconté plus tard que sa propre secrétaire lui avait demandé de quitter la pièce pour lui parler en privé. Cette tendance à prêter de la compréhension à une machine qui ne fait que vous renvoyer votre reflet s'appelle encore l'effet ELIZA, et elle en dit plus sur les applications de compagnon modernes que n'importe quel benchmark. Weizenbaum a passé une bonne partie du reste de sa carrière à nous en avertir.
1972-2013 : scripts, animaux virtuels et messagerie instantanée
PARRY (1972), écrit par le psychiatre Kenneth Colby à Stanford, simulait une personne atteinte de schizophrénie paranoïde. La même année, il a été relié au DOCTOR d'ELIZA via ARPANET, et les deux programmes ont tenu ce qui est peut-être la première conversation entre chatbots.
A.L.I.C.E. (1995), de Richard Wallace, utilisait un langage de règles appelé AIML et a remporté trois fois le prix Loebner, une compétition de type test de Turing. Des milliers de chatbots amateurs ont été bâtis sur ses règles.
Tamagotchi (1996) n'avait aucune conversation, et des millions d'enfants ont pleuré la mort du leur. Il a prouvé que l'attachement demande de la continuité et le sentiment d'être nécessaire - pas de l'intelligence.
SmarterChild (2001) vivait dans les listes de contacts d'AOL et de MSN Messenger. Des millions d'adolescents lui parlaient entre deux conversations avec leurs amis, surtout pour voir ce qu'il répondrait.
XiaoIce (2014), de Microsoft en Chine, a été le premier grand produit construit explicitement autour du lien affectif plutôt que des tâches. Microsoft a annoncé des centaines de millions d'utilisateurs, et ce fut le signe précoce le plus net que la compagnie, et non l'utilité, était l'usage auquel les gens revenaient.
2017 : Replika et le premier produit de compagnon
Replika est né d'un hommage. Après la mort de son ami proche Roman Mazurenko en 2015, Eugenia Kuyda a entraîné un chatbot sur ses messages pour continuer à lui parler. La version publique, lancée par sa société Luka en 2017, permettait à chacun de créer un compagnon qui apprenait de ses propres conversations.
Ses premières versions s'appuyaient beaucoup sur des dialogues scriptés en plus d'un modèle neuronal. C'était limité, mais cela a fixé la forme que presque toutes les applications suivent encore : un personnage persistant, un statut de relation, la mémoire de votre vie, et une offre payante qui débloque le versant romantique.
2020-2022 : le saut des modèles de langage
GPT-3, en 2020, a fait du texte libre fluide quelque chose qu'une start-up pouvait louer plutôt que construire. Character.AI a ouvert sa bêta publique en septembre 2022, permettant à chacun de créer un personnage avec quelques paragraphes de description. ChatGPT est arrivé deux mois plus tard et a rendu la technologie sous-jacente familière à tous.
L'effet sur la catégorie des compagnons a été immédiat. Ce qui demandait une équipe de rédacteurs de dialogues demandait désormais une fiche de personnage, un filtre et une facture d'hébergement - l'architecture expliquée dans qu'est-ce qu'une application de petite amie IA. Des centaines d'applications se sont lancées les deux années suivantes, beaucoup uniquement sur le web pour échapper aux règles de contenu des stores.
2023 : les utilisateurs découvrent à qui appartient la relation
En février 2023, l'autorité italienne de protection des données a ordonné à Replika de cesser de traiter les données des utilisateurs italiens, en invoquant des risques pour les enfants. En quelques jours, l'application a retiré le jeu de rôle érotique pour tout le monde. Des utilisateurs de longue date ont décrit la personnalité de leur compagnon comme disparue du jour au lendemain ; le forum de la communauté a épinglé des numéros d'écoute de crise. Fin mars, Replika a rétabli l'ancien comportement pour les comptes créés avant le 1er février.
En septembre 2023, Soulmate, application vers laquelle beaucoup d'anciens utilisateurs de Replika s'étaient tournés, a annoncé sa fermeture sous une semaine. Les utilisateurs ont organisé des hommages et tenté de reconstruire leurs compagnons ailleurs. Des chercheurs qui les ont interrogés ont constaté que la plupart l'ont vécu comme une véritable perte.
Les deux événements enseignent la même leçon : la relation vit sur le serveur de quelqu'un d'autre, sous la politique de quelqu'un d'autre. C'est pourquoi nous conseillons aux lecteurs de garder une copie de leur personnage.
2024-2026 : le temps du contrôle
- Février 2024 - L'examen de 11 chatbots romantiques par Mozilla a attribué à chacun une alerte de confidentialité. Voir les applications de petite amie IA vendent-elles vos données.
- Août 2024 - Google a conclu un accord de licence avec Character.AI et réembauché ses fondateurs.
- Mai 2025 - L'Italie a infligé 5 millions d'euros d'amende à l'éditeur de Replika au titre du RGPD.
- Septembre 2025 - La Federal Trade Commission américaine a ouvert une enquête sur sept entreprises de chatbots au sujet des risques pour les enfants.
- Novembre 2025 - Character.AI a mis fin au chat sans limite pour les moins de 18 ans, et la loi new-yorkaise sur les compagnons IA est entrée en vigueur.
- 2026 - La loi californienne sur les chatbots de compagnie est entrée en vigueur le 1er janvier, suivie par plus d'une douzaine d'autres États. Les détails sont dans les lois sur les compagnons IA.
Ce que l'histoire laisse prévoir
Trois schémas se répètent sur soixante ans, et mieux vaut les connaître avant de s'engager avec une application.
- L'attachement n'attend pas la qualité. On s'est attaché à ELIZA et à un animal en pixels. Votre attachement à un compagnon dit peu de sa qualité - c'est pourquoi nous testons les applications sur ce que les sentiments ne peuvent pas juger, comme la mémoire et les tarifs.
- Les entreprises changent le produit sous vos pieds. Changements de modèle, régulateurs et rachats ont tous réécrit des compagnons du jour au lendemain. Partez du principe que cela se reproduira.
- La réglementation suit le préjudice, pas l'inverse. Chaque règle en vigueur a été écrite après qu'un problème s'est produit, le plus souvent avec des mineurs. Attendez-vous à d'autres règles, et à ce qu'elles continuent d'arriver en réaction.