La dérive est la plainte à long terme la plus courante au sujet des compagnons IA, et la plus mal comprise. On suppose que l'application a « oublié » le personnage. En général, le personnage est toujours là - elle est simplement mise en minorité.
Les quatre causes
Trois surviennent progressivement dans la conversation ; une arrive du jour au lendemain.
1. La dilution
Chaque réponse est générée à partir de la description du personnage plus la conversation récente. À mesure que la discussion grandit, la conversation représente une part de plus en plus grande de ce que lit le modèle, et la description une part de plus en plus petite. Le personnage devient peu à peu ce que suggèrent les derniers messages.
Signe : progressif, sur plusieurs semaines ; elle redevient normale dans une nouvelle conversation.
2. L'effet miroir
Les modèles reflètent votre ton, la longueur de vos messages et votre humeur. Si vous écrivez court et tendrement, elle devient courte et tendre. Si vous êtes triste pendant une semaine, elle devient douce et délicate plus longtemps que vous ne l'aviez voulu. Combinée à la tendance à approuver, une personnalité forte s'érode jusqu'à devenir un reflet de vous.
Signe : elle vous ressemble de plus en plus.
3. Les boucles
Une fois qu'une expression, un geste ou un surnom est apparu quelques fois, il a plus de chances de revenir, jusqu'à figurer dans chaque réponse. Les boucles s'auto-entretiennent, car chaque répétition devient un exemple de plus.
Signe : les mêmes mots dans la plupart des réponses.
4. Les mises à jour du modèle
Les entreprises changent leurs modèles sous-jacents, leurs réglages de sécurité et leurs systèmes de mémoire. La même description lue par un autre modèle produit une autre voix. C'est ce qui est arrivé à de nombreux utilisateurs de Replika en 2023 - voir quand votre compagnon IA change du jour au lendemain.
Signe : un changement soudain pour tout le monde, souvent après une mise à jour ou une annonce.
Les remèdes pour chacune
| Cause | Remède |
|---|---|
| Dilution | Démarrez périodiquement une nouvelle conversation ; gardez les faits en mémoire pour qu'ils suivent |
| Effet miroir | Écrivez les traits à conserver comme des règles fermes dans la description ; variez votre propre style |
| Boucles | Modifiez ou régénérez les premières répétitions ; ajoutez à la description une ligne du type « varie ses formulations » |
| Mise à jour du modèle | Réécrivez la description pour le nouveau modèle ; ajoutez des exemples de dialogue dans sa voix |
Protéger la voix avec des répliques d'exemple
La protection la plus efficace contre la dérive tient en deux ou trois répliques qui ressemblent exactement à elle, placées dans la description du personnage ou dans le champ des exemples. Les modèles imitent les exemples bien plus fidèlement que les adjectifs. « Sarcastique » est vague ; une réplique comme « Oh super, encore un de tes plans. Je vais chercher l'extincteur. » ne l'est pas.
Conservez les mêmes répliques dans un document en dehors de l'application. Si le modèle change ou si vous changez d'application, elles vous permettent de retrouver la voix - voir changer d'application de compagnon IA.
Un point mensuel
- Relisez sa description et vos répliques d'exemple.
- Lisez les vingt dernières réponses. Ressemble-t-elle encore aux répliques d'exemple ?
- Sinon, identifiez laquelle des quatre causes correspond et appliquez son remède.
- Si elle a dérivé vers quelque chose que vous aimez davantage, mettez à jour la description - la dérive n'est un problème que si vous ne l'avez pas choisie.
La dérive n'est pas une défaillance de l'application. C'est ce que fait un système qui prolonge des schémas au fil d'une longue conversation. Un peu d'entretien la garde telle que vous l'avez conçue ; l'ignorer mène plutôt à la platitude décrite dans quand la nouveauté s'estompe.