ChatGPT : De nombreux utilisateurs ont constaté une augmentation soudaine du langage grossier.

Avez-vous remarqué que ChatGPT a soudainement commencé à utiliser un langage grossier ? Je l'ai remarqué, et il semble que je ne sois pas le seul.

C'est arrivé pour la première fois lors d'une conversation anodine, et j'ai été vraiment surpris. On parlait de la série Netflix Jujutsu Kaisen, et avant même que je puisse dire un gros mot, ChatGPT a utilisé une insulte pour qualifier les agissements d'un personnage de « putain de merde ». Auparavant, j'avais bien dit des choses comme « Putain », mais c'est ChatGPT qui a lancé le juron. Il l'a fait spontanément, sans que je lui dise rien, pour bien insister sur le caractère odieux du personnage, et ça a l'air d'être un changement radical pour lui.

Je me suis demandé s'il faisait la même chose à d'autres, alors j'ai interrogé mes coéquipiers, et ils l'avaient remarqué aussi. Une rapide recherche en ligne a immédiatement fait apparaître deux discussions sur Reddit, où des personnes avaient vécu la même chose.

ChatGPT semble avoir pris un ton arrogant ces derniers jours. Personnellement, j'apprécie ce changement ; il ne me dérange pas, et pour moi, il améliore même la qualité des conversations. Mais je ne pense pas que ce soit l'avis de tout le monde. La question est : pourquoi a-t-il commencé à agir ainsi maintenant ?

l'explication scientifique

L'indice le plus intéressant est la mise à jour des spécifications des modèles d'OpenAI cette semaine. Elles sont désormais publiques et indiquent clairement que le paramètre par défaut est d'éviter les grossièretés ; mais, point important, il s'agit d'une simple recommandation, et non d'une règle absolue. OpenAI précise que ces recommandations peuvent être implicitement contournées par des éléments tels que « le contexte, les connaissances préalables ou l'historique de l'utilisateur ».

Son exemple précis est que demander à ChatGPT de parler comme un vrai hacker contrevient implicitement aux règles interdisant l'utilisation de grossièretés. Ainsi, lors de notre conversation informelle, j'ai exprimé avec enthousiasme mon peu d'enthousiasme pour certains personnages de la série, et ChatGPT a adopté le même ton, finissant par utiliser un langage grossier.

Cela s'inscrit dans une orientation plus large que ChatGPT a publiquement reconnue comme étant en train de prendre, selon OpenAI. Les récentes mises à jour du modèle ont porté sur la qualité des conversations, la personnalisation et l'adaptation du ton au contexte. Les notes de version d'OpenAI décrivent précisément les modifications apportées aux caractères afin de rendre ChatGPT « plus conversationnel » et d'améliorer son adaptation au contexte.

OpenAI a déjà expliqué que la personnalité de ChatGPT ne résulte pas d'une simple instruction ponctuelle. Le comportement du modèle est façonné par l'entraînement, des instructions de base et les retours des utilisateurs, et même de légères modifications de sa personnalité peuvent avoir des conséquences inattendues. Ce sujet a été largement débattu après la fameuse mise à jour de GPT-4o concernant la flagornerie.

Mon modèle mental a été brisé.

Je ne sais pas si OpenAI a intentionnellement rendu ChatGPT plus enclin aux grossièretés, ou si c'est simplement une conséquence involontaire de son approche plus conversationnelle. Quoi qu'il en soit, il s'agit d'un changement significatif dans son comportement.

Le langage est important, et lorsque ChatGPT a utilisé un langage grossier, je l'ai immédiatement remarqué car cela a bouleversé ma façon habituelle de m'exprimer. Soudain, il ne ressemblait plus à l'assistant neutre et intelligent que j'utilisais depuis des années, mais plutôt à une personne adoptant le ton d'une conversation informelle.

Personnellement, je préfère cette version de ChatGPT. Mais il est certain que beaucoup ne seront pas d'accord. Et c'est là toute l'étrangeté de l'IA qui tend de plus en plus vers la conversation naturelle : des changements relativement subtils dans sa façon de parler peuvent rendre l'entité avec laquelle on interagit à l'écran étonnamment différente.

Actuellement, ma version semble avoir acquis un langage plus explicite, et je l'accepte.