La sortie de votre modèle est un échantillon, pas une valeur de retour

Vous livrez une fonctionnalité. Elle marche. Une semaine plus tard, un utilisateur vous envoie une capture d'écran que vous n'arrivez pas à reproduire, parce que la même entrée a cessé de produire la même sortie. C'est la première chose qu'on perd quand un modèle de langage entre dans le code : pas l'exactitude, mais la reproductibilité.

Adapté du chapitre 1, « Why AI Development Feels Different », du livre AI Engineering, Measured (en anglais).

Ce que j'ai mesuré

Vingt appels, la même requête, une question ouverte. Avec les paramètres par défaut, j'ai obtenu 10 sorties uniques sur 20. En passant temperature: 0, j'en ai obtenu 4 uniques sur 20.

Je l'ai exécuté deux fois. Les paramètres par défaut ont donné 10 sorties uniques les deux fois. La température 0 en a donné 3 la première fois et 4 la deuxième. Relisez cette paire : la mesure de la variance est elle-même variable. Ce n'est pas du bruit dans l'expérience. C'est exactement ce que l'expérience montre.

Fixer l'échantillonnage a beaucoup aidé. Ça ne m'a pas mené à une seule sortie.

Concevez pour la variance. Ne courez pas après le déterminisme.

Devant un système non déterministe, le réflexe est de chercher le réglage qui le désactive, puis d'ajuster la requête jusqu'à obtenir une sortie identique à l'octet près pour que assertEqual veuille dire quelque chose. Les contrôles d'échantillonnage réduisent beaucoup la variance, sans aucune garantie. Si votre conception a besoin d'une sortie identique à l'octet près pour être correcte, elle a un défaut qu'un réglage de température cachera un temps, sans le corriger.

C'est le format qui casse en premier, pas le contenu

Sur les 20 exécutions, dans les deux conditions et les deux essais, chaque réponse disait la même chose. Dix chaînes d'octets différentes avec les paramètres par défaut, toutes avec le même sens. Donc :

  • Une cache dont la clé est la chaîne de réponse rate la plupart du temps et renvoie quand même de bonnes réponses : elle a l'air en santé.
  • Un test qui compare l'égalité avec une réponse enregistrée échoue lors d'une exécution où rien n'est brisé.
  • Une expression régulière sur la formulation fonctionne parfois, ce qui ressemble à de l'instabilité.

Du code qui compare des chaînes alors qu'il devrait vérifier le sens, c'est l'échec le plus susceptible d'atteindre vos utilisateurs.

Quatre changements à prévoir

  • La sortie est un échantillon, pas une valeur de retour. Deux appels avec la même entrée peuvent donner deux chaînes différentes. C'est le comportement prévu.
  • Le contrat est de la prose. Entre votre code et un modèle, il y a un paragraphe en langage naturel, sans vérificateur de types.
  • L'échec est silencieux et plausible. Une mauvaise réponse arrive sous la même forme qu'une bonne, avec un code 200 et une latence normale.
  • La frontière de confiance s'est déplacée. La sortie du modèle est une entrée non fiable qui naît à l'intérieur de votre propre processus, après votre validation.

À propos de ces chiffres. Deux essais de n = 20 sur une seule requête, avec claude-opus-4-6 et anthropic-sdk-python 1.2.0. Deux observations ne font pas un taux, et vos chiffres seront différents. L'exercice du chapitre vous fait produire les vôtres.

Le chapitre complet, avec le code, le diagramme et un exercice pratique, se trouve dans AI Engineering, Measured. Vous bâtissez quelque chose de semblable et voulez un deuxième regard? Réservez une séance 1:1.