Un utilisateur Reddit a récemment vu ChatGPT afficher, en clair, une consigne qu'il n'était pas censé montrer : si l'outil d'analyse de données (Python) tombe en panne, commencer par « je ne peux pas faire d'analyse avancée pour le moment », ne pas réessayer, et ne pas répondre à la question d'origine.

Les réseaux ont parlé de « fuite du prompt interne ». C'est plus banal, et plus intéressant, que ça.

Ce qui s'est vraiment passé

ChatGPT n'est pas un cerveau unique. Derrière la conversation, il y a un prompt système (les règles du produit) et des outils : code, fichiers, recherche. Quand un outil échoue, le modèle reçoit souvent une note automatique : que dire, que ne pas faire.

Cette note est normalement invisible. Là, elle a fuité dans la réponse. Ce n'est pas le « secret d'OpenAI » en entier. C'est un fragment de mode dégradé — le genre de règle qu'on écrit pour éviter qu'un assistant invente une analyse Excel alors que Python est HS.

Chez Bamana, on voit ce genre de consigne tous les jours : ce n'est pas de la magie, c'est de l'ingénierie.

Ce que ça change pour une entreprise

Trois choses, concrètes.

1. L'IA que vos équipes utilisent a déjà un patron invisible. Le ton, les refus, les outils autorisés, les phrases toutes faites : ça ne vient pas « du modèle », ça vient d'instructions. Si vous déployez ChatGPT, Claude ou un agent maison sans votre prompt système, vous héritez de celui de l'éditeur.

2. Un outil en panne ne doit pas improvisier. La consigne leaked dit essentiellement : échoue proprement, n'invente pas. C'est exactement le réflexe qu'on met dans les agents IA de nos clients : si le CRM ne répond pas, on n'hallucine pas un statut de commande.

3. La transparence a un coût, et l'opacité aussi. Voir les règles, c'est utile pour auditer. Les laisser fuiter dans le chat client, c'est un bug d'UX. Entre les deux, il y a le bon réglage : logs internes, pas de consignes confidentielles dans la bouche de l'assistant.

Ce qu'on ferait à votre place

Si vous utilisez déjà un assistant en interne :

  • Écrivez votre prompt système (rôle, outils, ce qu'il n'a pas le droit de faire, phrase d'échec).
  • Testez le mode panne : coupez un outil et regardez s'il invente ou s'il dit stop.
  • Ne collez jamais de secrets (clés API, process RH, données clients) dans un prompt que l'utilisateur pourrait voir.

Le prompt engineering n'est pas un hobby de geeks : c'est la politique d'usage de votre IA, rédigée en français.

En résumé

Personne n'a « hacké » ChatGPT. Un mode d'erreur a été affiché par erreur. La leçon utile, elle, tient en une phrase : un assistant sans consignes claires n'est pas magique, il est imprévisible. C'est le sujet qu'on traite quand on intègre l'IA dans une PME — pas le modèle à la mode, le cadre.

Vous voulez un prompt système et des garde-fous pour vos outils métier ? Parlons-en.