Question de dirigeant
« Comment sortir de la boîte noire ? »
Vous ne sortirez pas de celle que vous croyez. L'opacité du modèle est irréductible, et personne ne vous vendra un agent qui justifie ses décisions comme un tableur montre ses formules. Mais ce n'est pas cette boîte noire qui vous coûtera cher : celle qui coûte, c'est tout ce que votre prestataire construit autour du modèle, et qui devrait vous appartenir.
00La situation
Deux boîtes noires portent le même nom
Quand un dirigeant dit « boîte noire », il dit deux choses en même temps. Je ne comprends pas pourquoi la machine a répondu cela. Et je ne sais pas ce qu'il me resterait si je changeais de prestataire demain. Ce sont deux questions distinctes, et les confondre coûte cher.
La première est une question d'explicabilité : elle porte sur le modèle, et la réponse honnête est décevante, on ne l'ouvrira pas. La seconde est une question de propriété : elle porte sur tout le reste, et elle est entre vos mains, à condition de la poser avant de signer plutôt qu'au moment de partir.
Le moment de la découverte est toujours le même. Un désaccord commercial, un changement d'équipe, une hausse de tarif, et la question tombe : qu'est-ce qui est à nous, là-dedans ? Si la réponse exige une réunion avec le prestataire, elle est déjà connue.
Celle qui ne s'ouvre pas
Un grand modèle de langage ne suit pas un arbre de règles qu'on pourrait dérouler après coup. Il produit sa réponse par un calcul dont personne, pas même son éditeur, ne sait extraire une justification fidèle. Ce n'est pas une négligence, c'est la nature de l'objet, et les explications que l'agent donne de son propre raisonnement sortent du même mécanisme que ses réponses : plausibles, jamais probantes.
Reste que le modèle n'est pas l'endroit où vit votre savoir-faire. Sur les huit nœuds d'un système d'agents, deux seulement sont le modèle. Les six autres se lisent, se versionnent et s'emportent. C'est là que se joue votre indépendance, et c'est là que presque personne ne regarde.
01Ce qui s'ouvre
Cinq artefacts, et le nom de leur ensemble
L'ensemble de ce qui entoure le modèle et encadre ses décisions porte un nom en ingénierie : le harnais. Il se compose d'objets ordinaires. Aucun n'est un secret industriel de votre prestataire, et chacun peut tenir dans un fichier que vous ouvrez sans son outil.
Les instructions
Le texte qui dit à l'agent son rôle, ce qu'il refuse, comment il formule. Votre métier mis en mots, souvent la pièce la plus précieuse du système, et c'est du texte brut.
La politique de permission
Pour chaque action possible, une décision : autoriser, refuser, ou demander à quelqu'un. Elle vit hors de portée du modèle. C'est une liste, et une liste se copie.
Le corpus et ses index
Vos documents, et surtout le découpage qui les rend interrogeables. Les documents sont à vous par nature ; le découpage, lui, se perd si personne ne l'a réclamé.
Les journaux d'exécution
Chaque tour de boucle, chaque appel d'outil, chaque résultat, horodatés. La preuve en cas de litige, et la mémoire de ce que le système a vraiment fait chez vous.
La description des connecteurs
Quelles données entrent, quelles actions sortent, avec quels droits. La carte de vos raccordements. Sans elle, reconstruire ailleurs, c'est refaire l'enquête depuis zéro.
02Le droit
Ce que le droit vous donne, et ce qu'il ne fait pas à votre place
Deux textes européens travaillent pour vous, et aucun des deux ne fabriquera les artefacts à votre place. Les connaître sert surtout à savoir ce qu'on peut exiger sans le négocier.
Le règlement (UE) 2023/2854, dit règlement sur les données, s'applique depuis le 12 septembre 2025. Il organise le changement de fournisseur : lever les obstacles au départ, encadrer les délais de transition, et, à partir de janvier 2027, interdire de facturer le changement. Le principe est simple : partir ne doit ni coûter, ni traîner.
Le règlement (UE) 2024/1689 sur l'intelligence artificielle impose au déployeur d'un système à haut risque de conserver les journaux au moins six mois, dans la mesure où ces journaux se trouvent sous son contrôle. La nuance est lourde : le texte suppose que vous les ayez. Si votre prestataire les garde chez lui, vous héritez d'un devoir sans en tenir le moyen.
Retenez la différence de nature. Une clause de réversibilité décrit une obligation, qui se plaide ; un export qui tourne décrit un fait, qui se constate.
Cette page fixe un cadre de lecture ; elle ne constitue pas un avis juridique. Pour la qualification de votre système et la rédaction de vos engagements, l'avis d'un conseil est nécessaire.
03Les demandes
Trois demandes à faire avant de signer
Aucune ne demande de lire du code. Toutes se font en réunion, et la qualité des réponses dit tout. Une seule règle : ne pas accepter une promesse là où un geste est possible.
« Faites l'export devant moi, maintenant. »
Pas une clause, pas une procédure documentée : le geste, en séance, chronométré. Un export qui réclame un ticket ou un développement spécifique n'existe pas encore. Le jour où vous en aurez besoin, la relation sera moins cordiale qu'aujourd'hui.
« Dans quel dépôt vivent les instructions et les politiques, et qui en a les clés ? »
Si la réponse est « dans notre plateforme », ce n'est pas chez vous, quel que soit le contrat. L'indice est prosaïque : pouvez-vous, seul, ouvrir l'historique et voir qui a changé quoi, et quand ?
« Montrez-moi une trace lue sans votre outil. »
Un journal qui n'est lisible que dans la console du prestataire n'est pas une preuve, c'est une vue. Demandez le fichier, ouvrez-le ailleurs. Ce test dure trois minutes et règle la question pour trois ans.
Ce que cela implique en pratique
La réversibilité se construit à l'entrée, pas à la sortie, et elle ne coûte presque rien quand on la pose au départ. C'est aussi pourquoi elle disparaît des projets : personne ne réclame au premier jour ce dont il n'aura besoin qu'au dernier. Un système dont les cinq artefacts sont chez vous ne vous enferme pas, même si vous ne changez jamais de prestataire. C'est ce qui reste quand tout le reste s'en va, et c'est exactement votre capital de savoir-faire.
Neuf couches, et lesquelles vous appartiennent
La note détaille les neuf couches d'une architecture de production. Y repérer lesquelles sont louées et lesquelles sont les vôtres est l'exercice le plus rentable avant une négociation.
Le corpus, ses index, et ce qui se perd au départ
La section sur la récupération montre ce qu'est un index : pas une copie de vos documents, mais le découpage qui les rend interrogeables. C'est cette part-là qui s'évapore quand on ne l'a pas demandée.
04Sources
Sources primaires
Vérifiées le 25 août 2026.
- Règlement (UE) 2023/2854 sur des règles harmonisées portant sur l'équité de l'accès aux données et de l'utilisation des données, dit règlement sur les données. Texte intégral sur EUR-Lex, chapitre sur le changement de fournisseur de services de traitement de données.
- CNIL, « Le règlement sur les données : un nouveau cadre européen pour le partage et l'utilisation des données », calendrier d'application, dont la gratuité du changement de fournisseur en janvier 2027.
- Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l'intelligence artificielle. Texte intégral sur EUR-Lex, article 26, paragraphe 6, sur la conservation des journaux par le déployeur.
- uniy, Six schémas de l'ingénierie d'agents, note de référence, sections 04 et 06.