Ressources
Mettre un modèle en production
Un modèle en production sert des décisions en continu. Il demande donc un service d'inférence dimensionné, une surveillance de la dérive, un cycle de réentraînement et un coût d'exploitation connu à l'avance.
Ce que le passage en production ajoute
Un modèle exposé en service reçoit des données du monde réel, qui évoluent. Sa performance se surveille donc en continu, sur des indicateurs comparés à ceux de l'entraînement : c'est la détection de dérive. Quand l'écart franchit un seuil, un réentraînement s'engage avec des données récentes, puis le nouveau modèle est comparé à l'ancien avant bascule. À cela s'ajoute un chiffrage précis : le coût par appel d'inférence, multiplié par le volume, décide de l'architecture retenue.
- Un service d'inférence dimensionné sur le volume d'appels attendu
- Une surveillance de la dérive, comparée aux indicateurs d'entraînement
- Un seuil de réentraînement fixé avant la mise en service
- Une comparaison systématique entre modèle sortant et modèle entrant
- Un coût par appel connu, qui rend l'arbitrage d'architecture possible
Quatre arbitrages d'exploitation
Traitement local ou infonuagique
Le volume d'appels, la latence acceptable et la sensibilité des données décident. Le calcul se pose avant l'achat.
Réponse immédiate ou par lots
Un traitement nocturne par lots coûte une fraction d'un service permanent, quand la décision le permet.
Modèle propre ou service tiers
La réversibilité se prépare dès le premier jour : formats d'échange ouverts, données conservées chez vous.
Fréquence de réentraînement
Elle se déduit de la vitesse de dérive observée, jamais d'un calendrier fixé à l'avance par habitude.
Le volume consacré à l'exploitation
- heures d'industrialisation
- 140
- heures sur le coût de calcul
- 100
- heures sur les modèles de langage
- 200
Service d'inférence, dérive, réentraînement, coût.
Dimensionnement, optimisation, local ou infonuagique.
Ajustement fin, évaluation, coût d'inférence.
Questions de mise en service
Comment repère-t-on une dérive ?
En comparant les indicateurs du service à ceux mesurés à l'entraînement : distribution des entrées, taux de réponse par catégorie, performance sur un échantillon annoté régulièrement. L'écart franchi déclenche le réentraînement prévu.
Faut-il conserver le modèle précédent ?
Oui, et il sert deux fois : comme point de comparaison pour valider le nouveau, et comme chemin de retour immédiat si la bascule révèle un écart. C'est le même raisonnement que pour une version applicative.
Qui exploite un modèle au quotidien ?
L'équipe qui exploite le reste du service, avec les mêmes outils de journalisation et de supervision. Le bloc d'industrialisation enseigne précisément à rendre un modèle exploitable par une équipe d'exploitation ordinaire.
À explorer ensuite
- Gouvernance des donnéesPropriété des données, cycle de vie, hébergement, durée de conservation, réversibilité et dépendance aux fournisseurs : cadrer la gouvernance.
- Données personnellesFinalité, base légale, minimisation, durée de conservation, sécurité et droits des personnes : le registre des traitements en pratique.
- Sécurité d'un site industrielSystème de management HSE, permis de travail, coactivité, audit interne, indicateurs avancés et culture sécurité : le dispositif complet d'un site.
- Analyser un risqueDanger, exposition, criticité, document unique et hiérarchie des mesures de prévention : la méthode d'analyse de risque appliquée à un poste réel.
- Enquête d'accidentRecueil des faits, arbre des causes, causes profondes, plan d'action et retour d'expérience : conduire une enquête après un accident ou un presqu'accident.
- Réflexes de cybersécuritéIdentités et habilitations, mises à jour, sauvegardes testées, segmentation réseau et sensibilisation : les mesures qui protègent le plus pour le moins d'effort.