Suivre les modèles et les décisions
De l’extérieur, une décision automatisée paraît simple : une demande entre dans le système, une décision en sort.
En fonctionnement, les systèmes de décision évaluent des centaines de conditions, de règles et de transformations de données avant de rendre un résultat. Sans trace détaillée, une question élémentaire reste sans réponse :
Pourquoi le système a-t-il pris cette décision ?
Les banques, les fintechs et les assureurs sont confrontés à cette question tous les jours. Les autorités de contrôle la posent. Les équipes risque aussi. Les clients également.
Pour y répondre, il faut une trace complète de la décision sur l’ensemble du flux de décision.
Cet article présente ce que signifie la journalisation des décisions et son application aux différentes phases de la logique de décision automatisée.
Qu’est-ce qu’une trace de décision ?
Une trace de décision retrace le parcours suivi par une décision dans le système.
Elle contient notamment :
- les données d’entrée utilisées pour l’évaluation
- les règles évaluées et leurs résultats
- les calculs intermédiaires
- les réponses des API externes
- le résultat final de la décision
Chaque étape est consignée dans un dossier consultable à des fins d’audit.
Une trace complète permet à l’équipe de reconstituer une décision plusieurs mois après et de montrer précisément comment la logique a été exécutée.
Dans les secteurs réglementés, cette exigence n’est pas facultative. Des textes comme le RGPD et DORA exigent que les décisions automatisées qui ont un effet sur les clients puissent être expliquées.
Étape 1 : évaluer les données d’entrée
Toute décision automatisée commence par des données d’entrée.
Il peut s’agir, par exemple, de :
- données d’une demande de prêt
- historique des opérations sur un compte bancaire
- résultats de vérification d’identité
- réponses des bureaux de crédit
- scores de risque internes
Avant l’application des règles métier, le système vérifie la qualité et la structure des données.
Les contrôles portent généralement sur :
- les champs manquants
- les formats non valides
- les valeurs incohérentes
- les données obsolètes
La trace doit consigner :
- les données brutes reçues
- les transformations appliquées
- les résultats des contrôles
Input: Monthly income = 4,200
Source: application form
Validation: passed
Transformation: converted to integer
Sans cette étape, les équipes ne peuvent pas déterminer si l’échec d’une décision vient de données d’entrée erronées ou de la logique des règles.
Étape 2 : exécuter la logique de décision
Une fois les données d’entrée validées, le système exécute la logique de décision.
Cette logique comprend généralement :
- arbres de décision
- tables de décision
- ensembles de règles
- logique conditionnelle
- calculs de score
En souscription, la logique peut par exemple inclure des règles comme :
IF credit_score < 580
THEN reject application
IF debt_to_income_ratio > 45%
THEN mark for manual review
Une trace de décision consigne :
- chaque règle évaluée
- le résultat de la règle
- l’ordre d’exécution
Rule: credit_score_check
Condition: credit_score < 580
Result: false
Rule: debt_to_income_check
Condition: debt_to_income_ratio > 45%
Result: true
Outcome: manual review
La trace indique précisément comment la décision a été prise.
Étape 3 : données externes et appels aux API
Les flux de décision modernes s’appuient rarement uniquement sur des données internes.
Ils interrogent souvent des services externes, par exemple :
- des bureaux de crédit
- des systèmes de détection de la fraude
- des API d’agrégation de comptes bancaires
- des prestataires de vérification d’identité
Chaque appel influe sur le flux de décision.
Exemple de séquence :
- Récupérer l’historique des opérations bancaires
- Calculer la stabilité des revenus
- Évaluer les signaux de fraude
- Mettre à jour le score de risque
Une trace complète consigne :
- le point d’accès API appelé
- les paramètres de la requête
- les données de la réponse
- les résultats de l’évaluation
API call: transaction_analysis_service
Transactions analyzed: 540
Detected monthly income: 4,180
Income stability score: 0.87
Si un service externe tombe en panne ou renvoie des données inattendues, la trace montre exactement où le problème est survenu.
Étape 4 : indicateurs calculés et résultats des modèles
Avant de rendre une décision finale, de nombreux systèmes calculent des indicateurs à partir des données disponibles.
Par exemple :
- le taux d’endettement
- la volatilité des opérations
- l’évolution du chiffre d’affaires des comptes professionnels
- le score de risque de fraude
- le score de capacité de remboursement
Ces calculs combinent souvent plusieurs données d’entrée.
Debt-to-income ratio
= total monthly obligations / verified income
= 1,950 / 4,180
= 46.6%
La trace doit inclure :
- les formules utilisées
- les valeurs intermédiaires
- les résultats finaux des calculs
L’équipe risque peut ainsi vérifier que les calculs ont produit les résultats attendus.
Étape 5 : décision finale et résultat
Après avoir évalué les règles, les données et les indicateurs calculés, le système rend une décision.
Les résultats possibles comprennent :
- approve
- reject
- manual review
- request additional information
La trace consigne :
- la décision finale
- la règle ou la condition qui l’a déclenchée
- la version de l’ensemble de règles utilisée
Decision: manual_review
Triggered by: debt_to_income_check
Ruleset version: v3.14
Timestamp: 2026-03-09T10:32:14
Le suivi des versions est essentiel. La logique de décision évolue. Chaque trace doit indiquer précisément quelle version des règles était active au moment de la décision.
Étape 6 : analyser les décisions après leur rendu
La journalisation ne s’arrête pas une fois la décision rendue.
Les organisations analysent les traces pour améliorer les performances et les modèles de risque.
Répartition des décisions
Exemples de questions à se poser :
- Quel pourcentage des demandes fait l’objet d’un examen manuel ?
- Quelles règles entraînent le plus de refus ?
Efficacité des règles
Les équipes examinent les règles qui se déclenchent le plus souvent et vérifient si elles conduisent aux bons résultats.
Rule: income_instability_flag
Triggered: 22% of cases
Manual review outcome: 81% rejection
Suivi des modèles
Lorsqu’un modèle intervient dans la logique de décision, les traces aident à repérer une dérive.
Parmi les signaux à surveiller :
- évolution de la répartition des scores de risque
- hausse inhabituelle des alertes de fraude
- pics soudains du taux d’acceptation
Sans données de trace, il devient difficile de comprendre ces évolutions.
À quoi servent les traces de décision ?
De nombreux systèmes savent rendre des décisions. Peu peuvent les expliquer.
Les traces apportent trois avantages opérationnels aux équipes.
1. Éléments à fournir lors d’un audit
Les autorités de contrôle demandent souvent la preuve que les décisions suivent des règles documentées. La trace de décision apporte ces éléments.
2. Résolution plus rapide des problèmes
Lorsqu’une décision semble erronée, les équipes peuvent consulter la trace pour voir quelle règle s’est déclenchée et quelles données l’ont activée.
3. Modification des règles en toute maîtrise
L’historique des traces permet de comparer les décisions avant et après une modification des règles.
Décisions déterministes et modèles opaques
De nombreuses organisations intègrent des modèles d’apprentissage automatique aux flux de décision. Leur fonctionnement est souvent opaque.
Avec une logique de décision déterministe, la décision finale peut être expliquée. Les modèles fournissent des signaux, mais ce sont les règles qui déterminent le résultat.
IF fraud_model_score > 0.82
AND transaction_velocity > threshold
THEN reject payment
Le modèle fournit un signal, la logique de décision l’interprète et la trace consigne les deux.
Les exigences opérationnelles d’un système de décision
Quatre propriétés sont essentielles au fonctionnement des décisions automatisées en environnement réel :
- Déterminisme
- Possibilité de retracer les décisions
- Explication des décisions
- Gestion des versions
Sans ces propriétés, il est difficile de faire confiance aux décisions automatisées.
En conclusion
L’automatisation augmente le nombre de décisions. Les banques et les fintechs réalisent désormais des millions d’évaluations automatisées chaque mois.
Sans journalisation détaillée, ces décisions deviennent opaques.
Avec une trace complète, les équipes peuvent reconstituer le déroulement exact d’une décision et l’expliquer plusieurs mois après.
C’est ce qui distingue les décisions automatisées des systèmes décisionnels dont le fonctionnement peut être contrôlé lors d’un audit.
Questions fréquentes
Que consigner lorsqu’un fournisseur de données externe tombe en panne ou renvoie une réponse inattendue ?
Consignez le fournisseur, l’heure de la requête, le statut de la réponse et toute version de réponse ou de schéma disponible dans la trace contrôlée par le client. Définissez le comportement de repli dans la logique de décision, par exemple en demandant de nouvelles informations ou en orientant le dossier vers un examen humain. Ne traitez jamais silencieusement une valeur manquante comme zéro et ne réutilisez pas de données obsolètes, car ces deux pratiques peuvent modifier la décision.
Comment savoir si une décision a changé à cause d’un score de modèle inhabituel ou d’une règle de décision ?
Pour les décisions concernées, comparez le résultat du modèle, les valeurs utilisées par les règles, les résultats de ces règles et la version des règles. Rejouez les mêmes données d’entrée avec la même version pour déterminer si le changement vient du résultat du modèle ou de la logique de décision. Considérez le score comme une donnée d’entrée. Le responsable des règles doit examiner et approuver toute modification de la règle qui l’utilise.
Quels taux examiner après le déploiement d’une modification des règles ?
Comparer les taux d’acceptation, de refus et de traitement manuel avant et après le déploiement d’une version, puis repérer les évolutions importantes par produit ou segment de demandeurs. Examiner d’abord les variations autour des seuils, puis vérifier la qualité des données d’entrée et les réponses des prestataires externes avant de modifier les règles. Avec de petits échantillons, les taux peuvent fluctuer fortement. Définir les seuils de contrôle en fonction du volume de demandes et analyser les évolutions durables plutôt que réagir à chaque variation.