L'EU AI Act (Règlement IA de l'Union Européenne) classe les systèmes d'IA utilisés pour l'octroi de crédit en "systèmes à haut risque" — ce qui impose des exigences strictes de documentation, d'explicabilité et de supervision humaine.
Concrètement, un score de crédit expliqué signifie que pour chaque décision de scoring, on peut identifier : (1) les facteurs qui ont contribué positivement au score, (2) les facteurs qui ont contribué négativement, (3) le poids relatif de chaque facteur. Les techniques XAI les plus utilisées sont SHAP (SHapley Additive exPlanations) et LIME.
Pour les établissements financiers soumis à la supervision prudentielle (ACPR, BCE), l'explicabilité est une obligation réglementaire : une décision de refus de crédit ne peut pas être justifiée par "l'algorithme a dit non". Elle doit être expliquée au demandeur.