L'EU AI Act (règlement (UE) 2024/1689) classe à haut risque les systèmes d'IA qui évaluent la solvabilité des personnes physiques, avec des exigences de documentation, d'explicabilité et de supervision humaine applicables à partir du 2 décembre 2027. Le scoring de sociétés n'est pas visé en tant que tel.
Concrètement, un score de crédit expliqué signifie que pour chaque décision de scoring, on peut identifier : (1) les facteurs qui ont contribué positivement au score, (2) les facteurs qui ont contribué négativement, (3) le poids relatif de chaque facteur. Les techniques XAI les plus utilisées sont SHAP (SHapley Additive exPlanations) et LIME.
Pour les établissements financiers soumis à la supervision prudentielle (ACPR, BCE), l'explicabilité est une obligation réglementaire : une décision de refus de crédit ne peut pas être justifiée par "l'algorithme a dit non". Elle doit être expliquée au demandeur.