L'interprétabilité dans l'apprentissage automatique est le concept visant à rendre les modèles d'apprentissage automatique plus transparents et compréhensibles pour plusieurs publics, en particulier les non-experts. Cela est devenu de plus en plus important ces dernières années à mesure que les modèles d’apprentissage automatique sont devenus plus complexes.
L’objectif de l’interprétabilité est d’augmenter l’utilité des modèles en comprenant pourquoi ils font certaines prédictions, en évaluant plus précisément les risques potentiels liés au déploiement de modèles non testés et en communiquant clairement pourquoi un système prend des décisions. C’est également important pour des raisons éthiques, car il est essentiel de garantir que les modèles ne contiennent pas de préjugés discriminatoires ou injustes.
Une façon d'augmenter l'interprétabilité d'un modèle consiste à utiliser des visualisations. Des visualisations telles que des arbres de décision, des graphiques d'importance des fonctionnalités et des diagrammes de dépendance partielle sont utilisés pour créer des représentations visuelles de modèles qui facilitent l'interprétation du comportement d'un système.
Une autre façon d’augmenter l’interprétabilité consiste à utiliser des fonctionnalités intelligibles. En remplaçant les caractéristiques numériques par des caractéristiques lisibles par l'homme, les modèles deviennent plus faciles à comprendre et à faire confiance. Cela contribue également à atténuer un phénomène connu sous le nom de « boîte noire », dans lequel les utilisateurs n’ont aucune idée des décisions prises par un modèle.
De plus, des techniques telles que les explications au niveau de l'instance, qui expliquent les prédictions d'un modèle unique, sont de plus en plus appliquées dans le domaine de l'apprentissage automatique pour accroître la confiance dans les modèles.
Enfin, des techniques telles que les exemples contradictoires peuvent être utilisées pour mesurer la robustesse d'un modèle. Ces exemples fournissent une certaine interprétabilité de ce qui rend un modèle vulnérable aux erreurs, telles que le surajustement ou la fuite de données.
Dans l’ensemble, l’interprétabilité est devenue un élément de plus en plus important du paysage de l’apprentissage automatique. En améliorant la compréhensibilité des modèles, les pièges potentiels peuvent être identifiés avant le déploiement, et l'utilisation efficace et humaine de l'apprentissage automatique peut être plus facilement réalisée.
