Shapash 1.3.2 pour une IA plus Auditable !

Retrouvez la présentation générale de Shapash dans ce post.

Autant de questions qui restent souvent en suspend et qui laissent place à toutes les spéculations. Il s’agit là d’un sujet d’actualité et nombreux sont les acteurs qui s’en saisissent.

A la MAIF nous sommes très investis dans le développement d’une IA de confiance au service de l’humain. Shapash a été développée dans cette intention et rend compréhensible par tous les recommandations formulées par des modèles de Machine Learning réputés “Black Box”. Avec cette nouvelle version, les équipes data MAIF ont souhaité aller plus loin en contribuant à ce sujet majeur de “l’auditabilité” des modèles, en facilitant la documentation systématique de ces derniers à l’aide de templates.

Ce rapport aide à une meilleure gouvernance de l’IA en documentant finement chaque algorithme déployé. Il permet à chacun au sein de l’organisation de comprendre pourquoi, comment, avec quelles données et à quelle fin a été construit son modèle.

Nous espérons qu’il sera une aide précieuse pour l’audit des modèles et pour une meilleure gouvernance de l’IA !

En attente d’une règlementation qui précise le contenu type pour cette documentation, il était important pour nous de proposer une solution ouverte. Ainsi, chaque entreprise peut s’approprier l’outil et définir son propre “standard” que chaque data scientist mettra en oeuvre dans ses projets.

Shapash 1.3.2 propose un template que chacun peut adapter. Vous retrouverez sur le repo Github du projet un tutoriel vous indiquant comment mettre en oeuvre ce template et comment le modifier à votre guise. Dans l’exemple que nous proposons figurent les informations suivantes :

Puisse Shapash contribuer au développement d’une IA de confiance !

Related posts:

When I moved from Sweden to the States, I had practically no connections. So one of the first things I did was join the Rotary Club-an organization for business professionals that focuses on…

If you would have tried to predict the ways of 2020 you could have never in a million years guessed the way that it actually turned out. The sudden attack of Covid threw everything overboard changing…

Ia melagu. Terus melagu. Menghabiskan sisa waktu berada di tempat yang fana sambil memandangi lorong didepannya yang kian gelap dan sunyi mengikuti larutnya malam. Ia memperkecil suaranya. Kini ia…