Lors de l’événement DataOps.Rocks, organisé par Saagie le 23 septembre 2021, les data scientists de La Banque Postale ont expliqué comment l’entreprise se préparait dans la perspective de l’IA Act, en travaillant sur l’explicabilité des algorithmes. (Photo de Clémence Panet-Amaro, chief data scientist de La Banque Postale. DR)
Créée en 2006, La Banque Postale réunit les différents services financiers du groupe La Poste. Dans son plan stratégique 2020-2030, les données occupent une place essentielle, irriguant l’ensemble des axes. Pour répondre aux enjeux actuels sur le sujet et se préparer à ceux à venir, La Banque Postale a créé en 2021 une nouvelle direction de l’innovation, du digital et de la data. Au sein de cette direction, la data factory, confiée à Clémence Panet-Amaro, travaille notamment sur l’explicabilité des algorithmes, un sujet amené à prendre de l’ampleur avec le projet de réglementation IA Act, soumis au Parlement européen et au Conseil de l’Union européenne le 21 avril 2021. Lors de l’événement DataOps.Rocks, organisé par Saagie le 23 septembre 2021, Clémence Panet-Amaro, chief data scientist à La Banque Postale, Dilia Carolina Olivo, data scientist à La Banque Postale et Bilal Azennoud, data scientist chez Probayes, ont présenté leurs travaux.
« La data factory fonctionne un peu comme un cabinet de conseil interne, avec huit data scientists qui accompagnent la banque et ses filiales sur tous leurs projets data, animent et fédèrent la communauté data », a expliqué Clémence Panet-Amaro afin de préciser le rôle de son équipe. Les projets sur lesquels celle-ci intervient touchent de nombreux domaines : le digital, le marketing, la lutte contre la fraude et le blanchiment, la gestion du risque ou encore le juridique et la conformité. « Nous allons aussi sur certains sujets un peu plus novateurs, comme l’amélioration de processus transverses », a indiqué la chief data scientist.
L’IA Act, un texte basé sur les impacts humains
Pour une banque, amenée à traiter de nombreuses données clients sensibles, il est essentiel de garder le lien de confiance avec les clients. Dès 2016, le groupe La Poste a mis en place une charte data, posant des principes de transparence et d’usage raisonné des données. Lors du rapprochement avec la Caisse des Dépôts et CNP Assurances en 2020, l’ensemble des chartes existant dans le groupe ont été partagées, afin de s’assurer de la cohérence globale des principes posés. Sept piliers guident aujourd’hui la stratégie data du groupe : la robustesse technique et la sécurité ; le respect de la vie privée et la gouvernance des données ; la transparence ; la diversité, la non-discrimination et l’équité ; le bien-être sociétal et environnemental ; la responsabilité et enfin une action et un contrôle humains. La capacité à rendre les modèles basés sur la donnée explicables, en particulier ceux d’intelligence artificielle, contribue directement à plusieurs de ces principes. Toutefois, en démarrant leur travail sur l’explicabilité, les data scientists de la data factory ont rencontré de nombreuses questions : quels modèles faut-il expliquer ? Seulement les modèles de machine learning ou bien les modèles déterministes ? À qui ? À celui qui les conçoit, à celui qui les contrôle, à celui qui est visé par la décision de l’algorithme ? Quel est le niveau de technicité requis et comment expliquer les modèles ?
[…]
Pour lire la suite de l’article, rendez-vous sur le site de notre publication sœur CIO.