BBVA évalue les biais de l'IA

Très engagée en faveur du déploiement des dernières technologies d'intelligence artificielle au sein des services et des processus bancaires, la banque espagnole BBVA s'est associée à IBM Research afin de tester l'intelligence artificielle, et plus particulièrement, de mesurer l'impact des biais et des résultats faussés en matière de discrimination.

LES FAITS

• BBVA s'est donc associée à IBM Research afin de mettre en commun les compétences des chercheurs des deux entités. Ces derniers doivent ainsi travailler à tester la résistance de l'intelligence artificielle vis à vis des biais discriminatoires basés par exemple sur d'éventuels stéréotypes liés aux origines, à la sexualité ou encore aux handicaps.

• Les modèles d'intelligence artificielle générative sont particulièrement concernés, tout comme les modèles dans d'autres langues que l'anglais (l'anglais bénéficiant en effet déjà d'un travail approfondi de lutte contre les biais discriminatoires).

• BBVA a donc adapté un ensemble de données baptisé SocialStigmaQA (SSQA), développé par l'équipe de recherche d'IBM pour tester la résistance des réponses de l'IA générative face à des questions et des prompts conotées.

• Les équipes de BBVA ont ainsi identifié une plus grande présence de réponses biaisées en langue espagnole, par rapport au modèle en anglais, démontrant ainsi l'intérêt d'optimiser encore les modèles.

• Outre les chercheurs de BBVA et IBM Research, les travaux engagés ont aussi été ouverts en Open Source afin de permettre à une large communauté de travailler à l'optimisation des modèles.

ENJEUX

• Favoriser une démocratisation positive : Le déploiement des dernières technologies d'intelligence artificielle au sein des process de la banque ne doit pas s'opérer sans prendre en considération les risques potentiels portés par ces nouvelles technologies. Or ces risques peuvent notamment découler de l'extrapolation de données d'entrainement discriminantes et de la polarisation des réponses.

• Utiliser et optimiser : BBVA fait ici preuve de clairvoyance en travaillant elle-même à l'amélioration de l'IA, assurant ainsi une utilisation et un déploiement responsable des nouvelles technologies. La banque souligne ainsi son engagement à mettre en place une IA générative sûre.

• S'imposer comme une référence : Les travaux de BBVA et d'IBM Research ont été acceptés à la
  Neural Information Processing Systems (NeurIPS), série de conférences sur l'intelligence artificielle. Outre les ensembles de données adaptés à la langue espagnole, BBVA travaille par ailleurs aussi à déployer un ensemble de données spécifiquement adapté au secteur bancaire.

MISE EN PERSPECTIVE

• Depuis un an, BBVA cherche à mobiliser ses équipes sur le sujet d'actualité qui concerne le déploiement des technologies d'IA dans les services bancaires. Le positionnement de la banque passe notamment par l'organisation de challenges internes visant à développer l'expertise de ses propres salariés sur le sujet.

• Et cette mobilisation a plus récemment débouché sur l'officialisation par la banque espagnole de l'emploi des technologies d'intelligence artificielle au sein de ces process et de ses équipes à grande échelle. BBVA propose notamment ChatGPT Enterprise à ses équipes pour faciliter leur travail.