Podcast: Giovanni Mangani, Responsable avant-vente chez Pegasystems, nous parle des biais en intelligence artificielle

Giovanni Mangani est spécialiste de l'intelligence artificielle chez Pegasystems. Nous l'avons rencontré afin de lui faire parler des biais, parfois introduits dans les systèmes d'apprentissage machine, et susceptibles de fausser une prise de décision. "Correctement exploitée, l'IA permet aux entreprises de valoriser chaque interaction client, pour renforcer leur confiance et augmenter leurs bénéfices. Il peut pourtant arriver que les modèles d’IA « apprennent » des données biaisées de manière involontaire au fil du temps, comme l'âge, l'appartenance ethnique ou le genre. Non détectées, elles peuvent générer des pratiques discriminatoires néfastes comme la réduction du nombre de prêts, de polices d’assurances ou d’offres promotionnelles, et stigmatiser certaines populations. Nous vivons actuellement dans une économie imprévisible où les entreprises ne peuvent pas risquer de perdre la confiance de leurs clients, qui sont déjà plus vulnérables en raison de la pandémie", explique-t-il.

- Commençons par une question importante, qu'est-ce qu'un biais ?
- Les biais sont-ils toujours involontaires ou peuvent-ils être volontaires ?
- Donnez nous quelques exemples des conséquences que des biais non détectés peuvent avoir sur des décisions.
- Votre plateforme dit "éliminer les données biaisées". Comment peut-on les détecter si ce sont des données comme les autres ?
- Un biais c'est aussi l'absence de certaines données. Comment est-ce détectable ?
- Y a-t-il un aspect règlementaire ? Est-ce les biais seront prochainement "contrôlés" dans certains secteurs ?