Pega lance « Ethical Bias Check » pour lutter contre la discrimination générée par l’IA sur l’ensemble des interactions clients

Pegasystems Inc. (NASDAQ : PEGA), l'éditeur de logiciels expert dans la transformation digitale des entreprises, a annoncé aujourd'hui le lancement de la fonction Ethical Bias Check, une nouvelle fonctionnalité de la plateforme décisionnelle clients, Pega® Customer Decision Hub. Elle élimine les données biaisées dissimulées dans l'intelligence artificielle (IA) gérant l’engagement client. Cette fonctionnalité signale les offres ou messages générés par l’IA qui sont susceptibles d'être discriminatoire. Et ce, sur l’ensemble des canaux avant qu’ils n’atteignent le client.

Correctement exploitée, l'IA permet aux entreprises de valoriser chaque interaction client, pour renforcer leur confiance et augmenter leurs bénéfices. Il peut pourtant arriver que les modèles d’IA « apprennent » des données biaisées de manière involontaire au fil du temps, comme l'âge, l'appartenance ethnique ou le genre. Non détectées, elles peuvent générer des pratiques discriminatoires néfastes comme la réduction du nombre de prêts, de polices d’assurances ou d’offres promotionnelles, et stigmatiser certaines populations. Nous vivons actuellement dans une économie imprévisible où les entreprises ne peuvent pas risquer de perdre la confiance de leurs clients, qui sont déjà plus vulnérables en raison de la pandémie.

Avec sa fonction Ethical Bias Check, Pega aide les entreprises à exploiter l'IA de manière responsable quand il est utilisé dans une interaction client, en détectant toute discrimination. Pour ce faire, la fonction simule les résultats escomptés de la stratégie en s'appuyant sur des analyses prédictives. Après avoir fixé leurs seuils de test, les utilisateurs reçoivent des alertes si le risque de données biaisées atteint un niveau défini comme inacceptable. Par exemple, si la cible d'une offre s'éloigne dans un sens ou dans un autre des données démographiques spécifiques. Les équipes opérationnelles peuvent alors identifier l'algorithme incriminé et ajuster la stratégie, pour aider à garantir des résultats équitables et plus équilibrés pour tous.

« Alors que l'IA s'immisce aujourd'hui dans la quasi-totalité des aspects de l'engagement client, certains incidents majeurs ont permis aux entreprises de prendre progressivement conscience du risque lié aux données biaisées involontaires et de leur impact négatif sur les clients », explique Rob Walker, Vice-President Decisioning & Analytics de Pegasystems. « Avec la fonction Ethical Bias Check, nous équipons les entreprises d'outils capables de lutter contre les données biaisées générées par l'IA pour optimiser leurs interactions clients et augmenter leur valeur vie client. »

La puissance de l'IA avancée de la plateforme décisionnelle clients Pega se trouve au cœur de toutes les interactions clients : marketing, ventes et service client. Sa nouvelle fonction Ethical Bias Check se distingue des autres méthodes de prévention de par sa conception unique.

Une détection ultra-simple : La plupart des autres outils d’IA nécessitent des tests de données biaisées distincts pour chaque offre individuelle. Un processus à la fois chronophage et source d'erreurs. Or, Pega rationalise ces tests en simulant une stratégie d'engagement globale, sur l'ensemble des canaux connectés. Grâce au « cerveau » central de l’IA de Pega, toutes les décisions de l’IA peuvent être filtrées, y compris les offres marketing proposée via le Web, les promotions à envoyer par e-mail ou les suggestions de services à offrir à chaque client. Pega fournit ensuite des rapports détaillés de détection des données biaisées, pour expliquer aux utilisateurs pourquoi et où les problèmes peuvent survenir, afin qu'ils puissent y remédier avant qu’ils ne deviennent réellement des problèmes.

Un contrôle plus flexible : Les entreprises peuvent définir des seuils acceptables pour un élément susceptible d'entraîner des données biaisées, comme l'âge, le genre ou l'appartenance ethnique. Elles peuvent également ajuster ces seuils pour les scénarios dans lesquels les résultats semblent biaisés. Par exemple, lorsqu'une entreprise du secteur de la santé cible principalement des citoyens seniors.

Une protection continue : Les utilisateurs peuvent maintenant inclure un test de données biaisées comme un processus standard lorsqu’ils simulent les résultats d’une stratégie. Ainsi, même en cas de modifications ou d’ajouts d’offres, les utilisateurs sont assurés que ces programmes d'engagement client seront filtrés par le logiciel pour détecter toute donnée biaisée.

Outre la fonction Ethical Bias Check, Pega a récemment introduit d'autres fonctionnalités à sa plateforme décisionnelle clients, qui visent à aider les utilisateurs à exploiter l'IA de manière responsable. Cela inclut la fonction T-Switch quant à elle permet de contrôler la transparence des modèles d'engagement client basés sur l'IA.

La plateforme décisionnelle clients Pega est le centre névralgique toujours actif, procurant une intelligence artificielle à l'ensemble des points de contact avec les clients, afin d'optimiser chaque interaction et de maximiser sa valeur. Les analyses prédictives et la gestion décisionnelle clients permettent aux entreprises de faire des analyses inédites et de recommander en temps réel la Next Best Action à chaque étape du parcours client, du marketing aux ventes, en passant par le service client et la rétention. Cette plateforme fournit la puissance de l'IA à l'ensemble de sa suite logicielle de transformation digitale Pega Infinity™, qui optimise l'engagement client et l'efficacité opérationnelle de bout en bout.

Pour en savoir plus sur la fonction Ethical Bias Check et la lutte contre les données biaisées involontaires dans les stratégies commerciales et marketing des entreprises, visitez le site www.pega.com/products/customer-decision-hub/ethical-bias-check.