Selon une étude de Progress, 64 % des entreprises françaises souffrent de biais de données

Progress (Nasdaq: PRGS),le fournisseur de confiance de logiciels de développement d'applications et d'infrastructure, présente les résultats de son enquête mondiale, « Data Bias: The Hidden Risk of AI ». Menée par la société de recherche indépendante Insight Avenue, l'enquête de Progress est basée sur les entretiens de plus de 640 professionnels de l’IT et du business, de niveau directeur et supérieur. Ces derniers prennent notamment des décisions grâce aux données et utilisent ou prévoient d'utiliser l'intelligence artificielle (IA) et le machine learning (ML) pour soutenir cette prise de décision. Le rapport complet et les conclusions sont disponibles ici.

Les préjugés sont souvent hérités d'expériences culturelles et personnelles. Lorsque des données sont collectées et utilisées dans la formation de modèles d'apprentissage automatique, ces derniers héritent du parti pris des personnes qui les construisent. Ils produisent alors des résultats inattendus et potentiellement dangereux. Pourtant, malgré les pièges juridiques et financiers potentiels associés au biais de données, il existe un manque de compréhension autour de la formation, des processus et de la technologie nécessaires pour lutter avec succès contre lui.

L'enquête de Progress indique que 70 % des décideurs business et IT français pensent que la partialité des données deviendra une préoccupation majeure à mesure que l'utilisation de l'IA/ML augmentera. Toutefois, seuls 2 % s'y attaquent actuellement et ont un processus d'évaluation en cours. Les plus grands obstacles qu'ils mentionnent sont le manque de sensibilisation aux biais potentiels, la compréhension de la façon d'identifier les biais et le manque de ressources expertes disponibles, comme l'accès des données aux scientifiques.

Quelques chiffres relatifs à l’étude en France :
48 % des répondants français pensent qu’il est nécessaire de faire plus pour comprendre et traiter les biais de données dans leur entreprise
52% pensent que les facteurs qui augmentent la probabilité de biais de données dans une entreprise comme la leur sont le manque de données qualifiées ou scientifiques de l'IA dans l'entreprise
62% pensent que la technologie et les outils associées dans l’entreprise sont à revoir afin de lutter au mieux contre les biais de données potentiels
78 % pensent que prendre des mesures pour éviter le biais de données permettra à leur entreprise de prendre de meilleures décisions et 92% y voient une confiance accrue en l'IA pour l'ensemble de l'entreprise
Pour 92% des répondants français, bénéficier d’une équipe IA et de données diversifiée dans l'entreprise seraient des mesures efficaces pour éviter les biais de données
Pour 88% mettre en place davantage de mesures liées à l'éducation et à la formation autour du biais de données, de ses sources et de ses implications serait impactant pour éviter les biais de données
Les résultats de l'enquête au niveau mondial montrent également que :
66 % des entreprises prévoient de devenir plus dépendantes de la prise de décision en matière d'IA/ML dans les années à venir.
65 % pensent qu'il existe actuellement un biais lié aux données dans leur entreprise.
77 % pensent qu'ils doivent en faire plus pour lutter contre les biais de données.
51 % considèrent le manque de sensibilisation et la sous-estimation des préjugés comme un obstacle à leur résolution.

« Les préjugés peuvent avoir un impact négatif sur les opérations commerciales et la prise de décision au quotidien – cela va de la gouvernance à la perte de confiance des clients en passant par les implications financières et l'exposition juridique et éthique potentielle », déclare Anthony Cross, Directeur France, Progress. « Nos clients se situent au cœur de notre travail et en nous intéressant au potentiel de l'IA/ML, nous voulons nous assurer qu’ils disposent des bonnes informations afin de prendre les meilleures décisions pour leur entreprise. »

Commandée par Progress, l'enquête, « Data Bias: The Hidden Risk of AI », a été menée par Insight Avenue, une société de recherche basée au Royaume-Uni, spécialisée dans la recherche technologique interentreprises. Les résultats sont basés sur des entretiens avec des professionnels des affaires et de l'informatique situés à travers les Amériques, l'Europe et l'Asie, axés sur l'utilisation des données dans la prise de décision. Ces professionnels viennent d'entreprises de plus de 500 employés. Ceci pour mieux comprendre la prise de conscience globale du biais de données, son impact sur les entreprises et ce que les entreprises font pour y remédier. Pour voir les résultats complets, rendez-vous sur https://progress.com/papers/data-bias-the-hidden-risk-of-ai.