Hugo Cornu, Head of Data Expertise Team & Senior Consultant chez SOAT
La communauté scientifique est un des plus beaux exemples d'intelligence collective (IC) : des milliers de chercheurs ajoutent chaque année leur pierre à un édifice commun qui dépasse les frontières, les langues, les idéologies. Mais la science est aussi le terrain du génie individuel comme Curie, Einstein ou Hawking qui à eux seuls ont révolutionné la pensée collective de leur époque.
L'intelligence artificielle (IA) progresse différemment : il n’y a pas de héros ou de star.
Il y a plusieurs raisons à cela. Tout d'abord, la discipline est encore jeune. Ensuite, et surtout, les passionnés d’apprentissage machine (Machine Learning) sont des passionnés d’apprentissage tout court. En effet, les data scientists forment une communauté remarquable par sa capacité à mêler compétition, entraide et partage de connaissance : les maîtres d’un sujet sont eux-mêmes élèves sur les autres. Bien sûr, cela peut être dit de beaucoup de communautés professionnelles, mais c’est d’autant plus marqué en IA que la matière première est collective par essence.
Par exemple, pour apprendre à une machine à recommander de bons articles, il faut mesurer les comportements de milliers de lecteurs. Entraîner une IA est donc toujours un travail d’équipe et ouvert sur le monde. Tandis que les algorithmes (et leurs auteurs) sont entraînés, remplacés, interchangés à un rythme effréné, les données restent et s’accumulent. Plus que toutes autres ressources, elles représentent un capital auquel nous, grand public, contribuons collectivement.
Malgré des appels en faveur de l’Open Data, les gisements de données les plus riches appartiennent à de grandes multinationales et c’est dommage. Mais que ces données soient privées ou publiques, nous devons cultiver à leur égard un sentiment de responsabilité, car elles sont le reflet de notre intelligence collective, bonne ou mauvaise. Par exemple, Microsoft a dû suspendre son IA conversationnel “Tay” après les efforts coordonnés de plusieurs centaines d’utilisateurs pour abuser de son système d’apprentissage et le faire répondre de manière inappropriée.
L’intelligence artificielle peut donc être considérée comme l’une des manifestations orchestrées d’intelligence collective. Et c’est ce qui la rend profondément humaine.
Pourtant, les peurs liées à l'IA tournent en majorité autour de son "inhumanité" perçue. Combien de scénarios dystopiens explorent la possibilité d'une domination de l’homme par la machine ? Plus concrètement, dans certains domaines (prise de décision militaire, véhicules autonomes ...), la technologie existe, mais la société n’est pas prête à lui faire confiance. C’est bien justifié puisque l’IA reste une boîte noire : même lorsqu’on peut mesurer objectivement la qualité des décisions prises par une IA, il est difficile d’en expliquer le processus de raisonnement et les biais.
En pratique, il devient de plus en plus clair que les algorithmes peuvent intégrer des biais vis-à-vis de minorités, d’objectifs pécuniaires ou de valeurs morales. Ces biais sont parfois transmis inconsciemment par les créateurs de l’IA, mais le plus souvent ils résident dans les données d'entraînement. Qui n’a jamais été surpris ou déçu par les recommandations automatiques de Youtube ?
La pertinence de l'IA repose donc essentiellement sur la qualité des données d'entraînement, données fournies par l'intelligence collective. Et c’est une bonne nouvelle. Car, plus nous en sommes conscients, plus nous pouvons intégrer à l’IA des composantes humaines et éthiques. Le projet MoralMachine du MIT en témoigne : il propose aux internautes de résoudre des dilemmes moraux et donc participer à construire des bases de données éthiques.
Puisqu’il est possible et pratiquement nécessaire d’enseigner nos valeurs aux premières générations d’IA, n’avons-nous pas le devoir de les éduquer avec fermeté et bienveillance comme nous le faisons avec les nouvelles générations d’humains ? Un beau projet… collectif.
L'intelligence artificielle (IA) progresse différemment : il n’y a pas de héros ou de star.
Il y a plusieurs raisons à cela. Tout d'abord, la discipline est encore jeune. Ensuite, et surtout, les passionnés d’apprentissage machine (Machine Learning) sont des passionnés d’apprentissage tout court. En effet, les data scientists forment une communauté remarquable par sa capacité à mêler compétition, entraide et partage de connaissance : les maîtres d’un sujet sont eux-mêmes élèves sur les autres. Bien sûr, cela peut être dit de beaucoup de communautés professionnelles, mais c’est d’autant plus marqué en IA que la matière première est collective par essence.
Par exemple, pour apprendre à une machine à recommander de bons articles, il faut mesurer les comportements de milliers de lecteurs. Entraîner une IA est donc toujours un travail d’équipe et ouvert sur le monde. Tandis que les algorithmes (et leurs auteurs) sont entraînés, remplacés, interchangés à un rythme effréné, les données restent et s’accumulent. Plus que toutes autres ressources, elles représentent un capital auquel nous, grand public, contribuons collectivement.
Malgré des appels en faveur de l’Open Data, les gisements de données les plus riches appartiennent à de grandes multinationales et c’est dommage. Mais que ces données soient privées ou publiques, nous devons cultiver à leur égard un sentiment de responsabilité, car elles sont le reflet de notre intelligence collective, bonne ou mauvaise. Par exemple, Microsoft a dû suspendre son IA conversationnel “Tay” après les efforts coordonnés de plusieurs centaines d’utilisateurs pour abuser de son système d’apprentissage et le faire répondre de manière inappropriée.
L’intelligence artificielle peut donc être considérée comme l’une des manifestations orchestrées d’intelligence collective. Et c’est ce qui la rend profondément humaine.
Pourtant, les peurs liées à l'IA tournent en majorité autour de son "inhumanité" perçue. Combien de scénarios dystopiens explorent la possibilité d'une domination de l’homme par la machine ? Plus concrètement, dans certains domaines (prise de décision militaire, véhicules autonomes ...), la technologie existe, mais la société n’est pas prête à lui faire confiance. C’est bien justifié puisque l’IA reste une boîte noire : même lorsqu’on peut mesurer objectivement la qualité des décisions prises par une IA, il est difficile d’en expliquer le processus de raisonnement et les biais.
En pratique, il devient de plus en plus clair que les algorithmes peuvent intégrer des biais vis-à-vis de minorités, d’objectifs pécuniaires ou de valeurs morales. Ces biais sont parfois transmis inconsciemment par les créateurs de l’IA, mais le plus souvent ils résident dans les données d'entraînement. Qui n’a jamais été surpris ou déçu par les recommandations automatiques de Youtube ?
La pertinence de l'IA repose donc essentiellement sur la qualité des données d'entraînement, données fournies par l'intelligence collective. Et c’est une bonne nouvelle. Car, plus nous en sommes conscients, plus nous pouvons intégrer à l’IA des composantes humaines et éthiques. Le projet MoralMachine du MIT en témoigne : il propose aux internautes de résoudre des dilemmes moraux et donc participer à construire des bases de données éthiques.
Puisqu’il est possible et pratiquement nécessaire d’enseigner nos valeurs aux premières générations d’IA, n’avons-nous pas le devoir de les éduquer avec fermeté et bienveillance comme nous le faisons avec les nouvelles générations d’humains ? Un beau projet… collectif.
