Florian Douetteau, CEO, Dataiku
Prenons pour exemple l'accident de voiture impliquant une Tesla et un camion en Mai 2016. Le système d'autopilotage de la Tesla avait tout de suite été pointé du doigt. Ainsi, une question de fiabilité et de confiance envers l'intelligence artificielle s'est posée. Dix mois plus tard, à la manière d'un procès humain, ce système semi-autonome a été reconnu innocent aux yeux de tous. La légitimité humaine des ordinateurs intelligents est bien LA question qui entoure l'IA et ce même au sein de l'entreprise. En effet, avec l'avènement des applications intelligentes au cours des dernières années, l'environnement corporate n'est pas épargné. Comme dans un film de science-fiction (tel que « Ghost in the shell »), on se demande même désormais si l'intelligence artificielle pourrait un jour prendre le dessus sur l'intelligence humaine dans les processus de prise de décision. Mais est-ce la question à soulever ici ? L'interaction entre l'IA et l'humain ne devrait-elle pas être l'élément sur lequel il faut se concentrer dans un premier temps ?
L'intelligence artificielle engendre de nombreux questionnements
Que ce soit les entreprises ou les particuliers, l'intelligence artificielle est de plus en plus utilisée pour simplifier la prise de décision. Mais comme dans toute nouveauté « non maitrisée » il y a un certain nombre de menaces, à ne pas négliger, liées au développement de ces applications intelligentes.
La première est celle d'un contrôle par un nombre limité de personnes ou d'entreprises. Les années 2000 ont vu émerger des organisations techniquement agiles, telles que Google ou Amazon. Aujourd'hui, le monopole de l'évolution technologique pourrait être détenu par un nombre limité d'entreprises. En effet, ces organisations pourraient développer les applications intelligentes du futur ou même racheter facilement de nombreuses startups spécialisées dans l'IA (c'est le cas aujourd'hui avec Google notamment).
Avec l'intelligence artificielle c'est aussi toute une frange de la population qui pourrait devenir « esclave » de l'ordinateur. Imaginez une entreprise dans laquelle les processus de ventes ou de marketing seraient contrôlés par l'ordinateur et où les collaborateurs seraient de simples exécutants ne pouvant faire appel à leur capacité de réflexion et de prise de recul. A ce moment-là, comment pourrait-on valoriser les employés de son entreprise ? Notre avenir est-il celui d'un monde où les travailleurs sont devenus de simples robots ?
Celui d'un monde où l'objectif moral serait aux mains d'ordinateurs ? Où se trouve la moralité d'une voiture automatique prenant des décisions seule ? Quelle décision une voiture pourrait prendre dans le cas où elle ne soit pas à même de s'arrêter en présence d'un danger imminent ? Doit-elle préférer écraser un piéton ou s'encastrer dans un mur pour épargner les passagers, mais en tuant la personne au volant ? Qui faut-il sauver ? Est-ce bien une question à laquelle un ordinateur pourrait répondre bien qu'il ne soit pas doté d'une morale humaine ?
Le déploiement de patterns pour réduire le risque
Lorsque la question de l'intelligence artificielle est soulevée, il faut prendre en compte le design UX et l'utilisateur. Un certain nombre de modes de fonctionnement doivent être installés afin de faciliter la relation entre humains et applications intelligentes.
- Identifier les tendances : Combiner l'IA et l'humain en laissant celle-ci déterminer automatiquement les tendances grâce aux données, tout en laissant l'interprétation de la tendance finale à l'être humain. L'IA devient alors un déclencheur d'alertes. C'est le cas des applications de monitoring media où l'ordinateur exécute le travail préparatoire pour les êtres humains ou encore des applications permettant d'envoyer des signaux détectant la fraude. N'importe quel problème est alors identifié par l'IA, puis évaluée par les humains qui pourront agir en conséquence et prendre les meilleures décisions.
- Fixer clairement un objectif business : En ce qui concerne la définition des objectifs propres à l'entreprise, un ordinateur ne saurait être le seul décisionnaire. Une fois les objectifs définis par les êtres humains, les solutions proposées par l'ordinateur (définition des priorités, planning, etc.) ne seront que des outils pour l'atteindre.
- Faciliter la prise de décision : L'apparition d'applications générant et envoyant des contenus automatisés (chatbots, choix de stratégie, etc.) peut aussi impliquer une sorte de collaboration entre machine et humain, où les deux se complètent.
Une nouvelle discipline est apparue avec l'arrivée de l'intelligence artificielle, capable d'optimiser l'interaction entre humains et ordinateurs intelligents. Si l'IA est utilisée de manière pertinente, elle n'est pas un monstre sorti du placard mais plutôt un outil permettant de faciliter le quotidien et la prise de décisions au sein d'une entreprise. Car après tout, il ne sera jamais possible pour un ordinateur de remplacer un esprit humain capable de prendre du recul, juger, regarder de loin les tendances à plusieurs niveaux, valider et s'engager. Et c'est sans doute pour cela que dans les années à venir, les entreprises auront en leur sein des IA experience designers chargés de faire cohabiter ces deux mondes.
Florian Douetteau est CEO et co-fondateur de Dataiku. Diplômé de l'Ecole Normale Supérieure, il débute sa carrière chez Exalead, qu'il rejoint en 2000 pour mener une thèse sur le développement du langage de programmation Exascript. Il y restera jusqu'en 2011, occupant successivement plusieurs postes de direction et de vice-président dans les domaines de la recherche, du développement et du management de produits. Après un passage chez Is Cool Entertainment en tant que Chief Technology Officer, il intègre Criteo pendant quelques temps comme Data Scientist freelance, avant de se lancer dans l'aventure Dataiku en 2013.
L'intelligence artificielle engendre de nombreux questionnements
Que ce soit les entreprises ou les particuliers, l'intelligence artificielle est de plus en plus utilisée pour simplifier la prise de décision. Mais comme dans toute nouveauté « non maitrisée » il y a un certain nombre de menaces, à ne pas négliger, liées au développement de ces applications intelligentes.
La première est celle d'un contrôle par un nombre limité de personnes ou d'entreprises. Les années 2000 ont vu émerger des organisations techniquement agiles, telles que Google ou Amazon. Aujourd'hui, le monopole de l'évolution technologique pourrait être détenu par un nombre limité d'entreprises. En effet, ces organisations pourraient développer les applications intelligentes du futur ou même racheter facilement de nombreuses startups spécialisées dans l'IA (c'est le cas aujourd'hui avec Google notamment).
Avec l'intelligence artificielle c'est aussi toute une frange de la population qui pourrait devenir « esclave » de l'ordinateur. Imaginez une entreprise dans laquelle les processus de ventes ou de marketing seraient contrôlés par l'ordinateur et où les collaborateurs seraient de simples exécutants ne pouvant faire appel à leur capacité de réflexion et de prise de recul. A ce moment-là, comment pourrait-on valoriser les employés de son entreprise ? Notre avenir est-il celui d'un monde où les travailleurs sont devenus de simples robots ?
Celui d'un monde où l'objectif moral serait aux mains d'ordinateurs ? Où se trouve la moralité d'une voiture automatique prenant des décisions seule ? Quelle décision une voiture pourrait prendre dans le cas où elle ne soit pas à même de s'arrêter en présence d'un danger imminent ? Doit-elle préférer écraser un piéton ou s'encastrer dans un mur pour épargner les passagers, mais en tuant la personne au volant ? Qui faut-il sauver ? Est-ce bien une question à laquelle un ordinateur pourrait répondre bien qu'il ne soit pas doté d'une morale humaine ?
Le déploiement de patterns pour réduire le risque
Lorsque la question de l'intelligence artificielle est soulevée, il faut prendre en compte le design UX et l'utilisateur. Un certain nombre de modes de fonctionnement doivent être installés afin de faciliter la relation entre humains et applications intelligentes.
- Identifier les tendances : Combiner l'IA et l'humain en laissant celle-ci déterminer automatiquement les tendances grâce aux données, tout en laissant l'interprétation de la tendance finale à l'être humain. L'IA devient alors un déclencheur d'alertes. C'est le cas des applications de monitoring media où l'ordinateur exécute le travail préparatoire pour les êtres humains ou encore des applications permettant d'envoyer des signaux détectant la fraude. N'importe quel problème est alors identifié par l'IA, puis évaluée par les humains qui pourront agir en conséquence et prendre les meilleures décisions.
- Fixer clairement un objectif business : En ce qui concerne la définition des objectifs propres à l'entreprise, un ordinateur ne saurait être le seul décisionnaire. Une fois les objectifs définis par les êtres humains, les solutions proposées par l'ordinateur (définition des priorités, planning, etc.) ne seront que des outils pour l'atteindre.
- Faciliter la prise de décision : L'apparition d'applications générant et envoyant des contenus automatisés (chatbots, choix de stratégie, etc.) peut aussi impliquer une sorte de collaboration entre machine et humain, où les deux se complètent.
Une nouvelle discipline est apparue avec l'arrivée de l'intelligence artificielle, capable d'optimiser l'interaction entre humains et ordinateurs intelligents. Si l'IA est utilisée de manière pertinente, elle n'est pas un monstre sorti du placard mais plutôt un outil permettant de faciliter le quotidien et la prise de décisions au sein d'une entreprise. Car après tout, il ne sera jamais possible pour un ordinateur de remplacer un esprit humain capable de prendre du recul, juger, regarder de loin les tendances à plusieurs niveaux, valider et s'engager. Et c'est sans doute pour cela que dans les années à venir, les entreprises auront en leur sein des IA experience designers chargés de faire cohabiter ces deux mondes.
Florian Douetteau est CEO et co-fondateur de Dataiku. Diplômé de l'Ecole Normale Supérieure, il débute sa carrière chez Exalead, qu'il rejoint en 2000 pour mener une thèse sur le développement du langage de programmation Exascript. Il y restera jusqu'en 2011, occupant successivement plusieurs postes de direction et de vice-président dans les domaines de la recherche, du développement et du management de produits. Après un passage chez Is Cool Entertainment en tant que Chief Technology Officer, il intègre Criteo pendant quelques temps comme Data Scientist freelance, avant de se lancer dans l'aventure Dataiku en 2013.