L’algorithme de Tinder nous révèle nos propres biais, que nous aimerions garder cachés
Photo by Cristian Newman on Unsplash
L’algorithme de Tinder fait le travail pour lequel il a été programmé. Il apprend sans doute beaucoup des millions de « matchs » qu’il a initié. Et il apprend quels sont les profils qui s’assemblent et ceux qui ne se connectent pas. On a ainsi compris récemment que l’algorithme de Tinder favoriserait la rencontre d’hommes plus âgés avec des femmes plus jeunes. Quoi ? Quelle horreur ! Comment est-ce possible ? hurlent les bien-pensants. Il n’est pourtant pas nécessaire d’être « data scientist » pour le constater dans la vie. Et s’il fallait des statistiques, elles existent. En 2016, l’INSEE avait mené une étude sur le sujet. Dans 56 % des couples, l’homme est plus âgé que la femme, et pour les couples formés dans les années 2000, la différence est en moyenne de 4 ans et 4 mois.
Donc, Tinder et son algorithme, qu’il s’agisse d’une décision programmée ou de son propre apprentissage, ne fait que reproduire le fonctionnement de la société. Et je suis presque certain que cette différence varie en fonction des pays, et que Tinder sait parfaitement s’adapter. Et je ne parle pas de la couleur des peaux, au risque de me faire insulter dans les commentaires, mais je suis persuadé que là aussi, l’algorithme apprend de nos préférences…
Autre « scandale », le score de désirabilité que Tinder calculerait en fonction de différents critères. Là encore, certains croyaient que seule leur belle tête, et les quelques fausses informations qu’ils donnaient dans leur profil, serviraient à les transformer en sex-symbol… quitte à décevoir dès qu’ils commenceraient une conversation.
Oui, sans doute Tinder analyse-t-il les messages que vous envoyez, votre manière d’écrire, les mots que vous employez, le nombre de mots par phrase, la vitesse à laquelle vous écrivez, les fautes d’orthographe que vous faites, afin de modérer ou d’améliorer votre score de désirabilité. Tout cela me semble relever plutôt d’un algorithme bien conçu. Pourquoi donner une seule impression au travers de la photo alors que l’algorithme peut la pondérer de votre niveau d’éducation ? Le beau gosse qui n’a pour lui que son physique mérite que la moyenne de son éducation et de son sex-appeal soit utilisée ; quant à la jeune fille pas très photogénique, mais incroyablement cultivée, c’est bien normal qu’elle puisse en bénéficier.
Toute cette agitation n’est pas très sérieuse, et relève plutôt d’une mauvaise foi ou d’une ignorance complète du fonctionnement d’un algorithme. Quant à la notion de biais, c’est l’occasion de rappeler que l’algorithme n’en invente aucun ! Les seuls biais qu’il s’inflige sont ceux qui lui ont été appris par son concepteur. Et rappelons également que ce n’est pas le racisme ou le sexisme qui sont des biais. Si un algorithme apprend des comportements d’une population, il ne devient pas plus raciste qu’elle. Il n’y comprend d’ailleurs rien, le pauvre, il applique des équations mathématiques. En revanche quand son concepteur indique qu’homme et femme doivent toujours être à égalité, blanc et noir, riche et pauvre, etc, c’est le concepteur qui introduit un biais. Ce biais c’est celui que notre société aimerait voir appliquer dans la vie réelle. A moins d’avoir été programmé en ce sens, aucun algorithme ne deviendra pire que ceux qui l’utilisent et dont il apprend.
Quant à la question de la transparence de l’algorithme, ce serait en effet une bonne chose. Malheureusement, nous aurions tôt fait d’inventer des manières de le contourner. Il est donc parfaitement normal qu’il reste secret, surtout dans une société privée.
Donc, Tinder et son algorithme, qu’il s’agisse d’une décision programmée ou de son propre apprentissage, ne fait que reproduire le fonctionnement de la société. Et je suis presque certain que cette différence varie en fonction des pays, et que Tinder sait parfaitement s’adapter. Et je ne parle pas de la couleur des peaux, au risque de me faire insulter dans les commentaires, mais je suis persuadé que là aussi, l’algorithme apprend de nos préférences…
Autre « scandale », le score de désirabilité que Tinder calculerait en fonction de différents critères. Là encore, certains croyaient que seule leur belle tête, et les quelques fausses informations qu’ils donnaient dans leur profil, serviraient à les transformer en sex-symbol… quitte à décevoir dès qu’ils commenceraient une conversation.
Oui, sans doute Tinder analyse-t-il les messages que vous envoyez, votre manière d’écrire, les mots que vous employez, le nombre de mots par phrase, la vitesse à laquelle vous écrivez, les fautes d’orthographe que vous faites, afin de modérer ou d’améliorer votre score de désirabilité. Tout cela me semble relever plutôt d’un algorithme bien conçu. Pourquoi donner une seule impression au travers de la photo alors que l’algorithme peut la pondérer de votre niveau d’éducation ? Le beau gosse qui n’a pour lui que son physique mérite que la moyenne de son éducation et de son sex-appeal soit utilisée ; quant à la jeune fille pas très photogénique, mais incroyablement cultivée, c’est bien normal qu’elle puisse en bénéficier.
Toute cette agitation n’est pas très sérieuse, et relève plutôt d’une mauvaise foi ou d’une ignorance complète du fonctionnement d’un algorithme. Quant à la notion de biais, c’est l’occasion de rappeler que l’algorithme n’en invente aucun ! Les seuls biais qu’il s’inflige sont ceux qui lui ont été appris par son concepteur. Et rappelons également que ce n’est pas le racisme ou le sexisme qui sont des biais. Si un algorithme apprend des comportements d’une population, il ne devient pas plus raciste qu’elle. Il n’y comprend d’ailleurs rien, le pauvre, il applique des équations mathématiques. En revanche quand son concepteur indique qu’homme et femme doivent toujours être à égalité, blanc et noir, riche et pauvre, etc, c’est le concepteur qui introduit un biais. Ce biais c’est celui que notre société aimerait voir appliquer dans la vie réelle. A moins d’avoir été programmé en ce sens, aucun algorithme ne deviendra pire que ceux qui l’utilisent et dont il apprend.
Quant à la question de la transparence de l’algorithme, ce serait en effet une bonne chose. Malheureusement, nous aurions tôt fait d’inventer des manières de le contourner. Il est donc parfaitement normal qu’il reste secret, surtout dans une société privée.
De Tinder à Osmosis
En 2001, vous ne pensiez pas que Minority Report allait devenir réalité moins de 15 ans plus tard. En 2019, vous espérerez que Osmosis ne deviendra pas réalité… et pourtant…
Osmosis c’est la nouvelle série française disponible sur Netflix. Un croisement entre le monde des startups, un site de rencontre, du capital-risque, un fondateur fou, de l’intelligence artificielle (sous forme d'un assistant personnel omniprésent qui s'appelle Martin), et des implants dans le corps des clients… Tout cela pour vous aider à trouver l’amour. Osmosis vous fait la promesse d’un amour absolu, de rencontrer votre âme sœur.
Vous n’accrocherez peut-être pas sur l’ensemble de la série, mais jetez un œil au premier épisode. Si vous travaillez dans la technologie, vous y retrouverez tout ce que l’on déteste de l’univers des startups. Mais en revanche, posez-vous la question, avez l’aide d’un ordinateur quantique, en 2030/2035, tout cela sera-t-il encore de la science-fiction ?
Osmosis c’est la nouvelle série française disponible sur Netflix. Un croisement entre le monde des startups, un site de rencontre, du capital-risque, un fondateur fou, de l’intelligence artificielle (sous forme d'un assistant personnel omniprésent qui s'appelle Martin), et des implants dans le corps des clients… Tout cela pour vous aider à trouver l’amour. Osmosis vous fait la promesse d’un amour absolu, de rencontrer votre âme sœur.
Vous n’accrocherez peut-être pas sur l’ensemble de la série, mais jetez un œil au premier épisode. Si vous travaillez dans la technologie, vous y retrouverez tout ce que l’on déteste de l’univers des startups. Mais en revanche, posez-vous la question, avez l’aide d’un ordinateur quantique, en 2030/2035, tout cela sera-t-il encore de la science-fiction ?
