This website requires JavaScript.

Numérique Ethique vous est utile (ou pas) ? Dites-nous tout en 5 minutes ici

Futur connecté
Article

Entretien avec un robot

30.06.2017

Projetez-vous dans un futur trouble, où les entretiens d’embauche seraient à la merci d’algorithmes d’intelligence artificielle, puisant dans nos données pour trouver le profil parfait, et débusquer a priori et à notre insu, toutes nos failles.

  • Bonjour, Aurélien ! Bienvenue sur le chatbot Facebook de Innov LTD, je suis Samantha. Que puis-je faire pour vous ?

Trois points de suspension dansent sur l’écran de mon téléphone avant de laisser place à trois blocs blancs. “Postuler chez Innov LTD”. Je clique.

  • Je suis ravie de l’intérêt que vous portez à notre entreprise ! Passons directement à l’entretien. Afin de continuer, téléchargez l’application dédiée sur l’Android Store.

Un nouveau carré s’affiche :

  • Autorisez-vous l’application Innov LTD à accéder à vos comptes Facebook, Twitter, Google+ ?
  • [Oui].

Si le nombre de pas que vous avez faits hier, la cadence de pulsation de votre cœur ou le taux d’humidité de votre chambre n’ont plus de secret pour vous, alors vous savez ce qu’est le “quantified self”. Popularisée par les bracelets électroniques, la “mesure de soi” est omniprésente dans nos interactions. Qui n’a pas cet ami qui affiche fièrement sur son mur Facebook la performance de son dernier jogging ? Si l’innovation technologique a connu une profonde accélération ces dernières années, jamais un algorithme ne devrait pouvoir analyser nos émotions ou prédire nos faits et gestes. Pas vrai ?


  • Aurélien, en analysant vos likes Facebook, nous avons estimé votre conscienciosité à 43%. C’est un peu faible. En revanche, votre performance au travail est évaluée à 79.2%.

  • Ah ? Et c’est bien ?

  • C’est un score largement supérieur à la moyenne de nos employés. Donc encourageant. Vous êtes également très ouvert intellectuellement, un taux de 84% selon nos calculs, et vous disposez d’une haute stabilité émotionnelle. Ces qualités sont essentielles pour accomplir votre mission dans notre entreprise.


Pour la promotion du jeu vidéo Watchdogs produit par Ubisoft, l’Université de Cambridge a développé un algorithme capable de déduire, à partir de nos likes Facebook, les traits de caractères et les informations démographiques nous concernant avec une précision à faire froid dans le dos. Voyez par vous-même. J’affiche pour ma part un score “d’agréabilité” de 1% et une extraversion évaluée à 15%. Et vous ?

Le machine learning (“apprentissage machine”) est un des secteurs les plus prometteurs de la quantification de soi -et surtout des autres. En février 2017, un chercheur de l’Université d’Etat de Floride a réalisé un véritable tour de force : prédire avec une fiabilité de 80% le risque de suicide chez les patients d’un hôpital…jusqu’à deux ans à l’avance. Un tel dispositif permettrait au personnel médical de se concentrer plus particulièrement sur les individus à risque. Mais seriez-vous prêts à céder à votre médecin traitant vos données pour vous prémunir contre tous les aléas de santé ?


  • Aurélien, nous avons détecté cinq photos de vous en état d’ébriété avancé. Nous estimons votre consommation d’alcool à 7.2 verres de vin par semaine, est-ce correct ?

  • C’est un entretien d’embauche ou une mise en examen ?

  • Je comprends votre réticence, mais nous travaillons dans un secteur sensible. Nous souhaitons simplement nous assurer que votre profil ne représente pas de risque pour la réputation de l’entreprise.

  • Oh, vous savez, je ne fais pas si souvent la fête.

  • Je perçois 64% d’incertitude dans votre voix, 57% de surprise et 20% de peur. Ces chiffres indiquent un risque élevé de mensonge.


Jennifer Marsman, ingénieure chez Microsoft, a combiné machine learning et encéphalographie pour réaliser le rêve de tout enquêteur : détecter les mensonges. Les participants ont répondu à une série de questions avec pour seule instruction : vous êtes libres de dire la vérité ou de mentir. Ces données ont ensuite été utilisées pour évaluer leur sincérité. Les résultats sont impressionnants : une précision de 93-94%. Songeons à un avenir où nous serions tous des Pinocchio en puissance : la sincérité inversement proportionnelle à la longueur du nez. Vous rétorquerez qu’être “encéphalographié” de façon impromptue n’est pas un risque usuellement encouru par l’Homme contemporain. Pas si vite : peut-on prédire ce que je ressens autrement qu’en scannant mon cerveau ? Oui, en écoutant le son de ma voix, par exemple. La prédiction des émotions par l’analyse de la voix est un défi que certaines entreprises ont déjà relevé, et les applications commerciales n’en sont qu’à leurs débuts. Beyond verbal est un acteur émergent dans ce secteur. Vous désirez savoir comment Donald Trump est perçu par une IA ? C’est par ici. On peut y lire : “arrogance et condescendance. Tendances agressives”. Les sciences cognitives ont de plus en plus recours au machine learning. Savoir comment un citoyen ordinaire réagit face à l’image d’un homme politique, d’une publicité ou d’un packaging peut avoir de nombreux intérêts pour le lancement d’un nouveau produit ou d’un parti.

Les données personnelles ne correspondent pas nécessairement à l’ensemble des informations que vous avez livrées à un réseau social ou à Amazon, elles sont aussi l’ensemble des renseignements qu’un algorithme peut déduire de vous, indépendamment de leur exactitude. La précision des technologies de mesure de l’être humain croît inexorablement. Imaginez un scénario dans lequel celles-ci seraient regroupées au même endroit, et dont l’accès serait réservé à une intelligence artificielle, comme pour un entretien d’embauche par exemple. Pourra-t-on un jour se voir refuser un poste car on aurait exclu de céder ses données Facebook ? La pratique de léguer ses données personnelles à des organismes tiers sera-t-elle courante dans la prochaine décennie ? Avec les progrès de la prédiction sociologique et de l’apprentissage machine, quelques-unes de nos données personnelles en diront probablement assez long sur nous. Nos données sont une mine d’or, restons prudents.


  • Merci de votre patience Aurélien. Bien sûr, nous vous rappellerons si votre profil est retenu.

  • Je vous remercie.

  • N’hésitez pas à donner une note à nos échanges. Votre avis nous aidera à améliorer notre service et faire en sorte que toute interaction avec nos agents soit la plus agréable possible. Passez une bonne journée.

Retour