Encore un effort pour (re)prendre le pouvoir sur les algorithmes !

Quels pouvoirs possédons-nous sur les algorithmes ? Pourquoi est-il urgent de comprendre leurs impacts ? Voici quelques pistes et propositions pour penser notre relation à ces procédures informatisées.

Nos vies seraient-elles aujourd’hui régies par les algorithmes ?

La question de la place et du rôle des algorithmes dans nos vies n’est pas nouvelle, mais elle a acquis ces derniers mois une place importante dans l’actualité.

Aujourd’hui, les algorithmes permettent la répartition des étudiants dans l’enseignement supérieur, ils nous suggèrent de lire tel article ou information en lien avec les élections à venir, ou encore de regarder telle vidéo ou tel film. Ces traitements informatisés participent à des choix plus ou moins déterminants et jouent un rôle non-négligeable dans nos pratiques culturelles ou politiques. Certains d’entre eux sont désormais connus : Parcoursup du Ministère de l’Enseignement supérieur, de la Recherche et de l’Innovation, Edgerank de Facebook, Pagerank de Google.

Mais quelle relation entretenons-nous avec les algorithmes ? Tout d’abord, il s’agit d’une relation de délégation : c’est nous qui mettons les algorithmes au travail (qu’ils réalisent plus ou moins bien). Ils prennent des décisions au sein de procédures sociales que nous leur avons déléguées.

Ensuite, se développe une relation d’autorité : les algorithmes sont des objets matériels qui encadrent nos pratiques et définissent un certain nombre de possibilités avec lesquelles nous composons.

Enfin, l’ambition est de maintenir une relation d’égalité : se servir des algorithmes quand cela nous intéresse, savoir pratiquer l’obfuscation (masquer certaines données), prendre le temps de paramétrer les dispositifs informatisés, et ainsi maintenir une zone de contrôle et de liberté. Ces contre-pouvoirs sont à définir collectivement pour maîtriser réellement la place occupée par les algorithmes dans nos pratiques.

Les débats autour des traitements informatisés et de leurs conséquences interrogent les rapports entre informatique, média et société. Il s’agit de savoir si c’est la machine algorithmique qui prend la décision ou si c’est encore le pouvoir des hommes. Ainsi, il faudrait agir contre l’opacité des algorithmes, c’est à dire pour plus de transparence autour de leurs finalités et des données qu’ils mobilisent.

Aujourd’hui, il reste trop difficile de définir précisément l’impact des algorithmes et de leur processus d’automatisation sur nos relations sociales et amoureuses, notre travail, nos pratiques de consommation, bref sur ce qui construit et fait évoluer notre société.

Des définitions métaphoriques

Comment désigner ces dispositifs qui interviennent dans nombre de démarches et gestes quotidiens ? La manière dont on les désigne révèle le rapport que l’on entretient à ces objets : boîte noire, recette de cuisine, fiche technique…

L’algorithme, une boîte noire

Image issue de la plateforme de consultation du Conseil National du Numérique – octobre 2017. In http://plateformes.cnnumerique.fr

Les algorithmes sont souvent désignés comme étant des « boîtes noires ». Pour Gilbert Simondon, qui a cherché à comprendre les modes d’existence des objets techniques dans nos sociétés, l’objet technique devient une boîte noire quand il devient impossible d’expliquer son fonctionnement en dehors des données d’entrée et de sortie, lorsque l’attention portée à son fonctionnement disparaît. Et c’est bien le problème soulevé par l’usage des algorithmes dans de multiples domaines.

Parler de « boîte noire », c’est marquer le fait que nous ne sommes plus capables d’appréhender les processus de conception. Ainsi, la métaphore souligne que nous avons conscience d’être impuissants face aux algorithmes : nous sommes tributaires de ceux qui ont défini ce mode de calcul.

L’algorithme, une recette de cuisine

Contrairement au terme de « boîte noire », la comparaison des algorithmes avec une recette de cuisine permet de mieux les appréhender. En comparant les données d’entrée aux ingrédients, les opérations de calcul aux modalités de mélange et de cuisson, les résultats deviennent le plat prêt à être servi. Cette comparaison permet un premier stade de compréhension des algorithmes grâce à la force évocatrice que permet la transposition avec une pratique connue et partagée.

L’algorithme, une fiche technique

Fiche technique d’un algorithme de tri. In https://idea-instructions.com/quick-sort/

Sur un modèle proche, la fiche technique vise à montrer le processus algorithmique à l’œuvre : la fiche comporte une série d’étapes qui montre comment procède l’algorithme. Chaque étape décrit une action. La ressemblance avec le guide de montage d’un meuble de la marque d’origine suédoise (et aujourd’hui néerlandaise) insiste sur la simplicité et sur la possibilité que tout le monde comprenne. Grâce à la fiche technique, le mode de calcul est découpé de façon à faciliter sa compréhension.

Mais avons-nous vraiment besoin d’en savoir plus sur les algorithmes ?

En définitive, quelle définition pouvons-nous donner ? Un algorithme est une méthode de traitement automatisé des données. Automatisé, car c’est une machine qui l’exécute. Le traitement effectue des opérations répétitives à partir du moment où la machine possède les données suffisantes pour le réaliser et produire un résultat. Ce traitement a été déterminé par une personne, un service ou une organisation en fonction d’objectifs : il repose sur des intentions. C’est ici que la dimension politique des algorithmes intervient. L’algorithme n’agit pas seul : s’il propose des résultats, il est lui-même issu de stratégies qui encadrent (plus ou moins) discrètement nos pratiques.

Les algorithmes interviennent le plus souvent « à l’insu de notre plein gré ». Si nous avons conscience qu’ils sont présents, nous ne pouvons pas toujours savoir exactement quelles sont les données qu’ils prennent en compte, quel type de traitement ils leur appliquent.

Lorsque nous prenons le volant de notre voiture, nous ne cherchons pas à comprendre le fonctionnement du moteur. Alors pourquoi voudrions-nous comprendre le fonctionnement algorithmique ? Un moteur possède une fonction logistique : il permet au véhicule de se déplacer. Or, l’algorithme ne nous permet pas seulement de nous déplacer dans la masse d’informations. Il agit et configure notre environnement documentaire.

Dès lors, la question n’est pas tant de savoir lire et écrire le code de programmation que de savoir à quel moment les algorithmes interviennent, d’être en mesure d’identifier les situations où les algorithmes jouent un rôle déterminant.

Il s’agit de conserver notre capacité à nous gouverner nous-mêmes afin d’être acteurs de nos pratiques de consommation, de recréer un rapport de force et non une forme de déchiffrage des dispositifs algorithmiques. Ne pas seulement consommer, mais savoir quels sont les ressorts de cette consommation. Ne pas seulement recevoir la décision, mais saisir les conditions dans lesquelles elle a été prise. Pour cela, il s’agirait de repenser l’articulation entre une éducation aux médias et une culture statistique et informatique.