Jouer avec les algorithmes, mode d’emploi : enquête sur ces artistes qui n’ont pas attendu l’élection de Donald Trump pour dénoncer et mettre à jour les effets des algorithmes sur notre environnement.

« Frankenstein Revisited » (2016), création de Piero Bisello, Sarah Garcin, James Bryan Graves, Anne Laforet, Catherine Lenoble et An Mertens.

« ADM XI » (2015-2016), création de RYBN. Qui a invité les artistes b01, !Mediengruppe Bitnik, Femke Herregraven, Brendan Howell, Martin Howse, Nicolas Montgermont, Horia Cosmin Samoila, Antoine Schmitt, Marc Swynghedauw et Suzanne Treister.

« Painted by Numbers » (2016), création de Konrad Becker et Felix Stalder. Qui ont invité Lorrain Daston, Ulrike Felt, Matthew Fuller, Stephen Graham, Seda Gürses, Stefano Harney, Graham Harwood, Mireille Hildebrandt, Reinhard Kreissl, Steven Kurtz, Astrid Mager, Katja Mayer, Frank Pasquale, Barbara Prainsack, Peter Purgathofer, Bernhard Rieder, Saskia Sassen, Trebor Scholtz, Bruce Sterling et Francisco Webber.

Les algorithmes traders fous de RYBN et ses invités au festival Gamerz. © Sarah Taurinya
< 07'01'17 >
Maman, y a un algorithme sous mon lit !

2017, année du grand méchant algorithme ? Après l’élection de Trump, les médias ont tous pointé du doigt la distorsion de représentation du monde que produiraient l’algorithme de Facebook. Des programmeurs ont reconnu que le code n’était pas si neutre et affiché leur volonté de réfléchir à une éthique du code. Les artistes codeurs n’ont pas attendu ce réveil des consciences pour s’intéresser à ces petites bêtes, pour révéler leur présence, leur rôle et parfois leur faire faire de drôles de tours.

L’algorithme c’est un peu comme le monstre du Loch Ness, tout le monde en parle, mais personne sait vraiment à quoi ça ressemble

À la base, un algorithme est une suite d’instructions suivies par un homme ou une machine. Dans notre monde informatisé, ils se sont développés pour nous aider à ranger et organiser, à trier nos données, comme des assistants dotés d’énormes puissances de calcul. Le rêve ? Le problème, pointé notamment par le sociologue Dominique Cardon, auteur du très remarqué « À quoi rêvent les algorithmes », c’est que les intentions qui sous-tendent les algorithmes ne sont pas forcément altruistes. Et quand bien même, elles sont rarement visibles.

Prenons le cas du moteur de recherche de Google, qui affiche ses résultats selon différents critères (popularité, réputation, etc.) en les adaptant selon l’historique de nos requêtes. Côté pile, c’est pratique, ça nous évite d’errer à tout-va. Côté face, les résultats sont réduits, et le volet commercial fait remonter en visibilité celui qui paie.

Nous avons tous expérimenté la fonction autocomplete qui finit les requêtes à notre place pour mieux les diriger. Benjamin Gaulon et Jérôme Saint-Clair de Recyclism l’ont joyeusement détournée en créant une extension pour Chrome. Après quelques secondes d’inactivité du navigateur, celle-ci prend le contrôle et tape un début de phrase, flirtant avec le cadavre exquis. Sautent alors aux yeux les a priori de l’automatisme.

« AutocompleteMe », Recyclism, 2013 :

Reprendre le contrôle de nos données personnelles qui nourrissent les algorithmes des géants du Net

Comprendre le fonctionnement d’un algorithme, c’est déjà commencer à pouvoir reprendre le contrôle. C’est l’un des enseignements à tirer de l’exposition « Futurs non conformes, #2 Passages à l’acte » de l’espace virtuel du Jeu de Paume, où les commissaires Nicolas Maigret et Maria Roszkowska poursuivent leur contre-attaque de la propagande de l’innovation via des projets très concrets.

C’est le cas du boitier « Cyborg Unplug » (2014) du Néo-Zélandais Julian Oliver qui s’attaque aux objets connectés. Il repère et déconnecte les périphériques non souhaités et agit également comme un VPN en encryptant le trafic internet autour de soi. A acheter (36 ou 56€) ou à faire soi-même, les plans sont en open source.


A emporter partout pour éviter l’aspiration de vos données, le « Cyborg Unplug » de Julian Oliver. © DR

Dans la vidéo « How to/Why leave Facebook », l’artiste américain Nick Briz délivre son protocole pour quitter le réseau social numéro un (sans passer par l’option « supprimer » son compte, qui laisse les datas à Facebook…). Un tuto qui explique comment sauvegarder ses données mais n’oublie pas de dénoncer, via des scripts de sa fabrication, le fonctionnement opaque du réseau qui réduit la vision de ses utilisateurs et utilise impunément leurs données à des fins commerciales.

Alternative à la déconnexion, le brouillage de données. C’est ce que propose le collectif Unfit Bits qui s’amuse à détourner les objets connectés autour de la santé (bracelets connectés, coachs sportifs électroniques…) pour déjouer les assureurs. En usurpant ces appareils, ils proposent d’obtenir des réductions sur les contrats d’assurance. Grâce à des solutions à la portée de tous…

« Unfit Bits », présentation (2015) :

Réveil citoyen

Ce n’est que très récemment que le grand public a commencé à réaliser que les algorithmes imprimaient leurs logiques à tous les niveaux du quotidien. La loi sur le renseignement adoptée en juin 2015, qui prévoit de pister les terroristes en écoutant le trafic Internet via les fournisseurs d’accès, a déchaîné les critiques des défenseurs des libertés sur Internet et des Droits de l’homme plus généralement, sans faire dévier le gouvernement qui table sur la peur des attentats.

Pourtant, les choses bougent : l’Éducation nationale a dû se plier à la volonté de ses usagers, en l’occurrence l’association Droits des lycéens, en dévoilant l’algorithme du programme d’admission post-bac. Cet outil qui opère en toute opacité un tirage au sort pour l’entrée à l’université est aujourd’hui sous observation citoyenne. Ce n’est pas tout d’y avoir accès, encore faut-il le comprendre…

Mireille Hildebrandt, chercheuse à l’iCIS (Institute for Computing and Information Sciences aux Pays-Bas), préconise de comprendre la logique statistique et d’intervenir à la source même de la fabrication des algorithmes. C’est en substance ce qu’elle explique dans l’installation « Painted by Numbers », de Konrad Becker et Felix Stalder, présentée pour la première fois en novembre en version cacophonique au festival Gamerz (et par ici en ligne). « Painted by Numbers » compile des interviews de chercheurs, activistes et artistes en six thématiques (rationalité, prédiction, pouvoir, régulation, politique et culture) qui éclairent les stratégies algorithmiques à l’œuvre et proposent des visions alternatives à la passivité ambiante.

Le monstre à l’étude

Car derrière l’algorithme, il y a toujours un codeur muni d’un cerveau… En travaillant sur le mythe de Frankenstein, le collectif Algolit tend le miroir à chacun d’entre nous : si nous avons peur des algorithmes, n’en sommes-nous pas les créateurs, tout comme le bon docteur avait mis au point sa créature ?


Illustration issue de la publication « Frankenstein Revisited ». © Algolit

Depuis 2012, Algolit étudie le rapport entre « code, textes et littératures libres » à l’initiative des artistes et écrivaines Catherine Lenoble et An Mertens. Au départ simple atelier de programmation Python pour réaliser des chatbots, le projet a débouché en septembre 2016 sur « Frankenstein Revisited », un workshop et une publication en ligne au festival suisse Mad Scientist.

Nourris par l’œuvre de Mary Shelley, des robots conversationnels fêtent les 200 ans du monstre fameux en apprenant le langage humain sous l’œil de leurs créateurs. De cette relation est née la publication qui mêle des conversations entre humains et robots, des discussions entre bots et des observations des comportements d’apprentissage, mis en parallèle avec l’évolution de la créature de Mary Shelley. L’objet lui-même peut être généré à l’envi en remixant contenus et formes grâce à la « PJ Machine » (Publication Jockey Machine, sorte de suite du DJ et du VJ) créée par Sarah Garcin.


Les gros boutons d’arcade de la « PJ Machine » permettent de sélectionner images et textes, de modifier la mise en page et générer des PDF. © Algolit

Les chatbots Frankenstein s’appuient sur des structures algorithmiques disponibles en open source, notamment utilisées par Google. An Mertens explique : « Le NNBot (NN pour Neural Network) est basé sur un programme d’analyse d’opinion qui cherche des motifs dans les données qu’on lui fournit. Ici le roman “Frankenstein”. Il apprend en différentes phases : il produit d’abord des motifs simples, puis un texte avec des mots qui ne sont pas reconnaissables jusqu’à le devenir. Au stade 10 ou 15 du processus naît un nouveau roman dont les mots et la grammaire sont lisibles et qui intègre de nouveaux mots. Ce type de technique crée des résultats absurdes proches du dadaïsme, mais touche aussi à ce qui est le plus intime dans nos communautés virtuelles : le langage. »

En novembre dernier, l’un des chatbots Frankenstein s’est échappé de la publication pour se montrer en installation dans la vitrine de Constant à Bruxelles. Son nom, Hovelbot, fait référence au chapitre du livre dans lequel le monstre apprend la langue et l’organisation sociale des humains en observant une famille.


L’un des stades d’apprentissage de Hovelbot. © Algolit

Équipé d’un routeur wifi Raspberry Pi, Hovelbot écoute le trafic des téléphones portables des visiteurs. Chaque connexion, figurée par une montagne, devient une histoire (téléchargeable en PDF). Chaque histoire a pour héros l’appareil écouté, se déroule dans l’endroit où a été géolocalisé le serveur, tandis que l’action est nourrie par les grands voyages du roman. Une manière de révéler les activités invisibles des objets connectés et de traduire notre rapport à l’espace d’Internet.

Ici, pas de logique de dénonciation, plutôt une envie de comprendre en les détournant les algorithmes qui nous entourent au quotidien. S’en emparer plutôt que les subir.

Des algorithmes boursicoteurs fous

Car les artistes codeurs ont une longueur d’avance sur l’internaute de base. Ils jouent avec la matière même de l’algorithmie. En novembre, le festival Gamerz présentait « ADM XI », dernier volet de la trilogie sur le trading haute fréquence imaginée par le collectif RYBN.

Mêler études sociétales et techniques et affabulations est l’une de ses marques de fabrique. « En étudiant l’économie, nous avons découvert qu’une énorme partie de la finance était automatisée, explique l’un des membres de RYBN (qui préfère l’anonymat). La curiosité nous a poussés à étudier ces algorithmes. Nous nous sommes rendus compte de l’absurdité de ce système. On l’a d’abord mis en évidence pour finalement tenter d’influer sur lui. »

En 2011, RYBN lançait le robot tracer « ADM 8 » sur les marchés financiers, programmé pour aller au crash. On peut toujours suivre ses pertes et profits sur Twitter. En 2013, l’« Algotrading Freakshow » dévoilait l’aspect ésotérique de la finance en recréant sous forme de robots traders les expérimentations prédictives les plus farfelues des marchés financiers.


Suivi en temps réel des bots traders de RYBN en ligne. © RYBN

Pour « ADM XI », RYBN a invité des artistes à investir l’algorithme de trading en mettant son savoir-faire à leur disposition pour qu’ils élaborent leurs propres robots. « Hades », de Nicolas Montgermont, utilise les analyses astrologiques des angles développées par Ptolémée pour étudier en temps réel l’alignement de la terre et de Pluton et en déduire ses actions. Martin Howse mêle la géomancie et les positions GPS de quatre satellites, tandis que Bredan Howell s’appuie sur l’harmonie des sphères et le Top 50. « Femto-Black-Pool » est quant à lui programmé pour générer le chaos parmi ses congénères.


Le schéma algorithmique de « Femto-Black-Pool » montre comment il organise le chaos. © RYBN

« Nous nous sommes imaginés en agence d’algorithmes dont les compagnies financières pourraient s’emparer, infusant poésie et chaos dans le marché », explique RYBN. Allez faire un tour en ligne pour observer leurs comportements, ainsi que les recherches qui ont présidé à leurs créations et les descriptions de leur fonctionnement… Le tout flirte avec la SF.

Sarah Taurinya 

votre email :

email du destinataire :

message :