« Eliza », l’un des premiers programmes d’intelligence artificielle, au musée du Quai Branly dans le cadre de l’exposition « Persona ». © Régine Debatty CC by SA 2.0
< 29'11'16 >
« Peu de vrais yeux humains vont lire ces mots »
Esprit rétro et archéo des médias à la fête : « Eliza » était au cœur de la soirée Bot or Not ? au Goethe Institute le 10 novembre. L’agent conversationnel créé dans les années 1960 par Joseph Weizenbaum était présenté au musée du Quai Branly dans le cadre de l’exposition « Persona, étrangement humain ». Catherine Beaugrand, artiste qui a notamment dirigé l’équipe de recherche DatAData aux Beaux-Arts de Lyon, nous en parle.
En 2010, Jaron Lanier commençait son livre manifeste, « You are not a gadget », en avertissant un lecteur potentiel du fait qu’en ce début du XXIème siècle, ce texte serait parcouru principalement par des « non-personnes ». Il n’explicite pas le terme en tant que tel. Il l’utilise comme si c’était une évidence, pour réunir des automates machiniques et des personnes « n’agissant plus comme des individus ».
Anatomie des non-personnes
C’est dans la description qu’il donne ensuite de ce qui arrive à tout énoncé en ligne que l’on saisit la radicalité de ce geste. Résumé en mots clés, le texte y est dépecé, disséminé et copié autant par des algorithmes qui l’associent avec n’importe quoi que par ceux qui le déforment en le réemployant sans souci des malentendus.
Les non-personnes semblent être indifféremment des flux automatiques ou des usagers inattentifs et inconscients de leurs actes en ligne, les deux indissociables à leur manière du web des GAFA, que Lanier critique avec l’impertinence autorisée par ses travaux de chercheur en informatique et de pionnier de la réalité virtuelle.
Qu’en est-il d’une telle dénonciation de l’irresponsabilité et de l’aveuglement induits par les médias sociaux qui se sont largement développés depuis la parution de ce livre ? Que l’on considère Lanier comme participant de la culture geek d’une autre époque ou lanceur d’alerte prémonitoire, est-ce que cette notion de non-personne présente quelque intérêt au-delà de sa provocation ?
Humain augmenté de bot
Les récents débats concernant l’intelligence artificielle mettent l’accent sur la porosité des frontières qui séparent les humains et les machines. C’est une question de dosage. Du côté du transhumanisme, on pense que l’on se dirige vers le remplacement des humains par des machines qui, en devenant de plus en plus avancées, ont une connaissance accrue des humains, jusqu’à pouvoir s’en passer.
Dans une optique commerciale plus immédiate, on peut lire ici ou là comment les formes actuelles des sites web et des applications mobiles sont en passe d’être renouvelées par les chatbots. D’une part, les applications de messagerie, en pleine expansion, deviennent plus utilisées que les réseaux sociaux. En plaçant directement des bots effectuant des actions assez simples dans ces applications de messagerie, il n’est plus nécessaire d’ouvrir d’autres applications à cet effet. D’autre part, les bots conversationnels se perfectionnent. A court terme, ceux-ci « comprendront » suffisamment bien le langage de l’usager pour devenir l’interface naturelle entre celui-ci et sa machine.
« Eliza », 50 ans et toujours autant de questions
« Eliza » est un programme conçu entre 1964 et 1966 par l’informaticien Joseph Weizenbaum pour sembler mener une conversation comme un psychothérapeute rogérien. « L’approche centrée sur la personne » qu’avait définie Carl Rogers dès 1961 est une méthode axée sur le monde subjectif et les ressentis individuels.
Le thérapeute se doit de créer une relation d’empathie avec celui qui le consulte. Pour cela, il lui montre sa capacité à le comprendre ainsi qu’à porter un « regard positif inconditionnel » sans jugement d’aucune sorte. Le psychothérapeute est une personne face à une autre personne à qui il permet de trouver elle-même les moyens de résoudre ses conflits intérieurs.
En pratique, pour créer la confiance en son écoute, le thérapeute utilise des techniques, des procédés et des combinaisons pour faire avancer le dialogue jusqu’à ce que l’interlocuteur trouve une réponse qui lui convient à l’intérieur de ce dispositif d’échange de paroles. On comprend aisément que cette méthode pouvait fournir un cadre propice à un système de traduction conversationnelle. « Eliza » est indissociable du contexte rogérien de son conception.
En isolant mots-clés et séries de mots, le programme était capable de les transformer en questions ou de leur faire subir des variations paraissant de nature interprétative. Dans son livre « Alone Together » (2011, paru en français en 2015 sous le titre « Seuls ensemble »), Sherry Turkle rapporte combien Joseph Weizenbaum était très critique face à « Eliza » qu’il trouvait très limité(e).
Weizenbaum s’étonnait de la manière dont les utilisateurs semblaient considérer qu’ils parlaient avec une machine intelligente, alors qu’ils savaient bien que c’était un programme qui le leur faisait croire. « J’ai fini par appeler “effet Eliza” cette complicité entre un humain et un fantasme numérique, écrit Turkle. Pendant les années 1970, cette complicité avec la machine ne me sembla pas plus menaçante que le désir d’améliorer le fonctionnement d’un journal intime interactif. Je m’aperçois aujourd’hui que j’ai sous-estimé ce qu’annonçait ce type d’interaction. »
Invoquant et fêtant l’anniversaire d’« Eliza », le programme de la soirée Bot or Not ?, le 10 novembre au Goethe Institut à Paris, dans la suite du programme Streaming Egos, rassemblait « conférenciers humains et algorithmiques ». Le public était convié à les distinguer comme s’il s’agissait d’une sorte de test de Turing –si un humain ne parvient pas à trouver lequel de ses interlocuteurs est un programme, celui-ci franchit l’épreuve avec succès.
Le « décor » de la conférence-performance Bot or Not ? © DR
La conférence-performance d’environ trois heures superposait différents registres performatifs –une conférencière, des artistes dont les pratiques s’appuient sur les écritures numériques, visibles ou invisibles, présents dans l’espace avec des ordinateurs portables ou en ligne, figuré(e)s par leur pseudo, un modérateur avec ordinateur, des haut-parleurs, deux vidéo-projecteurs avec leurs zones de projection correspondant et une table de conférence en face des chaises disposées en demi-cercle, deux tables pour boissons et gâteaux de part et d’autre, dans l’espace de la bibliothèque reconfiguré pour l’occasion.
Prendre en compte dans la description de la soirée, les éléments de mobilier, les machines, les intervenants et leurs déplacements comme une installation globale est une manière d’interroger l’indistinction entre le live et le médiatisé dans laquelle le public était inséré, indifféremment ou non de la thématique de la soirée. Est-ce que cela était in situ et fallait-il en avoir une expérience directe ? Est-ce qu’il ne conviendrait pas de prendre en compte toutes les caractéristiques matérielles standardisées, un projecteur autant qu’un fichier ?
Marie Lechner ouvre Bot or Not ? par un panorama des agents conversationnels. © DR
La conférence de Marie Lechner qui ouvrait la soirée rassemblait avec brio un vaste ensemble des composantes historiques et actuelles des bots –les fembots d’Ashley Madison revisitées par !Mediengruppe Bitnik, Xiaoice, l’amie chinoise, A.L.I.C.E. (Artificial Linguistic Internet Computer Entity), l’entraînement des bots par le machine learning, « Daemon » de Daniel Suarez, l’armée des bots de sécurité de Wikipédia, « Bots : the Origin of New Species » d’Andrew Leonard, le Loebner Prize qui prime l’intelligence artificielle, les bots des réseaux sociaux, les conférences organisées sur la question par Disruption Network Lab, pour n’en citer que quelques exemples.
La performance en ligne qui suivait utilisait le protocole IRC pour mener la conversation soumise à l’évaluation de la distinction homme-machine. Sur l’écran central, on pouvait suivre ligne par ligne les interventions des invisibles connectés, identifiables par leurs pseudos. Quelques questions du public étaient transmises par le modérateur.
« Eliza » activée lors de la soirée Bot or Not ? célébrant l’anniversaire du premier agent conversationnel conçu en 1966. © DR
Le style « à l’ancienne » induit par l’IRC faisait écho à celui d’« Eliza », incarnée par un ordinateur, image fixe projetée pendant l’affichage des paroles écrites (quelquefois prenant forme sonore depuis les haut-parleurs disposés dans l’espace).
Est-ce que la présence matérielle de ce modèle d’ordinateur est un clin d’œil appuyé aux méthodologies de l’archéologie des médias, incitant à considérer l’ensemble de la soirée comme une investigation at the edge of art, comme le formulaient Joline Blais et Jon Ippolito ?
« Black Box » (1998), Cercle Ramo Nash (Yoon Ja & Paul Devautour), installation multimédia interactive présentant « Sowana ». © Photo Florian Kleinefenn Cercle Ramo Nash Collection FRAC Provence-Alpes-Côte d’Azur
En 1997, « Sowana » de Yoon Ja & Paul Devautour (via le Cercle Ramo Nash) associait un programme conversationnel supposé se développer au fil des dialogues en ligne, à une grande boîte noire métallique, « Black Box », installation pour lieux d’expositions.
Représentation d’une instance machinique, la « Black Box » renvoyait autant à un lieu de stockage matériel qu’à une ferme de serveurs. Elle condensait visuellement l’imaginaire des données des machines d’enregistrement effectué consciemment et à notre insu. Sorte de critique d’art, « Sowana » n’était pas une intelligence artificielle. Sa duplicité était traduite par le mirage de la « Black Box » qui circulait dans le monde de l’art.
« Sowana » documente et participe d’un art qui s’institue en s’exposant. La soirée Bot or Not ? immerge son public dans une recherche en art.
L’exposition « Persona » qui s’est tenue du 26 janvier au 13 novembre 2016 au musée du Quai Branly, présentait elle aussi « Eliza ». Il était possible de converser avec le programme, assis en face d’un ordinateur d’un aspect suffisamment ancien pour évoquer le caractère pionnier de l’interface.
Quasi-personnes
L’inscription d’« Eliza » dans une machine et la possibilité de vivre « l’effet Eliza » s’accorde avec le projet global de la manifestation, que l’on peut résumer par l’introduction de l’application mobile qui l’accompagne : « Reprocher à son ordinateur de faire des siennes ; enfant, vouer un culte à son doudou ; ou bien shaman, convoquer les esprits grâce à une statuette, bienvenue à l’exposition “Persona, étrangement humain”, qui trouve son point de départ dans cette expérience commune à toutes les cultures, qui consiste à traiter le non-humain comme une personne. »
Le principe de l’application audio est comparable à celui de la soirée Bot or Not. Le guide que l’on entend est-il un bot conversationnel ? Le jeu est assez élémentaire, comme si ce mode légèrement ironique permettait de transmettre commodément la tonalité scientifique de l’exposition.
A l’instar des « non-personnes » de Jaron Lanier, le terme « quasi-personnes » employé pour désigner les entités aux différents modes de présence, de matérialité ou de manifestation n’est pas véritablement défini. Il est circonscrit par un tour d’horizon qui met en avant et associe des objets singuliers en dehors de toute distinction depuis un champ culturel ou disciplinaire. En ce sens, il est nécessaire de s’interroger sur l’intrication entre la manière d’utiliser l’exposition comme médium et la thématique des « quasi-personnes » dans le contexte plus général de notre moment robotique. (à suivre...)
Pour aller plus loin :
« You Are Not a Gadget : A Manifesto », Jaron Lanier, ed. Alfred A. Knopf, 2010 ;
« Alone Together », Sherry Turkle, 2011, paru en français en 2015 sous le titre « Seuls ensemble » ;
« Persona, étrangement humain », le catalogue de l’exposition du musée du quai Branly, paru aux éditions Actes Sud, sous la direction de Thierry Dufrêne, Emmanuel Grimaud, Anne-Christine Taylor et Denis Vidal, janvier 2016.
Bot like Me, conférences performances à l’occasion de l’exposition de !MedienGruppe Bitnik, « Jusqu’ici tout va bien », au Centre cuturel suisse, les 2 et 3/12, à Paris.
|
Catherine Beaugrand
|
|
 |
