Les Robots et le mal, présentation #1

Publié par Thierry Ménissier sur 2 Janvier 2020, 16:05pm

Catégories : #Lectures, #Philosophie et innovation, #éthique & IA

Ridley Scott, Blade Runner, 1982 : Rachel Deckard est-elle humaine ?

Annonce Conférence A. Grinbaum, IPhiG chaire éthique & IA MIA

Prochainement, dans le cadre de la chaire « éthique & IA » (IPhiG/MIA), nous recevons Alexei Grinbaum autour de son ouvrage Les Robots et le mal (éditions Desclée De Brouwer, 2018). Je voudrais ici commencer à présenter ce dernier.

L’auteur entend se situer sur un terrain difficile, celui de la relation entre les formes de discursivité très différentes que sont la rationalité typique de la technologie informatique, numérique et robotique, la théologie monothéiste (juive et chrétienne principalement, et parmi celle-ci plutôt les doctrines catholiques et orthodoxes) et la philosophie morale. Ces genres de discours sont différents, ils apparaissent disjoints et potentiellement contradictoires. Mais, ordinairement et jusqu’ici, on pourrait affirmer que le lien entre eux existe du fait que l’humain se trouve à la croisée de ces différentes formes de connaissance du monde, en tant que ce dernier est tout à la fois : concepteur et usager des programmes informatiques, lui-même croyant ou tout au moins culturellement affilié à une tradition religieuse, et agent moral devant être responsable de ses propres actions devant la loi civile. Être humain, c’est implicitement exister simultanément sur ces trois plans, et cela consiste même, en particulier lorsqu’on se trouve occasionnellement devant des cas de conscience, à faire dialoguer les genres de discours pour déterminer une décision satisfaisante (et en ce cas leur antagonisme potentiel peut devenir une ressource pour la délibération).

Le monde dont on entrevoit aujourd’hui l’aube apparaît différent, sous l’effet du développement généralisé des technologies informatiques, numériques et robotiques : par exemple, dans le transport sous la forme du véhicule autonome ou des drones de livraison, dans les questions de sécurité et de guerre avec les armes autonomes, et dans le monde des services en général avec les « agents conversationnels », autant de cas où des machines apparaissent susceptibles de mal se comporter. Il se produit comme une mise en tension entre les trois types de discours, du fait qu’on peut désormais se trouver dans l’obligation de déterminer la responsabilité de machines plus ou moins autonomes mais pas encore responsables, là où, hier, le droit se concentrait plus simplement sur l’imputation, à savoir, sur la relation entre d’une part les intentions et les actes des personnes humaines, et de l’autre leurs effets sur la société.

Plus précisément, l’ouvrage repose sur le constat d’une faiblesse dans la manière contemporaine d’aborder les problèmes. Cette faiblesse regarde le lien qu’on établit aujourd’hui entre les problèmes posés par la nécessaire maîtrise des machines (ou l’absence de maîtrise, qui engendre des accidents) et la régulation éthique. Cette dernière, telle qu’elle est habituellement conçue, regarde la calculabilité des opérations techniques et repose sur une valeur telle que la transparence. Or, l’une et l’autre s’avèrent insuffisantes : la seconde est souvent impossible à réaliser, la première ne dit pas l’essentiel de ce qui se passe avec un ordinateur. En effet, celui-ci ne fait pas que calculer ; comme son nom l’indique, il met en ordre, il priorise, range et arrange le monde, par conséquent l’organise, l’ordonne et par-là finalement contribue déjà à l’instituer. Dans ces conditions, un ordinateur calcule si l’on veut, mais il procède un peu comme un créateur le ferait à l’égard de sa création, tout en étant un créateur non totalement doué d’intentions ou qui n’est pas l’auteur de ses propres intentions primordiales. L’ordinateur, créateur créé par l’humain, exécute les programmes prévus mais ne fait pas qu’appliquer des décisions toutes faites, en un sens il en invente déjà certaines. Puisque nous sommes d'ores et déjà quotidiennement ou presque confrontés à de tels êtres, une approche éthique en de tout autres termes s'impose, d'urgence même vu le retard pris. Cette approche en de nouveaux termes, c'est celle de la métaphysique. Mais si les êtres dont il convient de traiter sont nouveaux, faut-il inventer une nouvelle métaphysique ?

Pour répondre à cette question, l’auteur propose de se pencher de manière attentive sur la manière de procéder typique du discours théologique. Il qualifie sa démarche d’« homologique » : il ne s’agit nullement de considérer l’informatique du point de vue de la théologie simplement entendue comme discours évaluatif, mais de trouver à penser quelque chose des difficultés rencontrées par la première par le moyen des catégories, termes, mythes et images inventés par la seconde. Ainsi, tout en invitant son lecteur à faire de même, entreprend-il d’identifier des thèmes issus de la tradition monothéiste qui peuvent être pertinents pour éclairer à nouveaux frais les problèmes aujourd’hui posés par l’informatique, le numérique et la robotique (dans un post suivant je me concentrerai sur l’analyse de certains arguments identifiés comme tels par l’auteur).

C’est ainsi que la notion de mal prend, par l’intermédiaire d’une lecture savante de Bible et de sa tradition, une dimension substantielle – le mal dont Grinbaum entreprend de penser la pertinence valable pour évaluer l’informatique et la robotique est bien plus « consistant » sur le plan éthique que les valeurs du « bon » ou du « mauvais » traditionnellement proposées par la computer ethics contemporaine pour déterminer si tel ou tel programme est éthiquement valable ou non. Il est permis de saisir le haut niveau de questionnement de l’auteur en évoquant les passages où, tout en concédant que les machines ne se substituent pas à nous en tant qu’agents moraux, il s’agit pour lui de déterminer « la question du mal pour l’individu numérique » et plus généralement celle du sens du mal pour l’IA. En d’autres termes, et l’on saisit ici l’ambition et l’originalité de la démarche, il ne s’agit pas de dire de l’humain, qui est pourtant un nouveau Prométhée capable de développer des technologies presque surhumaines, qu’il fait le mal en voulant le bien, ni des machines créées qu’elles font le mal parce qu’elles sont imparfaites. Il s’agit pour Grinbaum à la fois d’affirmer que dans la conception et l’usage de l’informatique, du numérique et de la robotique il y a du mal, de définir cette catégorie dans sa spécificité lorsqu’on la rapporte à ce type de savoir, et enfin d’envisager y remédier.

Evidemment, en poussant si loin la comparaison entre le désir humain de maîtriser le monde par la connaissance calculatoire et la puissance contemporaine des informaticiens, le mythe de Faust s’avère fondateur pour la réflexion, ne serait-ce que par l’évocation du risque que prennent ces derniers. Si bien que la figure de Satan domine l’ouvrage, tant par la référence constante qui y est faite, dès l’introduction, que par les évocations des ouvrages qui, dans la civilisation chrétienne, l’ont de loin en loin nourrie (la tradition de Marlowe à Thomas Mann en passant par Goethe bien entendu, mais également Le Maitre et Marguerite de Mikhaïl Boulgakov, ou encore Je vois Satan tomber comme l’éclair de René Girard). Grinbaum rappelle que Satan, de quelque façon qu’on le nomme (Méphistophélès, l’Ennemi, le Malin, le Diable, le Démon, le Tentateur, etc.) constitue, pour la tradition biblique, une fonction fondamentale. Nul ne peut dire qu’il a affronté la question du sens éthique de ce qu’il fait s’il n’a vécu l’épreuve imposée par Satan. Cette étape doit aujourd’hui est franchie par les programmeurs informatiques voués à « ordonner le monde », elle le sera immanquablement demain par les individus artificiels autonomes qu’ils sont en train de créer.

Après le droit canonique, la science juridique et administrative, puis la statistique, la finance et la science de gestion ont, au fil des siècles, prétendu valoir comme des discours fondateurs de la normativité sociale ultime, en entreprenant de régir les actions des humains par la connaissance de la Loi (celle de Dieu, celle du Pouvoir, qu’il soit royal ou impérial, républicain, financier et managérial). De nos jours, forte de ses performances techniques, l’informatique s’inscrit dans une comparable ambition, en leur imposant la Loi de l’information, elle-même issue des Faits eux-mêmes – encore que les faits purs sont bien difficiles à atteindre, car toute « donnée » est « construite ». Même si elle n’affiche pas ouvertement cette ambition, elle revendique à son tour de valoir comme un discours instituant, un indiscutable foyer de normativité fondamentale. On peut le remarquer par bien des aspects, par exemple grâce à cette observation que l’informaticien se plait à la présence du juriste. Aux informaticiens, tous aujourd’hui implicitement placés dans une telle posture (et, pour certains, en revendiquant déjà la supériorité), l’ouvrage de Grinbaum rappelle que, si l’informatique avait jamais eu le dessein de se constituer explicitement en une telle doctrine tout en échappant aux apories de l’expérience vécue, aux ambiguïtés constitutives de l’existence humaine et aux problèmes indépassables de la nature des choses, c’est peine perdue. Si elle procédait d'une manière si innocente, par certains aspects l'informatique serait seulement victime de son rêve techniciste, mais par d'autres elle serait également vectrice d'une bien dangereuse illusion. Au contraire, les grands ordonnateurs de nos nouveaux Golem, actuels maîtres de toutes choses ou de presque toutes, se sentiront à la lecture de cet ouvrage incontestablement moins seuls, et, dans le même temps, ils apprécieront tout ce que la riche tradition de la philosophie morale héritée du monothéisme peut leur apporter en termes de réflexivité, c’est-à-dire de pensée non technique de leur propre action.

Séminaire Philosophie des techniques : Jean-Hugues Barthélémy

Les Robots et le mal, présentation #2 : où est le diable dans la machine ?

Commenter cet article