/image%2F0551630%2F20180125%2Fob_aa0a73_renault-ci-40717-177.jpg)
Forum Ecobiz "IA, éthique et société", Grenoble 08/10/19
Dans le cadre de la création en France de quatre instituts de recherche dédiés à l'Intelligence Artificielle,le site universitaire de Grenoble a vu son projet MIAI, porté par l'Université, labellisé pour 4 ans (2019-2023). Ce projet est pluridisciplinaire, il repose notamment sur un pilier "IA et société", avec quatre chaires directement portées par les disciplines de sciences humaines et sociales (le droit, la sociologie et la philosophie), ou orientée vers l'économie.
La chaire "éthique et IA" dont je suis le responsable scientifique est ancrée en philosophie, mais se veut pluridisciplinaire afin de faire dialoguer l’informatique et la robotique avec les sciences humaines et sociales*. Son activité a pour objectif une meilleure compréhension des enjeux psycho-sociaux, moraux et politiques du déploiement de l'IA, ainsi que la détermination de règles d’organisation éthiques, durables et équitables, en vue de solutions IA compatibles avec les valeurs de la démocratie.
* Les unités de recherche du site grenoblois impliquées et représentées dans le projet de la chaire sont les suivantes : ma propre unité de recherche, IPhiG (philosophie), LIG et INRIA (informatique et robotique), LIP-PC2S et LPNC (psychologie), Gresec (sciences de l'information et de la communication), CERAG (sciences de gestion).
En voici le projet scientifique :
Construite autour de trois axes, la chaire « Ethique et IA » entend relever 5 défis scientifiques majeurs.
Le premier axe vise à questionner le sens de l’intelligence de l’IA, selon les termes du Rapport Villani (2018), où le mot « éthique » est entendu en fonction de la compréhension ou de la réflexivité nécessaires pour saisir les apports de l’IA à la société contemporaine. Ce qui implique de déterminer quels sont les modèles dont on se sert pour qualifier l’intelligence dans l’expression « IA ». Ce point constitue un problème majeur pour la philosophie d’aujourd’hui, et porte notamment sur le statut épistémologique et ontologique de la calculabilité, de l’incomplétude et de l’incertitude. Tel est le défi scientifique n°1, transversal à l’ensemble de MIAI : voué à répondre à la question « qu’est-ce que l’intelligence dans et pour l’intelligence artificielle ? », il engage un dialogue philosophique avec les sciences de l’informatique et de la cognition.
Le deuxième axe concerne les projets développés par l’explicitation des finalités poursuivies par le développement de l’IA, ainsi que par la détermination des valeurs qui sous-tendent ce dernier. En quoi le ou les paradigmes d’intelligence IA donnent un nouveau sens ou font déjà sens pour la société ? Comment l’IA fait-elle évoluer les pratiques, usages & représentations humains ? Tel est le défi scientifique n°2 : quel type de société cherche-t-on à promouvoir avec l’IA ? Ces interrogations regardent des domaines d’étude et de compréhension très variés, qui donneront lieu à des partenariats avec des partenaires extra-académiques (industriels et les collectivités territoriales) déclinés sous des formes variées (thèses CIFRE, études particulières, workshops réguliers). Voici quelques-uns des secteurs concernés et des thèmes qui seront abordés du fait de leur évolution sous l’effet de l’affirmation de la puissance algorithmique : production de la valeur et économie-finance (cas du trading haute fréquence) ; autonomie humaine de mobilité et mobilité automatiquement déterminée (comment dépasser les classiques et macabres dilemmes socio-moraux puisque pour ceux il n’existe pas de solution universelle, comme l’a montré Maxmen 2018 ?) ; détermination des valeurs d’usage, acceptabilité, émotions et marketing (nudging, incitations & motivations) ; domaines touchés par l’émergence de la blockchain : finance, contrats, tiers de confiance (peut-on instituer technologiquement la confiance ? Ménissier 2018) ; institution et politique : « gouvernementalité algorithmique » (Rouvroy et Berns 2013), contrôle automatique des comportements, sécurité vs. libertés publiques et privées ; émergence de l’IA dans les domaine(s) de l’art : musique, arts graphiques et plastiques, architecture & urbanisme ; médecine prédictive et génomique ; assurances et mutuelles, calculs des risques et modifications des conduites humaines.
Le troisième axe regroupe la recherche à propos des normes et de la régulation de l’IA. Contribuant à déterminer et à formaliser les règles d’éthique valables pour l’IA, la chaire se donne pour objectif de constituer le centre français d’éthique de/pour l’IA.
Relevant de cet axe, le défi scientifique n°3 peut se formuler ainsi : Quelles sont les procédures, les règles et les valeurs les plus pertinents tant pour la conception que pour les pratiques et les usages de l’IA ? La dimension de l’éthique apparaît ici comme une valeur importante dans l’affirmation de l’IA. Par exemple, quelles sont les « théories de la Justice » (au sens de Rawls 1971) pour le monde de l’IA ou en régime généralisé d’IA ? Comment, dès la phase de conception des algorithmes, se pose le problème philosophique de l’allocation de moyens ou justice distributive ? Ainsi le défi scientifique n°4, appelé par le précédent, se formule ainsi : quelle est la bonne perspective pour déterminer l’IA de manière démocratique ?
Enfin, quel type d’éthique sera le mieux adapté pour l’IA ? Penser philosophiquement l’IA permet (ou risque) donc de faire bouger l’état de l’art en théorie morale. De nouvelles questions et de nouveaux concepts sont déjà apparus, comme la fairness des algorithmes. D’où le défi scientifique 5 : en quoi l’IA fait-elle évoluer (l’état de l’art de) l’éthique ?
Il est possible de participer aux activités qu'organise la chaire ou d'être tenu informé de ces activités. Dans les deux cas, il est nécessaire de m'en adresser la demande par un courriel motivé : thierry.menissier@univ-grenoble-alpes.fr
/image%2F0551630%2F20230411%2Fob_6511b3_logo-uiad.png){kind=logo}
/image%2F0551630%2F20200512%2Fob_e98a9e_caterina-sforza.jpg)
/image%2F0551630%2F20190328%2Fob_5a79a7_conf-alain-letourneau-ia.png)
/image%2F0551630%2F20150110%2Fob_0cf447_affdu2.jpg)
/image%2F0551630%2F20230414%2Fob_7b560e_bienveillance-des-machines.jpg)
/image%2F0551630%2F20230411%2Fob_6511b3_logo-uiad.png){kind=logo}
/image%2F0551630%2F20221007%2Fob_07c752_ubu.jpg)
/image%2F0551630%2F20220929%2Fob_24c5ab_lecourt-1996.jpg)