NNouvel humanisme au temps des neurosciences et de l’intelligence artificielle – Projet NHNAI

©DR

Que signifie être humain au temps des neurosciences et de l’intelligence artificielle ? C’est la principale question que tente d’élucider le projet NHNAI ! Pourquoi ? Pour apporter une boussole éthique afin d’encadrer les actions humaines. Comment ? En provoquant une prise de conscience éthique au moyen du débat sociétal. Qui ? Grâce à un réseau international de chercheurs issus d’établissements supérieurs d’enseignement et de recherche Avec qui ? Des acteurs pertinents dans différents pays du monde entier.

Le projet NHNAI en quelques mots

Le projet NHNAI – Nouvel Humanisme au temps des Neurosciences et de l’Intelligence Artificielle – a officiellement débuté en Janvier 2022 sous l’égide de la Fédération Internationale des Universités Catholiques (IFCU). Le projet est coordonné par l’Unité de Recherche Confluence : Sciences et Humanités de l’Institut Catholique de Lyon, sous la responsabilité de Mathieu Guillermin et rassemble de multiples partenaires à travers le monde issus d’horizons divers (philosophes, éthiciens, sociologues, théologiens, experts en étude des religions, historiens, scientifiques en biomédecine, anthropologues, etc.). Plus particulièrement, le projet se concentre sur trois domaines essentiels que les récentes avancées scientifiques et technologiques ont bouleversé : SANTÉ – ÉDUCATION – DÉMOCRATIE

Principales hypothèses et objectifs

©NHNAI

Le projet NHNAI a pour objectif de soutenir la société dans ses efforts pour faire face aux défis éthiques soulevés par les neurosciences (NS) et l’intelligence artificielle (IA) en organisant des débats sociétaux avec l’aide des acteurs académiques. Ces défis et enjeux sociétaux sont nombreux, à l’image de l’automatisation du travail, de la prise de décision basée sur les données, des diagnostics médicaux, des voitures autonomes, des technologies de persuasion, de la neuromodulation au moyen d’implants neuronaux ou l’augmentation des capacités humaines, du renforcement des compétences, par exemple, dans le champ de l’éducation. Ces implications soulignent le besoin pressant pour tous les acteurs concernés de dépasser les simples aspects pratiques de ces domaines de recherche et d’applications, pour considérer leurs dimensions éthiques, morales et spirituelles. Ces acteurs ont besoin d’une boussole éthique collective pour naviguer parmi les multiples possibilités ouvertes par ces nouveaux champs d’action relatifs à l’intelligence artificielle et aux neurosciences.
Ainsi, NHNAI entend mettre les ressources académiques de son réseau au service d’un effort sociétal pour élaborer une boussole éthique collective, en particulier en encourageant l’exploration de la question centrale de l’humain (que signifie être humain au temps des neurosciences et de l’intelligence artificielle ? Qui sommes-nous en tant qu’être humain ? Qui devrions-nous être en tant qu’être humain…), et des tensions et les complexités que révèle cette question.
En effet, dans les réflexions éthiques et les efforts de régulation, on trouve très souvent des références à la notion d’ « humain » (par exemple, l’épanouissement humain, la technologie centrée sur l’humain, la nature humaine) ou à de concepts clés qui lui sont fermement attachés (telle que la dignité ou l’autonomie). Pourtant, cette notion d’humain en tant que telle reste ambigüe et problématique. Ce que signifie être humain est loin de faire l’objet d’une compréhension clarifiée et partagée. Il est bien sûr possible de s’appuyer sur l’humanisme du XVIIIème siècle (i.e., celui du siècle des Lumières, des révolutions politiques et des droits de l’homme). Bien que cette approche soit très influente et répandue (au moins dans la tradition et la culture occidentale), elle ne va pas néanmoins sans son lot de tensions, de difficultés et de controverses (multiples courants, rapport individu-groupe, rapport au non-humain …). Au-delà, ou en plus, des limites de cette approche répandue de la question de l’humain, force est de constater que les nouvelles connaissances et les technologies issues des NS et de l’IA entraînent aussi de profonds questionnements, notamment à propos de caractéristiques centrales pour l’humain qui se voient mises en tension (comme l’intelligence, le libre-arbitre, ou l’autonomie). L’absence d’une compréhension clarifiée et partagée au sujet de ce que signifie “être humain” (surtout par rapport aux tensions et complexités que la notion implique) risque donc de constituer une entrave à l’appréhension par tous les acteurs concernés des principales implications, notamment du point de vue éthique, moral et spirituel, de ces avancées en NS et dans le développement technologique de l’IA. Explorer collectivement la question de l’humain semble ainsi indispensable pour favoriser l’élaboration d’une boussole éthique à même de nous aider à nous orienter au temps de l’IA et des NS.
Ainsi posée, cette question de l’humain devient éminemment politique. Bien que leurs apports soient indispensables, universitaires et experts ne peuvent y répondre seuls. Réfléchir sur les différentes conceptions de l’humain aujourd’hui, ou sur ce que devrait être l’humain au temps de l’IA et des neurosciences est avant tout une question politique et existentielle, essentielle pour la réflexion éthique et qui, par conséquent, doit faire l’objet d’une large discussion sociétale. C’est à cette exigence que le projet NHNAI entend satisfaire en mettant les ressources de ses réseaux universitaires au service de cette réflexion collective et sociétale.

Lancement des débats sociétaux : 2 étapes

>> Ateliers de cadrage des problèmes

©NHNAI

Après avoir collecté des données pertinentes pour le débat sociétal sur le thème de l’humanisme lors du premier atelier académique en Mars 2022 (voir première newsletter), les équipes du projet NHNAI étaient prêtes à rencontrer et discuter avec plusieurs acteurs extra-académiques sur les enjeux éthiques des NS et de l’IA et réfléchir avec eux à la question centrale de ce que cela signifie d’être humain au temps des NS et de l’IA. Dans différents pays, les équipes de NHNAI ont rencontré et interrogé différentes personnes pour chaque thème de débat, dans le but de construire avec eux les questions qui doivent être débattues sur la scène publique. Parmi eux, on peut notamment compter des professeurs, des psychologues, des éducateurs spécialisés, des étudiants, des citoyens, des médecins, des neuroscientifiques, des avocats, des décideurs politiques et des ONG (organisation non gouvernementale).
Sur cette base, les experts du réseau académique NHNAI ont été sollicités pour enrichir et compléter le matériel initial afin de maximiser sa pertinence et son utilité en tant qu’outil au service du débat sociétal. Parmi les nombreuses questions qui ont été co-construites par les experts et les acteurs extra-académiques, on peut retrouver des questions exprimant des inquiétudes mais également des réflexions sur les opportunités et les bienfaits de ces technologies :

•  Quelles sont les principales caractéristiques de ce que signifie être humain qui devraient être préservées/renforcées avec les NS et l’IA ?
• Comment l’IA et les NS peuvent-elles nous aider à approfondir notre compréhension de nous-même et de notre humanité ?
• Quelle est la responsabilité du scientifique dans l’usage de la technologie qu’il produit ?
• Le développement de l’IA et des NS ne risque-t-il pas de conduire à une déshumanisation de l’enseignement ainsi qu’à la réduction de la diversité des sources ?
• Qu’est-ce qui dans le soin, est authentiquement humain et ne devrait pas être délégué à un robot ou à une IA ?
• Le développement de l’IA et des NS ne risque-t-il pas de priver l’humanité de son autonomie et de sa liberté, de sa capacité à ralentir ou même arrêter de ce que nous avons initié ?
• Comment les neurosciences et l’IA peuvent-elles améliorer la paix entre les êtres humains ?
• L’IA peut-elle favoriser l’avènement d’une société plus inclusive, prenant en compte les plus vulnérables ?

>> Ateliers de débats éthiques

Après la phase des ateliers de cadrage des problèmes et dans 9 pays, les équipes de NHNAI ont organisé des ateliers de débats éthiques avec leurs communautés locales de Février à Mars 2023. Des personnes de différents domaines et statuts ont été invités à participer à ces ateliers sur les thèmes de l’éducation, la santé et la démocratie et réfléchir collectivement aux enjeux éthiques des NS et de l’IA à partir de la question centrale de ce que cela signifie d’être humain au temps des NS et de l’IA dans ces domaines. On peut notamment retrouver des thèmes communs entre les pays, comme en éducation, où les participants se sont interrogés sur le rôle de l’éducateur et de l’IA, sur la nature et l’objectif de l’éducation, et sur l’impact de l’IA sur le processus d’apprentissage. Dans la santé, les participants se sont interrogés sur l’autonomie des patients et la relation entre le patient et le médecin avec les développements technologiques des NS et de l’IA, mais également sur le rôle de l’humain dans le système de soin. Enfin, dans la démocratie, les participants ont évoqué les impacts de l’IA sur l’autonomie du citoyen et sur la participation citoyenne. Néanmoins, on peut également noter des particularités selon les pays. Par exemple, au Kenya, les participants se sont concentrés sur les opportunités de l’IA dans l’éducation, et au Québec, les participants se sont concentrés sur les risques de surveillance auxquels l’IA peut conduire dans le thème de la démocratie.

>> Poursuivre les débats en ligne avec Cartodébat

Ces discussions initiées en face à face durant les ateliers se sont poursuivies en ligne avec la plateforme CartoDÉBAT, permettant de créer des débats publics numériques. N’importe qui peut participer aux discussions dans son pays. Il suffit de se rendre sur le site CartoDÉBAT, choisir son pays et créer un compte avec une adresse e-mail valide. Ensuite, vous pouvez sélectionner le débat sur lequel vous souhaitez participer sur la carte. Une fois que vous êtes sur la page du débat, vous devez surligner ce sur quoi vous souhaitez réagir (cela peut être sur la page de gauche dans le texte ou sur la page de droite dans les contributions des utilisateurs), spécifier avec un code couleur la nature de votre contribution (vert signifie « oui et », rouge signifie « oui mais » et bleu signifie « pas compris ») et d’ajouter votre argument. Tout est expliqué dans les vidéos sur la chaine YouTube.

Analyser les débats : la réunion entre les acteurs académiques de NHNAI

©NHNAI

Les acteurs académiques de NHNAI se sont réunis le 27 et 28 avril 2023 à l’Université Catholique de Lyon pour un travail interdisciplinaire sur la méthode d’analyse des contributions des débats. Ceux-ci ont discuté et réfléchi ensemble sur la procédure permettant de créer une librairie de mots-clés qui les aideront à analyser les corpus des contributions de la plateforme cartoDÉBAT. Cette méthode d’annotation des corpus et la librairie de mots-clés permettront aux équipes de NHNAI de faire une analyse globale (entre tous les pays) ainsi qu’une analyse locale, propre à chaque pays.
La librairie de mots-clés contribuera à avoir une meilleure compréhension de ce que cela signifie d’être humain à l’heure des neurosciences et de l’intelligence artificielle et donc également de ce qui est souhaitable ou non avec ces nouvelles technologies. Cela participera à la construction d’une boussole éthique permettant de mieux faire face aux nombreux défis que ces technologies posent à la société.
Ces analyses conduiront à l’élaboration d’un livre blanc sur la base de recommandations pour des lignes de conduite éthiques et politiques publiques (qui seront disséminées en 2025). De telles recommandations provenant de la société à un niveau global est d’une importance capitale de nos jours afin de nous orienter le mieux possible à travers les enjeux éthiques des neurosciences et de l’IA.

Découvrez les premiers résultats de la synthèse des débats sur l’éducation

Après les ateliers en présentiel sur les enjeux éthiques de l’intelligence artificielle et des neurosciences dans le domaine de l’éducation (à l’Université Catholique de Lyon, le 21 février 2023) et les discussions en ligne qui ont suivies sur la plateforme CartoDEBAT, nous avons le plaisir de vous partager les premiers éléments de synthèse et de restitution de ces discussions. Ces derniers constituent le début d’une analyse locale complète qui sera diffusée prochainement et préfigurent de futurs résultats attendus de la synthèse globale de tous les corpus de discussions dans les 9 pays participants.
Voici ci-dessous une représentation visuelle des idées les plus saillantes concernant ce que cela signifie d’être humain au temps de l’intelligence artificielle et des neurosciences, qui ont émergé des discussions centrées sur les enjeux éthiques de l’IA et des NS dans le domaine de l’éducation. Voici des éléments de lecture :

• Le nombre à droite de chaque idée saillante indique le nombre de contributions qui expriment cette idée
• Les connexions entre les idées saillantes :
  o Les flèches vertes connectent les idées en concordance
  o Les flèches rouges manifestent les complexités et les tensions entre les idées saillantes

©NHNAI

Pour en savoir plus :

Projet NHNAI