Pop’Sciences répond à tous ceux qui ont soif de savoirs, de rencontres, d’expériences en lien avec les sciences. Le site est en cours de maintenance : il peut apparaître des défauts d'affichage pendant quelques jours. Nous vous remercions pour votre patience et compréhension.

EN SAVOIR PLUS

La société est biaisée, et cela biaise les IA… voici des pistes de solutions pour une IA vertueuse et une société plus inclusive

LLa société est biaisée, et cela biaise les IA… voici des pistes de solutions pour une IA vertueuse et une société plus inclusive

Les données utilisées pour entraîner les IA reflètent les stéréotypes et les préjugés de la société, par exemple envers des groupes sous-représentés. Pour conserver la confidentialité de données sensibles, comme les données de santé, tout en garantissant qu’elles ne sont pas biaisées, il faut adapter les méthodes d’apprentissage.

Plusieurs scandales ont éclaté ces dernières années, mettant en cause des systèmes d’aide à la décision basés sur l’intelligence artificielle (IA) qui produisent des résultats racistes ou sexistes.

C’était le cas, par exemple, de l’outil de recrutement d’Amazon qui exhibait des biais à l’encontre des femmes, ou encore du système guidant les soins hospitaliers dans un hôpital américain qui privilégiait systématiquement les patients de couleur blanche par rapport aux patients noirs. En réponse au problème de biais dans l’IA et les algorithmes d’apprentissage automatique, des législations ont été proposées, telles que le AI Act dans l’Union européenne, ou le National AI Initiative Act aux États-Unis.

Un argument largement repris concernant la présence de biais dans l’IA et les modèles d’apprentissage automatique est que ces derniers ne font que refléter une vérité de terrain : les biais sont présents dans les données réelles. Par exemple, des données de patients ayant une maladie touchant spécifiquement les hommes résultent en une IA biaisée envers les femmes, sans que cette IA soit pour autant incorrecte.

Si cet argument est valide dans certains cas, il existe de nombreux cas où les données ont été collectées de manière incomplète et ne reflètent pas la diversité de la réalité terrain, ou encore des données qui incluent des cas statistiquement rares et qui vont être sous-représentés, voire non représentés dans les modèles d’apprentissage automatique. C’est le cas, par exemple, de l’outil de recrutement d’Amazon qui exhibait un biais envers les femmes : parce que les femmes travaillant dans un secteur sont statistiquement peu nombreuses, l’IA qui en résulte rejette tout simplement les candidatures féminines.

Et si plutôt que refléter, voire exacerber une réalité actuelle dysfonctionnelle, l’IA pouvait être vertueuse et servir à corriger les biais dans la société, pour une société plus inclusive ? C’est ce que proposent les chercheurs avec une nouvelle approche : l’« apprentissage fédéré ».

Vers une IA décentralisée

Les systèmes d’aide à la décision basés sur l’IA se basent sur des données. En effet, dans les approches classiques d’apprentissage automatique, les données provenant de plusieurs sources doivent tout d’abord être transmises à un dépôt (par exemple, un serveur sur le cloud) qui les centralise, avant d’exécuter un algorithme d’apprentissage automatique sur ces données centralisées.

Or ceci soulève des questions de protection des données. En effet, conformément à la législation en vigueur, un hôpital n’a pas le droit d’externaliser les données médicales sensibles de ses patients, une banque n’a pas le droit d’externaliser les informations privées des transactions bancaires de ses clients.

Par conséquent, pour mieux préserver la confidentialité des données dans les systèmes d’IA, les chercheurs développent des approches basées sur une IA dite « distribuée », où les données restent sur les sites possesseurs de données, et où les algorithmes d’apprentissage automatique s’exécutent de manière distribuée sur ces différents sites — on parle également d’« apprentissage fédéré ».

Concrètement, chaque possesseur de données (participant à l’apprentissage fédéré) entraîne un modèle local sur la base de ses propres données, puis transmet les paramètres de son modèle local à une entité tierce qui effectue l’agrégation des paramètres de l’ensemble des modèles locaux (par exemple, via une moyenne pondérée selon le volume de données de chaque participant). Cette dernière entité produit alors un modèle global qui sera utilisé par les différents participants pour effectuer leurs prédictions.

Ainsi, il est possible de construire une connaissance globale à partir des données des uns et des autres, sans pour autant révéler ses propres données et sans accéder aux données des autres. Par exemple, les données médicales des patients restent dans chaque centre hospitalier les possédant, et ce sont les algorithmes d’apprentissage fédéré qui s’exécutent et se coordonnent entre ces différents sites.

Avec une telle approche, il sera possible pour un petit centre hospitalier dans une zone géographique moins peuplée que les grandes métropoles — et donc possédant moins de données médicales que dans les grands centres hospitaliers, et par conséquent, possédant a priori une IA moins bien entraînée — de bénéficier d’une IA reflétant une connaissance globale, entraînée de manière décentralisée sur les données des différents centres hospitaliers.

D’autres cas d’applications similaires peuvent être mentionnés, impliquant plusieurs banques pour construire une IA globale de détection de fraudes, plusieurs bâtiments intelligents pour déterminer une gestion énergétique appropriée, etc.

Les biais dans l’IA décentralisée sont plus complexes à appréhender

Comparée à l’approche classique d’apprentissage automatique centralisé, l’IA décentralisée et ses algorithmes d’apprentissage fédéré peuvent, d’une part, exacerber encore plus le biais, et d’autre part, rendre le traitement du biais plus difficile.

En effet, les données locales des participants à un système d’apprentissage fédéré peuvent avoir des distributions statistiques très hétérogènes (des volumes de données différents, des représentativités différentes de certains groupes démographiques, etc.). Un participant contribuant à l’apprentissage fédéré avec un grand volume de données aura plus d’influence sur le modèle global qu’un participant avec un faible volume de données. Si ce dernier est dans d’une certaine zone géographique qui représente un groupe social en particulier, celui-ci ne sera malheureusement pas, ou très peu, reflété dans le modèle global.

Par ailleurs, la présence de biais dans les données d’un des participants à un système d’apprentissage fédéré peut entraîner la propagation de ce biais vers les autres participants via le modèle global. En effet, même si un participant a veillé à avoir des données locales non biaisées, il héritera du biais présent chez d’autres.

Et plus difficiles à corriger

De plus, les techniques classiquement utilisées pour prévenir et corriger le biais dans le cas centralisé ne peuvent pas s’appliquer directement à l’apprentissage fédéré. En effet, l’approche classique de correction du biais consiste principalement à prétraiter les données avant l’apprentissage automatique pour que les données aient certaines propriétés statistiques et ne soient donc plus biaisées ?

Or dans le cas d’une IA décentralisée et d’apprentissage fédéré, il n’est pas possible d’accéder aux données des participants, ni d’avoir une connaissance des statistiques globales des données décentralisées.

Dans ce cas, comment traiter le biais dans les systèmes d’IA décentralisée ?

Mesurer le biais de l’IA sans avoir accès aux données décentralisées

Une première étape est de pouvoir mesurer les biais des données décentralisées chez les participants à l’apprentissage fédéré, sans avoir directement accès à leurs données.

Avec mes collègues, nous avons conçu une nouvelle méthode pour mesurer et quantifier les biais dans les systèmes d’apprentissage fédéré, sur la base de l’analyse des paramètres des modèles locaux des participants à l’apprentissage fédéré. Cette méthode a l’avantage d’être compatible avec la protection des données des participants, tout en permettant la mesure de plusieurs métriques de biais.

Capturer l’interdépendance entre plusieurs types de biais, et les corriger dans l’IA décentralisée

Mais il peut aussi y avoir plusieurs types de biais démographiques, qui se déclinent selon différents attributs sensibles (le genre, la race, l’âge, etc.), et nous avons démontré qu’atténuer un seul type de biais peut avoir pour effet collatéral l’augmentation d’un autre type de biais. Il serait alors dommage qu’une solution d’atténuation du biais lié à la race, par exemple, provoque une exacerbation du biais lié au genre.

Nous avons alors proposé une méthode multi-objectifs pour la mesure complète des biais et le traitement conjoint et cohérent de plusieurs types de biais survenant dans les systèmes d’apprentissage fédéré.

Ces travaux sont le fruit d’une collaboration avec des collègues chercheurs, doctorants et stagiaires : Pascal Felber, (Université de Neuchâtel), Valerio Schiavoni (Université de Neuchâtel), Angela Bonifati (Université Lyon 1), Vania Marangozova (Université Grenoble Alpes), Nawel Benarba (INSA Lyon), Yasmine Djebrouni (Université Grenoble Alpes), Ousmane Touat (INSA Lyon).

Le projet CITADEL est soutenu par l’Agence nationale de la recherche (ANR), qui finance en France la recherche sur projets. Elle a pour mission de soutenir et de promouvoir le développement de recherches fondamentales et finalisées dans toutes les disciplines, et de renforcer le dialogue entre science et société. Pour en savoir plus, consultez le site de l’ANR.The Conversation

>> L’autrice : 

Sara Bouchenak, Professeure d’Informatique – INSA Lyon, INSA Lyon – Université de Lyon

Cet article est republié sous licence Creative Commons.

>> Lire l’article original :

The Conversation

Mission [4]Possible : 24h pour mettre les pieds dans le plat

MMission [4]Possible : 24h pour mettre les pieds dans le plat

Comment l’alimentation est-elle envisagée aujourd’hui ? Quels sont ses impacts sur la santé et quel rôle peut-elle jouer ? Qu’est-ce que notre façon de manger ensemble raconte ? La problématique de l’alimentation évolue avec la société à un moment où son économie est réinterrogée par des agriculteurs et des consommateurs qui expérimentent de nouveaux modes plus responsables et respectueux du bien commun.

Mission [4]Possible invite à s’interroger sur le monde qui nous entoure accompagné de scientifiques et de professionnels, mais aussi à expérimenter, observer, essayer, jouer seul ou en famille pour que l’accès à la science rime avec plaisir ! La 4e édition de ce festival qui allie culture et sciences vous servira un programme aux petits oignons…

Sous le parrainage  de : Christophe Marguin, président des Toques Blanches lyonnaises et Guillame Gomez, ancien chef du Palais de l’Élysée aujourd’hui ambassadeur de la gastronomie ; il sera l’invité du Grand Entretien pour ouvrir les festivités vendredi soir.

>>  Programme :

  • Vendredi 15 novembre à partir de 19h | Grand Entretien avec le chef Guillaume Gomez, représentant personnel du Président de la République auprès des acteurs de la gastronomie, de l’alimentation et des arts culinaires.

Sera suivi d’un temps de dédicace, en présence de la Librairie de l’Hôtel de ville de Bron et d’un moment convivial pour trinquer au lancement du festival.

  • Samedi 16 novembre | Tables rondes et animations

> Tables rondes (animées par : Julie Van Ossel, journaliste et créatrice du podcast La recette) :

– Alimentation et santé : un équilibre à trouver ? 
– Bien manger : quel rôle pour nos territoires
– Manger : un acte social ?

> Animations :

– Petit marché de producteurs sur le parvis de la médiathèque 
– Deux expositions interactives sur le microbiote et la digestion, par l’INSERM et l’association EurêkAlès 
– Bar à podcasts
– Rencontres avec des acteurs locaux
– Une chasse au trésor
– Des ateliers ludiques
– Des démonstrations de cuisine moléculaire, de cuisine zéro-déchet, d’illustration…
– Une comédie au cinéma Les Alizés : La Brigade, de Louis-Julien PETIT. Tarif unique de 5,20€.

>> Pour plus d’information, rendez-vous sur le site de : 

Ville de bron

Bienvenue dans l’espèce humaine

BBienvenue dans l’espèce humaine

©compagnie Thyia

Le théâtre Astrée de l’Université Claude Bernard Lyon 1 vous invite à une représentation qui pose des questions sur l’espèce et la société humaine.

Faut-il désespérer de l’espèce humaine ?
Qu’est-on en droit d’attendre de ces primates vaguement évolués qui se sont rendus maîtres et possesseurs de la nature, et qui sont passés experts dans l’art de massacrer leurs semblables ?
Sommes-nous condamnés à l’éternelle reproduction du pire et à l’attente anxieuse de la catastrophe terminale ?
Ou peut-on espérer que l’espèce la plus inventive du règne animal finira par dominer sa propre pulsion de mort ?

À ces questions essentielles, et à bien d’autres encore, Benoît Lambert tente d’apporter des réponses claires, et argumentées. En s’appuyant sur certaines avancées fondamentales de l’éthologie et de l’anthropologie, tout comme sur les expériences vécues de tout un chacun. Bienvenue dans l’Espèce Humaine permet d’affronter aussi bien les questionnements métaphysiques les plus vastes que les petits tracas du quotidien.

>> Pour plus d’information rendez-vous sur le site :

théâtre astrée

Les Cafés Découvertes

LLes Cafés Découvertes

Les Cafés Découvertes sont des moments conviviaux et de discussions autour de la recherche organisés par les Presses universitaires de Saint-Étienne – les PUSES – et la Bibliothèque universitaire Tréfilerie.

Le travail des chercheurs, quelque soit la discipline étudiée, est souvent méconnu. Depuis plus de 50 ans, le service des PUSE attache une importance toute particulière à promouvoir la recherche via des ouvrages de qualité.
L’objectif de ces Cafés Découvertes est donc de permettre au public, universitaire et extérieur, de comprendre les enjeux de la recherche dans toutes les disciplines mais aussi de découvrir ou redécouvrir les publications réalisées au sein de l’Université Jean Monnet de Saint-Étienne à travers différentes thématiques.

>> Le programme : 

 

  • Café Off – Anatole|26 septembre 2024

©DR

Table ronde autour de l’ouvrage Anatole de Sophie Gay dans le cadre de la journée mondiale des sourds, animée par Jean-Marie Roulin.

Intervenants : Hugo Marques, Fabio Vasarri et Chloé Vincent

 

 

 

 

 

 

  • Café 1 – Les Métamorphoses du commerce|28 novembre 2024

©DR

Du petit magasin aux hypermarchés, comment le commerce a-t-il évolué au fil du temps ?

Fondée en 1898, Casino fut un modèle d’entreprise succursaliste.

Quelles furent les différentes formes de vente et stratégies commerciales mises en place au fil du temps ?

Intervenants :Anne-Céline Callens, Pascal Charroin, Hervé Joly et Luc Rojas

 

 

 

  • Café 2 – Partager les sols – ERPS 10 (Espace rural & projet spatial ) |27 mars 2025

©DR

Comment retrouver les épaisseurs matérielles et symboliques d’un sol exploité, artificialisé, épuisé ?

Milieu, ressources et mémoire, le sol a toujours été capital dans l’aventure humaine et il s’agit à présent de le ménager.

Que nous disent diverses expériences de tous continents et de différents arts de faire de cette quête pour qu’humus et humain riment à nouveau ?

 Intervenants : Georges-Henry Laffont et David Robin

 

 

>> Pour plus d’information, rendez-vous sur le site : 

BU UJM

 

L’engagement des scientifiques dans les luttes sociales et environnementales : quelles questions ?

LL’engagement des scientifiques dans les luttes sociales et environnementales : quelles questions ?

La Boutique des Sciences de l’Université Lumière Lyon 2 a le plaisir de vous inviter à la 2e séance de son séminaire « Faire société, faire sciences ensemble ? » : L’engagement des scientifiques dans les luttes sociales et environnementales : quelles questions ?

Médiatisés à leur insu ou volontairement, les discours scientifiques sont mobilisés dans le débat public, permettant d’apporter des arguments concrets et « objectivés » aux luttes sociales (dans le cas de la réforme des retraites par exemple) ou ajoutant un nouveau type d’activisme à des combats en cours (cas de la désobéissance civile pour la défense du climat). Du point de vue du chercheur : pourquoi engager sa parole dans ce contexte, quelles considérations éthiques amènent à rester en retrait ou au contraire à aller au devant des mobilisations ? Du côté des mouvements sociaux : est-ce que cela est un « plus » d’avoir un chercheur à ses côtés, pourquoi, dans quelles conditions ?

Intervenant.e.s :

  • Mickaël Zemmour, professeur de sciences économiques, chercheur au Laboratoire Triangle – ENS ;
  • Loïc Salmon, chercheur et membre de Scientist Rebellion ;
  • Françoise Lantheaume, référente intégrité scientifique à l’Université Lumière Lyon 2

En collaboration avec : la Fabrique des Questions Simples

Animé par : Cléa Chakraverty de The Conversation

>> Pour en savoir plus, rendez-vous sur le site :

Université Lumière Lyon 2

©Université Lumière Lyon 2

Parlez-nous de…la nuit à Beyrouth

PParlez-nous de…la nuit à Beyrouth

La bibliothèque Diderot de Lyon vous invite à sa rencontre organisée à l’occasion de la sortie de l’ouvrage :
Nuits de Beyrouth. Géographie de la fête dans une ville post-conflit, de Marie Bonte (ENS Éditions, 2024).

Beyrouth, la nuit : des lieux festifs et des scènes urbaines à l’étude

À travers Nuits de Beyrouth. Géographie des loisirs nocturnes dans une ville post-conflit, cette rencontre, animée par Antoine Laporte, propose une approche de l’urbain par les espaces et les pratiques liés à la consommation et au divertissement nocturnes. Dans son ouvrage, Marie Bonte interroge les spatialités, les sociabilités et les discours de la jeunesse qui sort à Beyrouth, ainsi que leur portée sociale et politique dans le Liban post-conflit. Elle montre comment les lieux festifs constituent des scènes urbaines qui émergent pendant la période mandataire et évoluent au rythme des mutations spatiales imposées par la guerre et la reconstruction. Les établissements étudiés sont regroupés en quartiers denses qui présentent des logiques d’émergence et de déclin rapide, et permettent aux individus qui les fréquentent de s’énoncer et de s’exposer. Ils offrent également une panoplie d’usages militants qui reflètent les revendications de la jeunesse beyrouthine confrontée à un présent agité et un futur incertain.

Les intervenants :
  • Marie Bonte | Maîtresse de conférences en géographie à l’université de Paris 8–Vincennes Saint-Denis.
  • Antoine Laporte | Maître de conférences en géographie et directeur-adjoint du département de sciences sociales à l’ENS de Lyon.

>> Pour plus d’information rendez-vous sur la page :

bibliothèque Diderot de Lyon

Démocratie : faire valoir sa voix

DDémocratie : faire valoir sa voix

À l’heure où les extrêmes sont au plus haut, ou le taux d’abstention explose, où nous avons l’impression que tous nos politiques sont les mêmes. Une sérieuse impression d’impuissance monte en nous.

Notre système démocratique est-il malade ? Quelles sont les améliorations possibles ou les solutions alternatives ?

Comme à son habitude, l’association Scène 27 organise un événement propice aux rencontres pour échanger sur un sujet de société avec notre jeu P.O.V, participer à un atelier artistique, découvrir une sélection de livre sur le sujet et écouter des « Talks » d’experts dans une ambiance décontractée et bienveillante !

Intervenants :

  • Camille Marguin, entrepreneuse et militante associative – « Combler le fossé qui se creuse entre les citoyens, notamment les plus jeunes, et la politique. »
  • Jean Baptiste Aubin, statisticien et mathématicien, maître de conférence statisticien à l’INSA Lyon et à l’Institut Camille Jordan  – « Des mathématiques pour sauver la démocratie ? »

Avec la participation de : Librairie Expérience et de l’auteur, compositeur et interprète Focalm.

>> Pour plus d’information, rendez-vous sur le site : 

Scène 27

Chemins de papier, cartes et images du voyage en France et ailleurs, XIXe-XXIe siècle | Exposition

CChemins de papier, cartes et images du voyage en France et ailleurs, XIXe-XXIe siècle | Exposition

Cartes et itinéraires de voyages s’exposent à la Bibliothèque Diderot de Lyon : suivez le guide !

À partir du XVIIIe et surtout au cours du XIXe siècle, les mobilités individuelles connaissent un développement considérable en Europe, caractérisé par la place croissante du tourisme. Ces pratiques viatiques s’accompagnent d’une production imprimée renouvelée, œuvre d’acteurs variés, aux objectifs complémentaires. Les cartes et les guides en particulier, instruments indissociables du voyage et de sa représentation, connaissent de nombreuses évolutions, reflets des techniques et des cultures de leur temps.

L’exposition articule objets, documents d’archives, relations de voyage et publications commerciales en une mise en scène chronologico-thématique. Celle-ci permet d’illustrer l’évolution des pratiques et des représentations associées aux mobilités depuis le début du XIXe siècle jusqu’au XXIe.

>> Les visites commentées:

  • 23 mai lors de la soirée-conférence  » Parlez-nous de… cartes et de voyages » : 17h30-19h30
  • 11 juin : 12h-13h

>> Pour plus d’information rendez-vous sur le site :

Bibliothèque DIDEROT

 

Crush. Fragments du nouveau discours amoureux

CCrush. Fragments du nouveau discours amoureux

Quand on entend pour la première fois « crush », ce petit mot qui claque, on est d’autant plus intrigué que les jeunes qui l’utilisent peinent à le définir. Est-ce un coup de foudre ? Un flirt ? Non : le crush ne ressemble à rien de ce que nous connaissons. Et pour comprendre cette nouvelle façon de dire l’amour, quoi de mieux que de donner la parole aux premières et premiers concernés ?


S’appuyant sur des entretiens avec des jeunes de 13 à 25 ans, la sociologue Christine Détrez dissèque ce phénomène contemporain. Le crush est à la fois une rêverie légère et une obsession, un sujet inépuisable de conversation et le prétexte à des enquêtes infinies sur les réseaux sociaux.

D’Yvan, « excellent narrateur de crush », à Jenny, qui y voit « la raison de se réveiller le matin », ou encore Carla, qui dénonce la « consommation des gens », ce livre brosse le portrait drôle et touchant d’une génération qui cherche à réinventer l’amour.

L’auteure, Christine Détrez, est professeur de sociologie à l’ENS de Lyon (Centre Max Weber).

Crush. Fragments du nouveau discours amoureux est paru le 20 mars 2024 aux éditions Flammarion.

>> Retrouvez le présentation de l’ouvrage sur le site :

ENS de Lyon

 

Lire l’interview de Christine Détrez sur le site de l’ENS de Lyon

 

>> Notice de l’éditeur

 

 

Épidémies, prendre soin du vivant

ÉÉpidémies, prendre soin du vivant

Alors que nous venons de traverser collectivement la pandémie de la COVID-19, quelle mémoire conservons-nous des épidémies du passé et comment nous préparer à celles à venir ?

Depuis des millénaires, les épidémies touchent les sociétés humaines mais aussi les autres espèces animales, sur tous les continents. En s’appuyant sur des collections de médecine, d’ethnographie, des spécimens d’histoire naturelle ou encore des œuvres contemporaines, l’exposition nous invite à envisager les épidémies comme un phénomène non seulement biologique mais également social, dans un monde où santé humaine, santé animale et santé environnementale sont liées.

Une exposition du musée des Confluences d’après un concept original du National Museum of Natural History, Smithsonian Institution de Washington

Plus d’informations sur le site du :

MUSÉE DES CONFLUENCES