Nos données personnelles circulent sur Internet : nom, adresses, coordonnées bancaires ou de sécurité sociale, localisation en temps réel… et les affaires qui y sont liées se font une place pérenne dans le débat public, du scandale Facebook-Cambridge Analytica au vol de données à la Croix-Rouge, en passant par les récents blocages d’hôpitaux par des rançongiciels (ou ransomware) et l’interdiction de l’application TikTok pour les fonctionnaires de plusieurs pays.

Mais si l’on sait de plus en plus que nos données personnelles sont « précieuses » et offrent des possibilités sans précédent en matière de commercialisation et d’innovation, il est parfois difficile de saisir ou d’expliquer pourquoi il faudrait les protéger.

QQuels sont les risques liés à la divulgation de mes données personnelles ?

Le premier risque concerne la perte du contrôle sur nos propres données. C’est ce qui arrive par exemple quand on autorise le traçage par des sites ou des applications : on autorise l’enregistrement de nos activités sur le Web ou sur notre smartphone (pages visitées, géolocalisation) et l’échange de ces données, et, une fois cet accord donné, nous n’avons plus aucun pouvoir sur la circulation de nos données.

Ces informations sont utilisées le plus souvent pour du profilage qui permet d’alimenter l’économie de la publicité personnalisée régie dorénavant par des plates-formes d’enchères valorisant les données relatives aux profils utilisateurs contre des emplacements publicitaires.

Mais, ces informations peuvent également être utilisées à mauvais escient. La connaissance de votre localisation peut aider le passage à l’acte d’un cambrioleur par exemple, et la connaissance de vos centres d’intérêts ou opinion politique peut vous exposer à des opérations d’influence.

Le scandale Cambridge Analytica en est un exemple, avec l’exploitation de données personnelles de millions d’utilisateurs Facebook pour des campagnes de désinformation ciblées afin d’influencer des intentions de vote. Plus récemment, les révélations du Monde sur les entreprises de désinformation indiquent que cette pratique n’est pas un cas isolé.

Un autre risque concerne l’hameçonnage : si des informations personnelles sont présentes dans un courriel ou SMS frauduleux, il vous paraîtra plus réaliste et abaissera vos barrières de vigilance. L’hameçonnage sert souvent à infecter la cible avec un rançongiciel (ransomware en anglais) : les cybercriminels utilisent des informations personnalisées pour gagner la confiance des destinataires et les inciter à ouvrir des pièces jointes, ou à cliquer sur des liens ou documents malveillants, ce qui permet dans un second temps de verrouiller les données de la victime et d’en interdire l’accès. Une rançon est ensuite réclamée pour les déverrouiller.

Bien que les attaques par rançongiciel les plus médiatisées concernent des organisations, des hôpitaux par exemple, les particuliers sont également touchés.

Dans le cas de l’usurpation d’identité, une personne malveillante utilise des informations personnelles qui permettent de nous identifier (« se logger ») sans notre accord : par exemple, en créant un faux profil sur une plate-forme et en rédigeant des commentaires sous l’identité de la victime afin de nuire à sa réputation.

À un autre niveau, la surveillance de masse exercée par certains États capture les informations personnelles de leurs citoyens afin d’entraver la liberté d’expression ou de ficher les individus par exemple. Une surveillance accrue peut tendre vers un sentiment d’absence de sphère privée et ainsi brider le comportement des individus.

En Europe, le RGPD (règlement général sur la protection des données) limite la récolte des données personnelles, notamment par les gouvernements, qui doivent justifier d’une raison suffisante pour toute surveillance.

CChacun d’entre nous a une empreinte numérique unique

Ces problèmes touchent chacun d’entre nous. En effet, dans un monde de plus en plus numérique où nous générons quotidiennement des données à travers notre navigation sur Internet, nos smartphones, ou nos montres connectées, nous avons tous une « empreinte numérique unique ».

En clair, il est généralement possible de ré-identifier quelqu’un juste à partir des « traces » que nous laissons derrière nous sur nos appareils numériques.

Nos données personnelles permettent de nous identifier, comme une empreinte digitale numérique. Immo Wegmann/Unsplash, CC BY

Par exemple, l’observation aléatoire de quatre lieux visités seulement représente une signature unique pour 98 % des individus. Cette unicité est généralisable dans un grand nombre de comportements humains.

Cacher l’identité du propriétaire de données personnelles uniquement derrière un pseudonyme n’est pas une protection suffisante face au risque de réidentification, il est nécessaire d’anonymiser les données.

DDonnées synthétiques, apprentissage fédéré : les nouvelles méthodes pour protéger les données personnelles

Tels les membres d’un « black bloc » essayant d’être indistinguables entre eux en s’habillant de manière identique dans une manifestation houleuse, l’anonymisation de données a pour but d’éviter qu’une personne ne se démarque du reste de la population considérée, afin de limiter l’information qu’un cyberattaquant pourrait extraire.

Dans le cas de données de géolocalisation, on pourrait par exemple modifier les données afin que plusieurs utilisateurs partagent les mêmes lieux visités, ou alors introduire du bruit pour ajouter une incertitude sur les lieux réellement visités.

Mais cette anonymisation a un coût car elle « déforme » les données et diminue leur valeur : une trop grande modification des données brutes dénature l’information véhiculée dans les données anonymisées. De plus, pour s’assurer de l’absence d’une empreinte réidentifiante, les modifications nécessaires sont très importantes et souvent incompatibles avec nombre d’applications.

Trouver le bon compromis entre protection et utilité des informations anonymisées reste un challenge. À l’heure où certains voient les données comme le nouveau pétrole du XXI^e siècle, l’enjeu est de taille car une donnée anonyme n’est plus considérée comme une donnée personnelle et échappe au RGPD, ce qui veut dire qu’elle peut être partagée sans consentement du propriétaire.

Cette difficulté de trouver un compromis acceptable entre protection et utilité des données au travers de mécanismes d’anonymisation a fait évoluer les pratiques. De nouveaux paradigmes de protection des données personnelles ont vu le jour.

Une première tendance consiste à générer des données synthétiques reproduisant les mêmes propriétés statistiques que les vraies données.

Ces données générées de manière artificielle ne sont par conséquent pas liées à une personne et ne seraient plus encadrées par le RGPD. Un grand nombre d’entreprises voient en cette solution des promesses de partage d’information moins limitées. En pratique, les risques résiduels des modèles de génération synthétique ne sont pas négligeables et sont encore à l’étude.

Une autre solution limitant le risque de partage de données personnelles est l’apprentissage fédéré. Dans l’apprentissage machine conventionnel, les données sont centralisées par une entité pour entraîner un modèle.

Dans l’apprentissage fédéré, chaque utilisateur se voit attribuer un modèle qu’il entraîne localement sur ses propres données. Il envoie ensuite le résultat à une entité qui s’occupe d’agréger l’ensemble des modèles locaux. De manière itérative, cet apprentissage décentralisé permet de créer un modèle d’apprentissage sans divulguer de données personnelles.

Ce nouveau paradigme de protection des données personnelles suscite beaucoup d’engouement. Cependant, plusieurs limitations subsistent, notamment sur la robustesse face aux acteurs malveillants qui souhaiteraient influencer le processus d’entraînement. Un participant pourrait par exemple modifier ses propres données pour que le modèle se trompe lors d’une tâche de classification particulière.

Publié  sur The Conversation le 29 mars 2023

Auteur : Antoine Boutet, Maitre de conférence, Privacy, IA, au laboratoire CITI, Inria, INSA Lyon – Université de Lyon

Cet article est republié à partir de The Conversation sous licence Creative Commons.

>> Lire l’article original :

The conversation

>> Cet article a été actualisé le 28 octobre 2024 : 

L’opérateur mobile et fournisseur d’accès internet Free a annoncé avoir été victime d’une cyberattaque. Selon l’entreprise : « cette attaque a entraîné un accès non autorisé à une partie des données personnelles ».  Quels sont les risques si vos données ont fuité ?

Lire l’article actualisé :

The Conversation

Rendez-vous au Théâtre Nouvelle Génération – TGN – avec l’actualité : Valérie Cordy invite sur scène les hasards d’internet et des spécialistes des sujets traités. Elle évoque, non sans humour, un certain état du monde à l’heure du tout numérique. 

Directrice de la Fabrique de théâtre en Belgique, Valérie Cordy réalise des performances dites connectées. Expériences à la fois uniques et éphémères car non reproductibles à l’identique, elles s’inscrivent dans une démarche plus globale engagée depuis de nombreuses années à mi-chemin de la scène et du numérique. Persuadée que les arts sont influencés par les nouvelles pratiques induites par les progrès technologiques, elle place au cœur de sa démarche hybride en prise avec l’actualité, usage des smartphones et navigation internet, indissociables de nos vies contemporaines.

C’est donc à partir d’un écran géant que se construisent en direct ses propositions aussi incongrues que documentées, nourries au hasard poético-absurde des algorithmes de Google et des recherches qu’elle y mène. Chaque rendez-vous se concentre sur un thème défini et invite un·e intervenant·e spécialiste du sujet à participer. Son champ d’investigation est aussi infini que sa curiosité. Ce n’est rien de moins que l’état du monde sous tous ses aspects possibles qu’elle explore et nous renvoie, dans un jeu de miroir fascinant, à notre usage compulsif et addictif de la toile qui nous perd autant qu’il nous guide.

> Le teaser : 

https://vimeo.com/984307725

>> Pour plus d’information, rendez-vous sur le site : 

TNG

Cycle « Avant d’aller sur Mars ! »

Applications, logiciels, intelligence artificielle, objets connectés….. les technologies numériques sont partout dans nos vies quotidiennes et professionnelles. Impossible d’y échapper ! La transition numérique n’épargne aucun secteur.

Dans les secteurs de l’agriculture et de la santé animale, le numérique offre de nombreux atouts pour faire face aux enjeux climatiques, environnementaux, de sécurité alimentaire ou encore de santé. Mais le revers de la médaille est parfois sous-estimé : loin d’être immatérielles, les technologies numériques affectent considérablement nos écosystèmes.
Un numérique responsable est-il alors vraiment possible? Comment dépasser le débat binaire et stérile « pour ou contre », opposant technophobes et technophiles ?

Organisée par : association étudiante Eco Veto, rattachée a l’école VetAgro Sup

Présentée par : Roxane Bibard, SoScience.

La conférence est suivie d’un buffet traiteur offert par la cellule numérique de l’école.

>> Pour suivre la conférence sur YouTube : cliquez ici

>> Suivre l’actualité de « Avant d’aller sur Mars !  » sur Instagram : cliquez ici

Pour en savoir plus, rendez-vous sur le site :

Avant d’aller sur Mars

EcoVetoJr

©DR

Du 23 mars au 6 avril, le Printemps du numérique est de retour pour une première édition en format biennal autour de l’intelligence artificielle. Deux semaines pour explorer le fonctionnement des IA, ce qu’elles changent dans nos vies et les craintes qu’elles suscitent.

>> Participent à ce festival :

• 10 bibliothèques de la Ville de Lyon, les départements de la Part-Dieu, le Guichet du Savoir, la Documentation régionale, le bibliobus et le Pôle Métropole,
• les bibliothèques de Villeurbanne, Neuville sur Saône, Couzon-au-Mont-d’Or, Charly, Feyzin, Pierre-Bénite et Mions,
• de nombreux partenaires extérieurs, dont la MMI, l’INRIA, le CNRS, l’UCLy, Planète Sciences, European Lab, le Grame …

>> En ouverture et en clôture du festival, deux temps forts :

• samedi 23 mars à la Bibliothèque de la Part-Dieu : cercle de lecture, ateliers d’informatique débranchée, de génération d’image et d’initiation à la programmation avec un robot, rencontres « IA et éthique », « IA et géopolitique», « IA et création musicale ».
• samedi 6 avril à la Bibliothèque du 6^e : initiation au jeu de rôle, ateliers «  Découverte ludique de l’IA », « Deviens une IA » et « Dessine avec l’IA »

>> Au programme, quelque conférence notable:

• Qu’est ce que l’apprentissage profond ? | Mathieu Lefort, le 26 mars
• Schizophrénie numérique | Anne Alombert, le 27 mars
• Cerveau biologique et intelligence artificielle | Emanuelle Reynaud et Matteo Di Volo, le 28 mars
• Et bien d’autre encore à découvrir dans le programme

Le programme papier est disponible dans les bibliothèques et chez les partenaires.

Sur le site du festival retrouvez les rendez-vous, des sélections documentaires, et participez à l’appel à créations Dessine avec l’IA et aux débats L’IA, on en fait quoi ?

>> Pour plus d’information sur les rendez-vous du festival :

Bibliothèque Municipale de Lyon

Reconnaissance faciale, protection de la voie publique, vidéosurveillance… les enregistrements vidéos s’immiscent dans nos vies quotidiennes et posent la question du respect des libertés fondamentales et de l’importance de protéger ses données personnelles.

C’est donc un vaste sujet, qui concerne chacun de nous aussi bien dans le cadre personnel que professionnel, dont nos experts vont se saisir. Ils vous proposent d’interroger, au regard du cadre réglementaire et légal, les multiples enjeux d’un monde sous surveillance.

Comment s’assurer de la conformité au RGPD de son installation de vidéosurveillance ou de vidéoprotection ?

Peut-on évaluer la capacité de ces technologies à répondre aux enjeux sécuritaires qu’elles servent ? Comment composer avec des législations qui diffèrent, entre le pays qui fabrique la technologie et celui qui l’utilise ?

>> Il sera également question des conflits de valeurs qui entourent le sujet :

• Peut-on conjuguer lutte contre l’insécurité et respect de la vie privée ?
• Quand il devient nécessaire de maintenir l’éclairage public nocturne pour que les caméras captent des images, comment concilier protection de l’environnement et vidéoprotection ?
• Photos de smartphones, enregistrements d’enceintes connectées… quel usage envisager pour ces données complémentaires, qui ne relèvent ni de la vidéosurveillance, ni de la vidéoprotection ?

UCLy Expert vous donne rendez-vous à la croisée des enjeux numériques, juridiques et éthiques, pour vous donner des clés et vous aider à mieux appréhender les risques et bénéfices liés à ces nouvelles technologies !

>> Pour en savoir plus :

UCLY EXPERT

Après l’avènement des sites de rencontres il y a une vingtaine d’années, c’est au tour de l’intelligence artificielle de venir bouleverser les relations humaines et amoureuses. Nous sommes maintenant des millions à utiliser applications, chatbot ou robots sociaux et pour certains d’entre nous à en tomber amoureux… Aussi foisonnante et attrayante soit-elle, cette offre numérique soulève de nombreuses questions éthiques et comportementales.

Au programme :

• à 14h, projection de Her de Spike Jonze, 2014, 2h06min (VOSTRFR)
• à 16h15, table ronde sur le thème « Amour et intelligence artificielle : quelles réalités et quels futurs ? « 

Rendez-vous en écho à l’exposition À nos amours

Plus d’informations sur le site du :

MUSÉE DES CONFLUENCES

©Fondation Blaise Pascal

Comme dans la vie, il faut une éthique du numérique qui permet de respecter la dignité humaine, la justice et la liberté. Le risque de manipulation est réel, et l’utilisation de l’intelligence artificielle peut encore augmenter ces risques.
­Vous voulez sensibiliser vos élèves aux enjeux du numérique et de l’intelligence artificielle ? 

Cela concerne autant les créateurs de contenu que les utilisateurs de tout âge, dans leur pratique des réseaux sociaux par exemple. La connaissance nourrit l’action : comprendre le positif du numérique comme ses risques de dérive participe à forger des comportements éthiques et responsables, et à déjouer les pièges. Pour cela, la fondation Blaise Pascal et la Chaire IA HUMAAINE du CNRS-LISN, ont décidé de créer une série de capsules vidéos destinée à sensibiliser les élèves du cycle 3 (CM1, CM2 et 6e) au numérique dans leur vie. Sans diabolisation ni angélisme, l’objectif est de les amener à réfléchir. Chaque capsule traite d’une thématique numérique qui est en lien avec les usages des enfants de cet âge, et est accompagnée d’une courte note ‘ressource’ pour les enseignants dans la préparation et l’animation pédagogique de leur classe.

• Capsule 1 – J’ai tout dépensé | Cycle 3 (CM1-CM2-6e)

Cet épisode aborde deux sujets : le temps que l’on peut passer sur les écrans et de manière corollaire la tentation de se laisser entrainer à y dépenser de l’argent. Les apprentissages sur l’usage des technologies numériques correspondants sont :

– Maîtriser le temps consacré aux écrans,

– Comprendre les mécanismes de notre cerveau qui peuvent produire un attachement affectif et progressif à l’écran,

– Être lucide sur l’objectif de nombreux développeurs et entreprises du numérique d’encourager la consommation et la dépense monétaire.

Cette capsule est accompagnée d’une courte note ‘ressource‘ pour les enseignants dans la préparation et l’animation pédagogique de leur classe.

• Capsule 2 – J’ai rien à cacher | Cycle 3 (CM1-CM2-6e)

Cette capsule aborde le sujet des données personnelles que l’on peut partager volontairement ou de manière moins visible et l’usage qui peut en être fait par les sites en ligne. Les thématiques abordées sont :

– Comprendre les informations que l’on donne en le sachant,

– Savoir qu’il y a des informations qui sont recueillies de manière non visible lorsqu’on utilise les sites et services en ligne,

– Être lucide sur l’objectif de nombreux développeurs et entreprises du numérique quant à l’utilisation qui peut être faite de ces données personnelles.

Cette capsule est accompagnée d’une courte note ‘ressource‘ pour les enseignants dans la préparation et l’animation pédagogique de leur classe.

>> Pour plus d’information rendez-vous sur la play-list :

Capsules