Actus AssurTech / InsurTech
En amont du Sommet mondial de l’intelligence artificielle (IA) qui se tiendra les 10 et 11 février à Paris, le CESE remet la première contribution de la société civile proposant un cadre d’acceptabilité du déploiement de l’IA dans la société, au service des êtres humains et de l’intérêt général. Ce travail fait partie d’une réflexion globale sur l’acceptabilité de l’IA en France, menée par une Commission temporaire dédiée, composée de conseillers du CESE issus de la société civile organisée (organisations syndicales, organisations patronales, associations environnementales, organisations diverses) et de 10 citoyens tirés au sort. Ces travaux se poursuivront dans les prochaines semaines à travers la publication d’avis complémentaires et l’organisation d’évènements thématiques qui proposeront des solutions concrètes sur l’impact de l’intelligence artificielle dans tous les aspects de la vie quotidienne. Cet avis a été adopté le 14 janvier 2025 avec 99 voix pour.
Aujourd’hui, en France, près de 70% des 18-24 ans utilisent l’IA au quotidien, et le nombre d’utilisateurs des IA génératives a augmenté de 60% en un an. Cette croissance exponentielle de l’utilisation de l’intelligence artificielle suscite de nombreuses inquiétudes d’ordre éthique, social, économique, environnemental ou encore géopolitique. Dans le cadre du Sommet mondial de l’IA, le CESE s’est saisi du sujet pour apporter au débat public la contribution inédite et nécessaire de la société civile.
S’appuyant sur un large éventail de personnes auditionnées (chercheurs, entrepreneurs, experts ou encore membres des administrations publiques), la commission temporaire dresse ainsi un état des lieux des conséquences et perspectives du développement fulgurant de l’IA dans différents domaines de la société, à l’instar du travail, de l’éducation, de la santé et des services publics notamment. Le CESE fait aujourd’hui 32 préconisations concrètes pour mettre l’IA au service de l’intérêt général.
La Commission s’est également appuyée sur une « analyse de controverse » réalisée par la commission Travail et Emploi, explicitant les arguments pour ou contre l’intégration des systèmes d’IA dans le monde du travail. Le CESE a en outre voté un avis sur les impacts environnementaux de l’IA en septembre 2024, et d’autres productions liées à l’IA sont en cours d’élaboration pour le printemps 2025, en particulier sur le numérique en santé et sur la transformation des modèles productifs.
Le CESE poursuit son travail et s’associe avec le Conseil National du Numérique pour organiser, le 7 février prochain, une matinée d’échange inédite dédiée à la place de la participation citoyenne dans le développement de l’intelligence artificielle.
Depuis dix ans, les politiques publiques en France déploient l’IA au service du développement économique, au nom de l’innovation et pour assurer l’autonomie stratégique de la France et de l’Europe. Par cet avis, le CESE juge important de disposer de ressources technologiques propres et de créer une Europe forte et stratège sur le plan économique et commercial. Il appelle toutefois à ce que les systèmes d’IA et les infrastructures associées ne soient déployés que s’ils sont réellement utiles et qu’ils sont mis au service de l’intérêt général. Cette vision doit alors transcender les politiques publiques dans leur globalité, et inciter à une vigilance collective pour accompagner le déploiement de l’IA de manière responsable, éthique et durable.
Ainsi, pour le CESE, le déploiement de l’IA au service de l’intérêt général doit reposer sur quatre critères indissociables :
En pratique, cela implique de :
1. Prendre systématiquement en compte l’utilité sociétale de l’IA
Le CESE a examiné l’impact de l’IA sur l’emploi, l’accès aux services publics, l’éducation, la santé, ou encore sur l’environnement. Il ressort de cette analyse transverse que l’IA n’est une opportunité pour la société française qu’à condition de capitaliser sur son utilité sociétale. Or, si celle-ci est incontestable dans certains domaines comme la recherche médicale, ou pour certains usages tels que l’amélioration de l’accessibilité des personnes en situation de handicap, elle est moins évidente lorsque l’IA est déployée dans un service public ou dans un cadre professionnel. Cela nécessite donc que l’ensemble des parties prenantes (décideurs publics, organisations syndicales et patronales, entreprises, etc.) intègrent cette dimension pour s’y conformer.
Ainsi, lorsqu’elle est intégrée dans l’entreprise, l’IA peut avoir des conséquences directes sur les conditions de travail, qu’elles soient positives (facilitation des tâches complexes, délégation des activités à faible valeur ajoutée, sécurisation de l’activité de travail, optimisation de l'efficacité, diversification des savoir-faire) ou négatives (fragilisation de la reconnaissance, sentiment de dépossession et de perte de compétence, intensification du travail, réduction de l’espace des pratiques et perte d’autonomie, contrôle et surveillance, etc.). Le CESE appelle donc à intégrer l’IA dans le dialogue social, et recommande l’adoption d’un accord national interprofessionnel (ANI) sur les modalités de déploiement de l’IA dans les entreprises. Cet accord, négocié par l’ensemble des partenaires sociaux, doit garantir un déploiement de l’IA dans les entreprises maîtrisé, au service des travailleuses et des travailleurs, en adéquation avec les besoins identifiés.
Par ailleurs, le recours à l’IA pour accéder à des droits et des services essentiels (santé, éducation, bancarisation, etc.) ou à un emploi n’est une opportunité que lorsque les citoyens et citoyennes ont les compétences pour utiliser les outils numériques et en tirer profit. Or, 32% de la population française (soit 16 millions de personnes) se considère « éloignée du numérique », à savoir en incapacité de tirer profit des opportunités du numérique. Cette tendance s’aggrave : le nombre de français et françaises disant manquer d’aisance dans les usages avancés du numérique a augmenté de 5 points en 3 ans. Afin d’éviter que l’IA renforce ces inégalités, le CESE préconise l’adoption d’un plan de formation de la population au numérique, et en particulier à l’IA, à tous les âges de la vie. Les différents acteurs de la société civile devront, en complémentarité, assurer cette obligation de formation. Les usages et les risques que l’IA peut présenter devront être intégrés au plan national de formation du personnel éducatif, des médiateurs numériques, des travailleurs sociaux et des agents publics.
2. Garantir aux citoyennes et citoyens la faculté d’exercer leur choix et leur esprit critique sur les usages de l’IA
Le déploiement de l’IA doit être réalisé en pleine conscience : les citoyens et citoyennes doivent pouvoir exercer des choix éclairés quant au déploiement d’usages ou d’infrastructures d’IA.
Ce sujet est particulièrement prégnant lorsqu’il s’agit de l’impact environnemental de l’IA. Cela implique d’une part d’informer les usagers de l’IA sur la consommation des ressources (que ce soit l’électricité nécessaire pour faire tourner les centres de données, l’eau pour les refroidir ou l’extraction des métaux pour la fabrication des équipements), et de les former à un usage plus frugal de l’IA. Cela signifie aussi, d’autre part, de prendre en compte les conflits d’usages que peut venir générer l’implantation d’un nouveau centre de données sur un territoire. A ce titre, le CESE appelle à ce que la population dispose obligatoirement d’une information fiable sur les conséquences associées (conflits d’usages relatifs à la consommation d’eau, la planification énergétique pour le secteur industriel ou les collectivités), et à une prise en considération sincère des retours citoyens.
La question du choix face à l’IA implique aussi de permettre à celles et ceux qui voudraient y renoncer, de pouvoir le faire, notamment dans le cadre des services publics. Cela suppose donc de maintenir systématiquement, comme le propose le CESE, un accueil et un accompagnement humains pour garantir l’universalité de l’accès au service public et la liberté de choix de tous.
3. Assurer la transparence et l’explicabilité de la technologie
L’IA est intrinsèquement biaisée, en raison des jeux de données qui ont servi à son entraînement et aux choix ayant dicté la programmation de ses algorithmes. De fait, le CESE considère l’IA comme un objet politique, dont les résultats dépendent des choix de ses concepteurs, lesquels sont dotés d’un pouvoir évident, crucial, et en raison duquel le CESE appelle à garantir la transparence et une explicabilité des décisions et des résultats produits par les IA.
Ainsi, le CESE appelle à renforcer, dans la réglementation européenne, les impératifs de transparence des algorithmes et des jeux de données d'entraînement, à favoriser la diversité des données pour réduire les biais, et à clarifier les modalités de protection des données personnelles au niveau européen, en conformité avec les dispositions prévues dans le RGPD.
Cet avis est rapporté par Marianne Tordeux Bitker (Groupe Agir autrement pour l’innovation sociale et environnementale, directrice des affaires publiques chez France Digitale) et Erik Meyer (Groupe Alternatives sociales et écologiques, secrétaire fédéral de SUD-Rail) au nom de la Commission temporaire Intelligence artificielle. Il a été présenté lors de l’assemblée plénière du 14 janvier 2025 à 14h. L’avis a été adopté avec 99 voix pour, 22 abstentions et 10 voix contre.
A propos du Conseil économique, social et environnemental :
Troisième assemblée constitutionnelle de la République, le CESE conseille le Gouvernement et le Parlement et participe à l’élaboration et à l’évaluation des politiques publiques dans ses champs de compétences. Il regroupe 175 membres, femmes et hommes de terrain, désignés par les corps intermédiaires : associations, syndicats de salariées et salariés, organisations patronales… Le CESE est le lieu privilégié d’expression de la participation citoyenne. Thierry Beaudet est président du CESE depuis mai 2021.
Le CESE porte la voix de la société civile sur l’intelligence artificielle
Aujourd’hui, en France, près de 70% des 18-24 ans utilisent l’IA au quotidien, et le nombre d’utilisateurs des IA génératives a augmenté de 60% en un an. Cette croissance exponentielle de l’utilisation de l’intelligence artificielle suscite de nombreuses inquiétudes d’ordre éthique, social, économique, environnemental ou encore géopolitique. Dans le cadre du Sommet mondial de l’IA, le CESE s’est saisi du sujet pour apporter au débat public la contribution inédite et nécessaire de la société civile.
S’appuyant sur un large éventail de personnes auditionnées (chercheurs, entrepreneurs, experts ou encore membres des administrations publiques), la commission temporaire dresse ainsi un état des lieux des conséquences et perspectives du développement fulgurant de l’IA dans différents domaines de la société, à l’instar du travail, de l’éducation, de la santé et des services publics notamment. Le CESE fait aujourd’hui 32 préconisations concrètes pour mettre l’IA au service de l’intérêt général.
La Commission s’est également appuyée sur une « analyse de controverse » réalisée par la commission Travail et Emploi, explicitant les arguments pour ou contre l’intégration des systèmes d’IA dans le monde du travail. Le CESE a en outre voté un avis sur les impacts environnementaux de l’IA en septembre 2024, et d’autres productions liées à l’IA sont en cours d’élaboration pour le printemps 2025, en particulier sur le numérique en santé et sur la transformation des modèles productifs.
Le CESE poursuit son travail et s’associe avec le Conseil National du Numérique pour organiser, le 7 février prochain, une matinée d’échange inédite dédiée à la place de la participation citoyenne dans le développement de l’intelligence artificielle.
Le CESE propose un cadre inédit d’acceptabilité de l’IA pour la société française
Depuis dix ans, les politiques publiques en France déploient l’IA au service du développement économique, au nom de l’innovation et pour assurer l’autonomie stratégique de la France et de l’Europe. Par cet avis, le CESE juge important de disposer de ressources technologiques propres et de créer une Europe forte et stratège sur le plan économique et commercial. Il appelle toutefois à ce que les systèmes d’IA et les infrastructures associées ne soient déployés que s’ils sont réellement utiles et qu’ils sont mis au service de l’intérêt général. Cette vision doit alors transcender les politiques publiques dans leur globalité, et inciter à une vigilance collective pour accompagner le déploiement de l’IA de manière responsable, éthique et durable.
Ainsi, pour le CESE, le déploiement de l’IA au service de l’intérêt général doit reposer sur quatre critères indissociables :
- la compatibilité avec les limites planétaires,
- le progrès social,
- les enjeux économiques, et
- le respect des droits fondamentaux et des libertés individuelles.
En pratique, cela implique de :
1. Prendre systématiquement en compte l’utilité sociétale de l’IA
Le CESE a examiné l’impact de l’IA sur l’emploi, l’accès aux services publics, l’éducation, la santé, ou encore sur l’environnement. Il ressort de cette analyse transverse que l’IA n’est une opportunité pour la société française qu’à condition de capitaliser sur son utilité sociétale. Or, si celle-ci est incontestable dans certains domaines comme la recherche médicale, ou pour certains usages tels que l’amélioration de l’accessibilité des personnes en situation de handicap, elle est moins évidente lorsque l’IA est déployée dans un service public ou dans un cadre professionnel. Cela nécessite donc que l’ensemble des parties prenantes (décideurs publics, organisations syndicales et patronales, entreprises, etc.) intègrent cette dimension pour s’y conformer.
Ainsi, lorsqu’elle est intégrée dans l’entreprise, l’IA peut avoir des conséquences directes sur les conditions de travail, qu’elles soient positives (facilitation des tâches complexes, délégation des activités à faible valeur ajoutée, sécurisation de l’activité de travail, optimisation de l'efficacité, diversification des savoir-faire) ou négatives (fragilisation de la reconnaissance, sentiment de dépossession et de perte de compétence, intensification du travail, réduction de l’espace des pratiques et perte d’autonomie, contrôle et surveillance, etc.). Le CESE appelle donc à intégrer l’IA dans le dialogue social, et recommande l’adoption d’un accord national interprofessionnel (ANI) sur les modalités de déploiement de l’IA dans les entreprises. Cet accord, négocié par l’ensemble des partenaires sociaux, doit garantir un déploiement de l’IA dans les entreprises maîtrisé, au service des travailleuses et des travailleurs, en adéquation avec les besoins identifiés.
Par ailleurs, le recours à l’IA pour accéder à des droits et des services essentiels (santé, éducation, bancarisation, etc.) ou à un emploi n’est une opportunité que lorsque les citoyens et citoyennes ont les compétences pour utiliser les outils numériques et en tirer profit. Or, 32% de la population française (soit 16 millions de personnes) se considère « éloignée du numérique », à savoir en incapacité de tirer profit des opportunités du numérique. Cette tendance s’aggrave : le nombre de français et françaises disant manquer d’aisance dans les usages avancés du numérique a augmenté de 5 points en 3 ans. Afin d’éviter que l’IA renforce ces inégalités, le CESE préconise l’adoption d’un plan de formation de la population au numérique, et en particulier à l’IA, à tous les âges de la vie. Les différents acteurs de la société civile devront, en complémentarité, assurer cette obligation de formation. Les usages et les risques que l’IA peut présenter devront être intégrés au plan national de formation du personnel éducatif, des médiateurs numériques, des travailleurs sociaux et des agents publics.
2. Garantir aux citoyennes et citoyens la faculté d’exercer leur choix et leur esprit critique sur les usages de l’IA
Le déploiement de l’IA doit être réalisé en pleine conscience : les citoyens et citoyennes doivent pouvoir exercer des choix éclairés quant au déploiement d’usages ou d’infrastructures d’IA.
Ce sujet est particulièrement prégnant lorsqu’il s’agit de l’impact environnemental de l’IA. Cela implique d’une part d’informer les usagers de l’IA sur la consommation des ressources (que ce soit l’électricité nécessaire pour faire tourner les centres de données, l’eau pour les refroidir ou l’extraction des métaux pour la fabrication des équipements), et de les former à un usage plus frugal de l’IA. Cela signifie aussi, d’autre part, de prendre en compte les conflits d’usages que peut venir générer l’implantation d’un nouveau centre de données sur un territoire. A ce titre, le CESE appelle à ce que la population dispose obligatoirement d’une information fiable sur les conséquences associées (conflits d’usages relatifs à la consommation d’eau, la planification énergétique pour le secteur industriel ou les collectivités), et à une prise en considération sincère des retours citoyens.
La question du choix face à l’IA implique aussi de permettre à celles et ceux qui voudraient y renoncer, de pouvoir le faire, notamment dans le cadre des services publics. Cela suppose donc de maintenir systématiquement, comme le propose le CESE, un accueil et un accompagnement humains pour garantir l’universalité de l’accès au service public et la liberté de choix de tous.
3. Assurer la transparence et l’explicabilité de la technologie
L’IA est intrinsèquement biaisée, en raison des jeux de données qui ont servi à son entraînement et aux choix ayant dicté la programmation de ses algorithmes. De fait, le CESE considère l’IA comme un objet politique, dont les résultats dépendent des choix de ses concepteurs, lesquels sont dotés d’un pouvoir évident, crucial, et en raison duquel le CESE appelle à garantir la transparence et une explicabilité des décisions et des résultats produits par les IA.
Ainsi, le CESE appelle à renforcer, dans la réglementation européenne, les impératifs de transparence des algorithmes et des jeux de données d'entraînement, à favoriser la diversité des données pour réduire les biais, et à clarifier les modalités de protection des données personnelles au niveau européen, en conformité avec les dispositions prévues dans le RGPD.
Cet avis est rapporté par Marianne Tordeux Bitker (Groupe Agir autrement pour l’innovation sociale et environnementale, directrice des affaires publiques chez France Digitale) et Erik Meyer (Groupe Alternatives sociales et écologiques, secrétaire fédéral de SUD-Rail) au nom de la Commission temporaire Intelligence artificielle. Il a été présenté lors de l’assemblée plénière du 14 janvier 2025 à 14h. L’avis a été adopté avec 99 voix pour, 22 abstentions et 10 voix contre.
A propos du Conseil économique, social et environnemental :
Troisième assemblée constitutionnelle de la République, le CESE conseille le Gouvernement et le Parlement et participe à l’élaboration et à l’évaluation des politiques publiques dans ses champs de compétences. Il regroupe 175 membres, femmes et hommes de terrain, désignés par les corps intermédiaires : associations, syndicats de salariées et salariés, organisations patronales… Le CESE est le lieu privilégié d’expression de la participation citoyenne. Thierry Beaudet est président du CESE depuis mai 2021.
Accueil
Envoyer à un ami
Version imprimable
Augmenter la taille du texte
Diminuer la taille du texte