Motion de la CGT-Culture en F3SCT Ministérielle du 10 octobre 2024
Le ministère a édité en juin 2024 une « Charte interne relative à l’intelligence artificielle générative ». Cette charte vise à « promouvoir une utilisation responsable de l’intelligence artificielle générative ». Le même document précise que le ministère de la Culture n’a, pour le moment, déployé aucun outil d’intelligence artificielle. La direction interministérielle du numérique (DINUM) travaille encore à l’élaboration d’intelligences artificielles souveraines de l’État.
Pourtant les intelligences artificielles sont déjà présentes dans de nombreuses applications professionnelles. Des applicatifs sont librement accessibles en ligne et commencent à être massivement intégrés dans les usages. Ces nouvelles technologies ne sont pourtant pas sans risque sur le travail, l’emploi, l’environnement, et sur les droits humains.
L’impact sur l’emploi et le travail a d’ores et déjà été identifié (Rapport Villani, Rapport France Stratégie, 2018) : déqualification ou prolétarisation des travailleurs, délégation accrue de la prise de décision, désengagement du fait de l’appauvrissement des relations interpersonnelles, etc.
Du point de vue écologique, si les IA intégrées à des systèmes créés spécifiquement pour leur utilité écologique peuvent contribuer à la réduction de l’impact environnemental, la massification des usages laisse présager un aggravement de son empreinte environnementale (par exemple une requête ChatGPT exige dix fois plus d’électricité qu’une requête Google). Le Conseil économique social et environnemental préconise de concentrer les financements publics de recherche et d’innovation sur les IA à des finalités directement environnementales et sur les IA frugales (Rapport de 2024).
L’usage massif de données personnelles ; les biais discriminatoires identifiés de ces technologies, en raison de la subjectivité des données fournies pour leur entraînement, laissent présager de graves atteintes aux droits humains (atteintes aux libertés d’expression et de circulation, discrimination, exclusion, etc.). Le risque a été jugé suffisamment important pour avoir déclenché une étude par le Conseil de l’Europe (Discrimination, intelligence artificielle et décisions algorithmiques, 2018) qui a abouti à un cadre réglementaire adopté en 2024.
Ces questions sont suffisamment graves pour refuser un laisser faire au ministère de la Culture qui esquive tout débat et toute réflexion collective sur l’impact des intelligences artificielles sur nos outils et nos savoirs faire professionnels ; sur nos relations avec les usagers, les créateurs et les créatrices ; sur la création, et enfin sur les droits culturels.
Alors que les enjeux de la digitalisation de nos services ont été évacués de la F3SCTM, nous refusons de poser les intelligences artificielles comme une évidence, au moment où on envisage l’automatisation des relations de service. Nous refusons que l’impact de ces technologies sur les services publics de la culture puisse être réglée en 7 pages et dans le confinement du Service du numérique.
Aussi nous demandons le vote sur la motion suivante :
- Réintroduire les questions numériques dans les formations spécialisées et d’en faire une priorité ministérielle.
- Un moratoire sur les intelligences artificielles afin d’élaborer collectivement des scénarios vertueux pour les humains et l’environnement. Dès lors, des groupes de travail organisés au niveau local comme au niveau ministériel, pour être chargés de :
- Faire un état lieux des types d’usages et des structures ou des services qui les utilisent
- Exercer une veille continue sur le développement de l’IA et ses impacts sur les emplois du secteur culturel, sur la qualité du travail et la qualité du service public de la culture
- Penser les conditions d’un déploiement des IA articulé autour de la préservation de la santé des travailleurs, du maintien dans l’emploi, et du redéploiement des compétences
- Elaborer des règles partagées avec les parties prenantes pour un bon usage social, environnemental et économique de ces technologies dans le secteur culturel
- Améliorer la qualité des connaissances et faciliter des savoirs nouveaux
Ce travail collectif conduit par le ministère de la Culture pourrait être le véhicule pour apporter au débat public les analyses et propositions des acteurs et des actrices du secteur culturel sur les questions sociales, économiques, éthiques, juridiques, ou environnementales que les intelligences artificielles posent déjà.