JO et intelligence artificielle parmi les défis de la Cnil en 2024, selon sa présidente

Jeux de Paris, vidéosurveillance algorithmique, essor des IA génératives gourmandes en données personnelles: la présidente de la Cnil (Commission nationale de l'informatique et des libertés), Marie-Laure Denis, récemment reconduite pour un deuxième mandat de cinq ans, évoque les défis du gendarme de la vie privée des Français au cours des prochains mois.

Question: Quel rôle joue la Cnil dans l'organisation des Jeux de Paris ?

Réponse:"Toutes les garanties ont été prises pour qu'il y ait un bon équilibre entre la meilleure protection possible des Français, des athlètes et de toutes les personnes qui seront présentes en France à l'occasion de cet événement, et en même temps le respect des libertés publiques, notamment pour les données qui sont exploitées pour accéder à des périmètres sécurisés ou dans le cadre de la billetterie, par exemple. 

Nous nous intéressons à la sécurité des données parce qu'il peut y avoir des données sensibles, par exemple des données d'accréditation des forces de l'ordre, et qui peuvent, le cas échéant, favoriser des actions malveillantes.

Nous veillons aussi à ce que soient uniquement collectées les données qui sont nécessaires à la finalité pour lesquelles elles sont collectées, qu'elles ne soient pas conservées trop longtemps."

Question: Qu'en est-il des expérimentations autour de la vidéosurveillance algorithmique, qui utilise des caméras intelligentes pour surveiller les foules ?

Réponse: "Nous avons consacré beaucoup d'énergie en amont à la problématique des caméras augmentées. C'est la première fois en France, et même en Europe, que sont déployées des caméras qui embarquent de l'intelligence artificielle pour détecter des comportements suspects ou dangereux.

Par exemple, quelqu'un qui arrive dans une enceinte interdite, une voiture qui circule en sens inverse, le départ d'un feu, un mouvement de foule...

Les conséquences en matière de libertés publiques sont potentiellement plus importantes puisqu'il n'y a plus de limites humaines, même si ce sont des caméras qui ont pour finalité d'aider à la décision. Elles ne décident pas à la place des forces de l'ordre.

C'est peut-être un peu prématuré (pour un premier bilan, NDLR) parce que la première expérimentation, qui était en réalité un test de paramétrage et pas une vraie exploitation, c'était le concert de Depeche Mode début mars (à Paris, NDLR). 

C'est vraiment en ce moment qu'ont lieu les premiers déploiements des caméras augmentées à travers un autre concert, un match de basket, dans des gares aussi."

Question: La Cnil s'est dotée d'un "service à l'intelligence artificielle" en 2023. Quel rôle l'institution peut-elle jouer dans la régulation de l'IA, et notamment les IA génératives comme ChatGPT ?

Réponse: "Notre but, c'est d'accompagner cette innovation. Non pas la freiner mais l'accompagner dès l'amont avec des garanties dans la mesure où l'IA consomme un nombre considérable de données personnelles.

Les développeurs d'IA veulent pouvoir conserver ces données longtemps mais, nous, nous leur disons: "+On comprend mais regardons les différents usages pour lesquels vous les conservez+. 

On peut essayer de les conserver le moins longtemps possible lorsque ce n'est pas nécessaire. En matière de protection de la vie privée, c'est un enjeu tout à fait fondamental. 

La Cnil aura un rôle à jouer absolument incontournable en matière d'IA puisque les textes en matière de protection des données s'appliquent. 

Je relève qu'il y a un certain nombre d'institutions qui ont appelé à ce que la Cnil joue un rôle important en matière de régulation de l'IA. Ça me paraît naturel sur un certain nombre de missions."