La CNIL annonce un nouveau service dédié à l’intelligence artificielle

La CNIL vient d’annoncer la création du SIA, pour service de l’intelligence artificielle. Composé de cinq personnes, il aura plusieurs missions, dont la consolidation de l’expertise de la CNIL sur le sujet et la préparation de l’entrée en application du règlement européen sur l’IA.

Comme le montre l’actualité particulièrement intense dans ce domaine depuis quelques semaines, et dans le sillage de ChatGPT, l’intelligence artificielle est un sujet foisonnant, appelé à prendre une ampleur toujours croissante dans les années à venir. Certaines entreprises ne s’y trompent d’ailleurs pas, à l’instar de Microsoft, qui investit lourdement dans ce domaine, comme Google et d’autres.

• Le développement de l'intelligence artificielle inquiète, des centaines de chercheurs s'engagent
• Dans les méandres de l'intelligence artificielle, entre angoisses, espoirs et recommandations
• Intelligence artificielle : les axes de normalisation de l’Afnor pour une IA de confiance
• La CNCDH s’inquiète de l’impact de l’intelligence artificielle sur les droits fondamentaux
• Inria revient sur les nombreux enjeux autour de l’intelligence artificielle, des algorithmes et la santé

En France, on se prépare à l’arrivée du règlement européen sur l’intelligence artificielle, que nous avons déjà abordé à plusieurs reprises, notamment sous l’angle de la responsabilité. L’Europe compte être particulièrement offensive sur le sujet, notamment avec la notion de « présomption de causalité » dans les systèmes IA, l’établissement d’une chaine claire de responsabilité et une souveraineté humaine à préserver.

Cette préparation va faire partie du nouveau service de l’intelligence artificielle annoncé par la CNIL. Ce petit groupe aura un rôle transversal au sein de la Commission, en lien avec toutes ses directions.

Les attributs du nouveau service

Le service de l’intelligence artificielle aura quatre missions, ainsi décrites par la Commission :

• faciliter au sein de la CNIL la compréhension du fonctionnement des systèmes d’IA, ainsi que pour les professionnels et les particuliers ;
• consolider l’expertise de la CNIL dans la connaissance et la prévention des risques pour la vie privée liées à la mise en œuvre de ces systèmes ;
• préparer l’entrée en application du règlement européen sur l’IA ;
• développer les relations avec les acteurs de l’écosystème.

On est donc pleinement dans un rôle de coordination.

Le groupe sera constitué de cinq personnes et composé exclusivement d’ingénieurs spécialisés et de juristes. Il sera rattaché à la direction des technologies et de l’innovation de la CNIL, et donc sous la houlette de Bertrand Pailhes, auparavant coordinateur national pour la stratégie d’intelligence artificielle au sein de la DINSIC (Direction interministérielle du numérique et du SI de l'État).

Le SIA sera en collaboration « étroite » avec la direction en charge de l’accompagnement juridique, dirigée par Thomas Dautieu. Il pourra participer à la production de « droit souple » (référentiels, recommandations, etc.) ou encore à l’instruction des demandes d’avis adressées par le gouvernement. La direction pourra également envoyer le SIA conseiller certains acteurs publics et privés, mais uniquement quand la mise en place d’un système d’intelligence artificielle sera d’une « complexité particulière ».

Ce rôle coordinateur s’étendra, comme dit, à toutes les directions. Le SIA pourra être sollicité par chacune selon les besoins. Autant dire que ce groupe de cinq personnes risque fort de ne pas s’ennuyer, d’autant qu’il sera consultable à tout moment pour expertise, devra fournir un support dans l’instruction des plaintes et « adoption de mesures correctrices en cas de manquements liés à l’utilisation d’un système d’IA ».

Son cœur d’activité sera bien sûr l’expertise technique des dossiers relatifs à l’intelligence artificielle. En tant que tel, il contribuera au Comité européen de la protection des données (CEPD). En outre, il mènera certains projets d’expérimentation, en lien avec le laboratoire d'innovation numérique de la CNIL (LINC).

Une évolution rapide

On note une accélération franche de la manière dont est considérée l’intelligence artificielle, avec une reconnaissance du rôle qu’elle est amenée à jouer dans le futur immédiat.

La formation de ce groupe est ainsi une conséquence directe du rapport publié par le Conseil d’État fin septembre. Il n’aura fallu que quelques mois pour que la CNIL suive les recommandations du Conseil, dont le renforcement de ses équipes, tant son rôle et sa masse de travail vont croitre. 

La CNIL en profite d’ailleurs pour rappeler que ce même rapport reconnaissait son importance à jouer un « rôle d’autorité de coordination et de supervision » en fonction des dispositions du règlement européen. De plus, la même CNIL devra « assurer le maillage d’un vaste réseau d’institutions publiques allant des autorités de surveillance de marché aux régulateurs sectoriels ». Un message pleinement adressé au gouvernement, plus spécialement aux personnes validant le budget de la Commission.

La constitution de ce groupe est une manière d’affirmer que la CNIL n’attend pas. « Dès à présent et sans attendre l’évolution du cadre juridique, la création de ce service vient répondre à un enjeu de société dont l’importance augmente chaque jour et s’inscrit dans la continuité de travaux relatifs à l’intelligence artificielle initiés de longue date par la CNIL », indique la Commission.

Un tremplin à encadrer

Pour la CNIL, il n’est pas question de méfiance : « L’intelligence artificielle connaît des avancées technologiques spectaculaires, permettant d'assister l’humain dans de très nombreuses tâches. Dans le secteur privé, elle est vue comme un facteur d’optimisation des performances et de la rentabilité, tandis que son utilisation dans les administrations pourrait permettre d’améliorer la qualité du service public rendu à l’usager ».

Cependant, c’est son ubiquité qui la rend sensible, entraînant la nécessité d’un encadrement permettant à l’ensemble des acteurs de jouer avec les mêmes règles. « L’usage de cette technologie concerne ainsi tous les acteurs, quels que soient leurs domaines d’activité ou leur taille. Par ricochet, toute personne y est forcément directement ou indirectement confrontée à un moment ou un autre, par exemple, à l’occasion de l’utilisation d’un assistant vocal, d’un processus de sélection des candidatures à un emploi ou en matière de lutte contre la fraude fiscale », appuie la CNIL.

C’est justement cette omniprésence qui entraîne le traitement d’une vaste quantité de données, « très souvent personnelles ». Il y a donc des risques pour la vie privée, expliquant pourquoi la CNIL s’empare plus intensément du sujet.

La Commission appuie bien sûr sur les « enjeux d’information », tant pour les usagers qui y voient souvent une « boite noire », que pour les responsables des traitements et les régulateurs. Sur ce point, la CNIL rappelle qu’elle travaille depuis 2017 sur le sujet, de trois manières : identifier les enjeux éthiques et juridiques, l’instruction de dossiers liés à l’IA et la production d’outils et ressources pour en faciliter la compréhension, ainsi que la maîtrise des risques associés. Dans ce contexte, la création du SIA prend tout son sens, selon la CNIL.