Présentation

Dans un contexte de déploiement accéléré des systèmes d’intelligence artificielle au sein des organisations, les entreprises sont confrontées à un besoin croissant de sécurisation juridique, éthique et technique de leurs usages. L’entrée en vigueur de cadres réglementaires structurants, notamment le règlement européen sur l’intelligence artificielle (AI Act), le RGPD ainsi que les réglementations en matière de cybersécurité (directive NIS2, Cyber Resilience Act), renforce les obligations de conformité, de transparence et de responsabilité des acteurs économiques.

Parallèlement, les usages de l’IA, en particulier générative, se diffusent dans l’ensemble des fonctions métiers sans toujours faire l’objet d’un encadrement formalisé, exposant les organisations à des risques juridiques, éthiques, opérationnels et réputationnels.

Dans ce contexte, la certification vise à répondre à un besoin du marché consistant à former des professionnels capables d’intégrer ces exigences dans les projets d’intelligence artificielle, en articulation avec les fonctions métiers, techniques et de gouvernance.

La certification se distingue des certifications existantes, notamment orientées vers l’acculturation stratégique à l’intelligence artificielle, en ce qu’elle vise le développement de compétences directement opérationnelles permettant de sécuriser, encadrer et fiabiliser les systèmes d’IA en cours de conception ou de déploiement au sein des organisations.

Elle s’adresse ainsi à des professionnels impliqués dans la mise en œuvre concrète de projets IA (managers, profils techniques, consultants), et non uniquement dans leur cadrage stratégique.

Compétences visées par la certification

La certification atteste de la capacité du candidat à :

• S’assurer de la conformité de la mise en œuvre d’un système d’IA au cadre juridique en vigueur, en réalisant une évaluation de la conformité par rapport au cadre réglementaire français et européen, en évaluant les implications juridiques et les responsabilités associées pour les acteurs impliqués, en assurant une veille continue sur les cadres réglementaires applicables, et en intégrant les évolutions relatives à l’accessibilité numérique, à la responsabilité environnementale et aux conditions de travail liées aux usages de l’IA, afin d’anticiper les risques juridiques liés à l’IA et de sécuriser juridiquement son intégration dans un cadre professionnel.
• Analyser les enjeux éthiques des systèmes d’intelligence artificielle mis en œuvre dans un cadre professionnel, en structurant une démarche d’audit et d’analyse d’impact éthique, en identifiant les enjeux éthiques potentiels (loyauté, vie privée et gouvernance des données, transparence, équité, fiabilité, contrôle humain, bien-être social et environnemental, sécurité, accessibilité des systèmes et inclusion des publics, impacts sur les conditions de travail et sur l’environnement), en proposant des recommandations à déployer à chaque étape de la mise en œuvre système IA, et en intégrant des principes d’inclusion, de sobriété numérique et de prévention des risques professionnels, afin de renforcer la confiance des parties prenantes dans l’utilisation des technologies d’intelligence artificielle.
• Établir des mesures relatives à la confidentialité et à la protection des données dans les systèmes d’IA en identifiant les traitements de données personnelles dans les flux IA, en prenant en compte les données pouvant révéler des situations de vulnérabilité ou de handicap et les risques d’exclusion associés, en mettant en œuvre des mesures techniques appropriées, en intégrant des principes de minimisation, de sécurité renforcée et de limitation des impacts environnementaux liés aux traitements de données, et en définissant des mesures organisationnelles de gouvernance des données, incluant des dispositifs de sensibilisation, d’accessibilité des politiques de données et de prévention des usages à risque, afin d’assurer la conformité au RGPD et aux principes de minimisation, de finalité, et de sécurité des données.

Contribuer à l’élaboration d’une politique de sécurité adaptée aux systèmes d’IA en identifiant les menaces spécifiques aux systèmes IA, y compris celles liées aux usages inadaptés, à la surcharge cognitive ou à la dépendance aux systèmes, en évaluant les vulnérabilités des modèles et des environnements de déploiement, en intégrant les enjeux d’accessibilité des systèmes, d’inclusion des utilisateurs et de continuité d’usage pour des publics diversifiés, et en recommandant ou déployant des mesures de prévention adaptées, incluant des dispositifs favorisant la sécurité, la résilience, la sobriété des systèmes et la protection des conditions de travail, afin de garantir la résilience des systèmes IA et leur conformité aux exigences du Cyber Resilience Act et de la directive NIS2.

Modalités d’évaluation

Les compétences sont évaluées à travers des mises en situation professionnelle reconstituées, basées sur des cas concrets de déploiement ou d’utilisation de systèmes d’intelligence artificielle en entreprise.

Les modalités d’évaluation comprennent :

• Étude de cas : À partir d’un incident impliquant un système d’intelligence artificielle dans une entreprise (réelle ou fictive), le/la candidat(e) réalise une analyse juridique complète. Il/elle identifie les responsabilités des acteurs impliqués, analyse les causes de l’incident au regard des cadres réglementaires applicables (RGPD, AI Act, etc.) et propose des mesures correctives et préventives afin de sécuriser le déploiement du système.
• Étude de cas pratique : En se basant sur un projet d’intelligence artificielle en cours de déploiement au sein d’une entreprise réelle ou fictive, le/la candidat(e) réalise une analyse des enjeux éthiques du système. Il/elle identifie les risques (biais, discrimination, opacité, impacts sociétaux), structure une démarche d’analyse d’impact éthique et propose un plan d’action permettant de garantir un usage responsable et conforme aux principes éthiques.
• Étude de cas pratique : À partir d’un projet d’intelligence artificielle mobilisant des données personnelles, le/la candidat(e) identifie les traitements de données mis en œuvre, analyse les risques associés et propose des mesures techniques et organisationnelles adaptées (sécurisation, gouvernance des données, conformité RGPD), afin d’assurer la protection des données dans le système étudié.
• Étude de cas : Sur la base d’un cas de violation ou de faille de sécurité dans un système d’intelligence artificielle, le/la candidat(e) analyse les vulnérabilités techniques et organisationnelles, reconstitue les scénarios d’incident et propose des mesures de prévention et de remédiation conformes aux exigences réglementaires en matière de cybersécurité (NIS2, Cyber Resilience Act), afin de garantir la résilience du système.

Prérequis à l’entrée en formation

Bénéficier d’une expérience professionnelle en lien avec l’utilisation ou le déploiement de systèmes numériques, de données ou de projets en entreprise