entrée en vigueur de l’AI Act, le règlement européen sur l’IA : quels impacts sur les différents services des entreprises ?

• quelles nouvelles obligations anticiper avec le règlement sur l’intelligence artificielle ?
• quels impacts sur les différentes fonctions de l’entreprise ? 

AI Act : quelles nouvelles obligations pour les entreprises ? 

Après la nouvelle norme européenne dans la collecte et le traitement des données portés par le RGPD (Règlement général sur la protection des données), c’est désormais au tour de l’IA d’être dans le radar des régulateurs. Avec l’entrée en vigueur de l’AI Act, les entreprises françaises et européennes doivent anticiper d’importantes évolutions. Pour commencer, les systèmes d’IA seront catégorisés selon leurs niveaux de risque, avec des obligations plus strictes pour les systèmes considérés comme « à haut risque »*. Les entreprises devront obtenir un marquage CE (un indicateur de conformité réglementaire pour les produits commercialisés dans l’Union européenne) et s’inscrire dans une base de données européenne avant de commercialiser leurs systèmes d’IA à haut risque. Elles seront également tenues de mettre en place un système de gestion des risques, d’assurer la gouvernance et la qualité des données, de fournir une documentation technique détaillée et de garantir la traçabilité et la transparence de leurs systèmes. L’AI Act impose aussi aux entreprises de renforcer leurs dispositifs de contrôle humain et de cybersécurité. En cas de non-conformités, les entreprises seront confrontées à des sanctions financières potentiellement lourdes, pouvant aller jusqu’à 7 % de leur chiffre d’affaires annuel mondial ou 35 millions d’euros.

*qu’est-ce qui est considéré comme une intelligence artificielle à haut risque ?  

L’AI Act considère comme à « haut risque » tout système d’IA présentant des risques significatifs pour la santé, la sécurité ou les droits fondamentaux des personnes : « un système d’IA est considéré comme à haut risque s’il est utilisé comme composant de sécurité d’un produit ou s’il s’agit d’un produit lui-même couvert par la législation européenne. » Cette définition concerne notamment les outils d’IA utilisés dans les infrastructures critiques (comme les réseaux d’eau), dans l’éducation ou encore relatives à l’emploi (tels que les IA utilisées pour le recrutement).  Par exemple, un système d’IA utilisé pour filtrer et sélectionner automatiquement des candidats à un emploi est considéré comme à haut risque, car elle concerne des enjeux critiques tels que le droit à l’égalité des chances dans l’accès à l’emploi et peut potentiellement entraîner des biais discriminants.

quels impacts sur les différentes fonctions des entreprises ? 

services juridiques

Les départements juridiques seront en première ligne pour s’assurer de la conformité avec l’AI Act. Ils devront décoder les exigences du texte, mettre en place des procédures internes et anticiper les potentiels litiges. À cet égard, on observera certainement une montée en compétences des juristes d’entreprise sur les questions liées à l’IA. Il est par ailleurs probable que certaines entreprises se tournent vers le recrutement d’experts en droit de l’IA, ou décident de collaborer avec des avocats spécialisés sur ces questions. Parallèlement, les équipes juridiques devront travailler en étroite collaboration avec d’autres départements tels que la Direction Systèmes d’Information (DSI), Directeurs Innovation ou encore les Chief Digital Officers (CDO) pour s’assurer que les systèmes et applications d’IA développés ou utilisés par l’entreprise répondent aux critères de transparence, de sécurité et d’éthique imposés par la loi. Elles devront aussi anticiper et gérer les potentiels litiges liés à l’IA, tout en restant vigilantes face à l’évolution constante de la jurisprudence. 

technologies de l’information

La DSI et les services IT auront la tâche ardue de mettre en œuvre les exigences techniques du règlement. Ils devront adapter les infrastructures et les processus pour garantir la conformité des applications d’IA, notamment en termes de sécurité des données, de traçabilité et de transparence dans la conception des algorithmes. Pour cela, les équipes IT seront chargées de développer ou d’acquérir des outils permettant de surveiller et d’auditer les systèmes d’IA en continu, afin de détecter et de corriger rapidement toute dérive ou biais. Elles devront également mettre en place des mécanismes solides de gestion des données, assurant leur qualité et leur intégrité tout au long du cycle de vie des systèmes d’IA. La collaboration avec les équipes de R&D, développement, data analytics et data science devrait s’intensifier pour intégrer les principes d' »IA de confiance » dès la conception des systèmes. Enfin, les départements IT devront renforcer leurs compétences en matière de gouvernance de l’IA, de gestion des risques technologiques et de conformité réglementaire, ce qui pourrait nécessiter des formations spécifiques ou le recrutement de nouveaux profils spécialisés.

services opérationnels

Les équipes opérationnelles vont revoir et adapter leurs processus pour intégrer les exigences de l’AI Act dans leurs activités quotidiennes, avec notamment l’évaluation minutieuse des applications d’IA qu’elles utilisent pour s’assurer de leur conformité. Des mécanismes de surveillance continue et d’audit des systèmes d’IA doivent être mis en place, ainsi que des procédures de gestion des risques plus robustes. La transparence et la traçabilité des décisions prises par les systèmes d’IA devront être des priorités opérationnelles. La collaboration entre les équipes opérationnelles, techniques et juridiques devrait s’intensifier pour assurer une bonne mise en œuvre des exigences de l’AI Act. Enfin, les entreprises verront probablement leurs cycles de développement et de déploiement de nouvelles solutions d’IA s’allonger pour intégrer les phases de vérification et de validation requises par la réglementation.

l’impact de l’AI Act sur les RH et le recrutement 

Les outils d’IA utilisés dans les processus de recrutement, l’évaluation des performances ou la gestion des talents étant désormais classés comme à « haut risque », ils exigent une transparence accrue. À cet égard, les équipes RH devront s’assurer que ces systèmes respectent les obligations réglementaires et les normes de non-discrimination définies par l’AI Act. 

Jouant un rôle majeur dans la sensibilisation des collaborateurs aux enjeux de l’IA, les équipes RH vont certainement devoir monter en compétence sur les usages éthiques de l’IA. Leurs missions pourront aussi inclure l’anticipation des évolutions liées à leur métier, la création ou le pilotage de programmes de formation et de reconversion pour répondre aux nouveaux besoins en compétences.

En se positionnant comme pionnière de la régulation de l’IA, l’Union européenne trace la voie pour des standards internationaux. Si le règlement risque de donner du fil à retordre aux entreprises européennes, il favorise un environnement propice à l’innovation tout en garantissant la sécurité et la fiabilité des systèmes d’IA.

Expectra, spécialiste du recrutement en CDI et intérim des cadres et experts techniques, accompagne les entreprises dans leur transformation numérique et technologique. Face aux nouvelles exigences imposées par l’AI Act, Expectra aide ses clients à anticiper les changements technologiques réglementaires en identifiant et recrutant les talents spécialisés dans l’IA. Grâce à leur expertise, nos équipes jouent un rôle clé dans la mise en place de stratégies adaptées pour tirer parti des innovations tout en respectant les nouvelles obligations légales.