Règlement IA : la compétence IA devient obligatoire
3 min. de lecture
Quiconque travaille avec l’IA doit posséder les compétences nécessaires en matière d’IA et comprendre les risques dès le 2 février 2025. C’est le principe fondamental du Règlement AI de l’UE.
De la planification à l’entrée en vigueur officielle, en passant par la mise en œuvre des lois et réglementations de l’UE dans chaque pays membre, le processus peut prendre des années, comme c’est souvent le cas avec la RGPD. De même, le Règlement AI, qui est entré en vigueur en août 2024, exigera à compter du 2 février 2025 que les entreprises et les autorités garantissent que les personnes travaillant avec l’IA possèdent les connaissances nécessaires. Cependant, la mise en œuvre au niveau des États membres reste à réaliser.
Par conséquent, les entreprises concernées en Allemagne ne doivent pas se retrouver dans une situation de panique ou d’actionisme excessif. Il n’y a pas encore de loi d’application nationale et aucune structure de contact nationale, comme le souligne le MDR-Ratgeber citant la Bundesnetzagentur sur le sujet.
Il est sage de recueillir des informations et des conseils tôt
Il est sage et dans certains cas même nécessaire que les entreprises recueillent des informations et des conseils tôt. Ils peuvent s’adresser à des prestataires de services IT locaux ou régionaux, aux associations comme Bitkom ou aux centres du réseau Mittelstand-Digital, qui peuvent répondre à des questions sur la nouvelle réglementation IA, dans certains cas gratuitement.
Concrètement, la directive 2024/1689 de l’UE stipule : « Les fournisseurs et les exploitants de systèmes d’IA prennent des mesures pour veiller, dans la mesure du possible, à ce que leur personnel et autres personnes travaillant sous leur contrôle avec l’exploitation et l’utilisation de systèmes d’IA possèdent un niveau suffisant de compétences en IA, en tenant compte de leurs connaissances techniques, de leurs expériences, de leur formation et de leur éducation, ainsi que du contexte dans lequel les systèmes d’IA sont utilisés, et des personnes ou groupes de personnes auxquels les systèmes d’IA sont destinés. »
Une simple auto-apprentissage ne suffit généralement pas
Comme l’a écrit la Bundesnetzagentur, un simple auto-apprentissage des personnes concernées ne semble pas être suffisant pour acquérir les compétences en IA nécessaires et satisfaire aux exigences du Règlement AI. L’expert Jonas Wöll de la Deutschen Industrie- und Handelskammer (DIHK) ajoute : « Dans la définition de la compétence en IA, il est question de l’utilisation sage de systèmes d’IA et de la conscience des opportunités, des risques et des possibles dommages. Les offres devraient se lier à cela. »
Actuellement, l’UE travaille encore sur les lignes directrices pour la mise en œuvre du Règlement AI, qui devraient fournir des indications précises sur la façon dont les entreprises peuvent se diriger. Selon Wöll, l’obligation de formation en compétences en IA ne concerne pas seulement les fournisseurs de systèmes d’IA à haut risque, mais tous les fournisseurs ou exploitants de systèmes d’IA ou modèles, même s’ils sont destinés à un usage général. « Une exception serait si l’IA est utilisée par des employés pour des fins personnelles, en dehors de leur activité professionnelle », ajoute l’expert de la DIHK.
La Bundesnetzagentur n’a pas de délais pour la mise en œuvre de la formation, mais il est important de veiller à ce que les personnes travaillant avec l’IA possèdent les compétences nécessaires. Au début, cela reviendra probablement sous le régime de la diligence raisonnable pour prévenir les dommages potentiels liés à l’IA.
« Quiconque travaille avec l’IA doit posséder les compétences nécessaires en matière d’IA et comprendre les risques dès le 2 février 2025. »
Quels risques sont inacceptables
Sinon, l’entreprise concernée pourrait être tenue responsable. Une mise en œuvre par les autorités nationales de contrôle, comme la Bundesnetzagentur en Allemagne, est prévue pour le 2 août 2025, selon l’expert du DHIK, Wöll.
La IHK München souligne que, dans le cadre de la réglementation européenne, le principe du risque est applicable : plus le risque est élevé, plus les exigences sont strictes. Les risques « inacceptables » qui violent les droits fondamentaux sont interdits en conformité avec l’AI Act et les applications KI concernées ne seront plus autorisées à partir du 2 février 2025.
Les risques inacceptables au sens de l’AI Act comprennent :
- L’exploitation des faiblesses des personnes particulièrement vulnérables, comme les enfants, les personnes âgées, les personnes handicapées et les personnes atteintes de maladies chroniques
- La notation de comportement social, appelée « Social Scoring », si les locataires ou les employeurs rejettent des personnes en fonction des informations provenant des médias sociaux
- La détection biométrique en temps réel, comme la reconnaissance faciale, à l’exception des crimes graves comme les attentats à la vie
- La catégorisation biométrique pour tirer des conclusions sur l’origine ethnique, la religion ou l’orientation sexuelle
- La détection des émotions au travail ou dans l’éducation
- La manipulation cognitive des groupes vulnérables, comme dans les jouets vocaux qui pourraient conduire les enfants à un comportement dangereux
Les exceptions à la réglementation européenne concernent les applications KI pour la recherche et le développement, pour la sécurité nationale et pour l’utilisation purement privée et non commerciale. Le cadre juridique de l’AI Act s’applique également aux acteurs à l’intérieur et à l’extérieur de l’UE, y compris les entreprises à l’étranger.
Il n’y a pas de responsabilité de formation pour l’instant, mais l’IHK München recommande aux entreprises concernées de mettre en place des programmes de formation et de formation à court et à moyen terme qui transmettent les bases techniques et – important – éthiques pour travailler avec KI et garantissent leur application pratique. Cela comprend également des cours de rafraîchissement réguliers avec des meilleures pratiques pour les employés qui travaillent avec des systèmes KI.
Foire aux questions
À partir de quand doit l’entreprise s’assurer que ses employés possèdent une compétence en KI ?
À partir du 2 février 2025, les entreprises doivent s’assurer que les employés qui utilisent des systèmes KI possèdent une compétence suffisante en KI, indépendamment de la classe de risque des systèmes KI utilisés.
Est-ce que l’auto-apprentissage est suffisant pour satisfaire aux exigences en matière de compétence en KI ?
Non, selon la Bundesnetzagentur, un simple auto-apprentissage ne suffit pas actuellement. La compétence doit être acquise par une formation structurée et en tenant compte du contexte d’utilisation.
Quelles applications KI sont considérées comme inacceptables et interdites ?
Les applications interdites à partir du 2 février 2025 incluent Social Scoring, la détection biométrique à distance, la détection des émotions au travail et l’exploitation des personnes vulnérables. Les exceptions s’appliquent uniquement aux crimes graves.
À partir de quand entrera en vigueur la mise en œuvre nationale de l’AI Act en Allemagne ?
La mise en œuvre par les autorités nationales comme la Bundesnetzagentur est prévue pour le 2 août 2025. Jusqu’à présent, il manque des lois d’application nationale et des points de contact.
Est-ce que l’AI Act s’applique également aux entreprises à l’extérieur de l’UE ?
Oui, le cadre juridique de l’AI Act s’applique également aux acteurs à l’extérieur de l’UE, si leurs systèmes KI sont utilisés ou proposés dans l’Union Européenne.
Recommandations de la rédaction
- Qualité des données dans les PME : Pourquoi l’IA sans données propres échoue
- Plateformes B2B : Pourquoi les marchés en ligne transforment le distribution
- Assurance cyber pour les PME : Ce qui est vraiment couvert
Plus du réseau MBF Media
cloudmagazin | SecurityToday | Digital Chiefs
Source de l’illustration de couverture : Pexels / Matheus Bertelli
