DSI & RH, attention : Le management algorithmique des salariés est déjà évoqué comme de l'IA à haut risque dans l'AI Act.

RH

Encadrer le management salarial par l’IA

Par Laurent Delattre, publié le 25 janvier 2024

Le Conseil et le Parlement européens ont trouvé un accord de principe sur la Proposition de Règlement établissant des règles harmonisées concernant l’intelligence artificielle – l’AI Act – en vue d’une application au-delà des seuls acteurs de la tech. Il est intéressant de relever que le texte aborde dès à présent l’encadrement juridique du management algorithmique qui tend déjà à s’installer dans le monde du travail.


Par Helena Gavrilov et Anaïs Godinho, PRD Avocats


Un management algorithmique. Cette expression, formée de deux termes que tout semble opposer, est apparue récemment avec le développement des plateformes de mise en relation et de l’uberisation des services. Lorsqu’on l’applique aux ressources humaines de l’entreprise, il désigne la gestion automatisée des employés grâce à l’utilisation d’algorithmes informatiques et de techniques d’intelligence artificielle, en s’appuyant sur la collecte d’une quantité importante de données, dont certaines sont du registre de la performance individuelle.

Aujourd’hui, si cette méthode managériale permet un gain de temps et de productivité, par exemple au stade du recrutement des candidats, elle soulève d’importantes préoccupations, notamment éthiques. C’est la raison pour laquelle l’AI Act, tel qu’il est proposé, a classé l’utilisation de ces algorithmes dans la catégorie des usages à « haut risque ».

Sont considérés comme systèmes à « haut risque », selon l’article 6 du projet, soit les systèmes d’IA utilisés comme composants de sécurité d’un produit, ou soumis eux-mêmes à la règlementation sur la sécurité des produits ; soit les systèmes répertoriés dans son Annexe III. Parmi ces derniers se trouvent les systèmes relatifs à « [l’]emploi, [la] gestion de la main-d’oeuvre et [l’]accès à l’emploi indépendant » ; sont plus précisément visés les algorithmes utilisés pour le recrutement ou la sélection de candidats, la prise de décisions de promotion et de licenciement des employés, l’attribution des tâches et le suivi des performances et du comportement dans le cadre des relations professionnelles.

L’AI Act envisage de soumettre les entreprises désireuses d’appliquer de tels algorithmes à une obligation de communication sur les usages et les risques de ces outils. En outre, en l’état, l’article 9 prévoit, en miroir avec les obligations du RGPD, la mise en place d’un système de gestion des risques avec, en sus, une documentation technique et détaillée, prévue par l’article 11.

En cas de non-respect de ces exigences, une amende pourra être prononcée par une autorité administrative pouvant aller jusqu’à 4 % du chiffre d’affaires mondial de l’entreprise concernée, conformément à l’article 71 de la proposition.

Bien que le règlement ait seulement fait l’objet d’un accord politique à ce stade, son entrée en vigueur est attendue pour 2026, ce qui laisse encore du temps aux directions juridiques et aux DSI pour évaluer les outils à mettre en oeuvre en interne pour pouvoir continuer à utiliser les algorithmes dans leur prise de décisions en pleine conformité, tant pour le recrutement que pour la gestion de leurs ressources humaines.

Le management algorithmique est une réalité qui ne fera que croître dans les années à venir. Il est dès lors essentiel de veiller à ce que les systèmes de gestion mis en place au sein de l’entreprise ne portent pas atteinte aux droits des salariés et respectent les futures exigences réglementaires, en s’y préparant dès à présent.

À LIRE AUSSI :



À LIRE AUSSI :

Dans l'actualité