Retour aux articles

Intelligence artificielle et droit du travail : George Orwell, le retour ?

Tech&droit - Intelligence artificielle, Objets connectés
Social - Formation, emploi et restructurations, Santé, sécurité et temps de travail
19/04/2018
Face à l'essor de l'intelligence artificielle et des objets connectés, il convient de préserver les droits fondamentaux des salariés au sein de leur entreprise, estime Danièle Baruchel-Beurdeley, avocate associée au sein du cabinet FTMS.
« Nul ne peut apporter aux droits des personnes et aux libertés individuelles et collectives de restrictions qui ne seraient pas justifiées par la nature de la tâche à accomplir, ni proportionnées au but recherché ». Pour en marquer l’importance, ces dispositions de l’article L1121-1 du Code du Travail, y figurent à titre préliminaire.
Savoir si elles pourront y conserver leur place et continuer d’assurer utilement leur rôle de rempart à la protection des droits et libertés des salariés est une véritable préoccupation auquel le droit du travail devra s’appliquer à répondre.
 
Intelligence artificielle, objets connectés connaissent un essor de plus en plus important et ont vocation à transformer, dans un proche avenir, au sein de l’entreprise, l’organisation, les métiers, et les rapports sociaux. Certaines entreprises s’y essayent déjà, et c’est tout au long de son parcours professionnel, de la candidature à l’embauche, jusqu’à l’organisation de son travail, que le salarié peut y être désormais confronté.
 
 
Le recrutement
 
Suivons Monsieur Khy qui cherche un emploi. Il a répondu à différentes annonces, en adressant son CV aux recruteurs ou aux services RH concernés. Pour être sélectionné, il va falloir que son CV passe le filtre de l’algorithme de recrutement.
Promu comme outil de préqualification d’un volume parfois conséquent de candidatures pour une offre d’emploi donnée, l’algorithme, obéissant à son seul paramétrage, va mécaniquement éliminer la candidature jugée inadaptée, privilégiant par exemple un diplôme par rapport à un autre, un diplôme à l’expérience…
Remplir un CV va devenir un véritable défi, car il va falloir qu’il parle au logiciel. Exit l’originalité, le parcours atypique, l’algorithme va privilégier un profil formaté et normé.
Malgré le socle juridique déjà important, qu’ont contribué à bâtir, notamment :
  • la Loi n°78-17 du 6 janvier 1978, dite « Informatique et Libertés » qui pose en son article 1 le principe selon lequel l’informatique ne doit porter atteinte ni à l’identité humaine, ni aux droits de l’homme, ni à la vie privée, ni aux libertés individuelles ou publiques ;
  • les dispositions de l’article L1132-1 du Code du Travail qui posent le principe général de non discrimination dès la procédure de recrutement, en raison de son origine, de son sexe, de ses mœurs, de son orientation ou identité sexuelle, de son âge, de sa situation de famille ou de sa grossesse, de ses caractéristiques génétiques, de son appartenance ou de sa non appartenance, vraie ou supposée, à une ethnie, une nation ou une race, de ses opinions politiques, de ses activités syndicales et mutualistes, de ses convictions religieuses, de son apparence physique, de son nom de famille, de son lieu de résidence ou en raison de son état de santé de son handicap.
  • la Déclaration Universelle des Droits de l’Homme du 10 décembre 1948 qui pose en son article 7 le principe d’une protection égale pour tous contre toute discrimination et contre toute provocation à la discrimination.
 
Le risque d’une dérive matière de discrimination est réel. La Cnil l’a pointé dans son rapport d’activités 2017, présenté le 10 avril 2018, qui propose, à des fins préventives, de retenir deux principes fondateurs pour une intelligence artificielle éthique au service de l’homme : la loyauté et la vigilance.
  • Loyauté : tout algorithme, qu’il traite ou non des données personnelles, doit être loyal envers ses utilisateurs dont l’intérêt doit primer,
  • Vigilance : organisation d’un questionnement régulier, méthodique et délibératif aux fins d’une maîtrise permanente de l’outil algorithmique.
Ces deux principes font l’objet d’une déclinaison sous la forme de six recommandations opérationnelles, parmi lesquelles au sein des entreprises : le renforcement de la fonction éthique, pour exemple, par la mise en place de comités d’éthique, l’élaboration de chartes de bonnes pratiques sectorielles ou déontologiques.
 
 
L’entretien d’embauche

Monsieur Khy est heureux, l’algorithme de recrutement a retenu son CV. Le robot Vera l’a appelé pour le lui annoncer et le prévenir qu’il est sélectionné pour un entretien dont elle se chargera par téléphone ou par Skype.
Vera est un robot développé par une start-up russe qui doit identifier le profil idéal pour le poste donné. Pendant l’entretien, elle pose des questions identiques à celles que poserait un recruteur humain : motivation, expérience, diplômes… Son vocabulaire est enrichi de quelques 13 milliards de phrases, elle a en mémoire de nombreux extraits télévisés et pages Wikipedia qui permettent d’alimenter l’échange avec le candidat postulant. Bientôt, le robot Vera pourra déceler les émotions de son interlocuteur : enthousiasme, déception…

300 entreprises y ont déjà recours, parmi lesquelles PepsiCo, Ikea ou L’Oréal. Mais tout espoir d’un retour à l’humain, en amont, n’est peut-être pas perdu. En matière de recrutement, Google a abandonné son système de tri automatisé des CV, qui peut témoigner des limites de l’algorithme et de la nécessaire richesse d’un échange.
En tout état de cause, dernier rempart à la robotisation, l’entretien final et décisionnel d’embauche sera mené par un être humain. Il faudra bien veiller à garder toujours à l’esprit l’article 10 de la Loi « Informatique et Libertés » qui interdit qu’une machine puisse prendre seule, sans intervention humaine, des décisions emportant des conséquences cruciales pour les personnes. Monsieur KHY a passé avec succès cet entretien ultime. Il est embauché.
 
 
Equipements de travail
 
Dans son entreprise, les salariés sont aujourd’hui, ou vont bientôt l’être, équipés de différents dispositifs connectés : le casque à commande vocale ; la puce RFID ; le bracelet électronique.
 
- Le casque à commande vocale :

Mis en place chez Lidl, pour les préparateurs de commandes, ce matériel permet de dicter aux salariés quels objets ils doivent transporter et dans quels rayons ils doivent les entreposer. Le dialogue se fait au moyen de quarante-sept mots techniques à l’exclusion de tous autres. Sans risque de se faire rappeler à l’ordre, le salarié, ne peut interagir qu’avec son casque. Privé de toute initiative, il est de surcroît, isolé de ses collègues durant toute sa journée de travail.
 
- La puce RFID (Radio Frequency Identification)
 
Cette technologie permet de stocker de multiples informations sur la personne à l’intérieur d’une puce de quelques centimètres à peine.
Chez Sanofi, elles ont été présentées comme conçues à seule fin de géolocalisation et d’optimisation de l’utilisation des espaces, tels salles de réunion, restaurants d’entreprises… Initialement installée sur les badges individuels des salariés, faisant échec à l’anonymisation, elle permettait de tracer le moindre déplacement des salariés, de leur entrée à la sortie de l’entreprise, et de mesurer les temps non travaillés.
L’intervention des syndicats a permis que du badge, les puces soient transposées et insérées au porte-badge, garantissant l’anonymat des salariés, dès lors que le badge peut être désolidarisé de son support.

Epicenter en Suède, New Fusion ont, eux, franchi une étape supplémentaire. Chez le premier, 450 salariés sur 700 et, chez le second, 8 salariés sur 12 ont donné leur accord pour se faire implanter sous la peau, entre le pouce et l’index de la main, la puce RFID.

Promu comme devant faciliter la vie du salarié au sein de l’entreprise : identification automatique au portique de sécurité, déverrouillage de l’ordinateur, déclenchement du photocopieur, accès à la cafétéria…, la puce RFID permet de suivre le salarié dans tous ses mouvements, déplacements et actions.
La question de l’intégrité physique se pose évidemment. Se pose également celle de l’atteinte à la vie privée. Quid en effet, en cas de piratage, de l’utilisation de données personnelles collectées sur la puce RFID implantée ?
En France, la Cnil, en support des dispositions de l’article L1121-1 du Code du Travail devrait permettre, la protection des salariés français contre l’implantation sous cutanée des puces RFID.
Par ailleurs, le Règlement Général sur la Protection des Données (RGPD) du 27 avril 2016, qui entrera en vigueur le 25 mai prochain, a introduit un moyen de protection complémentaire.
Tout traitement des données personnelles susceptible d’engendrer des risques élevés pour les droits et libertés des personnes sera soumis à une analyse d’impact, comprenant a minima :
  • une description systématique des opérations de traitement envisagées et les finalités du traitement, y compris, le cas échéant, l’intérêt légitime poursuivi par le responsable du traitement ;
  • une évaluation de la nécessité de la proportionnalité des opérations de traitement au regard des finalités ;
  • une évaluation des risques sur les droits et libertés des personnes concernées ;
  • les mesures envisagées pour faire face aux risques, y compris les garanties, mesures et mécanismes de sécurité, visant à assurer la protection des données à caractère personnel et à apporter la preuve du respect du règlement (Article 35).
 
Si l’analyse d’impact venait à révéler un risque élevé, le responsable du traitement, à défaut d’avoir pris les mesures adéquates à l’atténuation du risque, devrait consulter l’autorité de contrôle (Article 36). S’agissant de la France, la Cnil.

- Le bracelet électronique :

L’employeur de Monsieur Khy a parlé de l’introduction dans un avenir proche, d’un nouvel objet connecté, récemment breveté par Amazon : le bracelet électronique. L’appareil prévu pour être porté au poignet, détectera les mouvements des mains du salarié et émettra des vibrations pour le « guider » aux fins de corriger toute erreur dans l’exécution de sa tâche.
Développé pour rationaliser le travail et rentabiliser le temps de travail, ce scanner fixé au poignet, s’allume en vert quand les cadences sont respectées et en rouge ou en noir quand le salarié s’est arrêté trop longtemps…
Le salarié est ainsi placé sous surveillance. Cette information a effrayé Monsieur Khy. On le comprend !
Comment ne pas ici faire immédiatement le parallèle avec le placement sous surveillance électronique (PSE) ou bracelet électronique dont peuvent être équipées les personnes objet d’une condamnation pénale, si elles en remplissent les conditions.
 
Déshumanisation, robotisation, perte d’autonomie et d’initiative, surveillance permanente, favorisation des troubles anxiogènes et des risques psycho-sociaux…la réalité a rattrapé la fiction. C’est aujourd’hui un défi et un enjeu sociétal de préserver les droits fondamentaux des salariés au sein de leur entreprise.

Par Danièle Baruchel-Beurdeley, avocate associée FTMS
Collaboration Célia Gravot-Derome, collaboratrice, cabinet FTMS