L’intelligence artificielle (IA), à l’instar de la blockchain, s’est immiscée dans le quotidien des DSI. À l’aulne de ses capacités de « machine learning » et d’autonomie, elle bouleverse aussi les lignes juridiques existantes notamment en matière d’éthique, de responsabilité civile ou contractuelle, de sécurité, de données personnelles, ou encore de propriété intellectuelle.

Par Me Pierre-Randolph Dufau
Avocat à la cour, fondateur de la SELAS PRD avocats

L’éthique, véritable pierre angulaire d’une IA de confiance, est au centre des enjeux normatifs actuels, comme en atteste la proposition de règlement (COM/2021/206) émise par la Commission européenne identifiant un ensemble d’interdictions, récemment saluée et commentée par la CNIL et ses homologues dans leur avis du 18 juin 2021.

L’objectif est de proposer un cadre réglementaire suffisamment concret pour le développement de futurs systèmes d’IA et par là même de sécuriser et d’harmoniser un usage éthique au sein de l’Union européenne.

Concrètement, la responsabilité des entreprises sera tout particulièrement appréhendée lors de l’exploitation de systèmes biométriques qui recèleraient un paramétrage dit « excluant » ou ayant pour finalité de classer les individus en fonction de leur orientation sexuelle ou politique, de leur sexe ou de leur ethnicité, qui sont propices à la discrimination au regard de la Charte des droits fondamentaux de l’Union européenne.

Par ailleurs, face à l’explosion de la cybercriminalité, l’IA se révèle être un cheval de Troie de choix. En effet, le risque de détournement par des tiers mal intentionnés de l’IA introduite au sein des systèmes est une faille de sécurité devenue réelle qui doit être appréhendée par les entreprises.

L’IA, par nature grande consommatrice de données personnelles, n’échappera pas pour autant aux fourches caudines du RGPD qui a naturellement vocation à s’appliquer. Il apparaît donc crucial d’identifier les données utilisées dès la conception d’outils d’intelligence artificielle et le cas échéant d’en surveiller l’évolution. En effet, l’IA étant auto-apprenante, se pose la question de sa subordination et conformité by design au droit afin de préserver la responsabilité de l’entreprise.

Le paradoxe entre l’autonomie caractéristique de l’IA et la nécessaire intervention humaine en matière législative se retrouve également en matière de blockchain. L’intangibilité du registre numérique se heurte à l’application du RGPD et appelle inévitablement à une refonte de son analyse.

S’agissant de la propriété intellectuelle, les questionnements sont là aussi nombreux. Le choix de la protection par le brevet semble s’imposer au regard du nombre de dépôts intervenus ces derniers mois.

Retrouvez toutes nos tribunes « Juridique »