Connexion

Connexion à votre compte

Identifiant
Mot de passe
Maintenir la connexion active sur ce site

IA et RGPD : les liaisons dangereuses

Écrit par  Jacques Cheminat , lundi, 12 mars 2018 12:47 , ECONOMIE NUMERIQUE.
IA et RGPD : les liaisons dangereuses Carlos Catsilla-Adobe Stock

Le développement de l’intelligence artificielle va provoquer quelques tensions avec le règlement général sur la protection des données (RGPD). Transparence, droit à l’explication et consentement cristallisent les résistances.

La protection des données personnelles est sans conteste le sujet du début de l’année 2018 en Europe. En cause, la mise en œuvre du RGPD (règlement général sur la protection des données) qui toilette la directive de 1995. Elle rentre en application le 25 mai 2018 et implique plusieurs changements pour les entreprises : création d’un DPO, registre de traitement des données, sécurité, anonymisation ou chiffrement, portabilité des données, etc. En cas de problème ou de vol données, les sociétés non conformes RGPD s’exposent à des amendes pouvant aller jusqu’à 20 millions d’euros ou 4% du chiffre d’affaires.

Si le RGPD se confronte aux différents métiers de l’entreprise, il va aussi s’évaluer par rapport aux nouvelles technologies : big data, analytique ou intelligence artificielle. La coexistence avec ce dernier pose quelques questions. Parmi celles-ci, la problématique du consentement est importante.

Le consentement, l'épouvantail de l’IA ?

En effet, le règlement européen impose des obligations précises en matière de consentement sur le profilage et l’utilisation des solutions analytiques : le consentement doit être éclairé, consigner et présenter aux auditeurs les détails sur l’usage du profilage, la possibilité d’enlever le consentement d’un algorithme, exiger que le jugement humain soit intégré dans chaque profilage, etc. A chacune de ces exigences, les entreprises doivent réfléchir à comment gérer le consentement au sein de leurs solutions d’intelligence artificielle. Certains analystes estiment que cette question du consentement pourrait devenir un « serial killer » de l’IA.

Pas évident tant le traitement des données est souvent fait très rapidement. Traduire une phrase depuis un smartphone, poster une photo sur un réseau social ou sur un site d’annonces, parler à une enceinte connectée, sont autant d’actions quotidiennes s’appuyant sur des algorithmes de machine ou de deep learning et ne réclamant aucun consentement explicite. Or les articles 13, 14, 15 et 22 fixent une règle : ne pas être soumis à une décision uniquement fondée sur un traitement automatisé, sauf exceptions. Et même ces exceptions doivent fournir des « informations significatives » sur « la logique appliquée » à la prise de décision automatisée.

Un droit à l’explication des algorithmes vs une éthique de l’IA

Ce droit à l’explication, inscrit dans le RGPD, devient un sujet épineux pour le monde de l’intelligence artificielle. Au nom de la transparence, les sociétés utilisant de l’IA vont être obligées de vulgariser le processus de leurs algorithmes. Mounir Majhoubi, secrétaire d’Etat en charge du numérique a expliqué à l’Assemblée Nationale, « si un algorithme ne peut pas être expliqué, il ne peut pas être utilisé dans le service public ». On se souvient des affres du système APB de l’Education Nationale pour orienter les lycéens dans les établissements d’enseignements supérieurs et de justifier les process de l'algorithme.

D’autres activités vont être soumises à ces contraintes. Les assureurs par exemple vont devoir expliquer comment un algorithme discrimine les assurés en fonction de leur conduite, de leur sinistralité passée, de leur âge par rapport à un autre assuré. L’IA pose donc des défis éthiques et sociétaux et il n’est pas sûr que les entreprises soient le meilleur échelon pour régler cette question. La Commission européenne a mis en place un groupe de travail sur ce sujet et il a constaté un « patchwork de diverses initiatives » et milite pour la création d’une action coordonnée et d’un cadre pour une IA éthique. Le RGPD rénove une directive de 23 ans, l'IA bouscule les différents exigences de cette réglementation. L'Union européenne va devoir aménager, rééquilibrer ces contraintes pour prétendre devenir un champion de l'IA. Les Etats-Unis et la Chine auront certainement moins de scrupules...

Dernière modification le lundi, 12 mars 2018 15:47
Connectez-vous pour commenter

ABONNEMENT NEWSLETTER

LE MAGAZINE IT FOR BUSINESS

Découvrir

Créer votre compte

S'abonner


Pour toute question, merci de nous contacter

NOUS SUIVRE

AGENDA

Aucun événement