L’accélération de l’adoption de l’intelligence artificielle dans les entreprises fait naître de nouvelles exigences en matière d’éthique et de responsabilité. Levier de création de valeur, cette technologie pose avec plus d’acuité que jamais des questions de justice et d’équité, autour de la gouvernance des données ou encore du respect de la vie privée.

Par Antoine Gourévitch, Directeur associé senior, BCG
et Camille Brégé, Directrice générale, BCG Gamma France

Sans inspirer confiance aux utilisateurs, les technologies IA avancées ne pourront pas s’imposer. Une soixantaine de « chartes » publiées par des organisations inter-gouvernementales, des États ou des acteurs privés traduisent cette prise de conscience collective. Dans les entreprises, le sujet s’impose également, suscitant la création de groupes de travail ou la nomination d’un chef de projet dédié à l’IA responsable.

Mais cela ne suffit pas. Pour avoir un véritable impact et l’inscrire durablement dans les process de développement des systèmes d’IA, il est essentiel de mettre en œuvre des actions concrètes. Seule une démarche structurée et opérationnelle peut adresser les enjeux éthiques soulevés par l’IA, améliorer la performance, mais aussi soutenir la politique RSE globale de l’entreprise. Or, selon une de nos dernières enquêtes, moins de la moitié des entreprises interrogées se sont appuyées sur un programme d’IA responsable, 55 % d’entre elles surestiment leur maturité en la matière, et seules 21 % sont leaders sur le sujet.

Adopter une IA responsable implique un changement culturel à tous les niveaux de l’organisation. Placé au cœur de l’innovation et du développement de ses applications business, le responsable produit est un des acteurs clés de cette transformation. Au plus près des équipes de production, il joue un rôle crucial dans l’adoption d’approches respectueuses des sept critères d’une IA responsable (responsabilité ; environnement ; transparence ; justice et équité ; gouvernance et respect de la vie privée ; sûreté et sécurité ; combinaison entre IA et intelligence humaine).

Pour les accompagner dans cette mission, nous avons élaboré, en partenariat avec Microsoft, une feuille de route structurée autour de dix recommandations qui couvrent les principaux enjeux de l’IA responsable rencontrés au cours du process de conception et de développement des produits. Il ne s’agit pas d’une checklist de conformité, mais d’un guide suscitant des questions et invitant les équipes à trouver, grâce à l’IA, des synergies optimales entre la performance et le respect des valeurs. Il a été conçu autour des trois principales phases du cycle de vie d’un produit d’IA : l’étude d’opportunité et la préparation ; la conception et la documentation ; la validation du projet et la communication à destination de l’utilisateur final. À chacune de ces étapes, une série de questions permet au manager de questionner ses équipes, d’encourager la discussion sur des points sensibles et de les résoudre. Nous avons également nourri ce guide d’exemples concrets issus de notre expérience auprès de nos clients.

Ainsi, pour la première phase de développement, le guide pose les questions à se poser pour mesurer l’opportunité du projet, identifier les compétences multidisciplinaires nécessaires à la constitution de l’équipe ou encore évaluer l’impact et les risques en matière de RSE. En suivant pas à pas ces différentes interrogations, un établissement financier a mis en lumière l’existence de nouveaux prospects et la nécessité de faire appel à des experts très spécialisés. Au cours de la phase de conception d’un outil d’IA de gestion des stocks, une grande chaîne de magasins de mode a ainsi pu enrichir son modèle avec une solution d’optimisation entre l’empreinte carbone du transport et les niveaux d’inventaire en temps réel.

L’adoption d’une IA responsable, condition nécessaire à son déploiement durable, exige une collaboration entre gouvernements, représentants de la société civile, et industriels. Au niveau de l’entreprise, les responsables produits ont un rôle déterminant à jouer dans la diffusion d’une culture, d’une méthode de travail et de solutions tournées vers l’IA responsable.


À lire également :

Les “données synthétiques” : primordiales pour la nouvelle ère de l’IA

Les DSI réaffirment leur rôle dans l’évolution de la mise en production de l’IA en entreprise

« Pour que l’IA soit explicable, elle doit parler le même vocabulaire que les experts qu’elle renseigne… »

Les enjeux des CDO et DSI en 2022 : intégrer pleinement l’IA dans les Schémas Directeurs

À la Build 2022, Microsoft démontre comment l’IA va révolutionner le développement

Explicabilité : un atout pour améliorer les relations entre l’humain et l’IA