À Ignite 2023, Microsoft entame déjà l’industrialisation de l’IA générative

Microsoft célèbre l’entrée des entreprises dans l’ère des Copilotes. C’est ainsi que l’on pourrait résumer l’esprit de cette édition 2023 de la conférence “Ignite”. Un évènement qui permet de mesurer la progression fulgurante de l’IA générative : Il aura fallu 10 mois à l’éditeur pour passer de l’expérimentation à l’industrialisation de l’IA. Explications et décryptage des annonces IA…

Microsoft a ouvert hier soir sa grande messe « Ignite 2023 » dédiée à ses clients entreprises. Et forcément, l’IA y tient une place de prédilection. Pour vous donner une idée, le livret Presse de l’événement, qui fait quand même 80 pages d’annonces, comporte plus de 210 fois le mot « IA » et plus de 280 fois le mot « Copilot ». À titre de comparaison, Windows n’est présent que 63 fois.

Cette annecdote n’est pas anodine. Microsoft a débuté depuis le début de l’année 2023 une totale réinvention de son identité et de ses business. Elle a fait de l’IA une force de transformation et un pilier de son futur.

Il est d’ailleurs assez époustouflant de voir comment l’IA générative a progressé en moins d’un an que ce soit chez Microsoft, ou chez OpenAI. En 10 mois, nous sommes passés d’IA bluffante dans leur capacité de manier les langues mais très affabulatrices et aux raisonnements peu justes à des intelligences créatives et multimodales aux capacités de raisonnement et d’analyse qui surpassent tout ce que l’on pouvait imaginer il y a encore un an. Après tout, personne ne parlait d’IA générative lors d’Ignite 2022, et la conférence entrevoyait plus le métavers comme une technologie transformatrice que le potentiel alors encore méconnu du ML.

Le chemin parcouru entre les conférences « Ignite 2022 » et « Ignite 2023 » montre à quel point l’IA générative porte bien son nom de révolution. Expérimentée depuis le début de l’année sous différentes formes par les éditeurs, par les développeurs, par les entreprises et leurs collaborateurs, elle atteint déjà un nouveau stade. À Ignite 2023, Microsoft a cessé de jouer avec les IA pour entrer dans une véritable phase d’industrialisation de ses usages et de son adoption.

Il aura finalement fallu moins d’un an à Microsoft pour imaginer et construire le pilier de sa prochaine décennie de croissance. Et ce dernier porte un nom « Copilot »… Il sera à n’en pas douter aussi essentiel que Windows, Office ou Azure.

Unifier et consolider

Preuve en est, l’exercice d’unification et de renommage auquel s’est livré l’éditeur. Exit « Bing Chat » et « Bing Chat Entreprise ». Exit aussi « Microsoft 365 Copilot », remplacé par « Copilot for Microsoft 365 ». Désormais « Microsoft Copilot » est la marque sur laquelle repose toute la stratégie du groupe.

Bing Chat, Bing Chat Entreprise, Business Chat, Windows Copilot, Edge Copilot disparaissent pour ne plus être qu’une seule fondation « Microsoft Copilot » – par ailleurs gratuite – sur laquelle reposent des offres plus élaborées, plus intégrées aux solutions et aux processus. Des offres désormais dénommées « Copilot for Microsoft 365 », « Copilot for Sales », « Copilot for Services », « Copilot for Security », « Copilot for Azure », « » etc.

Pour concrétiser cette réalité, Microsoft propose désormais une Web App, façon ChatGPT ou Bard, pour discuter avec Microsoft Copilot. Au passage, on notera que Microsoft est désormais suffisamment en confiance avec son IA. Elle sortira officiellement de « Preview » le 1^er décembre ! Elle est librement accessible depuis l’URL : https://copilot.microsoft.com

Si vous vous y connectez avec un compte Microsoft 365, le service basculera automatiquement en mode « Protégé » pour reprendre le fonctionnement de l’éphémère « Bing Chat Entreprise » qui garantit la protection et la confidentialité des échanges avec l’IA et l’assurance que les informations échangées ne seront pas exploitées par Microsoft notamment pour les futurs apprentissages de ses IA.

Avec ce renommage, l’éditeur structure ainsi clairement sa stratégie et son offre tout en pavant le chemin d’une industrialisation de l’IA générative au sein même de Microsoft comme chez ses clients.

Toutes les annonces IA de cet Ignite n’étaient pas tant « regardez donc ce que l’IA peut faire » (chacun en a eu un aperçu tout au long de l’année) mais plutôt « voici les outils qui vont permettre à chacun d’améliorer sa productivité et aux entreprises de personnaliser et déployer à l’échelle les IA dont elles ont besoin, simplement, de façon sécurisée et industrialisée ».

Copilot Studio

Et rien n’illustre mieux cette stratégie que ce qui restera sans doute comme la grande annonce de cette conférence 2023 : Copilot Studio.

Cette Web App intégrée dans l’offre « Copilot for Microsoft 365 » est un outil « No Code » pour permettre à tout un chacun de personnaliser « Copilot for Microsoft 365 » à ses besoins et données, mais aussi de créer sa propre IA conversationnelle (façon GPTs d’OpenAI), sa propre automatisation de tâches, son propre Plug-In pour Copilot, ou même un agent IA (avec des réponses et procédures inspirées par des règles bien définies et adoptant un comportement prévisible et reproductible).

Copilot Studio combine à la fois les Plugins et GPTs d’OpenAI, l’outil visuel Power Virtual Agents, la connaissance du Microsoft Graph, et une multitude de connecteurs pour brancher l’IA non seulement aux services Azure et aux services IA d’Azure (Azure Cognitive Services, Azure OpenAI Services, Azure AI Studio, etc.) mais aussi à la plateforme Power Platform et à toutes les sources d’information des entreprises ainsi qu’aux services Web les plus connus (SAP, ServiceNow, Workday, …).

Microsoft explique ainsi que « vous pouvez utiliser l’interface graphique No-Code ou le langage naturel pour construire votre copilote. Copilot Studio vous aidera à affiner de manière itérative la conception de la conversation. L’outil offre un grand nombre de fonctionnalités pour rationaliser le développement de solutions, y compris les commentaires collaboratifs, la multi-création graphique et les revues de code en « side by side ». Copilot Studio offre plusieurs fonctionnalités avancées pour améliorer les réponses à l’aide de l’IA générative, au travers notamment de réponses affinées sur des ensembles de données spécifiques, des plugins enchaînés dynamiquement, des réponses génératives, la construction d’invites et la personnalisation d’invites ».

Copilot Studio veut ainsi faciliter l’utilisation et la personnalisation des IA génératives pour les besoins de l’entreprise. Les IA personnalisées qui en découlent peuvent être aisément partagées en interne comme en externe en spécifiant qui peut ou non y accéder.

Copilot Studio est doté d’une poste de pilotage centralisé de gouvernance, de contrôle et de surveillance qui permettent au service informatique de surveiller et d’analyser de manière centralisée les utilisations de ces IA personnalisées. Le tableau de bord affiche les copilotes personnalisés en cours de création, ceux partagés et leurs auteurs. Le service informatique dispose d’une visibilité et d’un contrôle complets tout au long du cycle de vie grâce à ce tableau de bord analytique intégré. Les administrateurs peuvent contrôler l’accès des créateurs et des utilisateurs, sécuriser les données à l’aide de politiques spécifiques à l’entreprise et gérer les environnements, le tout depuis le centre d’administration de Microsoft 365.

Industrialiser la production et l’utilisation des modèles

De la plateforme de données à l’exploitation des IA dans les applications métiers, en passant par la mise à disposition de modèles, leurs personnalisations, leurs déploiements à grande échelle, Microsoft restructure toute son offre.

Nous ne nous attarderons pas ici sur la Microsoft Fabric qui est entrée en « GA » à l’occasion d’Ignite. Avec sa fondation OneLake, elle s’impose comme une brique essentielle dans l’industrialisation de l’analyse de données, de la data science et de l’IA au sein des entreprises. Car, plus les données sont gouvernées et de qualité, plus les IA deviennent pertinentes.  Nous reviendrons ultérieurement sur les annonces « Data » et « Data Cloud » d’Ignite 2023.

En revanche la galaxie « Azure AI Services » mérite que l’on s’y attarde un peu plus. Elle comporte des briques largement dévoilées à l’occasion de Microsoft Build 2023 et Microsoft Inspire 2023 mais qui s’enrichissent encore et gagnent en maturité.

Azure OpenAI Service

La plus célèbre d’entre elles est sans aucun doute « Azure OpenAI Service » qui permet de déployer les très réputés et appréciés modèles d’OpenAI dans vos propres tenants Azure afin de conserver un contrôle total des données, des IA et des usages.
Microsoft a confirmé l’arrivée en décembre du nouveau modèle GPT-4 Turbo (avec sa fenêtre contextuelle de 128 000 Tokens et sa base de formation actualisée à Août 2023). Le modèle multimodal « GPT-4 Turbo with Vision » sera également disponible en décembre mais encore estampillé d’un « Preview ». Les fonctions « Bing Search » et « Advanced Data Analytics » de GPT-4 sont également accessibles.
Autre arrivée de modèles, celles de GPT 3.5 Turbo 16K et de DALL-E 3.
On notera aussi au passage que la garantie de couverture de toute accusation pour violation de copyright a été étendue à Azure OpenAI Service.

Cognitive Services

De multiples améliorations ont aussi été annoncées dans les briques « Azure Cognitive Services » notamment du côté :
– de la Vision : contrôle de la réalité des visages dans les API de reconnaissance des visages, nouveau modèle Image Analyses 4.0 à l’OCR amélioré, nouveau modèle Florence pour les usages industriels ;
– de l’analyse de texte : nouvelle API de génération de résumés, nouveau modèle de traduction, système Personal Voice pour obtenir une voix « Text-To-Speech » personnalisée, avatars Text-To-Speech  ;
– de la vidéo : avec l’introduction d’une fonction « Video-To-Text Summary » pour extraire un résumé d’une vidéo et d’une fonction « Efficient Video Content Search » pour transformer toute vidéo en un contenu indexable et recherchable.
– de la recherche avec la « GA » de deux annonces « Inspire 2023 » : Vector Search et Semantic Ranker.

Azure AI Studio

Mais la brique qui doit retenir toute votre attention n’est autre que « Azure AI Studio ». Bien des observateurs reprochaient à Microsoft la relative complexité d’Azure ML Studio et le manque d’intégration et de fluidité comme peut en offrir le fameux Vertex AI de Google Cloud pour toutes les tâches MLOps et LLMOps. Pour le dire un peu crument, bien des DSI rencontrés ces dernières semaines ont choisi la Gen AI de Google Cloud pour la simplicité et souplesse de Vertex AI tout en regrettant de ne pas pouvoir profiter des modèles d’OpenAI, simplement parce que Microsoft n’offrait pas cette souplesse et convivialité. Azure AI Studio vient donc contrer Vertex AI en offrant la convivialité et souplesse recherchée tout en proposant la supériorité des modèles d’OpenAI.

Dit autrement, Azure AI Studio est la brique qui manquait à Azure pour réellement rationaliser les opérations IA Génératives sur le cloud et permettre à toute entreprise d’associer leurs données aux grands modèles du moment (dont ceux d’OpenAI). Annoncée lors de la Build, cette brique est donc enfin accessible avec ses modèles propriétaires et open source, la multiplicité des sources de données, une fonction RAG (pour combiner LLM et documents de l’entreprise) et l’intégration d’Azure AI Search.

Industrialiser l’IA dans les métiers de l’entreprise

Autre évolution de la stratégie de Microsoft, il ne suffit pas de mettre du Copilot dans tous les produits. Il faut s’intéresser plus fortement à leur intégration dans les processus et dans les métiers.

Cela passe bien sûr par rajouter toujours plus d’IA Copilot dans des outils comme Teams, Outlook, Word, Excel et PowerPoint. Microsoft a d’ailleurs fait plusieurs annonces à ce sujet, nous y reviendrons dans un prochain article. L’idée est que l’IA prenne un peu plus votre place dans certaines réunions ou dans le traitement de vos emails par exemple. Vous avez sans doute mieux à faire…

Cela passe aussi par l’introduction de nouveaux Copilots comme « Copilot for Service » et « Copilot for Sales ». Le premier se veut un assistant des agents des centres de contact totalement ancrés sur les données clients et les bases de connaissance de l’entreprise. Le second veut aider les commerciaux à préparer leurs réunions clients en créant des documents personnalisés.

Il faut noter que « Copilot for Sales » n’est pas attaché à Dynamics 365 mais s’accompagne d’une licence « Copilot for Microsoft 365 ». C’est donc bien une nouvelle offre et source de revenus pour l’éditeur.

Industrialiser l’IA dans les datacenters de Microsoft

Enfin la dernière grosse annonce « IA » de cet Ignite est à chercher au cœur des infrastructures IA. On sait que les IA sont très consommatrices de puissance et d’énergie. Elles vont à l’inverse de la recherche de sobriété numérique à laquelle aspire aussi Microsoft que ses clients. Soigner l’empreinte de l’IA est un sujet majeur pour les hyperscalers qui cherchent tous une neutralité carbone à l’horizon 2030.

Mais, Microsoft et OpenAI ont un autre sujet de préoccupation : le manque de disponibilité de GPU sur le marché et le coût de ces GPU.

Avant Microsoft, Google et Amazon avaient déjà fait le calcul. Dans un tel contexte, autant créer ses propres puces. Google a développé ses TPU (désormais en génération 5), AWS a développé ses processeurs ARM (Graviton, désormais en v3) mais aussi ses accélérateurs d’entraînement d’IA (chip Trainium) et d’inférence IA (Inferentia et Inferentia 2).

Microsoft s’est aussi convertie à cet exercice. À l’occasion d’Ignite 2023, l’hyperscaler a révélé l’intégration prochaine de ses premières véritables puces « maison » (jusqu’ici, Azure utilisait des FPGA personnalisés à ses fins). Le premier, Cobalt 100, est un processeur ARM à 128 cœurs qui – selon les éléments donnés par Microsoft – serait 40% plus efficient que les processeurs « Ampere Computing » utilisés jusqu’ici par Azure.

Le second, Maia 100, est un accélérateur IA spécialement conçu pour optimiser ses propres infrastructures matérielles et pour apporter un vrai coup de boost aux inférences des IA Copilot et de celles d’OpenAI. Selon l’hyperscaler, avec 105 milliards de transistors, c’est l’une des plus grandes puces jamais construites en technologie 5 nm. Elle est aussi moins énergivore que les GPU du marché utilisés en IA.

Il y a encore beaucoup à dire de la pluie d’annonces qui accompagne cet Ignite 2023. Entre les nouveautés Azure, les nouveautés Windows, les nouveautés développeurs, il y a beaucoup de technologies et nouveaux produits à ingurgiter. Nous reviendrons sur les annonces que les DSI doivent en retenir la semaine prochaine après avoir pris le temps de remettre tout ça en perspective.

---

L’IA change le quotidien en entreprise

Après plusieurs mois d’exploitation en preview de « Copilot for Microsoft 365 » auprès de clients triés sur le volet, l’éditeur s’est livré à une petite enquête pour déterminer l’impact de l’IA générative sur la productivité des collaborateurs. Il en résulte que :

>> 70 % des utilisateurs de Copilot ont déclaré qu’ils étaient plus productifs et 68 % qu’ils avaient amélioré la qualité de leur travail ; 68 % ont déclaré que Copilot avait contribué à relancer le processus créatif.

>> Dans l’ensemble, les utilisateurs ont gagné 29 % de temps dans l’exécution de tâches spécifiques (recherche, rédaction et résumé).

>> Les utilisateurs ont rattrapé une réunion manquée presque quatre fois plus vite.

>> 64 % des utilisateurs ont déclaré que Copilot les aidait à passer moins de temps à traiter les courriels.

>> 87% des utilisateurs ont déclaré que Copilot leur permettait de démarrer plus facilement un nouveau projet.

>> 75% des utilisateurs ont déclaré que Copilot “me fait gagner du temps en me permettant de trouver ce dont j’ai besoin dans mes fichiers“.

>> 77% des utilisateurs disent qu’une fois qu’ils ont utilisé Copilot, ils ne veulent plus s’en passer.

Bien évidemment, il faudra des enquêtes plus approfondies et surtout plus autonomes pour se forger une idée de l’impact réel des IA génératives. Mais de telles enquêtes sont pour l’instant peu utiles, tant les IA évoluent à un rythme effréné et temps qu’elles ne sont pas encore intégrées aux processus et aux outils de tous.

---

À LIRE AUSSI :

Cloud

Microsoft Build 2023 : les 33 annonces qu’il ne fallait pas manquer…

Laurent Delattre

12 Juin

À LIRE AUSSI :

Cloud

Microsoft Inspire 2023 : ce que les DSI doivent en retenir…

Laurent Delattre

4 Août