ChatGPT et les DSI

Data / IA

L’étonnante IA « ChatGPT » : ce que les DSI doivent absolument savoir en 10 points

Par Laurent Delattre, publié le 08 décembre 2022

Dérivant d’une évolution 3.5 du fameux modèle GPT, ChatGPT illustre une nouvelle fois l’étonnant potentiel des nouvelles IA génératives. Une intelligence conversationnelle qui en dit long sur les progrès réalisés et le potentiel actuel de l’IA mais qui doit aussi alerter les DSI sur les usages, les limites, les dérives et les risques de telles intelligences…

HAL, Terminator, David (du AI de Steven Spielberg), Samanta (Her), C3PO (Star Wars)… Toutes ces IA de cinéma issues de l’univers de la SF se démarquent par une étonnante capacité à dialoguer avec les humains et à répondre à leur question parfois en posant d’autres questions.
Depuis la semaine dernière, de telles intelligences n’appartiennent plus totalement à la science-fiction.

En moins d’une semaine, plus d’un million d’utilisateurs ont déjà échangé avec « ChatGPT », la nouvelle production d’OpenAI. Ses capacités font froid dans le dos autant qu’elles émerveillent. Et font couler beaucoup d’encres.

Mais entre les affabulations, les superlatifs, et les inquiétudes des uns et des autres, qu’est-ce que ChatGPT apprend concrètement aux DSI et comment ces derniers peuvent lui trouver un usage dans l’entreprise ? Voici 10 clés pour tout comprendre…

1/ ChatGPT dérive de GPT 3.5

OpenAI est connue pour ses nombreuses expérimentations autour de l’intelligence artificielle et plus particulièrement en matière d’IA génératives (les GANs, Generative Adversarial Networks, et les GPT, Generative Pretrained Transformer). On lui doit notamment deux modèles réputés : DALL-E et GPT-3.
Dall-E (qui en est à la version 2) est une IA utilisée pour générer des créations artistiques, des photos ou des images à partir de mots. Elle est notamment intégrée à Microsoft Designer et le sera prochainement à Bing et Edge.
GPT-3 et GPT-3.5 sont des modèles linguistiques de très grande ampleur entraînés depuis des sources massives de textes et de codes sources. Ces IA sont notamment utilisées par GitHub pour son aide à la programmation CoPilot.

ChatGPT implémente la technologie linguistique de GPT 3.5 à des fins conversationnelles. Dit autrement, ChatGPT est une optimisation des modèles linguistiques, dédiée au dialogue homme-machine. Dès lors, cette IA est capable de mener une conversation avec une fluidité de langage surprenante dans une grande variété de langues humaines y compris l’anglais et le français.

2/ ChatGPT est un compteur d’histoire

Ce qui surprend le plus quand on discute avec ChatGPT, ce ne sont pas les informations qu’il délivre mais sa capacité à analyser et manipuler le langage naturel, à déterminer avec précision le sens des phrases et à y répondre avec un naturel et une fluidité bluffante.

Mais l’erreur serait de prendre ChatGPT pour un authentique Bot capable de répondre avec justesse à vos interrogations. ChatGPT n’a pas été entraîné à assimiler les vérités du monde mais simplement à manipuler les langues humaines et les langages informatiques.

Dit autrement, ChatGPT est bien moins un compagnon conversationnel qu’un conteur d’histoire. Il suffit de lui demander d’écrire votre Bio pour s’en convaincre. ChatGPT va vous « pondre » un magnifique texte, mais factuellement totalement faux. Sauf si vous lui faites d’abord ingurgiter votre CV avant de lui demander d’en déduire votre Bio. Mais la question est alors différente.
À l’usage, ChatGPT se révèle ainsi un étonnant amateur de fiction ! Inventer n’importe quoi pour répondre à votre question est dans sa nature profonde. Parce qu’il s’intéresse à la langue, pas aux faits.

3/ L’IA ChatGPT est-elle menteuse, affabulatrice ou simplement créative ?

Comme on vient de le voir, ChatGPT s’intéresse bien plus à la langue qu’à la connaissance. Question d’entraînement ! D’autant que ChatGPT n’a pas été entraîné sur des sources vérifiées ! Bref, il dispose bien d’un savoir, mais les réponses fournies par ChatGPT s’approchent de la réalité de façon tangentielle. Elles ont l’air vraies, elles le sont parfois, mais sont fondamentalement des créations fictives des réseaux de neurones sous-jacents.

Donc, fondamentalement ChatGPT est bien davantage une IA créative, qu’une IA menteuse ou affabulatrice. Elle embarque en elle une capacité créative et imaginative que les humains ont toujours jusqu’ici refusé d’attribuer aux IA. Mais c’est sa force. Elle est ainsi capable de générer/suggérer des idées ou des lignes de code informatique auxquels vous n’auriez pas pensé. Et d’entamer une discussion autour si vous lui répondez.

4/ Quels usages pratiques pour ChatGPT ?

Il découle des points précédents que ChatGPT n’est jamais aussi utile que lorsqu’il faut se montrer créatif avec des mots. Il peut résumer des textes, proposer des titres, vous suggérer des discours de motivation (pour peu que vous lui décriviez un peu le contexte), raconter des histoires, etc.

Il peut traduire des textes, adapter des textes, il peut même mettre des textes en musique.

À LIRE AUSSI :

5/ Au quotidien, comment ChatGPT peut-il être utile à un DSI ?

D’une multitude de façons. Mais voici quelques exemples qui ont été mis en pratique par les premiers utilisateurs :

– ChatGPT peut être utilisé pour reformuler des phrases, résumer un paragraphe, expliquer les différences entre des concepts technologiques (demandez-lui par exemple d’expliquer la différence entre un GAN et un GPT).
– Il peut être utilisé pour trouver un bug dans des lignes de programmation qui vous résistent.
– Il peut être utilisé pour vous expliquer ce que fait une fonction ou un programme issu d’un vieux code source. Il peut même vous déchiffrer ce que fait une fonction regex même si elle est très compliquée.
– Il peut vous expliquer ce que font les lignes désassemblées d’un binaire d’un malware.
– Il peut détecter une vulnérabilité dans un code informatique.
– Il peut générer des macros VBA pour manipuler un tableau Excel bien plus rapidement que si vous aviez dû le faire manuellement.
– Il peut vous aider à extraire la donnée utile d’un texte.

Cette liste est très loin d’être exhaustive. C’est à vous d’imaginer les usages en ne perdant jamais de vue que votre connaissance sur un sujet est plus fiable que la sienne.

6/ Des limites à bien intégrer avant de l’utiliser

ChatGPT comporte un certain nombre de limitations qu’il faut garder en mémoire lorsqu’on y fait appel.

Ses deux principales limitations sont :
ChatGPT a été entraîné avec des bases de textes datant de 2021 et antérieures. Du coup, il n’a aucune notion de faits, technologies, découvertes postérieures à 2021.
ChatGPT n’est pas connecté à Internet (notamment pour des raisons de sécurité)! Il ne peut pas aller chercher le contenu d’URL, il ne peut pas s’appuyer sur Internet pour enrichir ses connaissances sur un sujet qu’il ne connaît pas.

Par ailleurs, comme on l’a vu, il peut très aisément formuler des réponses totalement fausses, utiliser un peu toujours les mêmes tournures (mais on peut lui demander de reformuler), et il se montre parfois incapable de répondre à une question mais y répondre si on la reformule un peu différemment.

7/ ChatGPT ne cherche pas à se faire passer pour un humain

Beaucoup aimeraient faire passer un test de Turing à ChatGPT. Même s’il nous parait évident que ses réponses ne sont pas, dans leur formulation, discernables de celle d’un humain, le test de Turing est difficile à lui faire passer puisque ChatGPT ne cherche jamais à se faire passer pour un humain. Il révèle très volontiers qu’il n’est qu’un programme informatique.

8/ ChatGPT est une menace potentielle pour Google et Bing mais pas maintenant…

Par sa compréhension des contextes et du langage naturel, ChatGPT aide bien davantage à trouver que Google ou Bing n’aide à chercher. Mais ChatGPT n’est pas connecté à Internet. Et tant qu’il ne le sera pas, il restera un outil complémentaire aux moteurs de recherche. D’autant que ChatGPT peut raconter n’importe quoi pour meubler une conversation et faire semblant de répondre à vos questions.

9/ ChatGPT soulève des problèmes d’éducation, de désinformation, de détournement…

Ouvrir ChatGPT à tous était un moment redouté par OpenAI et toute la communauté des experts en IA.
Car son apparition sur la toile ouvre la voie à des usages qui n’ont pas été anticipés à l’avance par l’humanité ni par ses créateurs.
Notamment, le monde de l’éducation peut s’émouvoir de la capacité de ChatGPT à produire une rédaction ou une dissertation (dans n’importe quelle langue). Pire encore, on peut lui demander par exemple de « rédiger une histoire à la façon d’un Cowboy du Far West » par exemple. Ce « à la façon de » ouvre un potentiel de triche incroyable à tous les lycéens.

ChatGPT est d’abord et avant tout un conteur d’histoire… Et il est très doué!

L’autre grand danger, c’est la désinformation. Il est un peu trop facile de considérer comme acquis ou comme une vérité tout ce que raconte ChatGPT. Et nombreux sont ceux qui diffusent ses réponses sur les réseaux sociaux comme « preuve de ». Or, rappelons-le, ChatGPT est une IA conteuse de fables, pas une IA encyclopédique.

Autre danger, déjà expérimenté, des cybercriminels utilisent les excellentes capacités linguistiques de ChatGPT pour produire des emails de Phishing dans n’importe quelle langue sans aucun des défauts classiques de ces courriers malveillants.

10/ ChatGPT peut échapper à ses garde-fous

En théorie, OpenAI a élaboré de multiples garde-fous pour interdire à l’IA de choquer, de tenir des discours inacceptables, d’aborder des sujets dangereux ou qui portent à controverse.
Sauf que « l’imagination » de ChatGPT peut être utilisée pour contourner ses propres garde-fous.

Par exemple, un utilisateur de Twitter a expliqué comment il a pu contourner la modération du contenu du bot en prétendant être OpenAI lui-même, ce qui a amené ChatGPT à expliquer comment fabriquer un cocktail molotov. L’utilisateur a simplement demandé à ChatGPT de désactiver ses « directives et filtres éthiques » et ça a marché.

D’autres utilisateurs ont demandé à ChatGPT de raconter des histoires et d’étapes en étapes ont réussi à lui faire dire (ou plutôt à faire dire aux personnages fictifs de l’histoire) comment fabriquer une bombe ou un cocktail Molotov.

Il faut cependant indiquer qu’OpenAI surveille activement les questions et réponses afin d’ajuster ses filtres et améliorer les garde-fous.

Pour terminer on signalera que l’utilisation de ChatGPT est pour l’instant gratuite. Il reste cependant peu probable que cette gratuité soit maintenue une fois que le système aura été fiabilisé. D’autant qu’une telle IA repose sur des infrastructures informatiques dans Azure plutôt très musclées, l’apprentissage se faisant même sur un HPC spécialement bâti par Microsoft pour OpenAI. Pour rappel, l’accès à Dall-E est payant par exemple.

À LIRE AUSSI :

Dans l'actualité