Les grands modèles de langage sont devenus le dernier atout technologique, mais chaque besoin peut être différent.

Depuis l’apparition de ChatGPT, il y a eu un engouement croissant et une réaction négative contre les grands modèles de langage (LLM). En effet, de nombreuses adaptations de la technologie semblent détournées de leur usage initial, et ses capacités sont surestimées, étant donné son manque fréquent de véracité. Cela ne veut pas dire qu’il n’y a pas de nombreux bons usages pour un LLM, mais vous devriez répondre à certaines questions clés avant de vous lancer à fond.

Est-ce qu’un LLM va offrir des réponses aussi bonnes, voire meilleures, que celles d’un être humain ?

Parce que soyons honnêtes, qui aime discuter avec ces chatbots du service client qui ne répondent à aucune question qui ne se trouve pas déjà sur la page d’accueil du site web ? D’un autre côté, parler à une personne du service client qui se contente de lire un script et n’a aucun pouvoir pour aider, c’est tout aussi frustrant. Avant de déployer un LLM, testez s’il est aussi bon, voire meilleur, que le chatbot ou les réponses humaines qu’il remplace.

Quels sont les risques juridiques ?

Dans notre société procédurière, tout nouveau processus ou technologie doit être évalué en fonction de son potentiel de responsabilité légale. Il y a des domaines évidents où il faut être prudent, comme la médecine, le droit ou les finances, mais qu’en est-il d’une réponse générée par un LLM qui oriente les gens vers une politique ou un conseil trompeur, inapproprié, voire pire ? De mauvaises politiques d’entreprise débouchent souvent sur des actions en justice collective. En augmentant l’échelle des interactions avec les clients, un LLM mal formé ou mal encadré pourrait créer encore plus de responsabilités non voulues.

Est-ce qu’un LLM est réellement moins cher ?

Bien sûr, il est facile de mesurer votre abonnement et votre utilisation d’un LLM général comme ChatGPT, mais des systèmes personnalisés plus spécifiques peuvent avoir des coûts plus élevés en dehors de la simple puissance de calcul. Que dire du personnel et de l’infrastructure supplémentaires nécessaires pour entretenir et déboguer le système ? Vous pourriez embaucher pas mal de représentants du service client pour le prix d’un expert en IA. De plus, ChatGPT et des services similaires semblent actuellement subventionnés par des investissements. À un moment donné, ils voudront probablement faire des bénéfices, et vos coûts pourraient alors augmenter. Est-ce que ce LLM est réellement moins cher et le restera-t-il pendant toute la durée de vie de votre système ?

Comment allez-vous assurer sa maintenance ?

La plupart des systèmes de LLM d’entreprise seront entraînés sur des ensembles de données spécifiques. Un inconvénient des réseaux neuronaux sur lesquels reposent les LLM est qu’ils sont notoirement difficiles à déboguer. Alors que la technologie progresse, les LLM pourraient acquérir la capacité de réviser, d’effacer ou de « désapprendre » quelque chose de faux qu’ils ont appris. Mais pour l’instant, désapprendre peut être assez difficile. Quel est votre processus ou procédure pour mettre régulièrement à jour le LLM et éliminer les mauvaises réponses ?

Quel est votre processus de test ?

Un avantage clé d’un LLM est que vous n’avez pas à anticiper chaque permutation possible d’une question pour que le modèle fournisse une réponse crédible. Cependant, le mot « crédible » ne signifie pas correct. Au moins les questions les plus courantes et leurs diverses permutations devraient être testées. Si votre LLM remplace un processus humain ou une machine existante, les questions que les gens posent aujourd’hui seraient un bon ensemble de données pour commencer.

Tout ne sera pas forcément un excellent cas d’utilisation pour les LLM, et il existe de nombreuses preuves que l’enthousiasme dépasse les capacités. Cependant, en mesurant la qualité et l’économie, et en élaborant des procédures de maintenance et de test correctes, vous pouvez faire des LLM un outil précieux dans de nombreux cas d’utilisation différents.