Communiqué d’OpenAI:

Il y a un variété de techniques que les développeurs peuvent utiliser pour augmenter les performances des modèles dans le but de réduire la latence, d’améliorer la précision et de réduire les coûts. Qu’il s’agisse d’étendre les connaissances du modèle avec la génération augmentée par récupération (RAG), de personnaliser le comportement d’un modèle avec un réglage fin ou de créer un modèle personnalisé avec de nouvelles connaissances spécifiques au domaine, nous avons développé une gamme d’options pour prendre en charge l’IA de nos clients. mises en œuvre. Aujourd’hui, nous lançons de nouvelles fonctionnalités pour donner aux développeurs plus de contrôle sur le réglage précis de l’API et introduisons davantage de façons de travailler avec notre équipe d’experts en IA et de chercheurs pour créer des modèles personnalisés.

Nouvelles fonctionnalités d’API de réglage fin

Nous avons lancé l’API de réglage fin en libre-service pour GPT-3.5 en août 2023. Depuis lors, des milliers d’organisations ont formé des centaines de milliers de modèles à l’aide de notre API. Un réglage précis peut aider les modèles à comprendre en profondeur le contenu et à augmenter les connaissances et les capacités existantes d’un modèle pour une tâche spécifique. Notre API de réglage fin prend également en charge un plus grand nombre d’exemples que ce qui peut tenir dans une seule invite pour obtenir des résultats de meilleure qualité tout en réduisant les coûts et la latence. Certains des cas d’utilisation courants de réglage fin incluent la formation d’un modèle pour générer un meilleur code dans un langage de programmation particulier, pour résumer du texte dans un format spécifique ou pour créer un contenu personnalisé basé sur le comportement de l’utilisateur.

Par exemple, Indeed, une plateforme mondiale de mise en relation d’emploi et de recrutement, souhaite simplifier le processus de recrutement. Dans ce cadre, Indeed a lancé une fonctionnalité qui envoie des recommandations personnalisées aux demandeurs d’emploi, mettant en évidence les emplois pertinents en fonction de leurs compétences, de leur expérience et de leurs préférences. Ils ont affiné GPT-3.5 Turbo pour générer des explications de meilleure qualité et plus précises. En conséquence, Indeed a pu améliorer le coût et la latence en réduisant de 80 % le nombre de jetons en invite. Cela leur a permis de passer de moins d’un million de messages par mois aux demandeurs d’emploi à environ 20 millions.

Aujourd’hui, nous introduisons de nouvelles fonctionnalités pour donner aux développeurs encore plus de contrôle sur leurs tâches de réglage, notamment :

Création de points de contrôle basés sur l’époque : produisez automatiquement un point de contrôle de modèle entièrement affiné au cours de chaque époque d’entraînement, ce qui réduit le besoin de recyclage ultérieur, en particulier dans les cas de surajustement. Comparatif Playground : une nouvelle interface utilisateur Playground côte à côte pour comparer la qualité du modèle et performances, permettant une évaluation humaine des sorties de plusieurs modèles ou d’affiner les instantanés par rapport à une seule invite. Intégration tierce : prise en charge des intégrations avec des plates-formes tierces (à partir de Pondérations et biais cette semaine) pour permettre aux développeurs de partager des données de réglage détaillées avec le reste de leur pile. Métriques de validation complètes : la possibilité de calculer des métriques telles que la perte et la précision sur l’ensemble des données de validation au lieu d’un lot échantillonné, offrant ainsi un meilleur aperçu de la qualité du modèle. Configuration des hyperparamètres : le possibilité de configurer les hyperparamètres disponibles à partir du tableau de bord (plutôt que via l’API ou le SDK) Améliorations du tableau de bord de réglage fin : y compris la possibilité de configurer les hyperparamètres, d’afficher des métriques de formation plus détaillées et de réexécuter les tâches à partir de configurations précédentes

Élargir notre programme de modèles personnalisés

Mise au point assistée

Lors du DevDay de novembre dernier, nous avons annoncé un programme de modèles personnalisés conçu pour former et optimiser des modèles pour un domaine spécifique, en partenariat avec un groupe dédié de chercheurs OpenAI. Depuis lors, nous avons rencontré des dizaines de clients pour évaluer leurs besoins en matière de modèles personnalisés et avons fait évoluer notre programme pour optimiser davantage les performances.

Aujourd’hui, nous annonçons officiellement notre offre de réglage fin assisté dans le cadre du programme Modèle personnalisé. Le réglage fin assisté est un effort de collaboration avec nos équipes techniques pour exploiter des techniques au-delà de l’API de réglage fin, telles que des hyperparamètres supplémentaires et diverses méthodes de réglage fin efficace des paramètres (PEFT) à plus grande échelle. Il est particulièrement utile pour les organisations qui ont besoin d’aide pour mettre en place des pipelines de données de formation efficaces, des systèmes d’évaluation et des paramètres et méthodes sur mesure pour maximiser les performances du modèle pour leur cas d’utilisation ou leur tâche.

Par exemple, SK Télécom, un opérateur de télécommunications servant plus de 30 millions d’abonnés en Corée du Sud, souhaitait personnaliser un modèle pour devenir un expert dans le domaine des télécommunications avec un accent initial sur le service client. Ils ont travaillé avec OpenAI pour affiner GPT-4 afin d’améliorer ses performances dans les conversations liées aux télécommunications en coréen. Au cours de plusieurs semaines, SKT et OpenAI ont entraîné une amélioration significative des performances des tâches de service client des télécommunications : une augmentation de 35 % de la qualité du résumé des conversations, une augmentation de 33 % de la précision de la reconnaissance d’intention et une augmentation des scores de satisfaction de 3,6 à 4,5 (sur de 5) en comparant le modèle affiné à GPT-4.

Modèle formé sur mesure

Dans certains cas, les organisations doivent créer à partir de zéro un modèle spécialement conçu qui comprend leur activité, leur secteur d’activité ou leur domaine. Les modèles entièrement formés sur mesure imprègnent de nouvelles connaissances d’un domaine spécifique en modifiant les étapes clés du processus de formation des modèles à l’aide de nouvelles techniques de formation intermédiaire et post-formation. Les organisations qui réussissent avec un modèle entièrement personnalisé disposent souvent de grandes quantités de données propriétaires (des millions d’exemples ou des milliards de jetons) qu’elles souhaitent utiliser pour enseigner au modèle de nouvelles connaissances ou des comportements complexes et uniques pour des cas d’utilisation très spécifiques.

Par exemple, Harvey, un outil juridique natif d’IA destiné aux avocats, s’est associé à OpenAI pour créer un grand modèle de langage personnalisé pour la jurisprudence. Même si les modèles de fondation étaient doués en raisonnement, ils ne possédaient pas une connaissance approfondie de l’histoire des affaires juridiques et d’autres connaissances requises pour le travail juridique. Après avoir testé l’ingénierie rapide, RAG et effectué des réglages précis, Harvey a travaillé avec notre équipe pour ajouter la profondeur de contexte nécessaire au modèle, soit l’équivalent de 10 milliards de jetons de données. Notre équipe a modifié chaque étape du processus de formation du modèle, depuis la formation intermédiaire spécifique au domaine jusqu’à la personnalisation des processus post-formation et l’intégration des commentaires d’avocats experts. Le modèle résultant a permis d’obtenir une augmentation de 83 % des réponses factuelles et les avocats ont préféré les résultats du modèle personnalisé dans 97 % des cas à ceux de GPT-4.

Quelle est la prochaine étape pour la personnalisation du modèle

Nous pensons qu’à l’avenir, la grande majorité des organisations développeront des modèles personnalisés adaptés à leur secteur, leur activité ou leur cas d’utilisation. Grâce à une variété de techniques disponibles pour créer un modèle personnalisé, les organisations de toutes tailles peuvent développer des modèles personnalisés pour obtenir un impact plus significatif et plus spécifique de leurs implémentations d’IA. La clé est de définir clairement le cas d’utilisation, de concevoir et de mettre en œuvre des systèmes d’évaluation, de choisir les bonnes techniques et d’être prêt à itérer au fil du temps pour que le modèle atteigne des performances optimales.

Avec OpenAI, la plupart des organisations peuvent obtenir rapidement des résultats significatifs grâce à l’API de réglage fin en libre-service. Pour toutes les organisations qui ont besoin d’affiner plus profondément leurs modèles ou d’incorporer de nouvelles connaissances spécifiques à un domaine dans le modèle, nos programmes de modèles personnalisés peuvent les aider.

Consultez nos documents de mise au point de l’API pour commencer à peaufiner nos modèles. Pour plus d’informations sur la façon dont nous pouvons vous aider à personnaliser les modèles pour votre cas d’utilisation, contactez-nous.

Lien source