Communiqué d’OpenAI:

Nous travaillons avec de nombreuses entreprises comme Klarna, Morgan Stanley, Oscar, Salesforce et Wix pour les aider à créer des solutions d’IA à partir de zéro et à déployer l’IA en toute sécurité dans leurs organisations et leurs produits. Nous approfondissons notre assistance aux entreprises avec de nouvelles fonctionnalités utiles à la fois aux grandes entreprises et à tous les développeurs qui évoluent rapidement sur notre plateforme.

Sécurité améliorée de niveau entreprise

Nous avons introduit Private Link, une nouvelle façon permettant aux clients d’assurer une communication directe entre Azure et OpenAI tout en minimisant l’exposition à l’Internet ouvert. Nous avons également lancé l’authentification multifacteur (MFA) native pour garantir la conformité aux exigences croissantes en matière de contrôle d’accès. Il s’agit de nouveaux ajouts à notre pile existante de fonctionnalités de sécurité d’entreprise, notamment la certification SOC 2 Type II, l’authentification unique (SSO), le cryptage des données au repos à l’aide d’AES-256 et en transit à l’aide de TLS 1.2, ainsi que des contrôles d’accès basés sur les rôles. Nous proposons également des accords de partenariat commercial pour les entreprises de soins de santé qui exigent la conformité HIPAA et une politique de conservation des données nulle pour les clients API ayant un cas d’utilisation éligible.

Un meilleur contrôle administratif

Grâce à notre nouvelle fonctionnalité Projets, les organisations disposeront d’un contrôle et d’une surveillance plus granulaires sur les projets individuels dans OpenAI. Cela inclut la possibilité d’étendre les rôles et les clés API à des projets spécifiques, de restreindre/autoriser les modèles à rendre disponibles et de définir des limites basées sur l’utilisation et les tarifs pour donner l’accès et éviter les dépassements inattendus. Les propriétaires de projets auront également la possibilité de créer des clés API de compte de service, qui donnent accès aux projets sans être liés à un utilisateur individuel.

Améliorations de l’API des assistants

Nous avons introduit plusieurs mises à jour de l’API Assistants pour une récupération plus précise, une flexibilité autour du comportement du modèle et des outils utilisés pour effectuer les tâches, ainsi qu’un meilleur contrôle des coûts. Ces fonctionnalités incluent :

Récupération améliorée avec « file_search » qui peut ingérer jusqu’à 10 000 fichiers par assistant, soit une multiplication par 500 par rapport à la limite précédente de 20 fichiers. L’outil est plus rapide, prend en charge les requêtes parallèles via des recherches multithread et a amélioré le reclassement et la réécriture des requêtes. prise en charge des réponses conversationnelles en temps réel, l’une des principales demandes des développeurs et des entreprises. Nouveaux objets « vector_store » dans l’API afin que les fichiers puissent être ajoutés à un magasin de vecteurs et automatiquement analysés, fragmentés et intégrés en préparation à la recherche de fichiers. Les magasins de vecteurs peuvent être utilisés entre les assistants et les threads, simplifiant ainsi la gestion et la facturation des fichiers. Contrôlez le nombre maximum de jetons utilisés par exécution, ainsi que les limites des messages précédents et récents utilisés dans chaque exécution, afin que vous puissiez gérer les coûts d’utilisation des jetons. Nouveau ‘tool_choice ‘ pour sélectionner un outil spécifique (comme ‘file_search’, ‘code_interpreter’ ou ‘function’) dans une exécution particulière. Prise en charge des modèles GPT-3.5 Turbo affinés dans l’API (pour commencer, nous prendrons en charge airs de ‘gpt-3.5-turbo-0125’).

Plus d’options pour la gestion des coûts

Pour aider les organisations à faire évoluer leur utilisation de l’IA sans trop étendre leurs budgets, nous avons ajouté deux nouvelles façons de réduire les coûts sur les charges de travail cohérentes et asynchrones :

Utilisation à prix réduit sur le débit engagé : les clients ayant un niveau soutenu d’utilisation de jetons par minute (TPM) sur GPT-4 ou GPT-4 Turbo peuvent demander l’accès au débit provisionné pour obtenir des remises allant de 10 à 50 % en fonction de la taille de l’engagement. .Coûts réduits sur les charges de travail asynchrones : les clients peuvent utiliser notre nouvelle API Batch pour exécuter des charges de travail non urgentes de manière asynchrone. Les requêtes API par lots sont facturées 50 % sur les prix partagés, offrent des limites de débit beaucoup plus élevées et renvoient les résultats dans les 24 heures. Ceci est idéal pour les cas d’utilisation tels que l’évaluation de modèles, la classification hors ligne, la synthèse et la génération de données synthétiques.

Nous prévoyons de continuer à ajouter de nouvelles fonctionnalités axées sur la sécurité de niveau entreprise, les contrôles administratifs et la gestion des coûts. Pour plus d’informations sur ces lancements, visitez notre documentation API ou contactez notre équipe pour discuter de solutions personnalisées pour votre entreprise.

Lien source