Auteur: OpenAI  –  Durée: 00:37:27

Plus l’IA peut faire, plus nous devons nous demander ce qu’elle devrait et ne devrait pas faire. Dans cet épisode, Jason Wolfe, chercheur à OpenAI, rejoint l'animateur Andrew Mayne pour parler du Model Spec, le cadre public qui définit le comportement prévu du modèle. Ils expliquent comment la Model Spec fonctionne dans la pratique, notamment comment la chaîne de commandement gère les conflits entre les instructions et comment OpenAI la fait évoluer en fonction des commentaires, de l'utilisation dans le monde réel et des nouvelles capacités du modèle. En savoir plus sur notre approche de la spécification du modèle : https://openai.com/index/our-approach-to-the-model-spec/

Chapitres 00:00 Introduction 01:10 Qu'est-ce que les spécifications du modèle ? 03:55 Comment fonctionne le Model Spec en pratique ? 06:26 Transparence : où lire les spécifications du modèle et donner leur avis 07:51 Comment est née la spécification du modèle ? 10:02 Comment la spécification se traduit-elle dans le comportement du modèle ? 11:26 Quelle est la hiérarchie/chaîne de commandement ? 13:35 Gérer les cas extrêmes comme le Père Noël 17:41 Comment le Model Spec évolue-t-il au fil du temps ? 19:59 Que se passe-t-il lorsque les modèles ne sont pas d'accord avec les spécifications ? 22:05 Comment les modèles plus petits suivent-ils les spécifications ? 23:16 La chaîne de pensée est-elle utile pour l'alignement ? 24:16 Modèle Spec vs Constitution d'Anthropic 26:28 Qu'est-ce qui vous a le plus surpris ? 26:56 Comment définissez-vous la portée de la spécification ? 27:44 Quel est l'avenir du Model Spec ? 31:16 Comment les développeurs devraient-ils penser à la spécification ? 34:44 Les lois d'Asimov par rapport aux spécifications du modèle 37:16 L'IA pourrait-elle écrire une spécification humaine ?

Traduit en français à partir de cette source