NeMo Guardrails est une boîte à outils open source innovante conçue pour ajouter des garde-corps programmables aux applications conversationnelles basées sur le Large Language Model (LLM). Il offre aux développeurs un moyen de contrôler et de guider la sortie des LLM, garantissant des interactions plus sûres et plus fiables. Grâce à sa prise en charge de plusieurs LLM et d’une gamme de types de garde-corps, NeMo Guardrails permet aux utilisateurs de créer des applications à la fois réactives et sécurisées.

Principales caractéristiques:

1. Garde-corps personnalisables : définissez des règles spécifiques pour le comportement de votre LLM, comme éviter certains sujets ou suivre des chemins de conversation prédéfinis.
2. Intégration transparente : connectez votre LLM à d’autres services et outils en toute sécurité, améliorant ainsi les capacités de l’application.
3. Dialogues contrôlables : orientez les conversations avec des flux prédéfinis, en garantissant le respect des meilleures pratiques de conception de conversation.
4. Protection contre les vulnérabilités : mettez en œuvre des mécanismes pour vous protéger contre les vulnérabilités LLM courantes, comme les jailbreaks et les injections rapides.
5. Prise en charge linguistique : compatible avec divers LLM, notamment OpenAI GPT-3.5, GPT-4, LLaMa-2, Falcon, Vicuna et Mosaic.

Cas d’utilisation :

• Génération augmentée de récupération : appliquez la vérification des faits et la modération dans les systèmes de questions-réponses.
• Assistants spécifiques au domaine : assurez-vous que les chatbots restent sur le sujet et suivent les flux de conversation conçus.
• Points de terminaison LLM : ajoutez des garde-corps aux LLM personnalisés pour des interactions client plus sûres.
• Chaînes LangChain : intégrez des garde-corps à LangChain pour un contrôle et une sécurité améliorés.