Connexion de votre agent IA à un LLM hébergé dans le cloud
Connexion de votre agent IA à un LLM hébergé dans le cloud

Auteur: Google Cloud Tech – Durée: 00:03:18
Cette vidéo montre comment connecter votre agent IA, construit avec l'Agent Development Kit (ADK), à un puissant modèle LLM (Large Language Model) accéléré par GPU hébergé sur Google Cloud Run. Faisant suite à notre épisode précédent dans lequel nous avons déployé Gemma, cet article montre comment découpler votre « cerveau » LLM de votre agent pour une mise à l'échelle indépendante. Nous vous guiderons à travers le code « agent.py », l'utilisation de LiteLlm pour les interfaces de modèles unifiées et le déploiement du service d'agent ADK léger. Découvrez comment les variables d'environnement facilitent une communication transparente entre ces services, donnant ainsi vie à votre agent IA. Chapitres : 0:00 – Introduction : Connecter l'agent à LLM 0:53 – Construire l'agent : `agent.py` et LiteLlm 1:06 – Configurer le paramètre du modèle d'agent 1:35 – Déployer le service de l'agent ADK 1:58 – Communication agent-LLM via les variables d'environnement 2:16 – Test de l'agent IA dans l'interface utilisateur Web 2:52 – Conclusion Ressources : Codelab → http://goo.gle/475sUpV
Dépôt GitHub → http://goo.gle/3KJVc1Y
GPU Google Cloud Run → http://goo.gle/48sn3NV
Documentation ADK → http://goo.gle/3LauFL8
Abonnez-vous à Google Cloud Tech → https://goo.gle/GoogleCloudTech
#GoogleCloud #LLM #CloudRun #ADK Intervenants : Produits Amit Maraj mentionnés : GPU Cloud, Cloud Run
Traduit en français à partir de cette source






