Groq a développé des puces d’IA, appelées LPU, qui sont conçues pour surpasser les performances des GPUs de Nvidia, les puces graphiques reconnues comme la norme industrielle pour l’IA. Ces LPU sont conçues pour offrir des vitesses supérieures et pourraient révolutionner l’exécution de modèles d’IA.

Les démonstrations de Groq ont montré des performances ultra-rapides qui ont dépassé les capacités des chatbots existants tels que ChatGPT, Gemini, et Grok. Ces performances rapides pourraient ouvrir de nouveaux cas d’utilisation pratique dans le monde réel pour les chatbots IA.

Les tests tiers ont révélé que Groq produit 247 jetons/seconde, soit plus de 13 fois plus rapide que Microsoft. Cela suggère que les chatbots tels que ChatGPT pourraient fonctionner considérablement plus rapidement avec les puces de Groq.

Les vitesses supérieures offertes par les puces de Groq pourraient améliorer la vitesse des chatbots IA existants comme ChatGPT, Gemini et Grok, et ouvrir de nouvelles possibilités pour des conversations en temps réel avec ces chatbots.

Bien que Groq suscite beaucoup de buzz, il reste à voir si ses puces IA ont la même évolutivité que les GPU de Nvidia ou les TPU de Google. Les puces IA sont aujourd’hui une priorité majeure pour le PDG d’OpenAI, Sam Altman, qui envisage même de les construire lui-même.

Les vitesses accrues des puces de Groq pourraient encore booster le monde de l’IA, créant de nouvelles possibilités de communication en temps réel avec les chatbots IA.