LM Studio

LM Studio est une plateforme AI locale conçue pour les utilisateurs qui souhaitent exécuter de grands modèles de langage directement sur leurs propres ordinateurs plutôt que de dépendre entièrement des services AI basés sur le cloud. Elle fournit une interface graphique pour découvrir et télécharger des modèles tels que Llama, Qwen, DeepSeek, Gemma, Mistral et d'autres modèles compatibles, puis les exécuter localement via une interface conversationnelle familière.

La confidentialité est l'un des principaux avantages de LM Studio. L'inférence locale garde les invites, les conversations et le traitement des modèles sur la machine de l'utilisateur, et le niveau gratuit comprend l'exécution locale de LLM et la transcription vocale hors ligne. Les utilisateurs peuvent également joindre des documents et interagir avec eux localement grâce à la génération augmentée par récupération (RAG), rendant LM Studio utile pour l'analyse de documents privés et les flux de travail de connaissance.

Pour les développeurs, LM Studio peut fonctionner comme un serveur AI local. Il fournit sa propre API REST aux côtés des points de terminaison compatibles avec OpenAI et Anthropic, ainsi que des SDK Python et TypeScript. Cela permet aux développeurs de remplacer ou de compléter les APIs de modèles cloud avec des modèles hébergés localement dans des applications, prototypes, agents et flux de développement. Son interface en ligne de commande peut également gérer des modèles et des serveurs, tandis que le fonctionnement en mode sans tête permet d'exécuter LM Studio sans l'interface de bureau.

LM Studio prend également en charge le Protocole de Contexte de Modèle (MCP), permettant aux modèles locaux d'interagir avec des outils et services externes. Les serveurs MCP locaux et distants sont pris en charge, et de nouvelles intégrations peuvent utiliser l'authentification OAuth. Les développeurs peuvent exposer la fonctionnalité MCP via les APIs de LM Studio dans le cadre d'applications agentiques et de flux de travail d'appel d'outils.

Plus récemment, LM Studio a introduit Bionic, un agent AI conçu pour le codage, la recherche, le travail sur documents et d'autres tâches complexes utilisant des modèles ouverts. Bionic peut utiliser des modèles s'exécutant localement, des modèles disponibles via un autre appareil via LM Link, ou des modèles ouverts plus grands via l'infrastructure cloud de LM Studio.

L'expérience locale de base de LM Studio est disponible pour 0 $, y compris les LLM locaux et la transcription vocale hors ligne. L'inférence cloud est disponible via des crédits à l'utilisation, tandis que des options d'abonnement supplémentaires pour Bionic sont en cours d'introduction. Dans l'ensemble, LM Studio est particulièrement utile pour les personnes qui souhaitent une plus grande confidentialité, un meilleur contrôle et une flexibilité quant à la manière et au lieu où leurs modèles AI s'exécutent.