LM Studio

LM Studio est une application de bureau qui permet de découvrir, télécharger et exécuter des modèles de langage (LLM) localement sur votre ordinateur. Elle offre une interface graphique pour la gestion des modèles et le chat, sans nécessiter d’API cloud ni d’outils en ligne de commande.

Vue d’ensemble

LM Studio supporte les modèles au format GGUF et fournit un serveur local compatible avec le format d’API OpenAI, facilitant l’intégration avec les applications existantes. Il utilise llama.cpp en couche inférieure pour une inférence efficace sur CPU et GPU.

Fonctionnalités principales

  • Découverte de modèles : Parcourez et téléchargez des modèles depuis Hugging Face Hub directement dans l’application
  • Inférence locale : Exécutez des modèles entièrement sur votre matériel — sans cloud
  • Serveur compatible OpenAI : Point d’API local qui imite le format OpenAI Chat Completions
  • Accélération matérielle : Support CUDA (NVIDIA), Metal (Apple Silicon) et Vulkan pour l’inférence GPU
  • Interface de chat : Chat intégré pour tester et interagir avec les modèles
  • Multiples formats de modèles : Supporte GGUF et d’autres formats compatibles llama.cpp

Licence

LM Studio utilise un modèle freemium :

  • Gratuit : L’application de base est gratuite pour un usage personnel, avec téléchargement de modèles et inférence locale
  • Commerciale : L’utilisation commerciale nécessite une licence payante

Ressources officielles

Voir aussi