LM Studio angetestet

Das Modellauswahl-Interface von LM Studio. Weitere Modelle lassen sich manuell installieren.Foundry



Dedizierte Desktop-Anwendungen für Agentic AI befähigen auch technisch weniger versierte User dazu, mit Large Language Models (LLMs) zu arbeiten. Statt Python-Programme erstellen und KI-Modelle händisch bearbeiten zu müssen, wird lediglich eine IDE-ähnliches Interface aufgerufen – das protokollierte, inspizierbare Interaktionen mit einem oder mehreren Sprachmodellen ermöglicht.



Amazon und Google haben mit Kiro, respektive Antigravity bereits entsprechende Produkte auf den Markt gebracht. In beiden Fällen liegt der Fokus auf KI-gestützter Code-Generierung. Zudem bieten die Lösungen auch die Möglichkeit, Modelle lokal oder in der Cloud auszuführen.



Eine “Local First“-Erfahrung für die Arbeit mit LLMs bietet hingegen LM Studio aus dem Hause Element Labs. Diese Anwendung ist weniger gut geeignet, um Code zu erstellen und eher auf allgemeine Konversationszwecke ausgelegt. Der Funktionsumfang von LM Studio ist derzeit zudem noch minimal – für einen ersten kleinen Test hat es aber gereicht.



LM Studio im Erstkontakt



Wenn Sie LM Studio zum ersten Mal starten, sollten Sie zunächst ein oder mehrere Modelle einrichten. Über eine Schaltfläche in der Seitenleiste ist ein kuratiertes Such-Panel verfügbar, in dem Sie nach Modellen suchen können – und sogar filtern, ob dafür jeweils ausreichend Memory auf dem eingesetzten Device verfügbar ist. Jedes Modell ist dabei mit einer Beschreibung seiner Parametergröße versehen. Zudem ist auch ersichtlich, für welche allgemeinen Task-Typen es geeignet ist und ob es darauf trainiert ist, Tools zu nutzen.



Für unseren Test haben wir drei verschiedene Modelle heruntergeladen:




GLM 4.7 Flash von Z.ai,



Nemotron 3 Nano von NVIDIA, und



GPT-OSS, die 20B-Version des Open-Source-Modells von OpenAI.




Sämtliche Downloads sowie das Modell-Management werden innerhalb der Anwendung getrackt – Sie müssen also nichts manuell bearbeiten, wie etwa mit ComfyUI.



Mit LLMs chatten über LM Studio



Um mit einem LLM zu chatten, wählen Sie zunächst aus, welches Modell in den Speicher geladen werden soll. Dabei können Sie die Steuerelemente für die Nutzung des Modells feinabstimmen, die Standardeinstellungen sind jedoch in der Regel ausreichend. Konversationen mit einem KI-Modell werden in separaten Registerkarten getrackt, inklusive aller Details zum “Denkprozess” des Modells oder zu Tool-Integrationen (dazu gleich mehr). Darüber hinaus wird auch erfasst, wie viele Token verbraucht werden und im Rahmen der aktuellen Konversation zur Verfügung stehen.



Wenn Sie mit lokalen Dateien oder Dokumenten arbeiten möchten, können Sie diese einfach per Drag & Drop in die Unterhaltung ziehen. Über eine Integration ist es auch möglich, dem Modell Zugriff auf das lokale Dateisystem zu gewähren. Das ist allerdings mit Vorsicht zu genießen – insbesondere, wenn dort auch geschäftskritische Informationen liegen.


Ein Beispiel für eine Konversation mit einem Modell in LM Studio. Chats lassen sich in einer Vielzahl von Formaten exportieren.Foundry



Integrationen mit LM Studio



Um die Funktionalität des Agenten zu erweitern, ist es möglich, MCP-Serveranwendungen zu LM Studio hinzuzufügen. Standardmäßig ist allerdings nur eine Integration enthalten. Dabei handelt es sich um eine JavaScript-Sandbox, die dem Modell ermöglicht, Javascript- oder Typescript-Code mit Deno auszuführen. Aus unserer Sicht wäre zumindest eine weitere Integration für die Websuche nützlich gewesen. Allerdings könnten wir im Test mit minimalem Aufwand selbst eine Suchintegration für den Brave Browser hinzufügen.



Der große Nachteil der Integrationen in LM Studio ist, dass sie vollständig manuell erfolgen. Zumindest gibt es derzeit keinen automatisierten Mechanismus, um diese hinzuzufügen – und auch kein durchsuchbares Verzeichnis. Stattdessen müssen Sie manuell eine mcp.json-Datei bearbeiten, um die gewünschten Integrationen zu beschreiben – und dann den Code dafür selbst bereitstellen. Das funktioniert zwar gut, ist aber umständlich und lässt LM Studio – zumindest, was diesen Aspekt angeht – etwas primitiv wirken.



Trotz dieser Einschränkungen: Die Integration der MCP-Server ist gut durchdacht. Sie können diese deaktivieren, aktivieren, hinzufügen oder ändern, ohne das gesamte Programm schließen und neu starten zu müssen. Außerdem lassen sich Integrationen mit einzelnen Konversationen oder dem gesamten Programm auch auf die Whitelist setzen – so müssen Sie dem Agenten nicht ständig erneut Zugriff gewähren.



APIs für Agentic AI



LM Studio kann darüber hinaus auch als Modell-Serving-System fungieren, entweder über die Desktop-App oder über einen Headless Service. In beiden Fällen erhalten Sie eine REST-API, über die Sie mit Modellen arbeiten und chatten können. Die Ergebnisse erhalten Sie dann entweder auf einmal oder im Rahmen eines fortlaufenden Streams zurück.



Kürzlich wurde LM Studio auch um einen Anthropic-kompatiblen Endpunkt ergänzt. Dieser ermöglicht es, Claude Code mit LM Studio zu verwenden. Das heißt auch: Es ist möglich, selbst gehostete Modelle im Rahmen eines Workflows mit einem Code-zentrischen Produkt wie Kiro oder Antigravity zu nutzen.



Eine weitere leistungsstarke Funktion von LM Studio ist die Option, Tools über einen API-Endpunkt zu nutzen. So lassen sich etwa Skripte erstellen, die mit der API von LM Studio interagieren – und auch ein eigenes Tool bereitstellen. Das macht wiederum komplexe Interaktionen zwischen Modell und Tool möglich und ist eine Option, um agentenbasiertes Verhalten von Grund auf neu aufzubauen.


Ein Blick auf die internen Server-Einstellungen von LM Studio.Foundry



LM Studio – unser Testfazit



Das klare Design und die praktischen Funktionen von LM Studio sind ein guter Anfang, aber es fehlen noch diverse wichtige Funktionen. Die Integration von Tools erfordert manuelle Fleißarbeit und die enthaltene Tool-Liste ist zudem äußerst dürftig – so fehlt beispielsweise ein Werkzeug, um im Netz zu surfen und Daten abzurufen.



Ein weiteres bedeutendes Problem: LM Studio ist nicht Open Source – nur einige seiner Komponenten. Etwa sein Befehlszeilen-Tooling. Zwar erlaubt die Lizenz von LM Studio eine kostenlose Nutzung. Das kann sich aber künftig noch ändern. Nichtsdestotrotz ist LM Studio in dieser frühen Version durchaus interessant – für diejenigen, die über die Hardware und das Wissen verfügen, die nötig sind, um KI-Modelle lokal auszuführen. (fm)