KI-Modelle lokal installieren
06.02.2025: Sie wollen Llama, Deepseek oder eine andere KI ausprobieren - aber lokal, auf Ihrem eigenen PC? Das geht (viel) einfacher als Sie denken!
Dafür benötigen Sie nur ein kostenloses Tool: LM Studio.
Die Schritte sind denkbar einfach:
- Laden Sie das Programm herunter und installieren Sie es.
- Wählen Sie das gewünschte KI-Modell aus und laden Sie es herunter. Das kleinste Modell braucht etwa 1,3 GB – die größeren deutlich mehr. Falls Ihr Rechner nicht über ausreichende Ressourcen verfügt, weist LM Studio gleich darauf hin.
- Wählen Sie das Modell oben im Pulldown aus – fertig! Sie können die KI nun verwenden wie ChatGPT & Co.
Der größte Vorteil ist natürlich die Vertraulichkeit. Alle Anfragen sind lokal, es werden keine personenbezogene Daten oder Betriebsgeheimnisse an einen Anbieter übertragen. Es ist auch kein Abo notwendig und keine Internetverbindung.
Und Sie können ganz einfach unterschiedliche Modelle ausprobieren (indem Sie einfach mehrere Modelle herunterladen). Übrigens: Kostenlos ist das Ganze auch noch.
Einige Nachteile gibt es aber auch: Logischerweise können die Antworten nicht tagesaktuell sein. Auch haben wir beim Testen die Erfahrung gemacht, dass die Antworten sehr lange dauern können (wohl Abhängig von der Performance des PCs). Und es stehen nicht alle Features zur Verfügung, die zum Beispiel ChatGPT bietet (wie Custom Instructions oder die Bilder-KI von OpenAI).
Fazit: In Summe ist LM Studio eine unglaublich praktische und sehr einfache Möglichkeit, um spannende LLM-Modelle komplett lokal auf einem ganz normalen PC laufen zu lassen.
