CognenzaKI
DE
Werkzeuge · Niveau mittel

Ollama: KI-Modelle offline auf deinem Computer nutzen

Einsteiger-Leitfaden zu Ollama: was es ist, Speicherbedarf, Installation unter Windows, Mac und Linux, erstes Modell, Nur-lokal-Modus, Datenschutz und Grenzen – nach der offiziellen Dokumentation.

Von Redaktion von Cognenza · Aktualisiert am · 4 Min. Lesezeit · Mit Quellenangaben

Was es ist

Ollama ist ein Open-Source-Programm, das Modelle mit offenen Gewichten herunterlädt und auf deinem eigenen Computer ausführt. Ist das Modell einmal geladen, kannst du offline chatten, ohne dass deine Texte deinen Computer verlassen. Wir haben es im Radar vorgestellt; dieser Leitfaden erklärt den Einstieg.

Voraussetzungen

  • System: macOS, Windows oder Linux.
  • Speicher: hängt vom Modell ab. Für das lokale Beispiel des offiziellen Leitfadens (Gemma 4 E2B, Download von etwa 7,2 GB) werden 8 GB Grafikspeicher (VRAM) oder gemeinsamer Speicher auf dem Mac empfohlen. Mit weniger nutzt Ollama den Arbeitsspeicher und antwortet langsamer. Größere Kontextfenster brauchen mehr Speicher.
  • Festplatte: Platz für jedes Modell, das du herunterlädst.

Installation Schritt für Schritt

  1. Lade Ollama von ollama.com/download herunter und installiere es.
  2. Öffne die App und wähle ein lokales Modell oder öffne ein Terminal und tippe:
ollama run gemma4:e2b
  1. Ollama lädt das Modell und öffnet einen Chat. Stell deine Frage; zum Beenden /bye.
  2. Um zu sehen, welche Modelle geladen sind und ob sie die Grafikkarte nutzen: ollama ps.

Datenschutz: lokale Modelle oder Cloud

Ollama bietet auch Cloud-Modelle (mit Konto). Laut Dokumentation sieht es bei lokalen Modellen weder deine Prompts noch deine Daten. Wenn du sichergehen willst, dass alles auf deinem Computer bleibt, kannst du die Cloud-Funktionen abschalten: Das erklären wir im Rezept Ollama nur lokal.

Vorsichtsmaßnahmen

  • Standardmäßig lauscht Ollama nur auf deinem Computer (127.0.0.1:11434). Öffne es nicht für dein Netzwerk oder das Internet, wenn du es nicht absichern kannst: Jeder mit Zugriff könnte es nutzen.
  • Lade Modelle aus bekannten Quellen herunter und prüfe ihre Lizenz.
  • Auch ein lokales Modell kann Dinge erfinden (Halluzinationen): Prüfe, was wichtig ist.

Grenzen

  • Modelle, die auf einen Heimcomputer passen, sind meist weniger leistungsfähig als die großen Cloud-Assistenten.
  • Ohne starke Grafikkarte können Antworten langsam sein.
  • Der Standardkontext beträgt 4096 Tokens; für lange Dokumente musst du ihn erhöhen (siehe Rezept).

Häufige Fragen

Schickt Ollama meine Gespräche ins Internet?

Laut Dokumentation sieht Ollama bei lokalen Modellen weder deine Prompts noch deine Daten. Bei seinen Cloud-Modellen verarbeitet es Prompts und Antworten, um den Dienst zu erbringen, speichert oder protokolliert sie nach eigener Aussage aber nicht und trainiert nie damit.

Welches Modell soll ich zuerst ausprobieren?

Ein kleines. Der offizielle Leitfaden nutzt Gemma 4 E2B als lokales Beispiel: etwa 7,2 GB, empfohlen sind 8 GB Grafikspeicher. Mit weniger kann es den Arbeitsspeicher nutzen, ist dann aber langsamer.

Ist ein lokales Modell so gut wie ChatGPT?

Meist nicht: Modelle, die auf einen Heimcomputer passen, sind in der Regel weniger leistungsfähig als die großen Cloud-Assistenten. Dafür verlassen deine Daten deinen Computer nicht.

Kann ich es mit anderen Apps nutzen?

Ja. Ollama bietet eine lokale API (auf Port 11434), die viele Apps nutzen, etwa Open WebUI, OpenBot oder Hermes Agent.

Weiterlesen

Quellen

Offizielle Quellen sind in ihrer Originalsprache verlinkt.

  1. Quickstart (documentación oficial) — Ollama
  2. FAQ (documentación oficial) — Ollama
  3. Descargas de Ollama — Ollama
  4. Repositorio oficial ollama/ollama — GitHub

Änderungsverlauf

  • : Erstveröffentlichung mit der offiziellen Dokumentation und Version 0.40.5 (14. Oktober 2026).

Informationsinhalt, erstellt mithilfe von KI-Tools mit angegebenen Quellen. Er ersetzt keine fachliche Beratung. Tools ändern sich schnell: Wenn dir etwas Veraltetes auffällt, schreib uns an contacto@cognenza.com. So arbeiten wir.