Cognenza
DE

KI-gestützte Übersetzung des spanischen Originals. Zum Original

Konfigurationen · Niveau mittel

Konfiguration: Ollama nur lokal, privat und mit mehr Kontext

Kopierbare Rezepte, um die Cloud-Funktionen von Ollama abzuschalten, es nur von deinem Computer aus erreichbar zu halten, den Kontext zu vergrößern und Modelle auf einer anderen Festplatte zu speichern.

Von Redaktion von Cognenza · Aktualisiert am · 3 Min. Lesezeit · Mit Quellenangaben

Wozu es dient

Ollama führt Modelle auf deinem Computer aus, bietet aber auch Cloud-Funktionen. Diese Rezepte aus der offiziellen Dokumentation sorgen dafür, dass alles auf deinem Computer bleibt, und passen Ollama an lange Dokumente an.

1. Cloud-Funktionen abschalten

Erstelle oder bearbeite die Datei ~/.ollama/server.json:

{
  "disable_ollama_cloud": true
}

Oder setze alternativ die Umgebungsvariable:

OLLAMA_NO_CLOUD=1

2. Nur auf deinem Computer

Standardmäßig lauscht Ollama auf 127.0.0.1:11434, also nur auf deinem Computer. Setze OLLAMA_HOST=0.0.0.0 nicht, außer du kannst den Zugriff aus deinem Netzwerk absichern.

3. Mehr Kontext für lange Dokumente

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

Der Standard-Kontext beträgt 4096 Tokens. Mehr Kontext bedeutet mehr Speicher; prüfe mit:

ollama ps

4. Modelle auf einer anderen Festplatte speichern

OLLAMA_MODELS=/pfad/zu/anderer/festplatte/ollama-modelle

So setzt du Variablen auf deinem System

SystemSo geht’s
WindowsOllama beenden, in den Einstellungen nach „Umgebungsvariablen“ suchen, die Variable für dein Konto hinzufügen und Ollama wieder öffnen
macOSlaunchctl setenv NAME wert und die Ollama-App neu starten
LinuxDen Dienst mit systemctl edit ollama.service bearbeiten, Environment="NAME=wert" hinzufügen und neu starten

Vorsichtsmaßnahmen

  • Nach jeder Änderung Ollama neu starten, damit sie greift.
  • Wenn eine externe App dein Ollama nutzt, prüfe auch deren Datenschutzeinstellungen.

Häufige Fragen

Was genau bewirkt das Abschalten der Cloud?

Laut offizieller Dokumentation deaktiviert es die Cloud-Modelle von Ollama und die Websuche, sodass du nur lokale Modelle nutzt.

Warum sollte ich 0.0.0.0 nicht verwenden?

OLLAMA_HOST=0.0.0.0 lässt Ollama Verbindungen von anderen Computern in deinem Netzwerk annehmen. Ohne zusätzlichen Schutz könnte es jeder mit Zugriff nutzen. Wenn nur du es auf deinem Computer nutzt, brauchst du das nicht.

Wie viel Kontext soll ich einstellen?

Standard sind 4096 Tokens. Erhöhe nur so weit wie nötig: Mehr Kontext braucht mehr Speicher. Mit ollama ps siehst du den Kontext und ob das Modell in die Grafikkarte passt.

Weiterlesen

Quellen

Offizielle Quellen sind in ihrer Originalsprache verlinkt.

  1. FAQ (documentación oficial) — Ollama
  2. Quickstart (documentación oficial) — Ollama

Änderungsverlauf

  • : Erstveröffentlichung.

Informationsinhalt, erstellt mithilfe von KI-Tools mit angegebenen Quellen. Er ersetzt keine fachliche Beratung. Tools ändern sich schnell: Wenn dir etwas Veraltetes auffällt, schreib uns an contacto@cognenza.com. So arbeiten wir.