CognenzaIA
CA
Configuracions · Nivell intermedi

Configuració: Ollama només en local, privat i amb més context

Receptes per copiar que desactiven les funcions al núvol d’Ollama, el mantenen accessible només des del teu equip, amplien el context i desen els models en un altre disc.

Per Equip editorial de Cognenza · Actualitzada el · 3 min de lectura · Amb fonts citades

Per a què serveix

Ollama executa models al teu ordinador, però també ofereix funcions al núvol. Aquestes receptes, extretes de la documentació oficial, asseguren que tot es queda al teu equip i adapten Ollama a documents llargs.

1. Desactivar les funcions al núvol

Crea o edita el fitxer ~/.ollama/server.json:

{
  "disable_ollama_cloud": true
}

O, com a alternativa, defineix la variable d’entorn:

OLLAMA_NO_CLOUD=1

2. Mantenir-lo només al teu equip

Per defecte Ollama escolta a 127.0.0.1:11434, és a dir, només al teu ordinador. No defineixis OLLAMA_HOST=0.0.0.0 tret que sàpigues protegir l’accés des de la teva xarxa.

3. Més context per a documents llargs

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

El context predeterminat és de 4096 tokens. Més context vol dir més memòria; comprova-ho amb:

ollama ps

4. Desar els models en un altre disc

OLLAMA_MODELS=/camí/a/un/altre/disc/ollama-models

Com definir variables al teu sistema

SistemaCom
WindowsTanca Ollama, cerca «variables d’entorn» a Configuració, afegeix la variable per al teu compte i torna a obrir Ollama
macOSlaunchctl setenv NOM valor i reinicia l’app d’Ollama
LinuxEdita el servei amb systemctl edit ollama.service, afegeix Environment="NOM=valor" i reinicia

Precaucions

  • Després de canviar alguna cosa, reinicia Ollama perquè s’apliqui.
  • Si una app externa fa servir el teu Ollama, revisa també la seva configuració de privadesa.

Preguntes freqüents

Què fa exactament desactivar el núvol?

Segons la documentació oficial, desactiva els models al núvol d’Ollama i la cerca web, de manera que només fas servir models locals.

Per què no he de fer servir 0.0.0.0?

OLLAMA_HOST=0.0.0.0 fa que Ollama accepti connexions d’altres equips de la teva xarxa. Sense protecció addicional, qualsevol amb accés el podria fer servir. Si només el fas servir tu al teu ordinador, no ho necessites.

Quant de context hi poso?

El predeterminat és de 4096 tokens. Puja’l només el necessari: més context requereix més memòria. Amb ollama ps pots veure el context i si el model cap a la targeta gràfica.

Continua llegint

Fonts

Les fonts oficials s’enllacen en la llengua original.

  1. FAQ (documentación oficial) — Ollama
  2. Quickstart (documentación oficial) — Ollama

Historial de canvis

  • : Publicació inicial.

Contingut divulgatiu, preparat amb l’ajuda d’eines d’IA, amb fonts citades. No substitueix el consell d’un professional. Les eines canvien de pressa: si veus alguna cosa desactualitzada, escriu-nos a contacto@cognenza.com. Com treballem.