CognenzaIA
PT
Configurações · Nível intermédio

Configuração: Ollama só local, privado e com mais contexto

Receitas para copiar que desativam as funções na nuvem do Ollama, o mantêm acessível só a partir do teu computador, aumentam o contexto e guardam os modelos noutro disco.

Por Equipa editorial da Cognenza · Atualizado a · 3 min de leitura · Com fontes citadas

Para que serve

O Ollama executa modelos no teu computador, mas também oferece funções na nuvem. Estas receitas, retiradas da documentação oficial, garantem que tudo fica no teu computador e adaptam o Ollama a documentos longos.

1. Desativar as funções na nuvem

Cria ou edita o ficheiro ~/.ollama/server.json:

{
  "disable_ollama_cloud": true
}

Ou, em alternativa, define a variável de ambiente:

OLLAMA_NO_CLOUD=1

2. Mantê-lo só no teu computador

Por omissão, o Ollama escuta em 127.0.0.1:11434, ou seja, só no teu computador. Não definas OLLAMA_HOST=0.0.0.0, salvo se souberes proteger o acesso a partir da tua rede.

3. Mais contexto para documentos longos

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

O contexto predefinido é de 4096 tokens. Mais contexto significa mais memória; verifica com:

ollama ps

4. Guardar os modelos noutro disco

OLLAMA_MODELS=/caminho/para/outro/disco/ollama-modelos

Como definir variáveis no teu sistema

SistemaComo
WindowsFecha o Ollama, procura «variáveis de ambiente» nas Definições, adiciona a variável para a tua conta e volta a abrir o Ollama
macOSlaunchctl setenv NOME valor e reinicia a app do Ollama
LinuxEdita o serviço com systemctl edit ollama.service, adiciona Environment="NOME=valor" e reinicia

Precauções

  • Depois de alterar algo, reinicia o Ollama para que se aplique.
  • Se uma app externa usar o teu Ollama, revê também as definições de privacidade dela.

Perguntas frequentes

O que faz exatamente desativar a nuvem?

Segundo a documentação oficial, desativa os modelos na nuvem do Ollama e a pesquisa web, de modo que só usas modelos locais.

Porque não devo usar 0.0.0.0?

OLLAMA_HOST=0.0.0.0 faz com que o Ollama aceite ligações de outros computadores da tua rede. Sem proteção adicional, qualquer pessoa com acesso poderia usá-lo. Se só o usas tu no teu computador, não precisas.

Quanto contexto devo pôr?

O predefinido é 4096 tokens. Aumenta-o apenas o necessário: mais contexto exige mais memória. Com ollama ps vês o contexto e se o modelo cabe na placa gráfica.

Continue a ler

Fontes

As fontes oficiais estão ligadas no idioma original.

  1. FAQ (documentación oficial) — Ollama
  2. Quickstart (documentación oficial) — Ollama

Histórico de alterações

  • : Publicação inicial.

Conteúdo divulgativo, preparado com a ajuda de ferramentas de IA, com fontes citadas. Não substitui o aconselhamento de um profissional. As ferramentas mudam depressa: se vir algo desatualizado, escreva-nos para contacto@cognenza.com. Como trabalhamos.