Unquant mit Crush, Goose, Zed und Aider verwenden

Crush

In ~/.config/crush/crush.json oder der projekteigenen .crush.json; der Typ muss openai-compat sein:

{
  "providers": {
    "unquant": {
      "type": "openai-compat",
      "base_url": "https://api.unquant.io/v1",
      "api_key": "$UNQUANT_API_KEY",
      "models": [{ "id": "glm-5.3-flash", "context_window": 262144 }]
    }
  }
}

Goose

export GOOSE_PROVIDER=openai
export OPENAI_HOST=https://api.unquant.io
export OPENAI_BASE_PATH=v1/chat/completions
export OPENAI_API_KEY=your-unquant-key
export GOOSE_MODEL=glm-5.3-flash

Zed

Einen OpenAI-kompatiblen Anbieter in Zeds settings.json hinzufügen und dann den Schlüssel in den Einstellungen des Agent-Panels eingeben:

{
  "language_models": {
    "openai_compatible": {
      "Unquant": {
        "api_url": "https://api.unquant.io/v1",
        "available_models": [{ "name": "glm-5.3-flash", "max_tokens": 262144 }]
      }
    }
  }
}

Aider

export OPENAI_API_BASE=https://api.unquant.io/v1
export OPENAI_API_KEY=your-unquant-key
aider --model openai/glm-5.3-flash

Das Präfix openai/ weist Aider an, Ihre OpenAI-kompatible Basis-URL zu verwenden.