# Modele open-weight i hostowane samodzielnie dla agentów kodujących

URL: https://developertoolkit.ai/pl/ecosystem/models/open-weight/
Description: GLM, Qwen, Kimi, DeepSeek i Mistral w sieciach bez internetu: licencje, które harnessy je przyjmują, jak je serwować i jak zmierzyć lukę na własnych ewaluacjach.

Modele kodujące z otwartymi wagami (GLM-5.3 i GLM-5.3-Flash, Qwen3.8, Kimi K3, DeepSeek V4.x oraz Devstral 2 i Medium 3.5 od Mistrala) mogą napędzać Claude Code, Codex i CLI dostawców z serwera, który kontrolujesz. Pasują do sieci bez internetu, ścisłych reguł dotyczących danych i niskiego progu kosztów, ale kieruj do nich pracę dopiero wtedy, gdy własne ewaluacje pokażą akceptowalną lukę jakości.

Dział bezpieczeństwa decyduje, że kod jednej linii produktów nie może opuścić budynku. Zakupy chcą drugiego dostawcy modeli przed odnowieniem kontraktu wartego miliony. Finanse pytają, dlaczego nocne zadanie, które etykietuje 40 000 błędów testów, działa na najdroższym modelu. Ktoś proponuje „po prostu uruchommy Qwena na własnych GPU”, a nikt nie wie, o ile gorszy będzie agent, co nadal zadziała ani na co pozwala licencja.

Ta strona jest dla **CTO**, który decyduje, czy finansować model hostowany samodzielnie, i dla **developera**, który ma podłączyć go do agenta zespołu i udowodnić, że działa. Znajdziesz tu krótką listę modeli na październik 2026 ze stanem licencji, macierz harnessów, zweryfikowaną konfigurację vLLM i Ollamy, protokół ewaluacji ze skryptem i regułą decyzji, wzór na koszt, listę kontrolną reguł dotyczących danych oraz pułapki, które po cichu wysyłają kod poza maszynę. Wersje modeli, ceny i okna kontekstu są w [przeglądzie modeli](/pl/ecosystem/models/).

## Które modele kodujące z otwartymi wagami liczą się w październiku 2026?

Pięć rodzin obejmuje niemal każdą poważną ewaluację. Rozmiary i własnych agentów dostawców zweryfikowano 2026-09-26 w repozytorium GitHub lub rejestrze pakietów każdego dostawcy, chyba że komórka mówi inaczej; licencje wag odczytano w repozytorium każdego modelu w Hugging Face 2026-10-12, a „sprawdź kartę modelu” oznacza licencję, której nie odczytano.

| Model | Dostawca | Rozmiar (łącznie / aktywne) | Licencja wag | Własny agent dostawcy | Dowody dla kodowania |
| ----- | -------- | --------------------------- | ------------ | --------------------- | -------------------- |
| GLM-5.3 i GLM-5.3-Flash | Z.ai | 744B / 40B (Flash: 320B / 18B) | GLM-5.3: własna „GLM-5.3 License”, grant w stylu MIT obejmujący wagi, ale operator MaaS, którego przychód grupy przekracza 10 mld USD w dowolnych kolejnych 12 miesiącach, musi przed komercyjnym użyciem przejść przegląd bezpieczeństwa Z.ai. GLM-5.3-Flash i GLM-5.2: MIT. Kod repozytorium to Apache-2.0 (odczyt 2026-09-26) | ZCode (Apache-2.0, repozytorium utworzone 2026-09-20); działa też w Claude Code | Jedyne dwa wpisy z otwartymi wagami na oficjalnej tablicy Terminal-Bench 4.0 |
| Qwen3.8 (2.4T-A95B i 27B) | Alibaba | 2,4T / 95B oraz model 27B | Qwen3.8-27B: Apache-2.0. Qwen3.8-2.4T-A95B: „Qwen3.8-Max License” (nazwę modelu trzeba wyświetlać w produktach powyżej 100 mln aktywnych użytkowników miesięcznie lub 20 mln USD przychodu miesięcznie; odrębna licencja jest potrzebna firmom MaaS lub „AI Work Assistant” powyżej 50 mln USD przychodu w 12 miesięcy). Qwen3.8-Flash-Next: „Qwen Community License 1.0” | Qwen Code | Dostawca: „a Qwen-Max-class model to open release”; wyniki niezweryfikowane |
| Kimi K3 (premiera w lipcu 2026) | Moonshot AI | 2,8T / 104B | Własna „Kimi K3 License”, nie open source w rozumieniu OSI: operatorzy MaaS z przychodem powyżej 20 mln USD w 12 miesięcy potrzebują odrębnej umowy z Moonshot AI, a nazwę „Kimi K3” trzeba wyświetlać w produktach powyżej 100 mln aktywnych użytkowników miesięcznie lub 20 mln USD przychodu miesięcznie; użycie wewnętrzne jest zwolnione | Kimi Code | Tylko wyniki raportowane przez dostawcę (Terminal-Bench 2.1) |
| DeepSeek V4 (V4.1 Flash, V4-Pro) | DeepSeek | V4.1 Flash: 552B parametrów bazowych, 8B aktywnych w prefill i 16B w decode; Pro 1,6T / 49B (źródło wtórne: SitePoint) | MIT (V4.1 Flash, V4-Pro-0813, V4-Flash-0731) | DeepSeek Harness `dsh` (developer preview, npm `latest` 0.2.0-rc.2) | V4.1 Flash (2026-09-10): DeepSeek podaje 31,2 na Terminal-Bench 4.0 w trybie minimal własnego harnessu; brak w oficjalnym rankingu |
| Devstral 2 · Devstral Small 2 · Mistral Medium 3.5 | Mistral | Devstral 123B i 24B (źródło wtórne: VentureBeat) | Medium 3.5: Modified MIT, bez żadnych praw dla firmy, której globalny skonsolidowany przychód miesięczny przekracza 20 mln USD; Devstral: sprawdź kartę modelu | Mistral Vibe | Devstral 2 deklaruje 72,2% w SWE-bench Verified (źródło wtórne: VentureBeat) |

- **GLM-5.3 i GLM-5.3-Flash to dwa modele z otwartymi wagami z niezależnymi dowodami.** Na oficjalnej tablicy Terminal-Bench 4.0 (odczyt 2026-10-12) GLM-5.3 z wysiłkiem `max` w Claude Code ma 41,8% ± 3,2, a GLM-5.3-Flash (wysiłek `none`) 35,8% ± 3,5. Grok 4.7 w Grok Build ma 37,6% ± 3,5, a GPT-5.6 Sol w Codeksie 37,3% ± 3,8; przedziały 95% nachodzą na przedział GLM-5.3, więc tablica ich nie rozróżnia. Dla skali: Claude Opus 5.5 z wysiłkiem `max` w Claude Code ma 64,8% ± 3,1, a Claude Fable 5.1 57,9% ± 3,8.
- **Qwen3.8-Max-0902 to model hostowany.** Komunikat Alibaby w Model Studio opisuje go jako migawkę endpointu `qwen3.8-max` z 2026-09-02 i nie nazywa go modelem z otwartymi wagami, więc jego 27,0% ± 3,8 na oficjalnej tablicy (w Claude Code) to wynik modelu hostowanego, a nie dowód dla pobieralnych wag Qwen3.8.
- **Mistral Large 4 nie ma jeszcze wag.** Changelog Mistrala (2026-10-06) nazywa go „an open-weight, general-purpose multimodal model” w publicznym preview, z 1,05T parametrów łącznie i 52B aktywnych oraz oknem kontekstu 1M, i dodaje: „Open weights are coming soon.” Licencji nie opublikowano (sprawdzone 2026-10-12), więc do czasu pojawienia się wag i licencji to model hostowany.
- **Jeszcze dwie licencje warte przeczytania, zanim trafią na krótką listę.** MiniMax M3 (około 428B łącznie i 23B aktywnych, kontekst 1M) ma „MiniMax Community License”: grant dotyczy celów niekomercyjnych, użycie komercyjne wymaga napisu „Built with MiniMax M3” i powiadomienia MiniMax, a powyżej 20 mln USD przychodu rocznie potrzebna jest pisemna zgoda. Wagi MiMo-V2.6-Pro-RL i MiMo-V2.6-Flash-RL od Xiaomi są na licencji MIT.
- **Liczby dostawców nie przenoszą się między wersjami benchmarku.** Kimi K3 raportuje 88,3 w Terminal-Bench 2.1, starszej, prawie nasyconej wersji bez przelicznika na 4.0.
- **Tablica SWE-bench Verified jest zamrożona** (najnowszy wpis 2026-02-26, sprawdzone 2026-10-12), więc każda liczba z 2026 roku dla tych modeli to deklaracja dostawcy.

Nic z tego nie przewiduje wyników w twoim repozytorium; do tego służy sekcja o ewaluacjach poniżej. Zobacz też [jak czytać benchmarki agentów kodujących](/pl/ecosystem/models/benchmarks/).

## Kiedy model z otwartymi wagami to dobry wybór?

Model open-weight odpowiada na ograniczenie, nie na potrzebę jakości. Reguła wyboru modelu z [przeglądu modeli](/pl/ecosystem/models/) nadal obowiązuje: zacznij od domyślnego modelu narzędzia (Claude Opus 5.5 w Claude Code; GPT-6.1 Sol w Codeksie), dostosuj poziom wysiłku, zanim zmienisz model, i zmieniaj model dopiero wtedy, gdy każą ci to własne ewaluacje.

| Twoja sytuacja | Model open-weight? | Dlaczego |
| -------------- | ------------------ | -------- |
| Kod nie może opuścić twojej sieci (obronność, część banków, część sektora publicznego) | **Tak, hostowany samodzielnie** | Żadna strona trzecia nie przetwarza kodu. Najpierw sprawdź, czy regułę spełnia trasa chmurowa w ramach twojej umowy ([gdzie działa model](/pl/org/model-hosting/)) |
| Reguły wymagają konkretnego regionu albo zerowej retencji, ale dostawca chmury jest dozwolony | Zwykle nie | Czołowy model hostowany w ramach umowy chmurowej jest prostszy |
| Duży wolumen wąskich zadań (etykietowanie błędów, generowanie fixture'ów, wstępny triage) | **Może** | Opłaca się przy dużej skali tylko wtedy, gdy odsetek sukcesów na tym zadaniu jest bliski modelowi hostowanemu |
| Trudna, otwarta praca nad funkcjami w dużej bazie kodu | Nie jako domyślny | Wpisy z otwartymi wagami na tablicy (GLM-5.3 z 41,8%, GLM-5.3-Flash z 35,8%) są wyraźnie poniżej najlepszego wpisu Claude (Opus 5.5 z 64,8%) |
| Drugi dostawca, żeby uniknąć uzależnienia | **Tak, jako przetestowana alternatywa** | Utrzymuj jeden zestaw open-weight, który przechodzi twoje ewaluacje ([jak uniknąć uzależnienia](/pl/org/lock-in-and-portability/)) |
| Laptop bez sieci w samolocie | Może, do małych zadań | Model 24B–27B działa lokalnie, z wyraźnym spadkiem jakości przy pracy na wielu plikach |

## Które harnessy przyjmują model hostowany samodzielnie?

Harness waży tyle samo co model: wpis na tablicy to GLM-5.3 **w Claude Code**. Każdy harness mówi jednym formatem API i stos serwujący musi do niego pasować.

| Harness | Jak dociera do twojego modelu | Wymagane API | Co tracisz |
| ------- | ----------------------------- | ------------ | ---------- |
| Claude Code 2.1.283 | `ANTHROPIC_BASE_URL` plus zmienna z tokenem; `--model` albo `ANTHROPIC_MODEL` | Anthropic Messages (`/v1/messages`) | Remote Control (wyłączone, gdy bazowy URL to nie `api.anthropic.com`); `/voice` (wymaga logowania do claude.ai); wyszukiwanie narzędzi MCP, domyślnie wyłączone (ustaw `ENABLE_TOOL_SEARCH=true`, jeśli twój serwer przekazuje bloki `tool_reference`) |
| Codex 0.157.1–0.162.1 | `--oss` z `--local-provider ollama` albo `lmstudio` lub blok `[model_providers.<id>]` w pliku konfiguracji | Tylko Responses API (`wire_api = "responses"`); `"chat"` jest odrzucane | Funkcje powiązane z logowaniem ChatGPT lub OpenAI, na przykład zadania `codex cloud` |
| Cursor | Niezweryfikowane dla modelu serwowanego w twojej sieci (sprawdzone 2026-10-12) | — | Zobacz zakładkę Cursor poniżej |
| Qwen Code, Kimi Code, Mistral Vibe, DeepSeek `dsh` | CLI każdego dostawcy, zbudowane pod jego modele | Specyficzne dla dostawcy | Przenośność twoich promptów, hooków i skilli |
| OpenCode, Cline, Aider, Goose, Crush | Ustawienia dostawcy w każdym narzędziu | Głównie zgodne z OpenAI | Konfigurację Claude Code lub Codeksa twojego zespołu |

Stosy serwujące, które implementują te API, zweryfikowane 2026-09-26:

- **vLLM** (PyPI `vllm` 0.30.0): serwer zgodny z OpenAI „plus Anthropic Messages API”, z wywołaniami narzędzi w obu. Wybór produkcyjny dla współdzielonego serwera GPU.
- **Ollama**: „a subset of the Anthropic Messages API”; `ollama launch claude` i `ollama launch codex` konfigurują agentów za ciebie.
- **LM Studio**: lokalny `POST /v1/messages`; Codex dociera do niego przez `--local-provider lmstudio`.
- **llama.cpp** `llama-server`: zgodny z Anthropic Messages; wywołania narzędzi wymagają `--jinja`.
- **LiteLLM** albo **Claude Code Router**: bramka z wirtualnymi kluczami i budżetami przed kilkoma backendami ([bramki i modele lokalne](/pl/ecosystem/agent-tools/gateways-local-models/)).

**Popularność na 2026-09-26:** Ollama ma 181 740 gwiazdek na GitHubie (GitHub, ollama/ollama, odczyt 2026-09-26); gwiazdki mierzą uwagę, nie przydatność w regulowanej sieci.

## Jak podłączyć Claude Code lub Codeksa do modelu hostowanego samodzielnie?

Zacznij od próby z Ollamą na jednej maszynie, żeby poznać typowe awarie, a potem przejdź na vLLM na współdzielonym serwerze.

**Claude Code**

**Próba na jednej maszynie z Ollamą.** Domyślny kontekst Ollamy zależy od VRAM (4k poniżej 24 GiB), co po cichu obcina prompt systemowy agenta, więc najpierw go podnieś:

```bash
# Terminal 1: start Ollama with an agent-sized context
OLLAMA_CONTEXT_LENGTH=64000 ollama serve

# Terminal 2: let Ollama launch Claude Code wired to a local model (interactive session)
ollama launch claude --model LOCAL_MODEL

# Terminal 3, while the session runs: confirm the loaded context
ollama ps          # CONTEXT should read 64000; PROCESSOR should read 100% GPU
```

**Serwer zespołu z vLLM.** Zmapuj każdy alias modelu na serwowany model: Claude Code wywołuje też alias `haiku` do pracy w tle i bez mapowania te wywołania kończą się błędem „model not found”:

```bash
# Developer machine or CI runner. VLLM_API_KEY comes from your secret store, never a literal.
export ANTHROPIC_BASE_URL=http://gpu-01.internal:8000
export ANTHROPIC_AUTH_TOKEN="$VLLM_API_KEY"   # sent as "Authorization: Bearer ..."
export ANTHROPIC_API_KEY=""                   # stop a saved key from overriding the gateway
export ANTHROPIC_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_OPUS_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_SONNET_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_HAIKU_MODEL=SERVED_MODEL
export CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1   # no auto-updates, telemetry or error reporting
claude
```

Uruchom `/status`, żeby potwierdzić bazowy URL, i `/context`, żeby zobaczyć, ile okna zajmują prompt systemowy i narzędzia, zanim cokolwiek wpiszesz (koszt kontekstu). Dla zespołu umieść zmienne w bloku `env` zarządzanego pliku ustawień ([bramka LLM](/pl/claude-code/team/llm-gateway/)).

**Codex**

**Próba na jednej maszynie.** Codex ma wbudowany przełącznik dla Ollamy i LM Studio:

```bash
OLLAMA_CONTEXT_LENGTH=64000 ollama serve                   # terminal 1
codex --oss --local-provider ollama -m LOCAL_MODEL         # terminal 2
codex --oss --local-provider lmstudio -m LOCAL_MODEL       # or LM Studio after `lms server start`
```

**Serwer zespołu z vLLM.** Umieść dostawcę w pliku profilu `$CODEX_HOME/selfhosted.config.toml` (domyślnie `~/.codex/selfhosted.config.toml`). `-p selfhosted` nakłada go na bazową konfigurację (`codex --help`, 0.157.1), więc konfiguracja z modelem hostowanym zostaje domyślna. Klucze poniżej odczytano ze źródeł codex-cli 0.157.1:

```toml
model = "SERVED_MODEL"
model_provider = "vllm"

[model_providers.vllm]
name = "vLLM (internal)"
base_url = "http://gpu-01.internal:8000/v1"
env_key = "VLLM_API_KEY"      # the variable Codex reads the key from; never put the key here
wire_api = "responses"        # "chat" fails with "no longer supported" in 0.157.1
```

Potem uruchom test dymny, który wymusza wywołanie narzędzia:

```bash
codex -p selfhosted exec "List the three largest files under src/ and say which one has no tests."
```

**Cursor**

Tutaj nie zweryfikowano, czy agent Cursora może korzystać z modelu serwowanego w twojej sieci (sprawdzone 2026-10-12). Opis samodzielnie hostowanych maszyn Cursora (changelog, 2026-09-02) mówi: „keep tool execution entirely in your own network”. To wykonywanie narzędzi, a nie hosting modelu. Nie planuj wdrożenia w sieci bez internetu na Cursorze, dopóki Cursor nie potwierdzi na piśmie, którędy płyną dane. Do tego czasu używaj Cursora do kodu, który może opuścić sieć, a do repozytoriów objętych ograniczeniami uruchamiaj Claude Code albo Codeksa w zintegrowanym terminalu Cursora.

## Jak postawić serwer vLLM i sprawdzić, że agent działa?

Jeden serwer GPU, jeden agent, jeden test dymny z odpowiedzią „przeszło” albo „nie przeszło”. Zakłada host z Linuksem z wystarczającą pamięcią GPU (patrz reguła wymiarowania niżej) oraz Pythona z `uv`.

1. **Sprawdź licencję, zanim cokolwiek pobierzesz.** Zapisz w rejestrze modeli nazwę licencji i ograniczenia użycia z karty modelu w Hugging Face.

2. **Serwuj model z włączonymi wywołaniami narzędzi**, których agent kodujący potrzebuje. Użyj parsera wywołań narzędzi, który wskazuje karta modelu: vLLM wymienia parsery według rodzin (na przykład `glm47`, `kimi_k3`, `deepseek_v4`, `qwen3_xml` / `qwen3_coder`, `mistral` w vLLM 0.30.0), a nowszy model może wymagać nowszego wydania vLLM.

   ```bash
   # GPU server. VLLM_API_KEY comes from your secret store.
   uv venv && uv pip install vllm==0.30.0
   vllm serve MODEL_REPO_OR_PATH \
     --served-model-name SERVED_MODEL \
     --enable-auto-tool-choice --tool-call-parser PARSER \
     --max-model-len 131072 \
     --api-key "$VLLM_API_KEY" \
     --port 8000
   ```

   `MODEL_REPO_OR_PATH` to repozytorium w Hugging Face albo, bez internetu, lokalny katalog z wagami.

3. **Skieruj agenta na serwer** konfiguracją Claude Code albo Codeksa z zakładek powyżej.

4. **Uruchom test dymny, który wymaga narzędzi, edycji i testów.** Na jednorazowej gałęzi prawdziwego repozytorium:

   ```bash
   claude -p "Add a failing unit test for parseDuration('90m') returning 5400 seconds, run it, then fix src/time.ts until it passes. Report the test command and its final output." \
     --permission-mode acceptEdits --allowedTools "Bash(npm *)" --output-format json
   ```

5. **Czytaj wynik, nie prozę.** Uruchom test samodzielnie (`npm test -- time`) i sprawdź `git diff --stat`.

**Co zobaczysz:** pole `result` w JSON-ie podaje komendę testową, diff obejmuje `src/time.ts` i jeden plik testowy, a przebieg testów sam odtwarzasz na zielono. Proza bez edycji oznacza zepsute wywołania narzędzi; obcięty plan oznacza za mały kontekst.

**Reguła wymiarowania.** Pamięć na wagi ≈ łączna liczba parametrów × bajty na parametr: 744B w 8 bitach to ok. 744 GB, w 4 bitach ok. 372 GB, jeszcze przed KV cache. Mixture-of-experts pomaga szybkości, nie pamięci. Klasa 24B–27B (Devstral Small 2, Qwen3.8-27B) mieści się na jednej stacji roboczej.

## Jak zmierzyć lukę na własnych ewaluacjach?

Publiczne tablice porównują pary model–harness na cudzych zadaniach. Twoje pytanie brzmi, czy model jest wystarczająco dobry do **twojej** pracy w **twoim** harnessie, więc zbuduj mały zestaw ewaluacyjny z własnej historii. Pełna metoda jest na stronie [ewaluacje agentów kodujących](/pl/ecosystem/observability/evals-coding-agents/); poniżej wersja na potrzeby zmiany modelu.

1. **Zbierz 20–30 zadań ze scalonych pull requestów.** Wybierz pracę tego rodzaju, który chcesz kierować do modelu, z testami dodanymi w pull requeście. Zachowaj commit nadrzędny, treść zgłoszenia jako prompt i pliki testowe z pull requesta, w ich ścieżkach w repozytorium, jako ukryty sprawdzian.

2. **Zamroź konfigurację.** Ta sama wersja harnessu, `CLAUDE.md` albo `AGENTS.md`, serwery MCP, skille i poziom wysiłku. Zapisz to obok wyników.

3. **Uruchom każde zadanie w jednorazowym worktree**, na punkcie odniesienia (domyślnym modelu narzędzia) i na kandydacie, trzy razy na zestaw, jeśli cię na to stać; jeden przebieg na 25 zadaniach nie rozróżni modeli dzielonych kilkoma punktami.

4. **Oceniaj ukrytymi testami**, nie raportem agenta. Zadanie przechodzi, gdy przechodzą ukryte testy, a sprawdzanie typów i linter są czyste.

5. **Porównaj cztery liczby**, a potem zastosuj regułę decyzji poniżej.

Minimalny skrypt dla repozytorium, w którym każde zadanie leży w `evals/tasks/<id>/` z plikami `prompt.md`, `base_commit` i katalogiem `hidden-tests/`:

```bash
#!/usr/bin/env bash
# evals/run.sh SETUP_NAME  (run on an isolated runner with no production credentials)
set -euo pipefail
setup="$1"; mkdir -p "evals/results/$setup"
for dir in evals/tasks/*/; do
  id=$(basename "$dir")
  wt="$(mktemp -d)/$id"
  git worktree add --detach "$wt" "$(cat "$dir/base_commit")" >/dev/null
  ( cd "$wt"
    # A fresh worktree has no node_modules. Offline, point npm at your internal registry mirror.
    npm ci --silent || { echo "$id SETUP-FAIL"; exit 0; }
    claude -p "$(cat "$OLDPWD/$dir/prompt.md")" --permission-mode acceptEdits \
      --allowedTools "Bash(npm *)" --output-format json > "$OLDPWD/evals/results/$setup/$id.json" || true
    cp -r "$OLDPWD/$dir/hidden-tests/." .   # hidden tests are stored at their repository paths
    if npm test --silent && npx tsc --noEmit && npm run lint --silent; then echo "$id PASS"; else echo "$id FAIL"; fi
  ) | tee -a "evals/results/$setup/summary.txt"
  git worktree remove --force "$wt"
done
```

Zamiast komend `npm` użyj komend instalacji, testów, sprawdzania typów i lintera z twojego repozytorium. Uruchom skrypt dwa razy: raz w domyślnym środowisku, raz po wyeksportowaniu zmiennych dla serwera własnego z zakładki Claude Code. Dla Codeksa zamień dwuwierszową komendę `claude` na poniższą linię; `--json` zapisuje zdarzenia JSONL, więc plik wyniku ma rozszerzenie `.jsonl`:

```bash
codex -a never exec -p selfhosted --sandbox workspace-write --json "$(cat "$OLDPWD/$dir/prompt.md")" > "$OLDPWD/evals/results/$setup/$id.jsonl" || true
```

| Metryka | Definicja | Dlaczego się liczy |
| ------- | --------- | ------------------ |
| Odsetek sukcesów | Zadania, w których przechodzą ukryte testy, sprawdzanie typów i lint ÷ uruchomione zadania | Luka jakości wyrażona w twoich kategoriach |
| Koszt rozwiązanego zadania | (godziny GPU × koszt godziny albo wydatki na API) ÷ zadania zaliczone | Model, który zawodzi w połowie przypadków, nie jest tani |
| Odsetek interwencji | Przebiegi, które zadały pytanie, zapętliły się albo wyczerpały limit tur ÷ przebiegi | Ktoś musi wkroczyć |
| Odsetek błędnych wywołań narzędzi | Zniekształcone albo odrzucone wywołania ÷ wywołania narzędzi (transkrypty JSON) | Pierwszy sygnał złego parsera |

**Reguła decyzji.** Kieruj dany typ zadań do modelu open-weight, gdy jego odsetek sukcesów mieści się w uzgodnionym marginesie od punktu odniesienia (na przykład pięć punktów przy 25 zadaniach × 3 przebiegi), koszt rozwiązanego zadania jest niższy, a odsetek interwencji nie wyższy. W przeciwnym razie zostań przy modelu hostowanym i powtórz ewaluację przy kolejnym wydaniu ([plan oceny nowego modelu](/pl/ecosystem/models/new-model-playbook/)).

**Prompt do skopiowania: zestaw ewaluacyjny z własnej historii**

```text
Build an evaluation set for comparing coding models on this repository. Do not change application code.
1. Use git log and gh pr list --state merged --limit 200 to find merged pull requests from the last 6 months
   that (a) fix a bug or add a small feature, (b) add or change tests, and (c) touch fewer than 8 files.
2. Pick 25, spread across at least 4 different directories. Skip anything that changes CI, migrations,
   lockfiles or needs secrets to test.
3. For each, create evals/tasks/<pr-number>/ with:
   - prompt.md: the linked issue text, or the PR description rewritten as a task with no hint of the solution
   - base_commit: the parent commit of the merge
   - hidden-tests/: the test files the PR added or changed, at their repository paths, as of the merge commit
4. Verify each task: check out base_commit, copy hidden-tests/. into the repository root, run the tests, and confirm they FAIL.
   Drop any task whose hidden tests already pass.
Output a table: task id, directory, one-line task, test command, and whether the fail-first check passed.
```

**Prompt do skopiowania: porównanie dwóch przebiegów ewaluacji**

```text
Compare evals/results/baseline and evals/results/selfhosted. Do not edit files.
For each setup report: pass rate, the number of runs that ended without a final result,
and the number of tool calls that returned an error (read the JSON transcripts).
Then list every task that passed on baseline and failed on selfhosted, with the first point
where the selfhosted transcript went wrong (wrong file, malformed tool call, gave up, truncated context).
Group those failures by cause. End with one line: ROUTE (job types where selfhosted is within
5 points of baseline), HOLD (not yet), or INVESTIGATE (the failures look like setup errors, not model quality).
```

## Jaki jest próg kosztów modelu hostowanego samodzielnie?

Hosting własny zamienia cenę za token na koszt stały, który płacisz niezależnie od tego, czy GPU pracują. Pokaż finansom dwie liczby zamiast porównania cen za token:

- **Koszt rozwiązanego zadania, hosting własny** = (amortyzacja GPU albo zarezerwowany wynajem + energia + czas inżynierów na utrzymanie serwera) ÷ (zadania miesięcznie × odsetek sukcesów z ewaluacji).
- **Koszt rozwiązanego zadania, model hostowany** = wydatki na API lub plan dla tego samego zadania ÷ zadania rozwiązane na punkcie odniesienia. Próg rentowności to miesięczny wolumen, przy którym oba koszty są równe.

Poniżej progu wygrywa model hostowany (tańsze modele są w [przeglądzie modeli](/pl/ecosystem/models/)); powyżej hosting własny wygrywa tylko wtedy, gdy odsetek sukcesów się utrzymuje. Łatwo przeoczyć ponowne ewaluacje przy każdym wydaniu i dodatkowy czas recenzentów przy niższym odsetku sukcesów. Zobacz też [ekonomię inżynierii agentowej](/pl/strategy/economics/).

**Prompt do skopiowania: audyt gotowości do pracy bez internetu**

```text
Audit this repository and my local agent configuration for an air-gapped run against a self-hosted model.
Do not change anything; report only.
1. List every network destination the agent setup would reach: MCP servers in .mcp.json and ~/.claude.json,
   hooks in .claude/settings.json, plugins, skills that call external URLs, and package installs in scripts.
2. List the environment variables that control the model endpoint and which ones are set now
   (ANTHROPIC_BASE_URL, ANTHROPIC_AUTH_TOKEN, ANTHROPIC_API_KEY, ANTHROPIC_MODEL, ANTHROPIC_DEFAULT_*_MODEL,
   CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC). Show names only, never values.
3. Flag any model name ending in ":cloud" and any endpoint that is not on the internal network.
Output a table: destination, where it is configured, needed offline (yes/no), and the fix.
```

## Jakie reguły dotyczące danych obowiązują przy modelach open-weight?

„Otwarte wagi” odpowiadają na pytanie, gdzie działa model, a nie na to, na co pozwala licencja. Przejdź tę listę, zanim model dotknie kodu produkcyjnego.

- **Licencja wpisana do rejestru.** Zapisz licencję wag z karty modelu, a nie licencję kodu z repozytorium GitHub (kod GLM jest na Apache-2.0; wagi GLM-5.3 mają własną GLM-5.3 License, a GLM-5.3-Flash jest na MIT). Czytaj też warunki komercyjne: progi przychodu, wymóg wyświetlania nazwy i klauzule MaaS decydują, czy twoje użycie jest dozwolone.
- **Hosting własny, nie API dostawcy.** Hostowane API albo plan kodowania dostawcy wysyła twój kod do tego dostawcy, na jego warunkach i w jego jurysdykcji. API DeepSeek ma na przykład bazowy URL w formacie Anthropic (`https://api.deepseek.com/anthropic`) i nazwę modelu `deepseek-flash` (dawna nazwa `deepseek-v4-flash` jest nadal przyjmowana, ale model, który oznaczała, został wycofany); skierowanie Claude Code na to API to użycie hostowane, a nie hosting własny.
- **Tylko lokalne tagi.** Tagi Ollamy kończące się na `:cloud` działają w chmurze Ollamy, nie na twojej maszynie.
- **Ruch wychodzący zablokowany, a nie „zaufany”.** Blokuj ruch wychodzący z runnerów agentów na poziomie sieci i ustaw `CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1`.
- **Hostowany model open-weight to nadal model hostowany.** Kimi K3 w GitHub Copilot albo GLM-5.3 na platformie Mistrala (`zai-glm-5-3`, ogólnie dostępny od 2026-09-28) to nie hosting własny.

Rezydencja danych i zerowa retencja dla czołowych modeli hostowanych: [gdzie działa model](/pl/org/model-hosting/).

## Jak utrzymać dowodliwą jakość na słabszym modelu?

Zachowaj wszystkie bramki, które masz dla modelu hostowanego, i dodaj zestaw ewaluacyjny jako bramkę. Wynik weryfikujesz tak samo, niezależnie od tego, który model go napisał; zmienia się tylko to, jak często bramki coś wyłapują.

| Bramka | Co udowadnia | Właściciel |
| ------ | ------------ | ---------- |
| Odsetek sukcesów na zestawie ewaluacyjnym, powtarzany przy każdej aktualizacji modelu lub harnessu | Model nadal rozwiązuje zadania twojego typu | Zespół platformowy |
| Testy, sprawdzanie typów i lint w CI przy każdym pull requeście | Ta zmiana działa | CI, wymagane statusy |
| Reguła „najpierw test, który nie przechodzi” w instrukcjach agenta | Test wyłapałby regresję | Developer, który zlecił zadanie |
| Agent-recenzent na hostowanym modelu odniesienia, jeśli reguły danych na to pozwalają | Drugi model sprawdza każdy diff | Tech lead wybiera ścieżki |
| Odsetek rewertów i incydentów na model, co miesiąc | Słabsze wyniki nie trafiają na produkcję | CTO z zespołem platformowym |

Zatwierdzanie zostaje przy ludziach: developer odpowiada za każde scalenie, a właściciel platformy na podstawie liczb z ewaluacji przydziela typy zadań do modeli. Gdy odsetek sukcesów spada po aktualizacji, najpierw cofnij zmianę, a dopiero potem szukaj przyczyny. Ograniczenia dla serwera własnego: [uprawnienia i sandboxing](/pl/workflows/harness/permissions-and-sandboxing/).

## Co się psuje, gdy agent działa na modelu open-weight?

**Pułapki modeli open-weight i serwowania lokalnego**

- Domyślny kontekst Ollamy to 4k poniżej 24 GiB VRAM, co obcina prompt systemowy agenta. Ustaw `OLLAMA_CONTEXT_LENGTH=64000` i sprawdź `ollama ps`.
- Tagi Ollamy kończące się na `:cloud` działają w chmurze Ollamy: kod opuszcza maszynę.
- Pakiety PyPI `litellm` 1.82.7 i 1.82.8 były złośliwe (marzec 2026, już usunięte). Przypinaj wersję i instaluj z hashami.
- Codex odrzuca `wire_api = "chat"` (0.157.1–0.162.1): serwer obsługujący tylko Chat Completions nie może być dostawcą Codeksa.
- „Qwen4” nie istnieje: 2026-10-12 w GitHubie QwenLM ani w Hugging Face nie było wydania Qwen4 (Qwen3.8-Flash-Next zapowiada jego architekturę); wyniki „Qwen 4 Coder” nie mają źródła.
- `opencode-ai/opencode` i pythonowe `kimi-cli` są zarchiwizowane; używaj `anomalyco/opencode` i `@moonshot-ai/kimi-code`.

**Agent odpowiada prozą i nigdy nie edytuje pliku.** Wywołania narzędzi są wyłączone albo parser jest zły. Naprawa: uruchom vLLM ponownie z `--enable-auto-tool-choice` i parserem z karty modelu (w llama.cpp dodaj `--jinja`), a potem powtórz test dymny.

**Claude Code nadal łączy się z Anthropic.** Zapisane logowanie, klucz API albo plik ustawień nadpisuje zmienne powłoki. Naprawa: ustaw `ANTHROPIC_API_KEY=""` i `ANTHROPIC_AUTH_TOKEN`, uruchom `/status` i przenieś zmienne do bloku `env` pliku ustawień.

**Długie zadania rozpadają się w połowie.** `--max-model-len` jest za małe albo KV cache się nie mieści. Naprawa: sprawdź `/context`, podnieś `--max-model-len`, jeśli pamięć na to pozwala, i podziel zadanie za pomocą pliku planu.

**Ewaluacja wygląda świetnie, a produkcja nie.** Zestaw zawiera publiczny kod, na którym model się uczył, albo same łatwe zadania. Naprawa: używaj prywatnego kodu, sprawdzaj, czy ukryte testy najpierw nie przechodzą, i dodaj trudniejsze zadania z niedawnych incydentów.

**Serwer odrzuca żądania z komunikatem „Unexpected value(s) for the `anthropic-beta` header” albo „Extra inputs are not permitted”.** Nie implementuje nagłówków beta Anthropic i pól schematów narzędzi. Naprawa: ustaw `CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1`, co je usuwa (dokumentacja zmiennych środowiskowych, sprawdzona dla v2.1.283), i powtórz test dymny.

**Licencja blokuje zaplanowane użycie.** Najdroższa awaria. Naprawa: przełącz ten typ zadań z powrotem na punkt odniesienia i wybierz model zatwierdzony przez dział prawny. Zapobiegaj temu krokiem 1 konfiguracji serwera.

## Dokąd dalej z modelami open-weight

- [Przegląd modeli](/pl/ecosystem/models/) — Aktualne wersje, ceny i ustawienia domyślne.
- [Jak czytać benchmarki agentów kodujących](/pl/ecosystem/models/benchmarks/) — Co mierzą Terminal-Bench 4.0 i SWE-bench, a czego nie widzą.
- [Bramki i modele lokalne](/pl/ecosystem/agent-tools/gateways-local-models/) — LiteLLM, Claude Code Router, CC Switch, Ollama i LM Studio w szczegółach.
- [Gdzie działa model](/pl/org/model-hosting/) — Trasy chmurowe, rezydencja danych i zerowa retencja dla czołowych modeli hostowanych.
- [OpenCode](/pl/comparison/opencode/) — Agent open source, który kieruje zadania do różnych dostawców.
- [Gdy pojawia się nowy model](/pl/ecosystem/models/new-model-playbook/) — Powtórz ewaluację w ciągu 48 godzin od wydania.
