Przejdź do głównej zawartości

Modele kodujące z otwartymi wagami (GLM-5.3 i GLM-5.3-Flash, Qwen3.8, Kimi K3, DeepSeek V4.x oraz Devstral 2 i Medium 3.5 od Mistrala) mogą napędzać Claude Code, Codex i CLI dostawców z serwera, który kontrolujesz. Pasują do sieci bez internetu, ścisłych reguł dotyczących danych i niskiego progu kosztów, ale kieruj do nich pracę dopiero wtedy, gdy własne ewaluacje pokażą akceptowalną lukę jakości.

Dział bezpieczeństwa decyduje, że kod jednej linii produktów nie może opuścić budynku. Zakupy chcą drugiego dostawcy modeli przed odnowieniem kontraktu wartego miliony. Finanse pytają, dlaczego nocne zadanie, które etykietuje 40 000 błędów testów, działa na najdroższym modelu. Ktoś proponuje „po prostu uruchommy Qwena na własnych GPU”, a nikt nie wie, o ile gorszy będzie agent, co nadal zadziała ani na co pozwala licencja.

Ta strona jest dla CTO, który decyduje, czy finansować model hostowany samodzielnie, i dla developera, który ma podłączyć go do agenta zespołu i udowodnić, że działa. Znajdziesz tu krótką listę modeli na październik 2026 ze stanem licencji, macierz harnessów, zweryfikowaną konfigurację vLLM i Ollamy, protokół ewaluacji ze skryptem i regułą decyzji, wzór na koszt, listę kontrolną reguł dotyczących danych oraz pułapki, które po cichu wysyłają kod poza maszynę. Wersje modeli, ceny i okna kontekstu są w przeglądzie modeli.

Które modele kodujące z otwartymi wagami liczą się w październiku 2026?

Dział zatytułowany „Które modele kodujące z otwartymi wagami liczą się w październiku 2026?”

Pięć rodzin obejmuje niemal każdą poważną ewaluację. Rozmiary i własnych agentów dostawców zweryfikowano 2026-09-26 w repozytorium GitHub lub rejestrze pakietów każdego dostawcy, chyba że komórka mówi inaczej; licencje wag odczytano w repozytorium każdego modelu w Hugging Face 2026-10-12, a „sprawdź kartę modelu” oznacza licencję, której nie odczytano.

ModelDostawcaRozmiar (łącznie / aktywne)Licencja wagWłasny agent dostawcyDowody dla kodowania
GLM-5.3 i GLM-5.3-FlashZ.ai744B / 40B (Flash: 320B / 18B)GLM-5.3: własna „GLM-5.3 License”, grant w stylu MIT obejmujący wagi, ale operator MaaS, którego przychód grupy przekracza 10 mld USD w dowolnych kolejnych 12 miesiącach, musi przed komercyjnym użyciem przejść przegląd bezpieczeństwa Z.ai. GLM-5.3-Flash i GLM-5.2: MIT. Kod repozytorium to Apache-2.0 (odczyt 2026-09-26)ZCode (Apache-2.0, repozytorium utworzone 2026-09-20); działa też w Claude CodeJedyne dwa wpisy z otwartymi wagami na oficjalnej tablicy Terminal-Bench 4.0
Qwen3.8 (2.4T-A95B i 27B)Alibaba2,4T / 95B oraz model 27BQwen3.8-27B: Apache-2.0. Qwen3.8-2.4T-A95B: „Qwen3.8-Max License” (nazwę modelu trzeba wyświetlać w produktach powyżej 100 mln aktywnych użytkowników miesięcznie lub 20 mln USD przychodu miesięcznie; odrębna licencja jest potrzebna firmom MaaS lub „AI Work Assistant” powyżej 50 mln USD przychodu w 12 miesięcy). Qwen3.8-Flash-Next: „Qwen Community License 1.0”Qwen CodeDostawca: „a Qwen-Max-class model to open release”; wyniki niezweryfikowane
Kimi K3 (premiera w lipcu 2026)Moonshot AI2,8T / 104BWłasna „Kimi K3 License”, nie open source w rozumieniu OSI: operatorzy MaaS z przychodem powyżej 20 mln USD w 12 miesięcy potrzebują odrębnej umowy z Moonshot AI, a nazwę „Kimi K3” trzeba wyświetlać w produktach powyżej 100 mln aktywnych użytkowników miesięcznie lub 20 mln USD przychodu miesięcznie; użycie wewnętrzne jest zwolnioneKimi CodeTylko wyniki raportowane przez dostawcę (Terminal-Bench 2.1)
DeepSeek V4 (V4.1 Flash, V4-Pro)DeepSeekV4.1 Flash: 552B parametrów bazowych, 8B aktywnych w prefill i 16B w decode; Pro 1,6T / 49B (źródło wtórne: SitePoint)MIT (V4.1 Flash, V4-Pro-0813, V4-Flash-0731)DeepSeek Harness dsh (developer preview, npm latest 0.2.0-rc.2)V4.1 Flash (2026-09-10): DeepSeek podaje 31,2 na Terminal-Bench 4.0 w trybie minimal własnego harnessu; brak w oficjalnym rankingu
Devstral 2 · Devstral Small 2 · Mistral Medium 3.5MistralDevstral 123B i 24B (źródło wtórne: VentureBeat)Medium 3.5: Modified MIT, bez żadnych praw dla firmy, której globalny skonsolidowany przychód miesięczny przekracza 20 mln USD; Devstral: sprawdź kartę modeluMistral VibeDevstral 2 deklaruje 72,2% w SWE-bench Verified (źródło wtórne: VentureBeat)
  • GLM-5.3 i GLM-5.3-Flash to dwa modele z otwartymi wagami z niezależnymi dowodami. Na oficjalnej tablicy Terminal-Bench 4.0 (odczyt 2026-10-12) GLM-5.3 z wysiłkiem max w Claude Code ma 41,8% ± 3,2, a GLM-5.3-Flash (wysiłek none) 35,8% ± 3,5. Grok 4.7 w Grok Build ma 37,6% ± 3,5, a GPT-5.6 Sol w Codeksie 37,3% ± 3,8; przedziały 95% nachodzą na przedział GLM-5.3, więc tablica ich nie rozróżnia. Dla skali: Claude Opus 5.5 z wysiłkiem max w Claude Code ma 64,8% ± 3,1, a Claude Fable 5.1 57,9% ± 3,8.
  • Qwen3.8-Max-0902 to model hostowany. Komunikat Alibaby w Model Studio opisuje go jako migawkę endpointu qwen3.8-max z 2026-09-02 i nie nazywa go modelem z otwartymi wagami, więc jego 27,0% ± 3,8 na oficjalnej tablicy (w Claude Code) to wynik modelu hostowanego, a nie dowód dla pobieralnych wag Qwen3.8.
  • Mistral Large 4 nie ma jeszcze wag. Changelog Mistrala (2026-10-06) nazywa go „an open-weight, general-purpose multimodal model” w publicznym preview, z 1,05T parametrów łącznie i 52B aktywnych oraz oknem kontekstu 1M, i dodaje: „Open weights are coming soon.” Licencji nie opublikowano (sprawdzone 2026-10-12), więc do czasu pojawienia się wag i licencji to model hostowany.
  • Jeszcze dwie licencje warte przeczytania, zanim trafią na krótką listę. MiniMax M3 (około 428B łącznie i 23B aktywnych, kontekst 1M) ma „MiniMax Community License”: grant dotyczy celów niekomercyjnych, użycie komercyjne wymaga napisu „Built with MiniMax M3” i powiadomienia MiniMax, a powyżej 20 mln USD przychodu rocznie potrzebna jest pisemna zgoda. Wagi MiMo-V2.6-Pro-RL i MiMo-V2.6-Flash-RL od Xiaomi są na licencji MIT.
  • Liczby dostawców nie przenoszą się między wersjami benchmarku. Kimi K3 raportuje 88,3 w Terminal-Bench 2.1, starszej, prawie nasyconej wersji bez przelicznika na 4.0.
  • Tablica SWE-bench Verified jest zamrożona (najnowszy wpis 2026-02-26, sprawdzone 2026-10-12), więc każda liczba z 2026 roku dla tych modeli to deklaracja dostawcy.

Nic z tego nie przewiduje wyników w twoim repozytorium; do tego służy sekcja o ewaluacjach poniżej. Zobacz też jak czytać benchmarki agentów kodujących.

Model open-weight odpowiada na ograniczenie, nie na potrzebę jakości. Reguła wyboru modelu z przeglądu modeli nadal obowiązuje: zacznij od domyślnego modelu narzędzia (Claude Opus 5.5 w Claude Code; GPT-6.1 Sol w Codeksie), dostosuj poziom wysiłku, zanim zmienisz model, i zmieniaj model dopiero wtedy, gdy każą ci to własne ewaluacje.

Twoja sytuacjaModel open-weight?Dlaczego
Kod nie może opuścić twojej sieci (obronność, część banków, część sektora publicznego)Tak, hostowany samodzielnieŻadna strona trzecia nie przetwarza kodu. Najpierw sprawdź, czy regułę spełnia trasa chmurowa w ramach twojej umowy (gdzie działa model)
Reguły wymagają konkretnego regionu albo zerowej retencji, ale dostawca chmury jest dozwolonyZwykle nieCzołowy model hostowany w ramach umowy chmurowej jest prostszy
Duży wolumen wąskich zadań (etykietowanie błędów, generowanie fixture’ów, wstępny triage)MożeOpłaca się przy dużej skali tylko wtedy, gdy odsetek sukcesów na tym zadaniu jest bliski modelowi hostowanemu
Trudna, otwarta praca nad funkcjami w dużej bazie koduNie jako domyślnyWpisy z otwartymi wagami na tablicy (GLM-5.3 z 41,8%, GLM-5.3-Flash z 35,8%) są wyraźnie poniżej najlepszego wpisu Claude (Opus 5.5 z 64,8%)
Drugi dostawca, żeby uniknąć uzależnieniaTak, jako przetestowana alternatywaUtrzymuj jeden zestaw open-weight, który przechodzi twoje ewaluacje (jak uniknąć uzależnienia)
Laptop bez sieci w samolocieMoże, do małych zadańModel 24B–27B działa lokalnie, z wyraźnym spadkiem jakości przy pracy na wielu plikach

Które harnessy przyjmują model hostowany samodzielnie?

Dział zatytułowany „Które harnessy przyjmują model hostowany samodzielnie?”

Harness waży tyle samo co model: wpis na tablicy to GLM-5.3 w Claude Code. Każdy harness mówi jednym formatem API i stos serwujący musi do niego pasować.

HarnessJak dociera do twojego modeluWymagane APICo tracisz
Claude Code 2.1.283ANTHROPIC_BASE_URL plus zmienna z tokenem; --model albo ANTHROPIC_MODELAnthropic Messages (/v1/messages)Remote Control (wyłączone, gdy bazowy URL to nie api.anthropic.com); /voice (wymaga logowania do claude.ai); wyszukiwanie narzędzi MCP, domyślnie wyłączone (ustaw ENABLE_TOOL_SEARCH=true, jeśli twój serwer przekazuje bloki tool_reference)
Codex 0.157.1–0.162.1--oss z --local-provider ollama albo lmstudio lub blok [model_providers.<id>] w pliku konfiguracjiTylko Responses API (wire_api = "responses"); "chat" jest odrzucaneFunkcje powiązane z logowaniem ChatGPT lub OpenAI, na przykład zadania codex cloud
CursorNiezweryfikowane dla modelu serwowanego w twojej sieci (sprawdzone 2026-10-12)—Zobacz zakładkę Cursor poniżej
Qwen Code, Kimi Code, Mistral Vibe, DeepSeek dshCLI każdego dostawcy, zbudowane pod jego modeleSpecyficzne dla dostawcyPrzenośność twoich promptów, hooków i skilli
OpenCode, Cline, Aider, Goose, CrushUstawienia dostawcy w każdym narzędziuGłównie zgodne z OpenAIKonfigurację Claude Code lub Codeksa twojego zespołu

Stosy serwujące, które implementują te API, zweryfikowane 2026-09-26:

  • vLLM (PyPI vllm 0.30.0): serwer zgodny z OpenAI „plus Anthropic Messages API”, z wywołaniami narzędzi w obu. Wybór produkcyjny dla współdzielonego serwera GPU.
  • Ollama: „a subset of the Anthropic Messages API”; ollama launch claude i ollama launch codex konfigurują agentów za ciebie.
  • LM Studio: lokalny POST /v1/messages; Codex dociera do niego przez --local-provider lmstudio.
  • llama.cpp llama-server: zgodny z Anthropic Messages; wywołania narzędzi wymagają --jinja.
  • LiteLLM albo Claude Code Router: bramka z wirtualnymi kluczami i budżetami przed kilkoma backendami (bramki i modele lokalne).

Popularność na 2026-09-26: Ollama ma 181 740 gwiazdek na GitHubie (GitHub, ollama/ollama, odczyt 2026-09-26); gwiazdki mierzą uwagę, nie przydatność w regulowanej sieci.

Jak podłączyć Claude Code lub Codeksa do modelu hostowanego samodzielnie?

Dział zatytułowany „Jak podłączyć Claude Code lub Codeksa do modelu hostowanego samodzielnie?”

Zacznij od próby z Ollamą na jednej maszynie, żeby poznać typowe awarie, a potem przejdź na vLLM na współdzielonym serwerze.

Próba na jednej maszynie z Ollamą. Domyślny kontekst Ollamy zależy od VRAM (4k poniżej 24 GiB), co po cichu obcina prompt systemowy agenta, więc najpierw go podnieś:

Okno terminala
# Terminal 1: start Ollama with an agent-sized context
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
# Terminal 2: let Ollama launch Claude Code wired to a local model (interactive session)
ollama launch claude --model LOCAL_MODEL
# Terminal 3, while the session runs: confirm the loaded context
ollama ps # CONTEXT should read 64000; PROCESSOR should read 100% GPU

Serwer zespołu z vLLM. Zmapuj każdy alias modelu na serwowany model: Claude Code wywołuje też alias haiku do pracy w tle i bez mapowania te wywołania kończą się błędem „model not found”:

Okno terminala
# Developer machine or CI runner. VLLM_API_KEY comes from your secret store, never a literal.
export ANTHROPIC_BASE_URL=http://gpu-01.internal:8000
export ANTHROPIC_AUTH_TOKEN="$VLLM_API_KEY" # sent as "Authorization: Bearer ..."
export ANTHROPIC_API_KEY="" # stop a saved key from overriding the gateway
export ANTHROPIC_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_OPUS_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_SONNET_MODEL=SERVED_MODEL
export ANTHROPIC_DEFAULT_HAIKU_MODEL=SERVED_MODEL
export CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 # no auto-updates, telemetry or error reporting
claude

Uruchom /status, żeby potwierdzić bazowy URL, i /context, żeby zobaczyć, ile okna zajmują prompt systemowy i narzędzia, zanim cokolwiek wpiszesz (koszt kontekstu). Dla zespołu umieść zmienne w bloku env zarządzanego pliku ustawień (bramka LLM).

Jak postawić serwer vLLM i sprawdzić, że agent działa?

Dział zatytułowany „Jak postawić serwer vLLM i sprawdzić, że agent działa?”

Jeden serwer GPU, jeden agent, jeden test dymny z odpowiedzią „przeszło” albo „nie przeszło”. Zakłada host z Linuksem z wystarczającą pamięcią GPU (patrz reguła wymiarowania niżej) oraz Pythona z uv.

  1. Sprawdź licencję, zanim cokolwiek pobierzesz. Zapisz w rejestrze modeli nazwę licencji i ograniczenia użycia z karty modelu w Hugging Face.

  2. Serwuj model z włączonymi wywołaniami narzędzi, których agent kodujący potrzebuje. Użyj parsera wywołań narzędzi, który wskazuje karta modelu: vLLM wymienia parsery według rodzin (na przykład glm47, kimi_k3, deepseek_v4, qwen3_xml / qwen3_coder, mistral w vLLM 0.30.0), a nowszy model może wymagać nowszego wydania vLLM.

    Okno terminala
    # GPU server. VLLM_API_KEY comes from your secret store.
    uv venv && uv pip install vllm==0.30.0
    vllm serve MODEL_REPO_OR_PATH \
    --served-model-name SERVED_MODEL \
    --enable-auto-tool-choice --tool-call-parser PARSER \
    --max-model-len 131072 \
    --api-key "$VLLM_API_KEY" \
    --port 8000

    MODEL_REPO_OR_PATH to repozytorium w Hugging Face albo, bez internetu, lokalny katalog z wagami.

  3. Skieruj agenta na serwer konfiguracją Claude Code albo Codeksa z zakładek powyżej.

  4. Uruchom test dymny, który wymaga narzędzi, edycji i testów. Na jednorazowej gałęzi prawdziwego repozytorium:

    Okno terminala
    claude -p "Add a failing unit test for parseDuration('90m') returning 5400 seconds, run it, then fix src/time.ts until it passes. Report the test command and its final output." \
    --permission-mode acceptEdits --allowedTools "Bash(npm *)" --output-format json
  5. Czytaj wynik, nie prozę. Uruchom test samodzielnie (npm test -- time) i sprawdź git diff --stat.

Co zobaczysz: pole result w JSON-ie podaje komendę testową, diff obejmuje src/time.ts i jeden plik testowy, a przebieg testów sam odtwarzasz na zielono. Proza bez edycji oznacza zepsute wywołania narzędzi; obcięty plan oznacza za mały kontekst.

Reguła wymiarowania. Pamięć na wagi ≈ łączna liczba parametrów × bajty na parametr: 744B w 8 bitach to ok. 744 GB, w 4 bitach ok. 372 GB, jeszcze przed KV cache. Mixture-of-experts pomaga szybkości, nie pamięci. Klasa 24B–27B (Devstral Small 2, Qwen3.8-27B) mieści się na jednej stacji roboczej.

Publiczne tablice porównują pary model–harness na cudzych zadaniach. Twoje pytanie brzmi, czy model jest wystarczająco dobry do twojej pracy w twoim harnessie, więc zbuduj mały zestaw ewaluacyjny z własnej historii. Pełna metoda jest na stronie ewaluacje agentów kodujących; poniżej wersja na potrzeby zmiany modelu.

  1. Zbierz 20–30 zadań ze scalonych pull requestów. Wybierz pracę tego rodzaju, który chcesz kierować do modelu, z testami dodanymi w pull requeście. Zachowaj commit nadrzędny, treść zgłoszenia jako prompt i pliki testowe z pull requesta, w ich ścieżkach w repozytorium, jako ukryty sprawdzian.

  2. Zamroź konfigurację. Ta sama wersja harnessu, CLAUDE.md albo AGENTS.md, serwery MCP, skille i poziom wysiłku. Zapisz to obok wyników.

  3. Uruchom każde zadanie w jednorazowym worktree, na punkcie odniesienia (domyślnym modelu narzędzia) i na kandydacie, trzy razy na zestaw, jeśli cię na to stać; jeden przebieg na 25 zadaniach nie rozróżni modeli dzielonych kilkoma punktami.

  4. Oceniaj ukrytymi testami, nie raportem agenta. Zadanie przechodzi, gdy przechodzą ukryte testy, a sprawdzanie typów i linter są czyste.

  5. Porównaj cztery liczby, a potem zastosuj regułę decyzji poniżej.

Minimalny skrypt dla repozytorium, w którym każde zadanie leży w evals/tasks/<id>/ z plikami prompt.md, base_commit i katalogiem hidden-tests/:

#!/usr/bin/env bash
# evals/run.sh SETUP_NAME (run on an isolated runner with no production credentials)
set -euo pipefail
setup="$1"; mkdir -p "evals/results/$setup"
for dir in evals/tasks/*/; do
id=$(basename "$dir")
wt="$(mktemp -d)/$id"
git worktree add --detach "$wt" "$(cat "$dir/base_commit")" >/dev/null
( cd "$wt"
# A fresh worktree has no node_modules. Offline, point npm at your internal registry mirror.
npm ci --silent || { echo "$id SETUP-FAIL"; exit 0; }
claude -p "$(cat "$OLDPWD/$dir/prompt.md")" --permission-mode acceptEdits \
--allowedTools "Bash(npm *)" --output-format json > "$OLDPWD/evals/results/$setup/$id.json" || true
cp -r "$OLDPWD/$dir/hidden-tests/." . # hidden tests are stored at their repository paths
if npm test --silent && npx tsc --noEmit && npm run lint --silent; then echo "$id PASS"; else echo "$id FAIL"; fi
) | tee -a "evals/results/$setup/summary.txt"
git worktree remove --force "$wt"
done

Zamiast komend npm użyj komend instalacji, testów, sprawdzania typów i lintera z twojego repozytorium. Uruchom skrypt dwa razy: raz w domyślnym środowisku, raz po wyeksportowaniu zmiennych dla serwera własnego z zakładki Claude Code. Dla Codeksa zamień dwuwierszową komendę claude na poniższą linię; --json zapisuje zdarzenia JSONL, więc plik wyniku ma rozszerzenie .jsonl:

Okno terminala
codex -a never exec -p selfhosted --sandbox workspace-write --json "$(cat "$OLDPWD/$dir/prompt.md")" > "$OLDPWD/evals/results/$setup/$id.jsonl" || true
MetrykaDefinicjaDlaczego się liczy
Odsetek sukcesówZadania, w których przechodzą ukryte testy, sprawdzanie typów i lint ÷ uruchomione zadaniaLuka jakości wyrażona w twoich kategoriach
Koszt rozwiązanego zadania(godziny GPU × koszt godziny albo wydatki na API) ÷ zadania zaliczoneModel, który zawodzi w połowie przypadków, nie jest tani
Odsetek interwencjiPrzebiegi, które zadały pytanie, zapętliły się albo wyczerpały limit tur ÷ przebiegiKtoś musi wkroczyć
Odsetek błędnych wywołań narzędziZniekształcone albo odrzucone wywołania ÷ wywołania narzędzi (transkrypty JSON)Pierwszy sygnał złego parsera

Reguła decyzji. Kieruj dany typ zadań do modelu open-weight, gdy jego odsetek sukcesów mieści się w uzgodnionym marginesie od punktu odniesienia (na przykład pięć punktów przy 25 zadaniach × 3 przebiegi), koszt rozwiązanego zadania jest niższy, a odsetek interwencji nie wyższy. W przeciwnym razie zostań przy modelu hostowanym i powtórz ewaluację przy kolejnym wydaniu (plan oceny nowego modelu).

Jaki jest próg kosztów modelu hostowanego samodzielnie?

Dział zatytułowany „Jaki jest próg kosztów modelu hostowanego samodzielnie?”

Hosting własny zamienia cenę za token na koszt stały, który płacisz niezależnie od tego, czy GPU pracują. Pokaż finansom dwie liczby zamiast porównania cen za token:

  • Koszt rozwiązanego zadania, hosting własny = (amortyzacja GPU albo zarezerwowany wynajem + energia + czas inżynierów na utrzymanie serwera) ÷ (zadania miesięcznie × odsetek sukcesów z ewaluacji).
  • Koszt rozwiązanego zadania, model hostowany = wydatki na API lub plan dla tego samego zadania ÷ zadania rozwiązane na punkcie odniesienia. Próg rentowności to miesięczny wolumen, przy którym oba koszty są równe.

Poniżej progu wygrywa model hostowany (tańsze modele są w przeglądzie modeli); powyżej hosting własny wygrywa tylko wtedy, gdy odsetek sukcesów się utrzymuje. Łatwo przeoczyć ponowne ewaluacje przy każdym wydaniu i dodatkowy czas recenzentów przy niższym odsetku sukcesów. Zobacz też ekonomię inżynierii agentowej.

Jakie reguły dotyczące danych obowiązują przy modelach open-weight?

Dział zatytułowany „Jakie reguły dotyczące danych obowiązują przy modelach open-weight?”

„Otwarte wagi” odpowiadają na pytanie, gdzie działa model, a nie na to, na co pozwala licencja. Przejdź tę listę, zanim model dotknie kodu produkcyjnego.

  • Licencja wpisana do rejestru. Zapisz licencję wag z karty modelu, a nie licencję kodu z repozytorium GitHub (kod GLM jest na Apache-2.0; wagi GLM-5.3 mają własną GLM-5.3 License, a GLM-5.3-Flash jest na MIT). Czytaj też warunki komercyjne: progi przychodu, wymóg wyświetlania nazwy i klauzule MaaS decydują, czy twoje użycie jest dozwolone.
  • Hosting własny, nie API dostawcy. Hostowane API albo plan kodowania dostawcy wysyła twój kod do tego dostawcy, na jego warunkach i w jego jurysdykcji. API DeepSeek ma na przykład bazowy URL w formacie Anthropic (https://api.deepseek.com/anthropic) i nazwę modelu deepseek-flash (dawna nazwa deepseek-v4-flash jest nadal przyjmowana, ale model, który oznaczała, został wycofany); skierowanie Claude Code na to API to użycie hostowane, a nie hosting własny.
  • Tylko lokalne tagi. Tagi Ollamy kończące się na :cloud działają w chmurze Ollamy, nie na twojej maszynie.
  • Ruch wychodzący zablokowany, a nie „zaufany”. Blokuj ruch wychodzący z runnerów agentów na poziomie sieci i ustaw CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1.
  • Hostowany model open-weight to nadal model hostowany. Kimi K3 w GitHub Copilot albo GLM-5.3 na platformie Mistrala (zai-glm-5-3, ogólnie dostępny od 2026-09-28) to nie hosting własny.

Rezydencja danych i zerowa retencja dla czołowych modeli hostowanych: gdzie działa model.

Jak utrzymać dowodliwą jakość na słabszym modelu?

Dział zatytułowany „Jak utrzymać dowodliwą jakość na słabszym modelu?”

Zachowaj wszystkie bramki, które masz dla modelu hostowanego, i dodaj zestaw ewaluacyjny jako bramkę. Wynik weryfikujesz tak samo, niezależnie od tego, który model go napisał; zmienia się tylko to, jak często bramki coś wyłapują.

BramkaCo udowadniaWłaściciel
Odsetek sukcesów na zestawie ewaluacyjnym, powtarzany przy każdej aktualizacji modelu lub harnessuModel nadal rozwiązuje zadania twojego typuZespół platformowy
Testy, sprawdzanie typów i lint w CI przy każdym pull requeścieTa zmiana działaCI, wymagane statusy
Reguła „najpierw test, który nie przechodzi” w instrukcjach agentaTest wyłapałby regresjęDeveloper, który zlecił zadanie
Agent-recenzent na hostowanym modelu odniesienia, jeśli reguły danych na to pozwalająDrugi model sprawdza każdy diffTech lead wybiera ścieżki
Odsetek rewertów i incydentów na model, co miesiącSłabsze wyniki nie trafiają na produkcjęCTO z zespołem platformowym

Zatwierdzanie zostaje przy ludziach: developer odpowiada za każde scalenie, a właściciel platformy na podstawie liczb z ewaluacji przydziela typy zadań do modeli. Gdy odsetek sukcesów spada po aktualizacji, najpierw cofnij zmianę, a dopiero potem szukaj przyczyny. Ograniczenia dla serwera własnego: uprawnienia i sandboxing.

Co się psuje, gdy agent działa na modelu open-weight?

Dział zatytułowany „Co się psuje, gdy agent działa na modelu open-weight?”

Agent odpowiada prozą i nigdy nie edytuje pliku. Wywołania narzędzi są wyłączone albo parser jest zły. Naprawa: uruchom vLLM ponownie z --enable-auto-tool-choice i parserem z karty modelu (w llama.cpp dodaj --jinja), a potem powtórz test dymny.

Claude Code nadal łączy się z Anthropic. Zapisane logowanie, klucz API albo plik ustawień nadpisuje zmienne powłoki. Naprawa: ustaw ANTHROPIC_API_KEY="" i ANTHROPIC_AUTH_TOKEN, uruchom /status i przenieś zmienne do bloku env pliku ustawień.

Długie zadania rozpadają się w połowie. --max-model-len jest za małe albo KV cache się nie mieści. Naprawa: sprawdź /context, podnieś --max-model-len, jeśli pamięć na to pozwala, i podziel zadanie za pomocą pliku planu.

Ewaluacja wygląda świetnie, a produkcja nie. Zestaw zawiera publiczny kod, na którym model się uczył, albo same łatwe zadania. Naprawa: używaj prywatnego kodu, sprawdzaj, czy ukryte testy najpierw nie przechodzą, i dodaj trudniejsze zadania z niedawnych incydentów.

Serwer odrzuca żądania z komunikatem „Unexpected value(s) for the anthropic-beta header” albo „Extra inputs are not permitted”. Nie implementuje nagłówków beta Anthropic i pól schematów narzędzi. Naprawa: ustaw CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1, co je usuwa (dokumentacja zmiennych środowiskowych, sprawdzona dla v2.1.283), i powtórz test dymny.

Licencja blokuje zaplanowane użycie. Najdroższa awaria. Naprawa: przełącz ten typ zadań z powrotem na punkt odniesienia i wybierz model zatwierdzony przez dział prawny. Zapobiegaj temu krokiem 1 konfiguracji serwera.

Czy ten artykuł Ci pomógł?

Jedno kliknięcie, bez logowania.

wcale bardzo

Najczęstsze pytania

Czy Claude Code może działać na modelu open-weight?

Tak. Zadziała każdy serwer, który implementuje Anthropic Messages API (vLLM, Ollama, LM Studio, llama.cpp albo bramka LiteLLM), podłączony przez ANTHROPIC_BASE_URL.

Czy Codex może działać na modelu open-weight?

Tak. codex-cli 0.157.1–0.162.1 ma --oss z --local-provider ollama albo lmstudio oraz własnych dostawców obsługujących Responses API (wire_api = "chat" nie jest już obsługiwane).

Który model open-weight ocenić najpierw?

GLM-5.3, najwyższy wpis z otwartymi wagami na oficjalnej tablicy Terminal-Bench 4.0 (odczyt 2026-10-12): 41,8% ± 3,2 w Claude Code. Drugi to GLM-5.3-Flash (MIT) z 35,8% ± 3,5. Najpierw przeczytaj licencję wag: GLM-5.3 ma własną GLM-5.3 License.

Jak duża jest luka jakości względem Claude Opus 5.5 albo GPT-6.1 Sol?

Żadne źródło pierwotne nie mierzy jej na twoim kodzie. Przepuść 20–30 zadań z własnych scalonych pull requestów przez oba zestawy i porównaj odsetek sukcesów, koszt rozwiązanego zadania i odsetek interwencji.