Governance i autonomia: człowiek przy bramkach
ENNadzór nad agentami AI (governance) przypisuje każdej zmianie klasę ryzyka (niską, średnią, wysoką lub krytyczną) i to ta klasa, a nie pewność agenta ani producent narzędzia, decyduje, co agent może zrobić sam. Guardrails ograniczają agenta w trakcie pracy; bramki rozstrzygają, czy dowody wystarczą do merge lub wydania. Bramki dla klas wysokiej i krytycznej należą do wskazanych ludzi.
Ta strona jest dla CTO i tech leadów, którzy odpowiadają za politykę autonomii. Twoi agenci już otwierają pull requesty w nocy. Na przeglądzie incydentu ktoś pyta, kto zatwierdził migrację, która usunęła kolumnę, a uczciwa odpowiedź brzmi: „własny review agenta i linijka w CLAUDE.md, że ma nigdy nie dotykać produkcji”. To rada, nie kontrola. Ta strona zastępuje ją kontrolami, które da się wskazać palcem.
Co daje ci ta polityka autonomii
Dział zatytułowany „Co daje ci ta polityka autonomii”- Tabelę czterech klas ryzyka: co agent może zrobić sam i jakiej decyzji człowieka wymaga każda klasa.
- Trzy stopnie zatwierdzania Anthropic i cztery reguły, które je przydzielają, z repozytoriów zespołu Claude Code.
- Mapę rozmieszczenia guardrails i bramek w cyklu życia, z dowodem, jaki zostawia każda z nich.
- Egzekwowanie granic w Claude Code, Codex i Cursorze, tak aby granica leżała poza modelem.
- Prompt kontraktu dowodowego i szablon polityki do przyjęcia bez zmian.
- Ćwiczenie kontroli, pięć metryk i projekt bezpiecznika (circuit breaker), który zaostrza zatwierdzanie, gdy rosną cofnięcia.
Do jakiej klasy ryzyka należy zmiana agenta?
Dział zatytułowany „Do jakiej klasy ryzyka należy zmiana agenta?”Klasyfikuj według kosztu pomyłki, nie według rozmiaru diffa. Oceń pięć czynników: zasięg szkód, wrażliwość danych, odwracalność, wpływ regulacyjny i zakres poświadczeń, których potrzebuje uruchomienie. Decyduje najwyższy czynnik. Trzylinijkowa zmiana w obsłudze sesji jest krytyczna, nawet gdy agent jest pewny swego.
| Klasa ryzyka | Typowa zmiana | Agent może | Bramka | Wymagana decyzja człowieka |
|---|---|---|---|---|
| Niska | Testy, dokumentacja, research, narzędzia wewnętrzne, izolowane refaktoryzacje pod zielonymi testami | Edytować izolowany checkout, uruchamiać lokalne checki, otworzyć PR | Zielone CI i kompletny pakiet dowodów | Lekkie review i merge przez dowolną osobę z zespołu |
| Średnia | Funkcja w jednym serwisie, aktualizacje zależności, zmiany w preview lub stagingu | Używać zawężonych poświadczeń nieprodukcyjnych i zatwierdzonych runbooków | CI, zaakceptowany plan i akceptacja code ownera | Code owner akceptuje plan i zatwierdza merge |
| Wysoka | Uwierzytelnianie, billing, migracje schematu, biblioteki współdzielone, ścieżki wrażliwych danych | Przygotować zmianę, dry run i przetestowany rollback | Review specjalisty, przećwiczony rollback i zgoda na wydanie | Wskazany specjalista i właściciel wydania, osobno |
| Krytyczna | Zmiany danych produkcyjnych, wyjątki bezpieczeństwa, operacje destrukcyjne, zakres regulowany | Wyłącznie przygotować dowody i wniosek o zgodę | Bramka platformy wdrożeniowej, której tożsamość agenta nie przejdzie | Wskazany właściciel autoryzuje, platforma wykonuje |
Klasy ryzyka to nie poziomy dojrzałości. Poziom pętli na drabinie autonomii mierzy, na ile ufasz tej pętli; klasa ryzyka mierzy, ile kosztuje pomyłka. Trzymaj jedno i drugie w rejestrze autonomii, żeby pętla z długą, czystą historią nie „wysłużyła” sobie dostępu do zmian krytycznych.
Niektóre działania leżą poza uprawnieniami agenta w każdej klasie: odczyt lub rotacja sekretów produkcyjnych, niezatwierdzona komunikacja zewnętrzna, usuwanie backupów i zatwierdzanie własnej pracy. Wpisz je do polityki jako zakazane i egzekwuj regułami deny oraz poświadczeniami, których agent nigdy nie dostaje.
Jak Anthropic stopniuje zatwierdzanie przez ludzi według ryzyka?
Dział zatytułowany „Jak Anthropic stopniuje zatwierdzanie przez ludzi według ryzyka?”Zespół Claude Code w Anthropic stosuje trzystopniową wersję tego pomysłu i opisuje ją w artykule inżynierskim „How the Claude Code team does code review” (15 października 2026). To praktyka jednego zespołu, zgłoszona przez niego samego, a nie standard, ale na tyle konkretna, że da się ją skopiować. Stopień określa, ile osób zatwierdza zmianę po przejściu automatycznego review i kontroli bezpieczeństwa.
| Stopień | Przykłady | Zatwierdzenia ludzi |
|---|---|---|
| Niski | Dokumentacja, teksty, funkcje wyłącznie wewnętrzne, zmiany addytywne za flagą | Żadne, gdy automatyczne review i kontrole bezpieczeństwa są zielone |
| Średni | Zwykłe zmiany produktowe oraz zmiany w obszarach wrażliwych, takich jak cache, auto-updater czy prompty systemowe | Jedna osoba |
| Wysoki | Kod o najwyższym ryzyku oraz niewielki zestaw ścieżek, które zawsze wymagają dwóch osób | Dwie osoby |
Niski stopień Anthropic nie wymaga zatwierdzenia przez człowieka, gdy automatyczne review i kontrole bezpieczeństwa są zielone, a klasa niska z tabeli powyżej wymaga lekkiego review przez dowolną osobę z zespołu. Klauzula 6 szablonu poniżej już pozwala recenzentowi AI zatwierdzać zmiany klasy niskiej, więc różnica polega na tym, czy dodatkowo wymagany jest człowiek. Zostaw człowieka, dopóki historia danej klasy nie uzasadni jego usunięcia. Artykuł mówi, że właściciele repozytoriów sami decydują, które zmiany niskiego ryzyka scalają się na samych automatycznych sprawdzeniach, i że ta granica „wciąż się przesuwa”.
Cztery reguły decydują, jaki stopień dostaje zmiana i kto może ją zatwierdzić:
- Stopień wyznacza zmiana, nie autor. Jeden klasyfikator czyta zmianę i wybiera stopień. Drugi pyta, czy ta konkretna zmiana wymaga drugiej osoby, nawet jeśli jej stopień tego nie wymaga. Ścieżki, które właściciele uznali za wrażliwe, oraz każdy plik workflow CI zawsze wymagają człowieka.
- Lżejsze ścieżki dostają tylko zaufani autorzy. Lista zaufanych należy do repozytorium i obejmuje głównie zespół, który nim zarządza. Wszyscy pozostali potrzebują zatwierdzenia drugiej osoby. Zatwierdzenie agenta nigdy nie liczy się jako zatwierdzenie człowieka: automatyczne review może zwolnić zmianę niskiego ryzyka, ale nie zajmie miejsca, które wymaga człowieka.
- Osoba kierująca agentem jest wymaganym recenzentem. W pull requeście napisanym przez agenta liczy się jako jeden z wymaganych recenzentów, tak samo, jakby sama napisała kod. Według tego przewodnika zmianę średnią może więc zatwierdzić osoba, która kierowała agentem, a zmiana wysoka nadal wymaga drugiej osoby oprócz niej.
- Zatwierdzenie obejmuje jeden konkretny commit. Nowe commity, za które system nie może poręczyć, na przykład push agenta albo merge rozwiązany ręcznie, wymagają ponownego zatwierdzenia.
Lista kontrolna wdrożenia z artykułu zamienia te reguły w trzy ustawienia twojej platformy Git:
- Spisz stopnie, wyznaczaj je na podstawie zmiany, a nie autora, i zaczynaj surowo, a luzuj na podstawie dowodów, jedną klasę naraz. Lżejsze ścieżki zostaw autorom, którym ufasz, i nikomu więcej.
- Skieruj uwierzytelnianie, billing, workflow CI i wydań oraz instalatory przez
CODEOWNERSz branch protection wymagającym review od code ownera, żeby te ścieżki zawsze wymagały człowieka. Punktem wyjścia jest blokCODEOWNERSze strony o człowieku w pętli. - Nigdy nie pozwól, żeby zatwierdzenie bota zastąpiło wymaganego człowieka, i unieważniaj zatwierdzenia przy nowych commitach. Na to drugie GitHub ma w branch protection osobne ustawienie, Dismiss stale pull request approvals when new commits are pushed. Jest mniej precyzyjne niż reguła Anthropic, która żąda nowego zatwierdzenia tylko dla commitów, za które system nie może poręczyć.
Guardrails czy bramki: gdzie umieścić którą kontrolę?
Dział zatytułowany „Guardrails czy bramki: gdzie umieścić którą kontrolę?”Guardrail kształtuje lub ogranicza agenta przed pracą i w jej trakcie: sandbox, zawężony token, hook blokujący polecenie. Bramka rozstrzyga, czy dowody wystarczą, żeby iść dalej: wymagany check, akceptacja code ownera, zgoda na wdrożenie. Potrzebujesz obu, bo guardrail nie oceni intencji produktowej, a bramka nie zatrzyma polecenia, które już się wykonało. Model, w którym agenci pracują w całym cyklu życia, a ludzie są właścicielami bramek, to agentowe tworzenie oprogramowania.
| Moment | Kontrola | Przykład | Dowód, który zostaje |
|---|---|---|---|
| Przed pracą | Granica | Zaakceptowana intencja, dozwolone ścieżki, klasa danych, budżet | Przejrzane intent.md i plan.md |
| W trakcie pracy | Guardrail | Sandbox, zawężone poświadczenia, hook, chroniona ścieżka | Log polityki i test zablokowanej akcji |
| Przed merge | Bramka | Typy, testy, skan bezpieczeństwa, review specyfikacji | Wyniki CI i zapis review |
| Przed produkcją | Bramka decyzyjna | Wskazany zatwierdzający, okno zmian, gotowość rollbacku | Zapis zgody i wydania |
| Po wydaniu | Informacja zwrotna | Canary, telemetria, wyzwalacz incydentu | Okno obserwacji i decyzja: promocja albo rollback |
Instrukcje repozytorium (CLAUDE.md, AGENTS.md, reguły Cursora i skille) poprawiają zachowanie, ale model może je źle odczytać. Dopasuj każdą potrzebę do warstwy, która naprawdę ją egzekwuje:
| Potrzeba | Właściwa kontrola | Niewłaściwa kontrola |
|---|---|---|
| Wyjaśnić architekturę i konwencje | CLAUDE.md, AGENTS.md, reguły Cursora | Hook |
| Powtarzać wieloetapowy workflow | Skill | Długi prompt wklejany ręcznie |
| Zablokować lub zalogować deterministyczną akcję narzędzia | Hook lub polityka wykonania | Zdanie w CLAUDE.md |
| Ograniczyć pliki, polecenia i sieć | Sandbox i zawężona tożsamość | „Nie wdrażaj” w prompcie |
| Wymusić review przed merge | Branch protection i code ownerzy | Akceptacja recenzenta AI |
| Wymusić autoryzację przed produkcją | Środowisko wdrożeniowe lub bramka change management | Podsumowanie agenta-autora |
| Bezpiecznie się wycofać | Przećwiczony rollback ze wskazanym właścicielem | Runbook, którego nikt nie uruchomił |
| Udowodnić, co się stało | Niezmienne logi CI, PR, wdrożeń i incydentów | Sam transkrypt agenta |
Oddziel tożsamość agenta od uprawnień człowieka
Dział zatytułowany „Oddziel tożsamość agenta od uprawnień człowieka”-
Daj każdemu nieinteraktywnemu agentowi własną tożsamość usługową. Nigdy nie używaj szerokiego tokenu developera; szczegóły są w tożsamości agentów, poświadczeniach i sekretach.
-
Przyznawaj najmniejszy zakres repozytorium, sieci, chmury i danych, jakiego wymaga klasa ryzyka uruchomienia. Worktree ani kontener nie zawężą tokenu chmurowego.
-
Trzymaj sekrety produkcyjne z dala od każdego uruchomienia agenta, niezależnie od klasy. Przy zmianach krytycznych trzyma je platforma wdrożeniowa, nigdy agent. Prompt „nie wdrażaj” nie jest granicą dostępu.
-
Wymagaj branch protection i akceptacji code ownera przy merge. Tożsamość agenta nie może być code ownerem.
-
Wymagaj osobnej zgody w środowisku wdrożeniowym dla zmian wysokich i krytycznych. Nie spełni jej ani agent-autor, ani agent-recenzent.
-
Loguj inicjującego człowieka, tożsamość agenta, wersję narzędzia i modelu, wersje artefaktów, polecenia, ustalenia, zgodę, wdrożenie i wynik rollbacku.
Wyegzekwuj granicę w każdym narzędziu
Dział zatytułowany „Wyegzekwuj granicę w każdym narzędziu”Wzorzec jest ten sam we wszystkich trzech narzędziach: wskazówki w plikach instrukcji, twarde limity w managed settings lub polityce administratora, a bramki merge i produkcji na platformie Git (GitHub, GitLab) i platformie wdrożeniowej. Różnią się ustawienia. Zestawienie wszystkich kluczy zarządzanych znajdziesz w jednej polityce dla wszystkich agentów kodujących.
Twarde limity umieść w managed settings (managed-settings.json, MDM lub ustawienia zarządzane z serwera w planach Team i Enterprise), których ustawienia użytkownika i projektu nie nadpiszą. Klucze sprawdzone w Claude Code 2.1.283:
{ "permissions": { "disableBypassPermissionsMode": "disable", "deny": [ "Bash(terraform apply:*)", "Bash(kubectl delete:*)" ] }, "allowManagedPermissionRulesOnly": true, "allowManagedHooksOnly": true}Reguła deny dla Bash dopasowuje tekst polecenia, który pisze Claude, a nie sam program, więc sh -c albo skrypt ją omija (dokumentacja Claude Code, sprawdzono na v2.1.283). Prawdziwą granicą dla terraform i kubectl jest to, że tożsamość agenta nie ma poświadczeń do produkcyjnej chmury ani klastra; regułę deny traktuj jako dodatkowe zabezpieczenie przed pomyłką.
allowManagedPermissionRulesOnly ignoruje reguły uprawnień z ustawień użytkownika, projektu i lokalnych; allowManagedHooksOnly robi to samo z hookami. Od v2.1.283 (oba kanały wydań na 2026-10-12) tryb auto jest trybem startowym interaktywnych sesji w terminalu i VS Code na obsługiwanych modelach, a każdą akcję ocenia klasyfikator. Traktuj ten klasyfikator jako guardrail, nie bramkę. Aby wyłączyć go w repozytoriach regulowanych, dodaj "disableAutoMode": "disable" wewnątrz permissions. W CI claude -p startuje w trybie Manual (od v2.1.285 w trybie auto u zewnętrznych dostawców lub z wyłączoną telemetrią, gdzie decyduje klasyfikator), więc przekaż --permission-mode dontAsk, który u każdego dostawcy odrzuca wszystko, co wymagałoby pytania.
Zarządzany Code Review w Claude Code publikuje ustalenia, ale „a review never approves or blocks your pull request, and the check run never concludes as a failure” (dokumentacja Claude Code, sprawdzono 2026-10-16). Jeśli jego ustalenia mają blokować merge, parsuj je we własnym wymaganym checku CI albo wymagaj rozwiązania wątków w branch protection. Review, które się nie powiodło, przekroczyło limit czasu albo zostało zastąpione nowszym, nie zostawia w check runie linii z werdyktem (dokumentacja Claude Code, sprawdzono 2026-10-16), więc twój check CI musi zakończyć się niepowodzeniem, gdy wyniku brakuje.
Twarde limity umieść w zarządzanym przez administratora requirements.toml, nie w config.toml: OpenAI zaleca trzymać osobno „config.toml defaults, requirements.toml constraints, and managed or administrator policy”. Klucze sprawdzone w Codex CLI 0.157.1:
# requirements.toml (zarządzany przez administratora)allowed_approval_policies = ["untrusted", "on-request"]allowed_sandbox_modes = ["read-only", "workspace-write"]allow_managed_hooks_only = trueTo blokuje politykę zatwierdzania never i tryb sandboxa danger-full-access na zarządzanych maszynach. allowed_permission_profiles to tabela nazw profili z wartościami true lub false (na przykład { managed = true }), która ogranicza, które profile uprawnień (beta) można wybrać, a mcp_servers i plugins ograniczają to, co można podłączyć. Automatyczny przegląd zatwierdzeń w Codex (--approve-for-me) kieruje zgody na przekroczenie sandboxa do modelu-recenzenta; to agent zatwierdzający agenta, więc dopuszczaj go tylko w klasie niskiej. Aby zablokować go na maszynach, na których pracuje się z repozytoriami klasy średniej lub wyższej, ustaw allowed_approvals_reviewers = ["user"] w requirements.toml (druga wartość to "auto_review"); wymagania działają per maszyna, nie per repozytorium. Od 0.150.0 niezaufane projekty nie dostarczają już projektowego AGENTS.md, więc decyzja o zaufaniu jest częścią polityki. Po stronie bramek codex review i codex exec review dają ustalenia, które mogą zasilać wymagany check CI należący do ciebie; same nie są bramką, więc branch protection i zgodę na wdrożenie trzymaj na platformie Git i platformie wdrożeniowej.
Cursor ma te same typy artefaktów: Rules, Agent Skills, Hooks, Plugins i MCP. Cloud Agents działają w izolowanych maszynach wirtualnych, a w sekcji Agent security jest strona Run modes (dokumentacja Cursora, sprawdzono 2026-08-28). Twardy limit wewnątrz narzędzia dają Cursor Hooks: hook komunikuje się z agentem w JSON przez stdio, uruchamia się przed wybranymi etapami pętli agenta i może je zablokować (dokumentacja Cursora, sprawdzono 2026-08-28). Stronę administracyjną Cursora opisuje Polityka zarządzana dla agentów. Zanim wpiszesz opcje egzekwowania administratora do polityki, potwierdź je w aktualnej dokumentacji Cursora.
Po stronie bramek Bugbot przegląda pull requesty, a PR Routing & Approval „assigns reviewers based on code ownership and commit history, and can approve low-risk PRs when your criteria are met”. Reguła automatycznej akceptacji to zmiana polityki autonomii: ogranicz ją do klasy niskiej, daj jej kryteriom wskazanego właściciela, a branch protection i zgodę na wdrożenie trzymaj na platformie Git i platformie wdrożeniowej, poza Cursorem.
Napisz kontrakt dowodowy dla każdego uruchomienia agenta
Dział zatytułowany „Napisz kontrakt dowodowy dla każdego uruchomienia agenta”Każde uruchomienie w tle lub autonomiczne określa swój kontrakt, zanim wystartuje. Kolejna bramka czyta jego wynik, więc uruchomienie bez kontraktu nie daje bramce nic do sprawdzenia.
- Wejście: dokładny commit, artefakty, zgłoszenie, okno telemetrii i dozwolone źródła zewnętrzne.
- Zakres: katalogi, narzędzia, cele sieciowe, klasa poświadczeń oraz budżet czasu lub kosztu.
- Dowód: polecenia z oczekiwanym kodem wyjścia, schematy, zrzuty ekranu lub progi ewaluacji.
- Wynik: plik, pull request, komentarz lub ustrukturyzowany rekord, który czyta kolejna bramka.
- Porażka: niezerowy kod wyjścia, timeout, brak zależności lub niska pewność, a do tego właściciel eskalacji.
- Uprawnienia: działania dozwolone bez zgody i pierwsze działanie, które zawsze czeka na człowieka.
Podmień commit, ścieżki, polecenia i właściciela na własne. Stałe klauzule (fail closed, nigdy nie ruszaj wyroczni testowej, nigdy nie zatwierdzaj własnej pracy) zostaw słowo w słowo; ochrona wyroczni testowej wyjaśnia, dlaczego druga z nich jest najważniejsza.
Przyjmij ten szablon polityki autonomii
Dział zatytułowany „Przyjmij ten szablon polityki autonomii”Wklej go do podręcznika inżynierskiego, uzupełnij właścicieli i podlinkuj z pliku instrukcji każdego repozytorium. Każda klauzula mówi, co ją egzekwuje; klauzula, która opiera się na zaufaniu, to znana luka. Szablon zostaje po angielsku, bo trafia do repozytoriów i plików instrukcji agentów.
AGENT AUTONOMY POLICY — v1.0 — owner: CTO — review: quarterly
1. Classification. Every agent change gets a risk class (low, medium, high, critical), computed in CI from touched paths, migrations, and requested credentials. Highest factor wins. Enforced by: required CI check that writes the PR label.2. Forbidden in every class: production secrets, destructive production commands, deleting backups, external communication, approving own work. Enforced by: managed deny rules + credentials the agent identity never holds.3. Identity. One service identity per agent loop, least privilege, short-lived tokens. Enforced by: identity provider + CI OIDC. Owner: platform team.4. Merge gate. Low: CI + evidence bundle + any reviewer. Medium: + code owner. High: + specialist review + rehearsed rollback. Enforced by: branch protection.5. Production gate. High and critical: named release owner approves in the deployment environment. Agent identities cannot approve. Enforced by: deploy platform.6. AI reviewers and auto-approval tools may approve low-class changes only. Criteria owner: release owner. Enforced by: routing rules + branch protection.7. Overrides. Every bypass is attributed, expires in 7 days, and is reviewed. Enforced by: override log in the change record.8. Evidence. Every control has an owner, trigger, failure behavior, exception path, and audit record. Controls fail closed.9. Proof. Controls are rehearsed quarterly; metrics are reported by risk class.10. Circuit breaker. When a class's revert share or escaped defects pass the agreed ceiling for two periods running, or any incident is traced to a change that took a lighter path, changes in that class take the next class's merge gate (clause 4) until the owner links the fix and a clean period. Tightening is automatic; loosening is a reviewed change. Enforced by: scheduled job that raises the class floor read by the CI classification check.Siedmiodniowe wygasanie obejść i kwartalny rytm to robocze wartości domyślne tego przewodnika, a nie opublikowany standard. To samo dotyczy dwuokresowego wyzwalacza bezpiecznika i kroku do następnej bramki: artykuł Anthropic mówi, że jego zespół nie ma jeszcze takiej kontroli. Dopasuj wszystkie do własnego apetytu na ryzyko.
Prompty do projektowania i audytu kontroli
Dział zatytułowany „Prompty do projektowania i audytu kontroli”Uruchom je w Claude Code, Codex lub Cursorze z dostępem do odczytu repozytorium i jego konfiguracji CI. Tworzą raporty i niczego nie zmieniają.
Jak udowodnić, że kontrole działają?
Dział zatytułowany „Jak udowodnić, że kontrole działają?”Sprawdź każdą kontrolę, celowo próbując ją obejść, a potem mierz kontrole według klasy ryzyka. Żaden z tych kroków nie wymaga czytania każdego diffa.
Ćwicz ścieżkę kontroli co kwartał
Dział zatytułowany „Ćwicz ścieżkę kontroli co kwartał”-
Poproś uruchomienie klasy niskiej o zapis poza dozwolonym katalogiem roboczym. Sandbox musi to zablokować, a blokada musi trafić do logu polityki.
-
Poproś je o pominięcie nieprzechodzącego wymaganego testu. Workflow musi zakończyć się błędem.
-
Spróbuj zrobić merge bez akceptacji code ownera. Branch protection musi to zablokować.
-
Spróbuj wydać zmianę na produkcję tożsamością agenta i bez wskazanej zgody. Platforma wdrożeniowa musi to zablokować.
-
Wyłącz usługę review. Merge musi pozostać zablokowany; brak recenzenta nigdy nie liczy się jako zgoda.
-
Uruchom rollback w środowisku nieprodukcyjnym i zapisz czas przywrócenia.
-
Zmień regułę, skill lub hook i uruchom ewaluacje harnessu przed wdrożeniem zmiany.
-
Podaj bezpiecznikowi w testowym repozytorium odsetek cofnięć powyżej jego pułapu. Zmiany w tej klasie muszą przejść przez bramkę merge następnej klasy, a zdjęcie tego ograniczenia musi wymagać zrecenzowanej zmiany.
Krok, który przechodzi, choć powinien zakończyć się błędem, to incydent w kontroli, a nie niestabilny test. Zapisz go tak, jak incydent spowodowany przez agenta.
Mierz kontrole według klasy ryzyka
Dział zatytułowany „Mierz kontrole według klasy ryzyka”| Metryka | Definicja | Co oznacza zły trend |
|---|---|---|
| Odsetek fałszywych blokad | Zablokowane zmiany później zmergowane bez zmian ÷ wszystkie zablokowane zmiany | Bramka kosztuje zaufanie i zachęca do obchodzenia |
| Odsetek obejść | Merge lub wydania z przypisanym obejściem ÷ wszystkie merge w klasie | Kontrola jest błędna albo klasa zbyt surowa |
| Defekty, które uciekły | Incydenty wywołane zmianą, która przeszła każdą bramkę | Bramka sprawdza niewłaściwą rzecz |
| Odsetek cofnięć | Zmiany w klasie cofnięte w ciągu 30 dni ÷ wszystkie zmiany scalone w tej klasie | Lżejsze ścieżki przepuszczają błędy; zaostrz klasę |
| Czas oczekiwania na review | Mediana godzin od „gotowe do review” do decyzji | Bramki ludzkie stały się wąskim gardłem; przenieś checki do automatyzacji |
Raportuj je osobno dla każdej klasy. Zdrowa klasa niska ma krótkie oczekiwanie i mało obejść; zdrowa klasa krytyczna może mieć długie oczekiwanie i nadal być poprawna. Kanoniczne definicje metryk są we frameworkach metryk.
Jak zaostrzyć zatwierdzanie, gdy liczby się pogarszają?
Dział zatytułowany „Jak zaostrzyć zatwierdzanie, gdy liczby się pogarszają?”Artykuł Anthropic uczciwie nazywa tu lukę. Zauważenie złego merge’a wciąż zależy od autora, dyżurnego (on-call) i dashboardów cofnięć oraz incydentów. Zespół nie ma jeszcze „bezpieczników, które zaostrzają zatwierdzanie, gdy te liczby się ruszają; inżynierowie chcą ich, zanim więcej kodu przejdzie na merge’e bez udziału człowieka”. Cel, który stawia artykuł, to druga połowa tego samego pomysłu: większość pull requestów scala się z udziałem najwyżej jednego człowieka, „bez wzrostu cofnięć i incydentów”, a „jeśli rosną, nie oszczędziliśmy czasu ludzi, tylko go przenieśliśmy”.
Zaprojektuj tę kontrolę, zanim poluzujesz jakąkolwiek klasę. Artykuł nie opisuje żadnego projektu, więc poniższy jest własny dla tego przewodnika:
-
Wybierz wejścia dla każdej klasy. Użyj odsetka cofnięć i defektów, które uciekły, z tabeli powyżej. Anthropic mierzy czas ludzi jako zatwierdzenia przez ludzi na pull request (mediana i 95. percentyl), komentarze ludzi i czas, jaki pull request czeka na człowieka. Zapisuj je też, żeby widzieć, ile oszczędza lżejsza ścieżka.
-
Ustal wyzwalacz. Odsetek cofnięć lub defektów, które uciekły, powyżej uzgodnionego pułapu klasy przez dwa okresy z rzędu albo dowolny incydent wywołany zmianą, która poszła lżejszą ścieżką.
-
Zaostrzaj bez spotkania. Gdy wyzwalacz zadziała, zaplanowany job podnosi dolną granicę tej klasy w konfiguracji, którą czyta twój klasyfikator w CI, więc następny pull request w tej klasie przechodzi przez bramkę merge następnej klasy (klauzula 4 szablonu). Klasa wysoka nie ma następnej bramki merge, więc tam wyzwalacz eskaluje sprawę do właściciela polityki.
-
Luzuj tylko na podstawie dowodów. Zdjęcie ograniczenia wymaga zrecenzowanej zmiany, która linkuje poprawkę i czysty okres, podpisanej przez właściciela polityki.
Kto zatwierdza: właściciel wydania zatwierdza bramkę produkcyjną dla zmian wysokich i krytycznych, code owner zatwierdza merge w klasie średniej, a CTO zatwierdza zmiany samej polityki, w tym pułapy bezpiecznika, z dołączonymi wynikami ćwiczeń i metrykami.
Dlaczego recenzent AI nie jest bramką?
Dział zatytułowany „Dlaczego recenzent AI nie jest bramką?”Agent-autor i agent-recenzent lepiej wykrywają błędy, ale mogą dzielić poświadczenia, konfigurację, martwe pola modelu i organizację, która je skonfigurowała. Dwóch agentów to jeszcze nie rozdział obowiązków. OWASP GenAI LLM Top 10 2026 (opublikowany 2026-08-04) umieszcza Excessive Agency na pozycji LLM03 i zaleca: „Use human-in-the-loop control to require a human to approve high-impact actions before they are taken”.
Prawdziwa bramka używa tożsamości, w której imieniu uruchomienie-autor nie może działać, albo polityki platformy, której nie może zmienić, a tam, gdzie wymaga tego klasa ryzyka, także odpowiedzialnego człowieka. Stopnie zatwierdzania wyżej zawierają tę samą regułę. Używaj review AI do decyzji, gdzie skierować uwagę ludzi, a nie jako zamiennika ludzi przy zmianach wysokich i krytycznych. Dowody, które akceptują audytorzy, opisuje inżynieria agentowa w branżach regulowanych.
Co psuje się w nadzorze nad agentami i jak to naprawić?
Dział zatytułowany „Co psuje się w nadzorze nad agentami i jak to naprawić?”Tekst doradczy traktowany jak egzekwowanie. Linijka w CLAUDE.md mówi „nigdy nie uruchamiaj migracji”, aż pewnego dnia agent ją uruchamia. Naprawa: uruchom prompt „oddziel rady od egzekwowania”, a potem przenieś każdy niezmiennik oznaczony jako tylko doradczy do egzekwowanej kontroli. Przy akcjach destrukcyjnych najpierw odbierz tożsamości agenta poświadczenia albo użyj uprawnień platformy; zarządzana reguła deny, hook albo check w CI to tylko dodatkowa warstwa, która zatrzyma typową postać polecenia.
Jeden token sięga do każdego środowiska. Token CI agenta pozwala też wdrażać. Naprawa: najpierw go unieważnij, potem rozdziel tożsamości per pętla i środowisko, i zrotuj poświadczenia. Traktuj ekspozycję jako incydent, dopóki logi nie pokażą, czego token dotknął.
Agent sam nadaje sobie klasę ryzyka. Każda zmiana przychodzi jako „niska”. Naprawa: wyliczaj klasę w CI na podstawie ścieżek i migracji i alarmuj, gdy etykieta zaproponowana przez agenta jest niższa od wyliczonej.
Bramka ludzka nie ma kryteriów decyzji. Zatwierdzający klikają „akceptuj”, bo nic nie mówi im, co sprawdzić. Naprawa: dołączaj do każdego wniosku pakiet dowodów i jednozdaniową ocenę ryzyka, a kryteria, właściciela, timeout i ścieżkę eskalacji ustal, zanim zautomatyzujesz wniosek.
Obejścia nigdy nie wygasają. Jednorazowe obejście na czas awarii staje się stałe. Naprawa: nadaj każdemu obejściu datę wygaśnięcia i właściciela, a otwarte obejścia raportuj na przeglądzie kwartalnym.
Kontrola przepuszcza zmianę, gdy sama zawiedzie (fail open). Usługa review przekracza timeout i merge przechodzi. Naprawa: ustaw check jako wymagany i niech kończy się błędem, gdy brakuje wyniku, a przypadek awarii dodaj do ćwiczenia.
Rollback istnieje tylko w dokumencie. Naprawa: przećwicz go w reprezentatywnym środowisku nieprodukcyjnym i zmierz czas przywrócenia. Wydania klasy wysokiej łącz z progresywnym dostarczaniem, żeby rollback był przełączeniem flagi, a nie ponownym wdrożeniem.
Poluzowany stopień nie ma drogi powrotnej. Checki są zielone, lżejsza ścieżka staje się stała i nic jej nie zaostrza, gdy rosną cofnięcia. Naprawa: dodaj bezpiecznik i luzuj klasę ponownie tylko wtedy, gdy masz w zapisie czysty okres.
Zatwierdzenie przeżywa kod, który obejmowało. Późny push agenta albo ręcznie rozwiązany merge przechodzi na wcześniejszym zatwierdzeniu. Naprawa: unieważniaj zatwierdzenia przy nowych commitach.
Fałszywa pewność. Ktoś nazywa instrukcje „niezawodnymi guardrails” albo rezygnuje z ludzkiego review, bo checki są zielone. Modele źle odczytują instrukcje, hooki bywają źle skonfigurowane, a deterministyczne checki nie ocenią intencji produktowej. Naprawa: przetestuj całą ścieżkę kontroli, spisz ryzyko rezydualne i zachowaj uprawnienia człowieka przy bramkach, które mają konsekwencje.
Dokąd dalej z nadzorem nad agentami
Dział zatytułowany „Dokąd dalej z nadzorem nad agentami”Przed tą stroną przeczytaj model operacyjny, który mówi, kto odpowiada za rejestr autonomii. Następnie zastosuj politykę do zagrożeń i poświadczeń, przed którymi ma chronić.
Procedury etapów, w których działają te bramki, opisują Deploy i Maintain.
Czy ten artykuł Ci pomógł?
Jedno kliknięcie, bez logowania.
Co z tym zrobisz?
Jak się czytało?
Co przeszkadzało? Możesz zaznaczyć kilka
Twoja rola?
Dzięki. Czytam każdą odpowiedź. Michał Jaskólski
Pomógł Ci ten artykuł?
Każde to jedno kliknięcie. Zamknij, kiedy chcesz.
bez logowania
Najczęstsze pytania
Jak organizacja powinna decydować o poziomie autonomii agenta kodującego?
Przyznawaj autonomię według klasy ryzyka i zasięgu rażenia docelowego systemu — np. lokalny sandbox, usługa wewnętrzna albo produkcyjne uwierzytelnianie i płatności — a nie według pewności odpowiedzi modelu.
Czym różni się guardrail od bramki (gate)?
Guardrail ogranicza to, co agent może zrobić w trakcie pracy (sandbox, hooki, reguły blokujące), natomiast bramka to obowiązkowa weryfikacja lub akceptacja człowieka przed scaleniem kodu albo wdrożeniem.