Zakład laboratoriów (RLVR → AGI) napotyka mur efektywności próbkowej; następnym paradygmatem musi być uczenie ciągłe — przelewanie wiedzy z wdrożenia do wag.

Analiza: „What does the next training paradigm look like?"

0. KARTA MATERIAŁU

Tytuł: What does the next training paradigm look like? (Jak wygląda następny paradygmat treningu?) Autor/Prowadzący: Dwarkesh Patel Uczestnicy: Dwarkesh Patel (V01) — podcaster i komentator AI, autor bloga dwarkesh.com; materiał jest narracją jego wpisu blogowego (monolog, jeden głos). Cytowany: Dario Amodei (CEO Anthropic) — pojedynczy cytat z wcześniejszego podcastu. Data publikacji: 2026-06-27 Długość: ~19:52 Typ: monolog / esej narracyjny (audio-wersja wpisu blogowego) Główna teza (1 zdanie): Obecny zakład laboratoriów — że trening RLVR na milionach weryfikowalnych zadań sam doprowadzi do AGI — napotyka mur efektywności próbkowej (sample efficiency), bo większość rzeczywistych umiejętności nie jest „grindowalna", więc prawdziwym następnym paradygmatem musi być uczenie ciągłe (continual learning), czyli przelewanie wiedzy z wdrożenia z powrotem do wag modelu. Kontekst motywacyjny: Patel nie jest CEO laboratorium ani nie sprzedaje produktu AI — jako komentator zyskuje na trafnych, „kontrariańskich" analizach. Buduje markę na tezie, że obecny paradygmat ma fundamentalne braki, ale uczenie ciągłe „nadejdzie". Pozycja pośrednia: krytyk teraźniejszości, optymista przyszłości. Brak bezpośredniego bodźca komercyjnego, ale silny bodziec do tez wyrazistych i przewidujących przełom.

🔎 Poza materiałem — atrybucja „Dwarkesh Patel" i „dwarkesh.com" pochodzi z zakończenia nagrania, gdzie mówca sam podaje adres; tożsamość Daria Amodei jako CEO Anthropic nie pada w materiale wprost (mówca mówi tylko „Dario" i „our podcast together"). Uzupełnione z wiedzy zewnętrznej.

1. SŁOWNIK KLUCZOWYCH POJĘĆ

RLVR — uczenie ze wzmocnieniem z weryfikowalnych nagród (reinforcement learning from verifiable rewards) — trening, w którym model dostaje nagrodę tylko wtedy, gdy wynik zadania da się automatycznie zweryfikować (np. kod przechodzi testy). Centralna technika obecnego paradygmatu.

Efektywność próbkowa (sample efficiency) — ile model uczy się z pojedynczej obserwacji. Wg Patela obecne modele są podczas treningu „jedną milionową" tak efektywne próbkowo jak ludzie. Uwaga: mówca rozróżnia efektywność podczas treningu (fatalna) od efektywności w obrębie sesji / w kontekście (znacznie lepsza) — to rozróżnienie jest osią całego sporu.

Uczenie w kontekście (in-context learning) — model „uczy się" w trakcie sesji z informacji w oknie kontekstowym, bez zmiany wag. Szybkie i efektywne próbkowo, ale ulotne — znika po zakończeniu sesji.

Uczenie ciągłe / uczenie w trakcie pracy (continual learning / on-the-job learning) — aktualizacja wag modelu na podstawie tego, czego nauczył się podczas wdrożenia, tak by wiedza była trwała i kumulowała się między sesjami. Główny postulat materiału.

Uczenie online (online learning) — wariant uczenia ciągłego już wdrożony produkcyjnie, ale tylko dla wąskich przypadków, gdzie ten sam cel uczy się na milionach użytkowników (np. model „cursor tab").

„Grindowalność" (grindability) — autorski termin Patela: domena nadaje się do treningu RLVR nie tylko gdy jest weryfikowalna, lecz gdy pozwala puszczać tysiące równoległych, deterministycznych, odtwarzalnych rolloutów z tego samego punktu startowego. Kodowanie jest grindowalne (kontener z repo), obsługa komputera i „prawdziwy świat" — nie.

Rollout — pojedynczy przebieg agenta przez zadanie od startu do wyniku; w treningu RL puszcza się ich wiele równolegle.

Środowiska reset-free, niestacjonarne (reset-free, non-stationary environments) — środowiska, których nie da się zresetować do tego samego stanu i które same się zmieniają w czasie (czyli realny świat). Patel zaznacza, że trening w nich to znany, otwarty problem RL — nie jego odkrycie.

Wagi szybkie (fast weights) — efektywna „pamięć robocza" budowana w locie przez mechanizm uwagi (attention) w trakcie sesji; daje efektywność próbkową, ale skaluje się fatalnie pamięciowo. Przeciwieństwo „wolnych" wag modelu zmienianych gradientem.

OPSD — samodestylacja on-policy (on-policy self-distillation) — technika: model bazowy uczy się przewidywać to samo, co przewidziałby „model-nauczyciel" dysponujący pełnym kontekstem zebranym w długiej sesji. Cel: przelać wiedzę z sesji do wag. Uwaga: wg Patela lepsza od RLVR (nie wymaga weryfikowalnej nagrody, daje gęstszy sygnał per-token) i od SFT (nie nadpisuje całego modelu).

SFT — dostrajanie nadzorowane (supervised fine-tuning) — tu w wariancie naiwnym: uczyć model przewidywać wszystkie tokeny z sesji. Patel odrzuca to jako bezsensowny cel uczenia (zapamiętywanie transkryptu zamiast wniosków).

„Śnienie" (dreaming) / trening w czasie testu (test-time training) — spekulatywny pomysł: model buduje symulację rzeczywistości i trenuje przeciw niej, zużywając olbrzymie ilości compute, by z niewielu realnych próbek wygenerować ich miliony symulowanych. Proponowana „czwarta oś skalowania".

EfficientZero — model RL (następca AlphaZero od DeepMind) zaprojektowany pod efektywność próbkową; przy każdym realnym ruchu rozgrywa dziesiątki symulowanych partii „w głowie". Analogia historyczna dla „śnienia".

KV cache (key-value cache) — pamięć podręczna aktywacji transformera w obrębie sesji. Patel: nie da się skalować uczenia przez „coraz większy KV cache" — to nie tak działa ludzki mózg. (W materiale raz przejęzyczone jako „KB cache").

2. OŚ CZASU Z BLOKAMI TEMATYCZNYMI

[00:00:00 — 00:00:48] Zakład laboratoriów: RLVR → AGI

Tezy:

Wszystkie laboratoria robią ten sam zakład: trening na milionach weryfikowalnych zadań w tysiącach różnorodnych środowisk RL = w praktyce zbudowanie AGI.
Taki trening ma wytworzyć agenta rozwiązującego problemy — zdolnego do tygodni pracy nad zadaniami otwartymi mimo błędów i niejasności.
Optymiści: fundamentalne braki (nieefektywność danych, brak uczenia ciągłego) zostaną „przejechane walcem" przez samo skalowanie — tak jak skalowanie compute rozwiązało problemy NLP.

Patel otwiera od rzetelnego przedstawienia stanowiska, które potem podważa (steelman). Kluczowy historyczny argument optymistów — analogia do NLP, gdzie „wrzucenie wystarczającej ilości compute w LLM-y" zlikwidowało dawne problemy badawcze — jest najmocniejszą kartą obrony obecnego paradygmatu i Patel stawia ją uczciwie.

[00:00:48 — 00:02:12] Kontrargument optymistów: liczy się efektywność w sesji, nie w treningu

Tezy:

Patel przypomina własną wcześniejszą tezę: modele są „jedną milionową" tak efektywne próbkowo jak ludzie.
Replika optymistów: to prawda tylko podczas treningu — a trening to koszt jednorazowy, amortyzowany przez miliardy sesji.
Liczy się inteligencja i efektywność w obrębie sesji, a ta rośnie z RL; agenci rozwiązują coraz ambitniejsze zadania w coraz dłuższym horyzoncie.
Uczenie ciągłe „może być zbędne", jeśli uczenie w kontekście stanie się dość dobre — wystarczy zmieścić „te 6 miesięcy wdrażania pracownika" w oknie kontekstowym.

Patel buduje napięcie, które organizuje cały esej: rozróżnienie między efektywnością próbkową w treningu (fatalną) a w sesji (rosnącą). Optymiści twierdzą, że nieograniczenie rosnące okna kontekstowe sprawią, że trwała aktualizacja wag stanie się niepotrzebna — model „nauczy się w locie" i to wystarczy.

Cytaty:

„People often say that their employees are not net productive until six months or more of them working on the job. (...) But what if you could just fit those six months into the context window?" -- [Dwarkesh Patel, referując optymistów], 00:01:46 Kryterium: [KONTRARGUMENT] Kontekst: Najczystsze ujęcie tezy obozu, który Patel zwalcza — że okno kontekstowe może zastąpić uczenie ciągłe. Dalej cały esej pokazuje, dlaczego to nie wystarczy.

[00:02:12 — 00:04:10] Dygresja: dlaczego obsługa komputera idzie tak wolno? Pojęcie „grindowalności"

Tezy:

Pozornie tangencjalne pytanie: czemu postęp w „computer use" jest dużo wolniejszy niż w innych domenach?
Powód oczywisty: mniej wysokiej jakości danych multimodalnych w pre-treningu.
Powód niedoceniany („ściany kanionu"): domena musi być nie tylko weryfikowalna, ale i grindowalna — tysiące równoległych rolloutów przeciw deterministycznemu, odtwarzalnemu symulatorowi z tego samego startu.
Kodowanie jest grindowalne (identyczne kontenery z repo, tysiąc agentów naraz); obsługa stron — nie (nie puścisz tysiąca botów na checkout Amazona).
Obejście: klonować Slacka, Gmaila itd. — dziś pracochłonne i nieskalowalne; gdy AI samo zacznie budować wierne klony, postęp przyspieszy (i to dobry cel RL dla kodowania — „dwie pieczenie na jednym ogniu").

To koncepcyjne serce pierwszej połowy. Patel pokazuje, że „weryfikowalność" — sztandarowe pojęcie obecnego paradygmatu — jest warunkiem niewystarczającym; brakuje drugiego, ukrytego warunku: odtwarzalnej, równoległej powtarzalności. W materiale ~00:02:30–00:02:49 jest luka ASR (anegdota o obsłudze komputera utracona).

Cytaty:

„It is not enough for a domain to be verifiable, it also has to be very grindable, in the sense that you have to be able to run lots of parallel rollouts against a deterministic and replayable simulator (...) from the same starting point." -- [Dwarkesh Patel], 00:03:09 Kryterium: [DEFINICJA] Kontekst: Wprowadza autorski warunek „grindowalności" — najważniejsze pojęcie analityczne materiału, oddzielające domeny trenowalne od nietrenowalnych.

„You can't just have a thousand agents go try the same checkout flow on Amazon to get better at using websites because Andy Jassy will find your bots and shut your ass down." -- [Dwarkesh Patel], 00:03:41 Kryterium: [SYGNAŁ] Kontekst: Obrazowy, ale niesie twardy punkt: realny świat ma właściciela i stan, którego nie zresetujesz — fizyczne źródło nie-grindowalności.

[00:04:10 — 00:06:12] Większość realnych umiejętności jest nie-grindowalna

Tezy:

Dla obsługi komputera deficyt efektywności próbkowej da się nadrobić „farmowalnymi" symulatorami — ale dla wielu umiejętności nie da się tego zrobić w ogóle.
Przykłady: zbudować firmę od zera, wygrać sprawę sądową, zyskowny dzień na rynku, wygrać wybory. Rollout wymaga interakcji z realnym światem; weryfikacja pętli zewnętrznej trwa miesiące/lata i nie da się jej odtworzyć tysiącem perturbowanych przebiegów.
To środowiska reset-free, niestacjonarne — znany otwarty problem RL (Patel zaznacza: „nie odkrywam nic nowego").
Wniosek: przez idiosynkratyczność i rzadkość danych w większości domen efektywność próbkowa jest warunkiem koniecznym kompetencji. Czasem informacja treningowa nie istnieje w żadnej innej formie niż rzadka realna interakcja.

Tu argument się domyka: skoro grindowalność jest niedostępna dla większości wartościowych umiejętności, a RLVR działa tylko na grindowalnych domenach, to ścieżka „samo skalowanie RLVR → AGI" musi zostawić ogromną klasę kompetencji poza zasięgiem — chyba że model nauczy się uczyć z rzadkich, niestrukturalnych, nieweryfikowalnych danych. Czyli: wraca efektywność próbkowa jako problem nie do obejścia.

[00:06:12 — 00:07:40] Czy RLVR uogólni? Pytanie empiryczne i cytat Daria

Tezy:

Jaki jest „RL-owy" sposób na AI tak dobre w polityce jak Lyndon Johnson albo w budowie rakiet jak Musk?
Zakład laboratoriów: RLVR uogólni — dość kontenerowych, odtwarzalnych środowisk wytworzy ogólnego agenta, który planuje, szybko uczy się z nowych informacji i zdobywa nowe umiejętności w jednej sesji.
Patel: czy uogólni „aż tak" — to pytanie empiryczne (gdyby wydatki na środowiska RL skoczyły z miliardów do biliona dolarów, czy dostalibyśmy w pełni ludzką ogólną inteligencję w oknie kontekstowym?).
Cytat Daria Amodei sugeruje, że uogólnianie RLVR nie jest nieskończenie silne: degradacja przy długim kontekście wiąże się z różnicą między długością kontekstu treningu a serwowania.
Patel ostrożnie: krótko-horyzontowy trening RL niekoniecznie uogólnia się do długo-horyzontowej wydajności — a jeśli nie, to jak agent miałby przejść od zadań białych kołnierzyków do budowania firmy jak Sam Walton?

🔎 Poza materiałem — Lyndon B. Johnson wygrał nominację do Senatu z Teksasu w 1948 r. przewagą 87 głosów (stąd „1948" i „Senate seat"); Elon Musk założył SpaceX w 2002 r. ze ~100 mln USD. Mówca zakłada znajomość tych odniesień bez ich wyjaśnienia.

Cytaty:

„If you drop this endlessly RLVR'd AI into Texas politics in 1948, it could give you better advice than LBJ about winning the Senate seat. And if you give it $100 million in 2002 and let it cook, it would build SpaceX for you." -- [Dwarkesh Patel, referując zakład optymistów], 00:06:27 Kryterium: [KONTROWERSJA] Kontekst: Maksymalny steelman tezy o uogólnianiu RLVR — celowo ekstremalny, by uczynić zakład falsyfikowalnym i pokazać jego skalę.

„There's the context length you train at, and there's a context length that you serve at. If you train at a small context length and then try to serve at a long context length, like maybe you get these degradations." -- [Dario Amodei], 00:07:05 Kryterium: [KONTRARGUMENT] Kontekst: Jedyny zewnętrzny głos w materiale; Patel czyta go jako dowód, że uogólnianie z krótkiego do długiego horyzontu zawodzi — czyli ograniczenie obecnego paradygmatu od strony praktyka-CEO.

[00:07:40 — 00:08:44] Ulotność bez wag: marnotrawstwo compute wdrożeniowego

Tezy:

Nawet gdyby AI w kontekście stało się jak Ford czy Einstein, byłoby to ulotne i zmarnowane, jeśli nauki nie wrócą do wag.
30–50% compute laboratorium idzie na inferencję — i ten compute nie odgrywa żadnej roli w ulepszaniu modelu.
Gorzej: to właśnie we wdrożeniu ujawniają się najcenniejsze informacje (co dzieje się w organizacjach, do czego mnie używają, jakie błędy popełniam w realu).
Metafora: „genialny doktorant, któremu nigdy nie wolno odbyć prawdziwego stażu", karmiony wyłącznie studiami przypadku (RL na środowiskach).

Przejście od „czy RLVR wystarczy" do „dlaczego wdrożenie jest niewykorzystaną kopalnią". To strukturalny paradoks: najcenniejsze dane (wiedza ukryta, kontekst organizacyjny) powstają tam, gdzie model nie potrafi się uczyć, a uczy się tam, gdzie danych jest najmniej (sztuczne środowiska).

Cytaty:

„We've got some genius grad student who's never been allowed to take a real internship, and we keep giving it more and more classroom case studies in the form of RL training on environments." -- [Dwarkesh Patel], 00:08:20 Kryterium: [META] Kontekst: Centralna metafora całego eseju — kompresuje tezę o przepaści między kompetencją sztuczną (klasa) a realną (staż) w jeden obraz.

„Around 30–50% of a lab's compute goes to inference, and that compute is currently not playing any productive role in helping improve the model." -- [Dwarkesh Patel], 00:07:50 Kryterium: [SYGNAŁ] Kontekst: Konkretna, ilościowa rama „marnotrawstwa" — uzasadnia, dlaczego uczenie ciągłe to nie luksus, lecz odzyskanie połowy budżetu obliczeniowego.

[00:08:44 — 00:09:38] Dlaczego trzeba wrócić do wag: analogia mózgu

Tezy:

Uczenie ciągłe wymaga powrotu do wag; nie da się wiecznie powiększać KV cache (nieskalowalne i nie tak działa człowiek).
W mózgu nie ma czystego podziału na parametry i aktywacje; czaszka nie rośnie wraz z wiedzą — uczenie się to kompresja, która wspiera uogólnianie.
Sawanci z pamięcią absolutną (tablice liczb, sylaby) mają „kontekstową" wierność informacji modeli — i właśnie ten nadmiar upośledza ich rozumienie abstrakcji i metafor.
Ludzkie uczenie ciągłe to nie trzymanie wszystkich obserwacji „na końcu języka", lecz wykuwanie właściwych intuicji z powrotem w wagi.

Patel podpiera neuro-analogią tezę normatywną: pamięć doskonała (długi kontekst) to nie cel, lecz patologia; inteligencja to kompresja. Argument z sawantów jest sugestywny, ale to argument przez analogię — nie dowód, że architektury AI muszą iść tą samą drogą.

🔎 Poza materiałem — twierdzenie, że pamięć eidetyczna sawantów „upośledza rozumienie abstrakcji", to uproszczenie; korelacja hipermnezji z deficytami abstrakcji jest obserwowana w części przypadków, ale nie jest prawem ani mechanizmem przyczynowym. Patel używa tego jako ilustracji, nie ustalonego faktu.

[00:09:38 — 00:10:58] Kompromis: wagi tracą efektywność próbkową; co już działa online

Tezy:

W momencie przejścia do wag traci się efektywność próbkową uczenia w kontekście — bo aktualizacje gradientowe są bardzo nieefektywne próbkowo.
Dlatego wszystkie wdrożone modele online uczą się tego samego na milionach użytkowników (np. model „cursor tab": ten sam cel na 400+ mln zapytań dziennie — które edycje użytkownik zaakceptował).
Jak dotąd nie widzieliśmy modeli uczących się online różnych rzeczy dla różnych użytkowników.
Sedno: pojedyncza sesja daje dość danych człowiekowi, ale za mało, by wytrenować zdolniejsze AI; a istotą uczenia ciągłego jest właśnie wiedza specyficzna dla danego wdrożenia, której nie da się wcisnąć do wspólnego treningu.

Patel precyzuje, dlaczego dzisiejsze „uczenie online" nie jest jeszcze uczeniem ciągłym: działa tylko tam, gdzie cel jest jednolity dla wszystkich. Prawdziwe wyzwanie to personalizacja per-wdrożenie przy nieefektywnych gradientach — co prowadzi wprost do pytania o nową funkcję straty.

Cytaty:

„The cursor tab model online learns by predicting the same exact objective for over 400 million requests a day. The objective here being which edits actually got accepted by the user." -- [Dwarkesh Patel], 00:09:53 Kryterium: [SYGNAŁ] Kontekst: Jedyny konkretny, działający przykład uczenia online w materiale — pokazuje granicę: jednolity cel masowy, zero personalizacji.

[00:11:57 — 00:12:44] To jeden problem; architektura nie jest wąskim gardłem

Tezy:

Efektywność próbkowa i uczenie ciągłe to w istocie ten sam, głęboko powiązany problem.
Na stanowisku pracy danych jest mało; uczenie się z nich wymaga efektywności próbkowej, którą model osiąga w kontekście — przez „wagi szybkie" budowane uwagą — ale to skaluje się fatalnie pamięciowo.
Potrzebne innowacje architektoniczne dające pośrednią reprezentację (rzadka uwaga, kompakcja KV cache). Co tydzień pojawia się nowy taki pomysł.
Wniosek Patela: architektura nie jest fundamentalnym wąskim gardłem uczenia ciągłego.

Zwrot diagnostyczny: Patel eliminuje architekturę jako podejrzanego. Skoro pomysłów na pośrednią reprezentację jest mnóstwo i rosną co tydzień, blokada leży gdzie indziej — co kieruje uwagę na funkcję straty.

[00:12:44 — 00:14:06] Wąskim gardłem jest funkcja straty: OPSD

Tezy:

Pytanie właściwe: jak zaktualizować wagi na podstawie tego, czego nauczono się w jednej sesji?
Kandydat: samodestylacja on-policy (OPSD) — model bazowy uczy się przewidywać to, co przewidziałby model z pełnym kontekstem sesji; cel: destylować naukę z sesji do wag.
OPSD lepsze od RLVR z dwóch powodów: (1) nie wymaga weryfikowalnej nagrody pętli zewnętrznej — wystarczy model uczący się właściwych rzeczy w kontekście; (2) gęstszy sygnał nadzoru — zamiast jednej nagrody na całą trajektorię, rozbieżność prawdopodobieństw per-token między nauczycielem a uczniem.

Patel przechodzi od diagnozy do propozycji. OPSD elegancko omija dwa ograniczenia RLVR naraz: znosi wymóg weryfikowalności (kluczowy, bo to on blokował domeny nie-grindowalne z bloku 00:04:10) i zagęszcza sygnał uczący. To pomost między „realny świat jest nieweryfikowalny" a „a jednak da się z niego destylować".

[00:14:06 — 00:15:31] OPSD lepsze niż SFT; rzadka aktualizacja RL jako zaleta

Tezy:

Naiwny SFT (ucz model przewidywać wszystkie tokeny sesji) jest bezsensowny jako cel — kompetencja to nie zapamiętanie transkryptu dnia, lecz konsolidacja garstki istotnych wniosków.
RL nie ma tej wady: koncentruje aktualizację tylko na tym, co istotne dla wyniku — dlatego w kroku RL zmienia się bardzo mało parametrów.
To kluczowa właściwość dla uczenia ciągłego: ucząc się w pracy, nie chcesz nadpisać i zapomnieć reszty wiedzy bazowej (ochrona przed katastroficznym zapominaniem).
Patel przypomina własną tezę: RL uczy mniej informacji na próbkę niż uczenie nadzorowane — i to może być zaleta, nie wada (zmieniasz model tylko tyle, ile konieczne).
OPSD zachowuje tę właściwość: zamiast „katapultować" ku rozkładowi nauczyciela (jak SFT), wydobywa tylko wiedzę potrzebną do osiągnięcia tych samych wyników na realnych zadaniach.

Patel przewrotnie przekształca pozorną wadę RL (mała informacja na próbkę) w cnotę: chirurgiczna, oszczędna aktualizacja chroni przed zapominaniem. OPSD ma łączyć gęsty sygnał z punktową ostrożnością — dlatego jest jego głównym kandydatem.

[00:15:31 — 00:17:23] Spekulacja: „śnienie" i analogia EfficientZero

Tezy:

Druga, „dużo bardziej spekulatywna" idea: „śnienie" — AI buduje dobrą symulację rzeczywistości i ćwiczy w niej, wzmacniając to, co działa, generując rzędy wielkości więcej symulowanych próbek w tym samym czasie zegarowym.
Precedens: EfficientZero (po AlphaZero) — w 2h na nieznanej grze Atari pokonałby nowicjusza-człowieka, bo na każdy realny ruch rozgrywa dziesiątki symulowanych „w głowie".
Różnica: zbudować symulację całego świata jest dużo trudniej niż emulować grę w Go — stąd „spekulatywne".
Jeśli zadziała, byłaby to czwarta oś skalowania obok pre-treningu, RL i compute w czasie inferencji — „test time training" / „dreaming".
Obrazowo: zamiast /compact (tania kompresja kontekstu, namiastka uczenia ciągłego) — /dream, który „spala" ogromne compute, budując i trenując przeciw „grze wideo" odwzorowującej realny świat użytkownika.

To najbardziej hipotetyczny fragment, jasno oznaczony przez samego mówcę. Analogia EfficientZero jest mocna jako istniejący precedens efektywności przez symulację, ale Patel sam wskazuje na przepaść skali (gra planszowa vs. świat) — co czyni „śnienie" raczej kierunkiem badawczym niż prognozą.

Cytaty:

„So instead of hitting forward-slash compact (...) you hit forward-slash dream. And this incinerates huge amounts of compute to build and train against a video game version of what the model is witnessing in the real world." -- [Dwarkesh Patel], 00:16:55 Kryterium: [DEFINICJA] Kontekst: Najkonkretniejszy obraz „śnienia" jako produktowej operacji — pokazuje, że to oś skalowania compute, nie tylko trik algorytmiczny.

[00:17:23 — 00:19:52] Scenariusz 2027–2028: drabina bootstrapu uczenia ciągłego

Tezy:

Scenariusz: RLVR daje agenta, który potrafi się odnaleźć w nieznanym problemie, próbować strategii i iterować po napotkaniu przeszkody — kompetentnego dość, by zacząć zdobywać realne doświadczenie, gdyby umiał się z niego uczyć.
Wysyłasz go w świat (także na zadania spoza rozkładu treningowego); okna kontekstu urosły tak, że AI współpracuje z tobą przez pełny tydzień czasu zegarowego.
Po tygodniu dajesz kciuk w górę/dół (recenzję pracy); przy kciuku w górę model bazowy destyluje to, czego AI się nauczyło (OPSD, śnienie, kombinacja, lub technika jeszcze nieznana).
Po destylacji AI staje się lepsze w domenach sąsiadujących z tym, czego uczono je explicite; w kolejnej rundzie — w sąsiadujących z tym, czego nauczyło się online. Zakres umiejętności rozszerza się daleko poza domeny weryfikowalne.
Drabina bootstrapu: pre-trening → (z RLVR) kompetentny agent → (z uczeniem ciągłym) samodoskonalące się wdrożenie. Główne źródło postępu przestaje być treningiem przedwdrożeniowym — staje się nim doświadczenie z bycia wdrożonym w gospodarce.
Każda interakcja czyni AI mądrzejszym — nie tylko z twoich sesji, ale ze wszystkich interakcji wszystkich użytkowników świata. „Przerażające, ekscytujące i inne" niż dziś.
Zakończenie: to narracja wpisu z dwarkesh.com (tam przypisy i zapis na newsletter).

Finał składa wszystkie wątki w jedną drabinę indukcyjną: każdy paradygmat tworzy bazę kompetencji dla następnego. Mocna narracyjnie, ale opiera się na założeniu, że „przepis na uczenie ciągłe nadejdzie" — czego Patel nie udowadnia, lecz zakłada. Mechanizm kciuk-w-górę jako sygnał destylacji jest najmniej dopracowanym ogniwem (rzadki, hałaśliwy, jednobitowy sygnał na cały tydzień pracy).

Cytaty:

„Every time that you interact with an AI, it'll be smarter. Not only because it's been learning from your previous sessions, but also because it's been learning from all its interactions with all the other users in the world. And that's very scary and exciting and different from the way that AI improves right now." -- [Dwarkesh Patel], 00:19:22 Kryterium: [PREDYKCJA] Kontekst: Końcowa wizja-stan docelowy: AI doskonalące się ciągle z agregatu wdrożeń. Falsyfikowalna w słabym sensie (kierunek), nie w mocnym (brak daty/progu).

3. REJESTR PROGNOZ

#	Prognoza	Kto mówi	Horyzont	Data weryfikacji	Falsyfikowalność
1	Obsługa komputera „może wkrótce zostać rozwiązana", gdy AI nauczy się budować wiernej jakości klony aplikacji	Patel	„soon" / nieokreślony	brak twardej daty	NISKA — „soon" bez progu sukcesu ani metryki
2	Do 2027–2028 uczenie ciągłe przyjmie formę: tygodniowe sesje współpracy + kciuk góra/dół + destylacja do wag	Patel (jako „jeden scenariusz")	2027–2028	2028	ŚREDNIA — jest horyzont i mechanizm, ale jawnie oznaczone jako jeden scenariusz, nie predykcja twarda
3	„Śnienie" / test-time training stanie się czwartą osią skalowania (obok pre-treningu, RL, inferencji)	Patel	nieokreślony („if it works")	brak	NISKA — warunkowe („jeśli zadziała"), bez horyzontu
4	Docelowo główne źródło postępu AI przesunie się z treningu przedwdrożeniowego na uczenie z wdrożenia; każda interakcja czyni model mądrzejszym	Patel	nieokreślony („by this point")	brak	NISKA — kierunkowa wizja stanu, bez daty i progu

Uwagi do rejestru:

Materiał jest celowo ostrożny prognostycznie. Patel jawnie odmawia twardej prognozy w kluczowym punkcie: „whether RLVR can generalize this well is an empirical question" (00:06:39). To nie jest predykcja — to zawieszenie sądu, i samo w sobie jest sygnałem diagnostycznym: autor stawia ramę pojęciową, nie zakład czasowy.
Większość tez to warunki/scenariusze („jeśli zadziała", „jeden scenariusz"), nie predykcje z weryfikowalnym zdarzeniem. Stąd przewaga falsyfikowalności NISKIEJ — co jest tu raczej cnotą intelektualną (uczciwość co do niepewności) niż wadą.
Nie zalogowano tez teraźniejszych typu „architektura nie jest wąskim gardłem" czy „30–50% compute idzie na inferencję" — to twierdzenia o stanie obecnym, nie prognozy.

4. DETEKCJA TECHNIK RETORYCZNYCH I BŁĘDÓW LOGICZNYCH

Czas/Lokacja	Typ	Opis	Ocena wpływu na argumentację
00:00:00–00:02:12	Steelmanning	Rzetelne, mocne przedstawienie stanowiska optymistów (analogia NLP, amortyzacja treningu, okno kontekstowe = uczenie ciągłe) zanim je podważy	POZYTYWNY — wzmacnia wiarygodność krytyki; nie atakuje słomianej kukły
00:02:12	Framing / metafora przewodnia	„Ściany kanionu, o które rzeka postępu AI będzie powoli ocierać"	NEUTRALNY/POZYTYWNY — sugestywny obraz; ryzyko zasugerowania nieuchronności wolnego postępu jako faktu, gdy to teza
00:03:41	Język barwny / argument anegdotyczny	„Andy Jassy will (...) shut your ass down"	NEUTRALNY — uatrakcyjnia, ale realnie ilustruje nie-resetowalność świata; nie zastępuje argumentu
00:06:27	Hiperboliczny steelman	„Dropniesz RLVR'd AI w politykę Teksasu 1948 → pobije LBJ; dasz 100 mln w 2002 → zbuduje SpaceX"	POZYTYWNY — czyni cudzy zakład falsyfikowalnym i jawnym; ekstremum celowe
00:07:05	Argument z autorytetu (ostrożny)	Cytat Daria Amodei jako poszlaka, że uogólnianie RLVR „nie jest nieskończenie silne"	MIESZANY — autor sam hedguje („maybe I'm reading too much into this”); uczciwe, ale opiera tezę na jednym, interpretowanym cytacie
00:08:20	Metafora konceptualna	„Genialny doktorant bez prawa do stażu"	POZYTYWNY — kompresuje złożony argument w trafny obraz; ryzyko antropomorfizacji (model = student)
00:08:44–00:09:38	Argument przez analogię (mózg)	Brak podziału parametry/aktywacje w mózgu; sawanci jako ostrzeżenie przed nadmiarem pamięci	SŁABY jako dowód — analogia neuro nie implikuje konieczności dla AI; perswazyjny, nie konkluzywny
00:09:03	Hedging strategiczny (uczciwy)	„maybe I'm reading too much into this", „much more speculative", „one scenario"	POZYTYWNY — kalibruje pewność; przeciwieństwo nadmiernej pewności
Całość	Struktura eliminacyjna	Diagnoza przez eliminację: architektura nie jest wąskim gardłem → więc funkcja straty	MIESZANY — elegancka, ale fałszywie domyka przestrzeń (czy to na pewno dychotomia architektura/strata? por. dane, sygnał nagrody, infrastruktura)

Wewnętrzne napięcia (nie błędy, ale do odnotowania):

Blok 00:00:48 (optymiści: „efektywność próbkowa nieważna, bo tylko w treningu") vs. cała druga połowa (efektywność próbkowa jest the problemem). Patel rozwiązuje to rozróżnieniem trening/sesja — ale optymista mógłby odbić: skoro efektywność w sesji rośnie, a uczenie ciągłe ma destylować z sesji, to może deficyt treningowy faktycznie się amortyzuje. Patel nie domyka tej riposty wprost.
„Architektura nie jest wąskim gardłem" (00:12:39) jest postawione z dużą pewnością, mimo że całe uczenie ciągłe opiera o „wagi szybkie/pośrednią reprezentację", które są problemem architektonicznym (sam to mówi w bloku 00:11:57). Lekka niespójność w tym, co liczy się jako „architektura".

5. ANALIZA WIELOPERSPEKTYWICZNA

Perspektywa ekonomiczna (compute jako kapitał). Najmocniejszy ukryty argument materiału jest ekonomiczny: 30–50% compute laboratorium (inferencja) to dziś „kapitał martwy" — nie produkuje ulepszeń modelu. Uczenie ciągłe przekształca koszt operacyjny inferencji w inwestycję w aktywo (lepszy model). To zmienia ekonomikę branży: przewagę zyskuje nie ten, kto ma najwięcej danych pre-treningowych, lecz ten, kto jest najszerzej wdrożony (najwięcej strumieni doświadczenia z realnych organizacji). Powstaje efekt sieciowy/koło zamachowe danych z wdrożeń — z konsekwencjami dla koncentracji rynku (zwycięzca bierze więcej).

Perspektywa poznawcza/neuronaukowa. Patel opiera normatywną tezę („inteligencja to kompresja, nie pamięć doskonała") na analogii do mózgu. Ta perspektywa ujawnia założenie, którego materiał nie kwestionuje: że ścieżka AI musi rekapitulować rozwiązania biologiczne (konsolidacja, brak podziału parametry/aktywacje). To możliwe, ale niekonieczne — systemy inżynierskie bywają skuteczne właśnie przez nie-naśladowanie biologii (samolot vs. ptak). Analogia sawantów jest retorycznie mocna, lecz dowodowo słaba.

Perspektywa bezpieczeństwa (AI safety). Materiał niemal nie eksploruje własnej konkluzji od strony ryzyka, choć sam ją nazywa „scary". Model, który aktualizuje wagi z agregatu wdrożeń u wszystkich użytkowników, rodzi: (a) ryzyko zatruwania danych/uczenia adwersarialnego (kciuk-w-górę jako wektor ataku), (b) zacieranie granicy między wersjami modelu (audytowalność, powtarzalność, odpowiedzialność prawna za zachowanie zmienne w czasie), (c) propagację błędów z jednego wdrożenia na wszystkich. „Genialny doktorant" uczący się z całej gospodarki to też pojedynczy punkt awarii o bezprecedensowej skali.

🔎 Poza materiałem — ryzyka (a)–(c) to ocena analityka stosująca ramę AI safety; mówca nazywa wizję „scary", ale tych konkretnych wektorów nie rozwija.

Perspektywa konkurencyjna/strategiczna (pominięta przez mówcę, ważna). Jeśli grindowalność dzieli domeny na trenowalne i nietrenowalne, to firmy, które kontrolują odtwarzalne środowiska realnych aplikacji (właściciele Slacka, Gmaila, platform), mają strukturalną przewagę — mogą sprzedawać lub blokować dostęp do „grindowalności". To czyni dane środowiskowe nowym zasobem strategicznym, a klonowanie aplikacji (które Patel traktuje czysto technicznie) — także polem walki prawnej (ToS, prawo autorskie do interfejsów).

6. CZEGO BRAKUJE

(Materiał to monolog — nie ma prowadzącego, który „powinien był dopytać". Poniżej: pytania, które mówca powinien był zadać sam sobie, oraz luki w argumentacji.)

Niepostawione pytania (autokrytyka):
- Skąd pewność, że „przepis na uczenie ciągłe nadejdzie"? Cała drabina 2027–2028 zakłada to jako przesłankę, nie wniosek. Co, jeśli destylacja z rzadkiego, jednobitowego sygnału (kciuk/tydzień) jest zasadniczo niewystarczająca informacyjnie?
- Jaki jest sygnał nagrody w domenach nieweryfikowalnych? OPSD znosi wymóg weryfikacji pętli zewnętrznej, ale przesuwa problem: skąd „model-nauczyciel" ma wiedzieć, że nauczył się rzeczy słusznych w sesji bez wyniku świata? Patel zakłada kompetentnego nauczyciela, nie pokazując, jak powstaje.
- Jeśli RLVR nie uogólnia z krótkiego do długiego horyzontu (teza z cytatu Daria), to dlaczego destylacja długich sesji do wag miałaby uogólniać lepiej?
Pominięte kontrargumenty:
- Stanowisko „bitter lesson" w mocnej wersji: być może okna kontekstu i pamięć zewnętrzna (retrieval/RAG, pamięć agentowa) wystarczą praktycznie, nawet jeśli nie są eleganckie jak konsolidacja w wagi. Patel odrzuca „coraz większy KV cache", ale nie rozważa hybryd pamięci zewnętrznej.
- Personalizacja per-użytkownik może być niepożądana (prywatność, spójność produktu, regulacje) — nie tylko trudna technicznie. Materiał traktuje ją wyłącznie jako cel.
Brakujące dane: Co empirycznie potwierdziłoby tezę? Np. wyniki pokazujące, że OPSD na realnych, nieweryfikowalnych zadaniach poprawia wagi bez katastroficznego zapominania; krzywe uogólniania krótki→długi horyzont; koszt compute „śnienia" vs. uzysk. Materiał nie przytacza żadnych liczb wyników OPSD ani „śnienia" w realnych domenach — tylko precedens EfficientZero (gra) i jeden produkcyjny przykład (cursor tab) bez personalizacji.
Pominięte perspektywy/głosy: regulatorzy (model zmienny w czasie a odpowiedzialność), użytkownicy/organizacje, których dane stają się paliwem doskonalenia (zgoda, własność, prywatność), pracownicy domen „nie-grindowalnych" (prawo, polityka, trading) jako podmioty wypierane, sceptycy skalowania.
Tematy-duchy: (1) Prywatność i własność danych z wdrożeń — „uczenie się ze wszystkich interakcji wszystkich użytkowników" przemyka jako rzecz „ekscytująca", bez słowa o zgodzie. (2) Klonowanie aplikacji do środowisk treningowych jako problem prawny (ToS, IP), nie tylko inżynierski. (3) Konflikt interesów: laboratoria mają bodziec, by przedstawiać własną inferencję jako „niewykorzystany skarb", bo to uzasadnia dalsze gromadzenie danych użytkowników.

7. WNIOSKI KOŃCOWE

Synteza. Materiał jest jedną z czystszych dostępnych ekspozycji tezy, że obecny paradygmat (RLVR na weryfikowalnych zadaniach) ma strukturalny sufit, a nie tylko chwilowe ograniczenia. Najmocniejszy wkład pojęciowy to rozróżnienie weryfikowalności od grindowalności: pokazuje, dlaczego ogromna klasa wartościowych umiejętności (biznes, prawo, polityka, trading) leży poza zasięgiem skalowania RLVR, bo realny świat jest reset-free i niestacjonarny. Z tego wynika, że efektywność próbkowa nie jest „artefaktem treningu do zamortyzowania", lecz wąskim gardłem, a jedynym wyjściem jest uczenie ciągłe — przelewanie wiedzy z wdrożenia do wag. Druga połowa to konstruktywna propozycja (OPSD jako kandydat: znosi wymóg weryfikacji, daje gęsty sygnał, chroni przed zapominaniem) plus jawnie spekulatywne „śnienie".

Słabość materiału jest lustrem jego siły: diagnoza jest mocna, recepta — założona. Cała drabina 2027–2028 wisi na przesłance, że „przepis na uczenie ciągłe nadejdzie", a najsłabsze ogniwo (jak z rzadkiego, jednobitowego sygnału kciuk/tydzień wydestylować właściwą wiedzę do wag, bez nagrody świata i bez katastroficznego zapominania) pozostaje nierozwiązane. Patel jest tego w dużej mierze świadomy i uczciwie hedguje — co czyni materiał raczej dobrze postawionym programem badawczym niż prognozą.

Centralne napięcie. Najcenniejsze dane (wiedza ukryta, kontekst organizacyjny) powstają dokładnie tam, gdzie model nie umie się uczyć (wdrożenie, świat nieweryfikowalny), a model uczy się sprawnie dokładnie tam, gdzie danych jest najmniej i są najmniej wartościowe (sztuczne, grindowalne środowiska). Uczenie ciągłe to próba zszycia tej przepaści — ale wymaga jednoczesnego rozwiązania dwóch sprzężonych problemów (efektywność próbkowa + trwała aktualizacja wag bez zapominania), których nikt jeszcze nie rozwiązał razem.

Data przydatności. Analiza koncepcyjna pozostaje aktualna, dopóki dominuje paradygmat RLVR. Zdezaktualizować ją mogą: (a) publiczny wynik pokazujący działające uczenie ciągłe z personalizacją per-wdrożenie (potwierdzenie tezy Patela), (b) dowód, że długi kontekst / pamięć zewnętrzna praktycznie zastępują aktualizację wag (podważenie tezy), (c) przełom w generowaniu środowisk przez samo AI, który masowo „ugrindowalnia" dotąd niedostępne domeny. Realistyczny horyzont obserwacji: 2027–2028 (zgodnie z własnym oknem mówcy).

8. ŹRÓDŁA ZEWNĘTRZNE

#	Wzmianka w materiale	Kto wspomniał	Forma (deklarowana)
1	„Previous essay / last video essay" o efektywności próbkowej (modele „jedna milionowa" ludzi)	Patel	wideo-esej / wpis blogowy (własny)
2	Post „a few months earlier": RL uczy mniej informacji na próbkę niż uczenie nadzorowane	Patel	wpis blogowy (własny)
3	Podcast z Dario Amodei (cytat o długości kontekstu trening vs. serwowanie)	Patel	podcast / wywiad
4	Improwizowana „blackboard lecture" o OPSD nagrana z Sashą Rushem (link w opisie)	Patel	wideo
5	AlphaZero (DeepMind)	Patel	model / projekt badawczy
6	EfficientZero (efektywny próbkowo następca; gra Atari)	Patel	model / paper
7	„Cursor tab model" (400+ mln zapytań/dzień, uczenie online)	Patel	produkt / model
8	dwarkesh.com — pełny wpis blogowy z przypisami	Patel	wpis blogowy (własny)

(Zgodnie z zasadami: źródła zapisane tak, jak wymienił je mówca — bez wyszukiwania i weryfikacji.)