Novinky3 min čtení
⚡ 62,9k tokenů · 4 modely · Výpočetní stopa ▾

Které AI modely se na článku podílely a kolik tokenů spotřebovaly (vstup / výstup).

ModelRoleKde běžíVstupVýstupVolání
MiniMaxplánování námětucloud14,0k6351
Qwen 35Bplánování námětulokálně13,1k1,5k1
MiniMaxnávrh článkucloud7,4k1,7k1
MiniMaxfaktová opravacloud4,2k1,9k1
MiniMaxověření faktůcloud3,7k7322
MiniMaxstylistikacloud2,3k1,9k1
MiniMaxaudit přínosucloud2,2k1,2k1
MiniMaxhodnocení přínosucloud2,2k1531
gemini-flash (Antigravity)jazyková korekturacloud1,1k9891 ~
perplexity (Grok 4.7)audit přínosucloud2489741 ~
perplexity (Grok 4.7)ověření faktůcloud1676221 ~

~ odhad: Perplexity a korektura Gemini běží mimo naši bránu, tokeny se odhadují z délky textu.

GPT-6.1 Sol má 500 tisíc tokenů kontextu. Příplatek zmizel, limity zůstaly

Work a Codex získaly u GPT-6.1 Sol kontextové okno 500 tisíc tokenů místo 272 tisíc. Příplatek za dlouhý kontext zmizel, tokeny se ale dál započítávají do limitů a API má jiné sazby.

Co se mění ve Worku a Codexu

U modelu GPT-6.1 Sol ve Codexu a ve Worku vzrostlo výchozí kontextové okno z 272 tisíc na 500 tisíc tokenů. Do jednoho kontextu se teď vejde více kódu, zadání a podkladů, aniž byste museli průběžně spoléhat na kompresi relace.

Zaniká přitom zvláštní příplatek za dlouhý kontext. Pro uživatele předplatného je to finanční úleva, ale ne úleva neomezená: tokeny se dál započítávají do měsíčních či obdobových limitů používání. Jejich množství se neodpočítává „zadarmo“.

Pro API platí jiná pravidla. Podle auditu zůstává práh 272 tisíc vstupních tokenů a nad ním se účtují vyšší sazby. Zrušení příplatku v předplatném tedy nelze automaticky přenést na firemní ani vývojářské účtování.

„Větší kontextové okno“ není totéž jako delší paměť

Komunita vnímá změnu především jako finanční úlevu a prostor pro rozsáhlejší projekty. Někteří diskutující připomínají, že okno bylo možné dříve ručně zvýšit přibližně na 800 až 900 tisíc tokenů, ovšem s vyšší cenou a nutností rezervovat místo pro systémový prompt.

Odborně jde o změnu výchozího kontextového rozpočtu produktu, nikoli o novou délku transformátoru. Model má stále omezenou kapacitu pozornosti. Delší sekvence navíc zvětšuje prefill a KV cache, takže zpracování není jen „volnější“, ale také náročnější.

Větší okno nepřináší automaticky lepší přesnost. Model může přehlédnout část dlouhého zadání, zvlášť informace uprostřed sekvence. V praxi tak rozhoduje pořadí relevance, ne maximalizace objemu.

Jak to funguje pod kapotou a kde má postup limity

U modelu GPT-6.1 Sol je dokumentovaný limit 1 050 000 tokenů, přičemž maximální výstup činí 128 000 tokenů. Vstupní prostor je tedy menší než celkový limit. Změna 272 tisíc na 500 tisíc znamená vyšší výchozí rozpočet, ne nepřekročitelnou záruku, že do promptu lze vložit libovolných 500 tisíc tokenů.

Je přitom potřeba rozlišit kvóty od fakturace:

  • Delší relace spotřebovává více limitů používání.
  • Reasoning tokeny se započítávají do stejného rozpočtu jako běžný vstup a výstup.
  • Tokeny se dál započítávají do limitů používání i po zániku příplatku za dlouhý kontext.
  • Nad 272 tisíci vstupních tokenů přes API se celý request zpoplatní 2× za vstup a cache a 1,5× za výstup.

Největší přínos komunitního postupu spočívá ve správném rozlišení tří věcí: výchozího okna, celkového limitu a způsobu účtování. Diskuse často mluví o „kontextu“ jako o jednom čísle, přestože jde o odlišné mechanismy.

Kdy větší okno pomůže a kdy je lepší hledat v repu

Pro dlouhou analýzu, rozsáhlou migraci nebo práci na mnoha souvisejících modulech dává 500 tisíc tokenů smysl. Nemusíte tak často komprimovat starší konverzaci, což snižuje riziko ztráty důležitých instrukcí.

Pro běžnou opravu je ale vložení celého repozitáře špatnou architekturou agenta. Místo toho:

  1. Nejprve vyhledejte relevantní soubory a symboly.
  2. Otevřete jen části potřebné pro konkrétní úlohu.
  3. Opakované instrukce držte ve stabilním prefixu, například v AGENTS.md.
  4. U dlouhé relace nastavte automatickou kompresi pod stropem okna.

Pro strukturální hledání v kódu je vhodnější specializovaný nástroj ast-grep, ne obyčejné textové hledání. Při vyhledávání v rozsáhlém repozitáři pomáhá indexace a sémantické vyhledávání. Stabilní pravidla a kontrakty zlepšují využití prompt cache; audit uvádí 0,10 USD za milion cached input tokenů oproti 2 USD za milion necacheovaného vstupu.

Co si z toho vzít

  • Výchozí okno GPT-6.1 Sol ve Worku a Codexu je nyní 500 tisíc tokenů, ne 272 tisíc.
  • Příplatek za dlouhý kontext v předplatném zmizel, ale tokeny se dál započítávají do limitů používání.
  • API má jiný cenový režim: nad 272 tisíci vstupních tokenů platí vyšší sazby.
  • Větší okno zvyšuje prostor, ne automaticky přesnost ani rychlost.
  • Pro dlouhé projekty kombinujte cílené načítání souborů, stabilní AGENTS.md, vyhledávání v repu a včasnou automatickou kompresi.