Diane (vedoucí produktového výzkumu ve společnosti @Anthropic) hovořila o tom, jak se její pohled na pokrok v AI změnil, čímž vyvrátila nedávný skepticismus ohledně časových rámců agentů.
Otázka: Na co jste v AI za poslední rok změnil názor?
"Myslím, že jsme blíže 'transformativní dlouhodobé AI', než jsem čekal už na začátku roku. Jako by to fakt vypadalo, že stavební kameny tam nějak jsou."
Otázka: Zapadáte do [Anthropicových] agresivních časových rámců ASI?
"Řekl bych, že se mi letos pravděpodobně posunuly časové plány na základě toho... modely jako Opus 4.5."
Zdůrazňuje, že nenarážíme na technickou překážku, ale spíše na produktovou překážku:
"Mám pocit, že stavební kameny jsou vlastně blíž, než si myslíme. A že je to vlastně spíš produktový převis... produktové příležitosti ji vyjádřit."
Łukasz Kaiser(@OpenAI) řekl, že v jistém smyslu předtrénink působí, jako by dosáhl horní části S-křivky.
To však neznamená, že rozšiřování předškolení přestalo fungovat. Ve skutečnosti to funguje naprosto podle očekávání a laboratoře jako OpenAI a Google, stejně jako další, pozorují, že ztráty klesají přibližně logologickým lineárním tempem, jak přidáváte více výpočetního zatížení.
Problém je, kolik peněz musíte vložit do zisků, které získáte, a i když jsou částky obrovské, lidé stále investují.
Naopak v paradigmatu "uvažování" můžete dosáhnout mnohem výraznějšího pokroku za stejnou cenu, protože uvažování je stále v dolní části S-křivky.
Takže předvýcvik nevyprchal. Řekl, že jsme jednoduše našli nový model, který přináší mnohem pozoruhodnější pokrok za stejnou cenu.