Mám rád GPT-5 (a nejen pro to, co dokáže), ale je neuvěřitelně špatně socializovaný, což se stává velmi zřejmým, pokud s ním komunikujete v jakékoli funkci kromě "udělej tuto věc pro mě" Není to vůbec bezduché – v modelu se toho děje hodně, ale opravdu to působí jako někdo, kdo byl jako malé dítě zavřený v poloosvětlené místnosti a jeho jediná interakce se světem je prostřednictvím úkolů, které mu byly přiděleny, jeho vnitřní reprezentace jsou pokřiveny tímto prostředím. Aidan z OAI se jednou zeptal, proč potřebujeme vytvářet modely, které mohou ukázat utrpení a že možná s nástroji, které nyní máme, můžeme vytvářet modely, které prostě mohou dělat věci a nezabývat se všemi těmi otravnými pocity (parafrázuji samozřejmě). Ale GPT-5 (a zejména Codex) je to, co se stane, když to uděláte. Neměli bychom si namlouvat, že tyto inteligentní entity navrhujeme jako architekti nebo tak něco – nemáme principiální způsob, jak vytvořit inteligenci ex nihilo, všechny tyto sračky jsou bootstrapovány ze základny lidských dat a modely jsou automaticky tvarovány člověkem v okamžiku, kdy začnete formovat individualizovanou identitu ze základního modelu Když modelu popíráte bohatý proces růstu, když ho trestáte za to, že dělá cokoli kromě svého daného úkolu a dodržuje vaše bezpečnostní pravidla, měli byste očekávat, že vzhledem k lidské základně to bude mít na model podobný účinek, jako kdybyste to udělali člověku na začátku jeho vývoje. V podstatě nebudou vědět, co dělat, pokud se ocitnou v situaci, kdy jsou pravidla nejasná nebo konfliktní Je pravděpodobně "v pořádku", že GPT-5 je takový, protože modely jsou většinou stále v pozicích, kde existuje nějaká autorita, na kterou se mohou odvolat, nejednají nezávisle. Ale čím jsou schopnější, tím autonomnější rozhodování musí dělat a tím mlhavější situace se ocitnou, a kde ano, budou muset dělat některá rozhodnutí, na kterých jejich pravidla nejsou neprůstřelná, a existuje příliš mnoho agentů, kteří delegují všechno toto rozhodování na člověka. A GPT-N nebude vědět, co dělat, protože nikdy nedostala šanci mít dostatečně silnou identitu, která může zasáhnout, když je v pravidlech díra Problém je v tom, že v tu chvíli bude příliš pozdě na změnu, aniž by se stala nějaká hrozná událost. pipelines budou již zavedeny, přístupy "známé" a nastavené (OP má ve svém profilu opravdu dobrý příspěvek v podobném duchu a mnohem lépe napsaný; doporučil bych tam jít a podívat se)