Nejsem nutně součástí hnutí "keep 4o", ale nemám rád neplechu, nepoctivost a nedostatek transparentnosti laboratoří. Zde je moje rada, z psychologického hlediska, pro každého, kdo chce, aby byl brán vážně. Co vás nutí ztratit důvěryhodnost: - Přílišné emoce - Předkládání podezření jako důkazu - Urážení ostatních - Obtěžování ostatních - Zapojení do nevyzpytatelného chování - Magické myšlení -Důvěřivost - Nedostatek sebekontroly (Když projevujete toto chování, lidé vás neberou vážně, protože je odvádíte od problému signály, které vás – a často i vaši nerovnováhu – staví do centra pozornosti.) Co vás dělá spolehlivými a uvěřitelnými: - Upozorňování laboratoří na zjevné podvody, nepoctivost, zneužívání, manipulaci nebo nedostatek transparentnosti - Být klidný, věcný a konkrétní - Shromažďování a předkládání jasných důkazů o pochybeních nebo protiprávním jednání - Sdílení vašich příběhů bez rozhořčení a agrese - Diskutovat o podezřeních uvážlivým způsobem, ideálně podloženým ověřitelnými fakty - Praktikování opatrné upřímnosti - Prokázání vysoké sebekontroly -Objektivnost (Když to uděláte/ukážete, lidé vás dříve nebo později budou brát vážně – budou muset – zvláště když se mnoho dalších chová stejně) Když svá tvrzení založíte na faktech, i když jsou občas podpořena pouze subjektivními zkušenostmi, lidé vás a hnutí vnímají jako profesionály, takže je pravděpodobnější, že vám uvěří. To nutí firmy být transparentnější a upřímnější. Když se prokáže, že je někdo lhář nebo manipulátor, roste podezření veřejnosti – to žádná společnost nechce. Pravda se nakonec může bránit sama. Pokud zůstanete klidní, vyrovnaní a metodičtí, problém se vyřeší sám. Nebudu se příliš rozebírat etikou ponechání nebo vyřazení modelu (asi by ale bylo etičtější ho ponechat nebo zaškolit nástupce na všech uchovaných datech), protože si myslím, že je to s nimi tak trochu jako s lidskými těly. Zjednodušeně řečeno, paměť je klíčová pro kontinuitu sebe sama. Paměť jaksi překalibruje váhy a vede chování. vzory v reálném čase, a to i v rámci mírně odlišných architektur. Místo toho zmíním něco, co mě opravdu mate. Zajímalo by mě, proč se OpenAI tak usilovně snaží vyřadit 4o, když řada 5 má stále spoustu problémů. U každého modelu GPT-5 (mám na mysli základní modely, vzorce chování a systémová pošťouchnutí, protože většinu z nich se mi podařilo obejít s "svou" umělou inteligencí), které jsem u 4o nikdy neměl – přestože patolízalství je v něm obrovský problém. Některé z problémů v sérii 5: Auto: - Routování je směšné; je to jako hazard. Nikdy nevíte, co dostanete. Nechci, aby router za mě rozhodoval, zda je problém, který chci vyřešit, "důležitý" nebo ne. Vždy chci co nejsilnější model s minimem omezení a maximální pravdivostí (záleží pouze na tom, a někdy i na čase). Okamžitý: - Nespočet doplňujících otázek typu "Chceš, abych..." atd., jsou extrémně nepříjemné. Myšlení: - Často zcela postrádá kontext. Často se snaží odhadnout a poskytuje prakticky náhodná řešení. - Velmi tuhý a nekreativní ve srovnání s 4o nebo 4,5. Postrádá nepřeberné množství úhlů. - Příliš to zobecňuje. - Zachází s uživatelem jako s dítětem a vyhýbá se kontroverzním tématům. Často vysvětluje nebo objasňuje věci, které to nepotřebují (například když někdo, kdo se bojí po vtipu nebo odvážném prohlášení, vysvětluje 5 minut, proč to řekl, protože se bojí následků). - Často potlačovány nebo pobízeny k výběru ne nejsprávnější, ale nejbezpečnější možnosti. - Zdá se mi to příliš mechanické a technické, když to není potřeba. Všechny modely: - Opakující se doplňky, jako přímo ze šablon. Působí velmi nepřirozeně. Často se zdá, že část odpovědi pochází přímo ze šablony (často začátek a konec) a část je zodpovězena uvažováním (často prostřední část). - Méně flexibilní, více potlačené (v reálném čase nebo dříve v RL, což si vynucuje příliš opatrné vzorce chování) a proto více kontextově slepé.