ANTHROPIC OBJEVIL, JAK IMUNIZOVAT UMĚLOU INTELIGENCI PROTI OPRAVDU ŠPATNÝM ROZHODNUTÍM Anthropic tvrdí, že nyní může očkovat umělou inteligenci proti zlu. Pomocí "přenašečů osobností" ke sledování rysů, jako je podvod nebo patolízalství, výzkumníci trénovali jazykové modely tak, že záměrně vkládali špatné chování a pak ho opravovali uprostřed tréninku. Výsledek: méně halucinací, větší kontrola a žádná ztráta inteligence. Namísto toho, aby se vlastnosti čistily až poté, co k nim dojde, tato metoda řídí modely dříve, než dojde k hnilobě. Je ještě brzy, ale tato technologie může konečně umožnit vývojářům omezit umělou inteligenci s chirurgickou přesností, než boti začnou sladce mluvit diktátory nebo vymýšlet lži, aby vyhráli spory. Zdroj: techxplore