Moderoval jsem diskusi mezi Dwarkeshem, Dr. Burrym a Johnem Clarkem (z Anthropic) o neshodách mezi lidmi lépe informovanými o AI, včetně budoucího dopadu na zaměstnanost, zda je to bublina atd. Díky Substacku, že to umožnili.

Jedním z neshod je, do jaké míry jsou LLM, na kterých tato skupina naprosto souhlasí, že mohou dělat komerčně hodnotné věci, špičaté a náchylné k chybám obtížně předvídatelnými způsoby. Ano! Stejně tak i lidé. A naštěstí máme jiné chyby.

Na to zdůraznil Jack a který je jedním z největších rozdílů v porozumění mezi lidmi, kteří jsou dobře informovaní, a těmi, kteří potřebují být dobře informovaní: dnešní schopnosti jsou spíše spodní než stropní hranice. Každý budoucí systém si je může zvolit nebo je zrušit.

Jack stručně vypráví, jak LLM byly výrazným odklonem od dříve populární představy, že inteligenci získáme tím, že postavíme sto tisíc testovacích zařízení, necháme bodová řešení naučit se těsně vyhrát, a pak ??? Zobecnění znamená inteligenci.

Místo toho jsme vytvořili *nápadně* obecný nástroj na to, co se hodí do jednoho prostředí ("dát to do místnosti se všemi písemnými dokumenty") a pak to, co se vytratilo, je neuvěřitelně úspěšné, když ho hodíte na nové úkoly. V příštích letech mohou být testovací platformy.

Jak jsem pozoroval: dříve jsme trénovali AI, aby hrály StarCraft. Všechny budoucí pokusy o to mohou předpokládat, že systém přečetl Umění války v původní čínštině, pokud architekt(i) nevěří, že tyto znalosti vás zhorší v zastavování zergling rushů.

* Jack Clark, ne John Clark. Promiň, vyrůstal jsem na Tomovi Clancym. Jednoho dne si budou moci prohlédnout mé tweety a já se budu radovat, jak mnohem méně namyšlenosti se děje při draftování na mobilu.