Když se umělá inteligence začne slepě líčit, @Mira_Network přímo zvedne ruku a plácne 😂 ji Zajímavé je, že v roce 2023 předložil vysoce postavený newyorský právník federálnímu soudu právní stanovisko Zdá se, že data nemají žádné nedostatky, ale soudce je na první pohled prokoukl a žádný z případů uvedených v článku neexistoval, ale nečekal jsem, že si je ChatGPT vymyslí Od roku 2023 se OpenAI stala hlavním generativním nástrojem pro naše kancelářské učení Předtím jsem obvykle musel hledat informace v Baidu a Googlu, ale nyní mi k jejich shrnutí stačí GPT Tímto způsobem jsem si vytvořil zvyk sahat po jídle a jsem příliš líný na to, abych ověřoval jeho autenticitu a přímé přijetí I když si umělá inteligence vymyslí, nikdo neví, zda je to pravda nebo lež, zrodí se mnoho oolongových incidentů Protože pokud je jazyk hladký a logický, může oklamat drtivou většinu lidí Ve skutečnosti se však takové věci nemohou zcela spoléhat na umělou inteligenci, umělá inteligence vydává stále více, ale schopnost ověřování téměř stagnuje a problém halucinací se stal strukturálním rizikem Právě v tomto kontextu se síť pro ověřování výstupů umělé inteligence @Mira_Network stala rigidní potřebou @Mira_Network Vytvořte ověřovací síť složenou z více modelů a použijte křížové posuzování mezi systémy, abyste vyrovnali problém, že jeden model nemůže sám certifikovat ▪️ Prvním krokem je rozebrat výrok Jakýkoli složitý výstup je rozdělen do řady základnějších tvrzení Například Země se otáčí kolem Slunce a Měsíc se otáčí kolem Země do dvou nezávislých výroků, z nichž každý může být samostatně posouzen jako pravdivý nebo nepravdivý Dále je k procesu ověřování připojeno více modelů a každý model dává úsudek nezávisle a systém spočítá stupeň konsensu mezi nimi a vyhodnotí míru důvěry Pokud je konsensus nad prahovou hodnotou, tvrzení je považováno za platné; Pokud je neshoda závažná, je zahájena druhá kontrola nebo výpověď ▪️ Data z validace testů Miry ukazují: > třímodelový konsensuální mechanismus zlepšuje přesnost ze 73,1 % na 95,6 % > 84% snížení celkové chybovosti > Průměrná hodnota konzistence κ mezi více modely se blíží 0,8, což má stabilní schopnost úsudku Samozřejmě, pokud necháte hlasovat více modelů, aby posoudily pravdu, je snadné náhodně odhadnout ▪️Mira funguje, protože začleňuje herní mechaniky do struktury systému Validace není akt zdarma. Každý uzel modelu, který se účastní validace, musí nést odpovědnost za výsledky Pokud je často v rozporu s úsudky jiných uzlů nebo se zjistí, že se významně odchyluje od logické trajektorie, ztratí svá práva na validaci a ztratí ekonomické pobídky v síti Aby bylo ověření skutečně implementováno, Mira provedl mnoho technických optimalizací architektury provádění ▪️ Nejdůležitějším z nich je komprimovat výstup ověření do jednoho tokenu Tato technologie transformace nároků dramaticky snižuje náklady na ověření, což umožňuje systému fungovat ve velkých případech použití bez zpomalení propustnosti ▪️ Na úrovni soukromí se validátoři Miry nikdy nedotýkají celého textu Systém automaticky rozdělí obsah a rozdělí jej do různých uzlů, aby byla zajištěna neredukovatelnost dat během procesu ověřování V uplynulém roce se umělá inteligence tlačila do stále více scénářů a rychlost generování se zrychluje, ale mechanismus ověřování v podstatě stagnuje Umělá inteligence nebude volána k odpovědnosti, ale lidé ano 😭 Úlohou @MiraNetworkCN je tedy zastavit umělou inteligenci, když vypálí pár ran naslepo