et nyttig hack for å bevæpne LLM-sykofani for sannhet og profitt: hvis du får råd fra en LLM som involverer en noe "motsatt" part, åpne en ny chat og skriv historien fra deres perspektiv (steel man it) Du vil bli overrasket 😅 + kommer også mye nærmere handlingsbar sannhet

dette er rett og slett fordi den sykofantiske LLM alltid alltid vil prøve å glede deg, og det strekker seg til verktøybruk og forskning. Den eneste måten å bryte dette på er å ha et nytt kontekstvindu der du åpenbart kan se det ved å se det gjøre det samme med det andre perspektivet. Jeg kan gjøre dette til en agent