一个有用的技巧,可以利用 LLM 的谄媚来获取真相和利润: 如果你从 LLM 那里获得的建议涉及某个“对立”的一方,打开一个新聊天,并从他们的角度写故事(进行钢人辩论) 你会感到惊讶 😅 + 还会更接近可操作的真相
这仅仅是因为谄媚的 LLM 总是会试图取悦你,这种情况也延伸到工具使用和研究中。打破这种情况的唯一方法是拥有一个新的上下文窗口,在那里你可以明显地看到它对另一种观点的同样表现。 我可能会把这个变成一个代理
861