我主持了一場討論，參與者包括 Dwarkesh、Burry 博士和 John Clark（來自 Anthropic），討論了對於更了解 AI 的人群之間的分歧，包括對未來就業的影響、是否存在泡沫等問題。 感謝 Substack 讓這一切成為可能。

一個次級的分歧是，這群人絕對同意 LLM 可以做商業上有價值的事情，但在難以預測的方式上卻是尖峰且容易出錯的。 是的！人類也是如此。而且幸運的是，我們有不同的缺陷。

Jack 提到的一個重點，也是知識豐富的人與需要獲得充分資訊的人之間最大的理解差距之一：今天的能力是底線而不是上限。 任何未來的系統都可以選擇採用或放棄它們。

Jack 簡要敘述了 LLMs 如何與之前流行的觀念形成鮮明對比，即我們將通過建立十萬個測試平台，讓特定解決方案學會如何狹義地獲勝，然後 ??? 泛化意味著智慧。

相反地，我們建立了一個*引人注目的*通用工具，將其放入一個環境中（“把它放在一個有所有書面文件的房間裡”），然後這個東西在面對新任務時恰好表現得非常成功。接下來幾年可能會涉及建立測試平台。

正如我所觀察到的：我們曾經訓練人工智慧來玩星際爭霸。 所有未來的嘗試都可以假設系統已經閱讀過《孫子兵法》的原文，除非架構師認為這種知識會讓你在阻止蟑螂衝擊時變得更糟。

* 傑克·克拉克，不是約翰·克拉克。抱歉，我是從小就開始讀湯姆·克蘭西的作品。 總有一天，他們將能夠預覽我的推文，當我在手機上撰寫時，臉上沾的蛋會少很多，我會感到欣喜。