Dieser Beweis von ChatGPT ist tatsächlich beeindruckend und über das hinaus, was ich dachte, dass es mit einer einzigen Anfrage an GPT Pro gelöst werden könnte. Ich frage mich jedoch, wie viele Erdos-Probleme durch einen Satz von Erdos folgen werden.

Neue Studien zeigen, wann spektrale Gradientenmethoden (z. B. Muon) im Deep Learning helfen: 1. Wir identifizieren eine weit verbreitete Form von Schlechtbedingungen im DL: Post-Aktivierungs-Matrizen haben einen niedrig stabilen Rang. 2. Wir erklären dann, warum spektrale Methoden trotz dieser Umstände gut abschneiden können. Langer Thread

Während Simons LLM-Programm im letzten Herbst fragte @mahdisoltanol, ob diese Ungleichung für die Verteilungen p und q wahr ist: Dₖₗ(p,q) · ∑ᵢ pᵢ(pᵢ−qᵢ) ≤ ∑ᵢ pᵢ · (pᵢ−qᵢ) ln(pᵢ/qᵢ) Einige von uns waren besessen von der Schranke. Ich erinnere mich, dass @jasondeanlee bis spät in die Nacht nach Gegenbeispielen suchte.