Ich habe einen ähnlichen Generator-Verifier-Ansatz für die Verwendung von Modellen in der theoretischen Physikforschung übernommen. Menschliche Experten an der Spitze der Wissenschaft können Verifier-Modelle so weit verbessern, dass der autonome Betrieb selbst bei realen Forschungsproblemen (nicht nur bei konstruierten Mathematikwettbewerbsproblemen = gut gestellten Problemen, die von Menschen in endlicher Zeit gelöst werden können) extrem stark ist. DeepSeekMathV2 Synergie zwischen Generator und Verifier Der Beweisgenerator und der Verifier bilden eine sich selbst verbessernde Rückkopplungsschleife. Während der Generator zunehmend komplexere Beweise produziert, stellen diese den Verifier auf die Probe und decken Schwächen auf, die zu neuen Trainingsdaten werden. Zunächst leiteten menschliche Experten das Retraining des Verifiers, indem sie die markierten Probleme überprüften – ein Prozess, der durch die Generierung mehrerer Verifizierungsversuche pro Beweis effizient gestaltet wurde. Diese „Meta-Verifizierung“ (Überprüfung der Ergebnisse des Verifiers anstelle der Beweise direkt) erwies sich sowohl für Menschen als auch für LLMs als einfacher und besser erlernbar. Durch die Skalierung der Anzahl der Verifier-Analysen und das Training an diesen KI-unterstützten Anmerkungen erreichte der Verifier schließlich ein Maß an Zuverlässigkeit, bei dem menschliches Eingreifen in den letzten Durchläufen nicht mehr erforderlich war – und schloss damit die Schleife zwischen automatisierter Beweisgenerierung und Verifizierung.

Dies beschreibt den Übergang von einer grundlegenden Generator-Verifier-Pipeline, die mit handelsüblichen Modellen arbeitet, zu einer, in der der Verifier selbst durch menschliche Expertendaten, die in der Meta-Überprüfung verwendet werden, verbessert wurde.