Det känns som att "Alphafold for Exploits" borde vara möjligt: träna på par (bytekod, instrumentation), där instrumentation är LLVM-instrumentation vid grenbläddring, liknande Greybox-fuzzing. Behandla exploateringsutveckling som ett problem med förutsägelse av black-box-struktur.

Sedan slutsatsdragning på syntetisk instrumentation, där instrumentationen representerar ett programtillstånd som du vill nå.

Detta låter skrämmande, men gynnar inte angriparna asymmetriskt. försvarare kommer att bygga denna infrastruktur innan angripare och dess kraft (om den liknar AlphaFold) kommer att bestämmas av beräkningsskala, något som försvarare kommer att ha mer av.

Problemet med detta, och där Alphafold-analogin, bryter samman är att belöningslandskapet för Exploit Dev är mycket glest och diskontinuerligt. Jag skulle dock vara väldigt nyfiken på att se hur en modell som denna generaliserar

CC @DARPA

@EmilMieilica den inte heller skriver exploaterbar bytekod förutsäger den bytekod för ett godtyckligt instrumentationstillstånd