sinto que "alphafold para exploits" deveria ser possível: treinar em pares (bytecode, instrumentação), onde a instrumentação é a instrumentação LLVM na travessia de ramos, semelhante ao fuzzing greybox. tratar o desenvolvimento de exploits como um problema de previsão de estrutura em caixa-preta.

então a inferência sobre instrumentação sintética, onde essa instrumentação representa algum estado de programa que você deseja alcançar.

isto soa aterrador, mas não beneficia assimetricamente os atacantes. os defensores construirão esta infraestrutura antes dos atacantes e seu poder (se semelhante ao AlphaFold) será determinado pela escala de computação, algo que os defensores terão em maior quantidade.

o problema com isso e onde a analogia do alphafold falha é que a paisagem de recompensas para o desenvolvimento de exploits é muito esparsa e descontínua. Eu ficaria muito curioso para ver como um modelo como este se generaliza, no entanto.

cc @DARPA

@EmilMieilica também não escreve bytecode explorável, prevê bytecode para um estado de instrumentação arbitrário.