感覺像是「針對漏洞的 AlphaFold」應該是可行的: 在 (位元組碼,儀器) 配對上進行訓練,其中儀器是針對分支遍歷的 LLVM 儀器,類似於灰盒模糊測試。將漏洞開發視為一個黑盒結構預測問題。
然後對合成儀器進行推斷,其中該儀器代表您想要達到的某個程序狀態。
這聽起來令人恐懼,但不會不對稱地使攻擊者受益。防禦者會在攻擊者之前建立這種基礎設施,而其能力(如果類似於 AlphaFold)將取決於計算規模,而這是防禦者擁有更多的東西。
這個問題在於,這裡的alphafold類比失效的地方在於,對於開發者來說,獎勵的景觀非常稀疏且不連續。不過,我非常好奇這樣的模型會如何進行泛化。
cc @DARPA
@EmilMieilica 它也不會寫出可利用的位元組碼,而是預測任意儀器狀態的位元組碼
4.5K