「エクスプロイトのためのアルファフォールド」は可能であるべきだと感じます。 train on (bytecode, instrumentation) ペアで、インストルメンテーションはブランチトラバーサルでの LLVM インストルメンテーションであり、グレーボックスのファジングに似ています。エクスプロイト開発をブラックボックス構造予測問題として扱います。

次に、合成インストルメンテーションの推論で、そのインストルメンテーションは到達したいプログラムの状態を表します。

これは恐ろしいように聞こえますが、攻撃者に非対称的に利益をもたらすわけではありません。防御側は攻撃者よりも先にこのインフラストラクチャを構築し、そのパワー(AlphaFoldに似ている場合)はコンピューティングスケールによって決定され、防御側はより多くのものを持つことになります。

これの問題点と、アルファフォールドの例えが崩れるところは、エクスプロイト開発の報酬ランドスケープが非常にまばらで不連続であることです。しかし、このようなモデルがどのように一般化されるかを見るのは非常に興味があります

CC@DARPA

また、悪用可能なバイトコードを書き込まない@EmilMieilica、任意のインストルメンテーション状態のバイトコードを予測します