De fleste autonome systemer i dag er fortsatt avhengige av blind tillit. Vi stoler på at agentene vil: • Handle som tiltenkt • Hold deg innenfor grensene • Unngå skadelig atferd Men tilliten uten håndhevelse skalerer ikke, spesielt ikke for programvare.

Blind tillit ser vanligvis slik ut: • Brede API-nøkler • Langvarige meritter • Implisitte tillatelser • Overvåking i ettertid Hvis noe går galt, griper mennesker inn etter at skaden er skjedd. Det er reaktiv, ikke trygg autonomi.

Etter hvert som agentene blir mer kapable, blir blind tillit mer risikabel. Mer intelligens betyr: • Større handlingsrom • Raskere utførelse • Større sprengradius Uten harde grenser kan en enkelt feil spre seg umiddelbart.

Programmerbare begrensninger endrer modellen. I stedet for å stole på intensjon, håndhever systemene regler: • Hva en agent kan gjøre • Hvor mye den kan bruke • Når myndigheten utløper • Hvilke handlinger som krever eskalering Begrensninger utføres av kode, ikke av policy.

Dette flytter sikkerheten fra menneskelig vurdering til infrastruktur. Begrensninger kan være: • Scoped (kun spesifikke handlinger) • Tidsbegrenset (øktsbegrenset) • Budsjettbegrenset (utgiftsgrenser) • Automatisk tilbakekallelig Ingen antakelser. Ingen gjetting.

Viktig er det at programmerbare begrensninger ikke reduserer autonomien. De muliggjør det. Når agenter opererer innenfor håndhevede grenser, kan de handle uavhengig uten konstant tilsyn eller manuelle godkjenninger.

Tillit, i denne modellen, blir verifiserbar. Hver handling kan være: • Autorisert • Begrensningssjekket • Loggført • Revideres etter gjennomføring Tillit er ikke lenger sosial eller subjektiv, den er bevisbar.

Blind trust spør: «Tror vi denne agenten vil oppføre seg?» Programmerbare begrensninger spør: «Hva har denne agenten lov til å gjøre?» Bare én av disse skjeller trygt.

Fremtiden for autonome systemer vil ikke avhenge av bedre løfter eller strengere politikk. Det vil avhenge av infrastruktur som håndhever grenser som standard. Derfor er Kite bygget rundt programmerbare begrensninger, ikke blind tillit 🪁