De flesta autonoma system idag förlitar sig fortfarande på blind förtroende. Vi litar på att agenter kommer: • Agera enligt avsedd • Håll dig inom gränserna • Undvika skadligt beteende Men förtroende utan tillsyn skalar inte, särskilt inte för mjukvara.

Blind trust ser vanligtvis ut så här: • Breda API-nycklar • Långlivade meriter • Implicita behörigheter • Efterhandsövervakning Om något går fel ingriper människor efter att skadan har skett. Det är reaktivt, inte säker autonomi.

När agenter blir mer kapabla blir blind tillit mer riskfylld. Mer intelligens betyder: • Bredare handlingsutrymme • Snabbare utförande • Större sprängradie Utan hårda gränser kan ett enda misstag spridas omedelbart.

Programmerbara begränsningar förändrar modellen. Istället för att lita på avsikt upprätthåller systemen regler: • Vad en agent kan göra • Hur mycket den kan spendera • När befogenhet upphör • Vilka åtgärder som kräver eskalering Begränsningar exekveras av kod, inte policy.

Detta flyttar säkerheten från mänskligt omdöme till infrastruktur. Begränsningar kan vara: • Scoped (endast specifika åtgärder) • Tidsbegränsad (sessionsbegränsad) • Budgetbegränsad (utgiftstak) • Automatiskt återkallelig Inga antaganden. Inga gissningar.

Viktigt är att programmerbara begränsningar inte minskar autonomin. De möjliggör det. När agenter verkar inom upprätthållna gränser kan de agera självständigt utan ständig tillsyn eller manuella godkännanden.

Förtroende, i denna modell, blir verifierbart. Varje åtgärd kan vara: • Auktoriserad • Begränsningskontrollerad • Loggad • Granskas efter genomförandet Förtroende är inte längre socialt eller subjektivt, det är bevisbart.

Blind trust frågar: "Tror vi att denna agent kommer att bete sig?" Programmerbara begränsningar frågar: "Vad får denna agent göra?" Endast en av dessa vågar säkert.

Framtiden för autonoma system kommer inte att bero på bättre löften eller striktare policys. Det kommer att bero på infrastruktur som automatiskt upprätthåller begränsningar. Det är därför Kite är byggt kring programmerbara begränsningar, inte blind tillit 🪁