Useimmat autonomiset järjestelmät nykyään perustuvat edelleen sokeaan luottamukseen. Luotamme siihen, että välittäjät tekevät: • Toimi tarkoitetulla tavalla • Pysy rajoissa • Vältä haitallista käytöstä Mutta luottamus ilman valvontaa ei skaalaudu, varsinkaan ohjelmistojen osalta.

Sokea luottamus näyttää yleensä tältä: • Laajat API-avaimet • Pitkäikäiset pätevyydet • Implisiittiset oikeudet • Jälkiseuranta Jos jokin menee pieleen, ihmiset puuttuvat asiaan vahingon jälkeen. Se on reaktiivista, ei turvallista autonomiaa.

Kun agentit kehittyvät kykenevämmiksi, sokea luottamus muuttuu riskialttiimmaksi. Enemmän älykkyyttä tarkoittaa: • Laajempi toimintatila • Nopeampi toteutus • Suurempi räjähdyssäde Ilman tiukkoja rajoja yksi virhe voi levitä välittömästi.

Ohjelmoitavat rajoitteet muuttavat mallia. Sen sijaan, että luottaisiin aikomukseen, järjestelmät valvovat sääntöjä: • Mitä agentti voi tehdä • Kuinka paljon se voi käyttää • Kun valtuudet päättyvät • Mitkä toimet vaativat eskalointia Rajoitukset suoritetaan koodilla, ei politiikalla.

Tämä siirtää turvallisuuden ihmisen harkinnasta infrastruktuuriin. Rajoitteet voivat olla: • Scoped (vain tietyt toimenpiteet) • Aikarajoitettu (istuntorajoitettu) • Budjettirajoitukset (kulutuskatot) • Automaattinen peruutettavissa Ei oletuksia. Ei arvailua.

Tärkeää on, että ohjelmoitavat rajoitteet eivät vähennä autonomiaa. Ne mahdollistavat sen. Kun agentit toimivat valvottujen rajojen puitteissa, he voivat toimia itsenäisesti ilman jatkuvaa valvontaa tai manuaalisia hyväksyntää.

Tässä mallissa luottamus muuttuu todennettaviksi. Jokainen toiminto voi olla: • Valtuutettu • Rajoite tarkistettu • Lokittu • Auditoitu suorituksen jälkeen Luottamus ei ole enää sosiaalista tai subjektiivista, se on todistettavissa.

Sokea luottamus kysyy: "Uskommeko, että tämä agentti käyttäytyy?" Ohjelmoitavat rajoitteet kysyvät: "Mitä tämä agentti saa tehdä?" Vain yksi näistä suomuista on turvallisesti.

Autonomisten järjestelmien tulevaisuus ei riipu paremmista lupauksista tai tiukemmista politiikoista. Se riippuu infrastruktuurista, joka valvoo rajoituksia oletuksena. Siksi Kite rakentuu ohjelmoitavien rajoitteiden ympärille, ei sokean luottamuksen 🪁 varaan