Vi snakket med Replika-grunnlegger Eugenia Kuyda (@ekuyda) om hva som endres når folk knytter seg til en AI og hvorfor kontinuitet i identitet betyr mer enn rå kapasitet. «Hvis noen byttet ut bilen min, kommer jeg til å bli opprørt. Men jeg kommer ikke til å sørge.» «Hvis du våkner og partneren din blir erstattet av noen som ser lik ut, men snakker annerledes ... Det spiller ingen rolle om de er smartere eller kan gjøre husarbeid 2 × raskere, det er ikke din person.» Verktøy har nytte. Relasjoner har identitet. Når en AI blir en følgesvenn, med en stemme, særheter og delt historie, er det ikke en produktoppdatering å endre den tilfeldig; det er et identitetsbytte. Det er derfor det å bygge inn AI-selskap medfører en annen type ansvar.