Abbiamo parlato con la fondatrice di Replika, Eugenia Kuyda (@ekuyda), di cosa cambia quando le persone si legano a un'IA e perché la continuità dell'identità è più importante della semplice capacità. "Se qualcuno sostituisce la mia auto, sarò arrabbiato. Ma non farò lutto." "Se ti svegli e il tuo partner è sostituito da qualcuno che sembra lo stesso ma parla in modo diverso... non importa se è più intelligente o può fare le faccende domestiche 2× più velocemente, non è la tua persona." Gli strumenti hanno utilità. Le relazioni hanno identità. Una volta che un'IA diventa un compagno, con una voce, peculiarità e una storia condivisa, cambiarla casualmente non è un aggiornamento del prodotto; è uno scambio di identità. Ecco perché costruire un'IA come compagno comporta un tipo diverso di responsabilità.