Ero particolarmente curioso di chiedere a @karpathy perché le auto a guida autonoma abbiano impiegato oltre un decennio per passare da dimostrazioni straordinarie a una certa implementazione. Andrej ha guidato l'AI in Tesla per 5 anni. Volevo davvero sapere se queste frizioni dovrebbero allungare i nostri tempi per l'AGI, o se erano idiosincratiche alla guida autonoma. La guida ha un costo di fallimento molto elevato. Gli esseri umani sono conducenti sorprendentemente affidabili - abbiamo un grave incidente ogni 400.000 miglia/7 anni. E le auto a guida autonoma devono eguagliare o superare questo profilo di sicurezza prima di poter essere implementate. Ma la maggior parte dei settori è simile a questo? Prima dell'intervista, mi sembrava che quasi ogni settore in cui vorremmo inserire l'AGI avesse un costo di fallimento molto più basso. Se ingegneri del software completamente autonomi non potessero commettere errori per 7 anni, l'implementazione sarebbe davvero molto lenta. Andrej ha fatto un punto interessante che non avevo mai sentito prima: rispetto alla guida autonoma, l'ingegneria del software ha un costo di fallimento più elevato (e potenzialmente illimitato): > Se stai scrivendo codice di produzione reale, qualsiasi tipo di errore potrebbe portare a una vulnerabilità di sicurezza. Centinaia di milioni di numeri di previdenza sociale personali potrebbero essere divulgati. > Nella guida autonoma, se le cose vanno male, potresti farti male. Ci sono esiti peggiori. Ma nel software, è quasi illimitato quanto possa essere terribile qualcosa. > In alcuni modi, l'ingegneria del software è un problema molto più difficile [rispetto alla guida autonoma]. La guida autonoma è solo una delle migliaia di cose che le persone fanno. È quasi come un singolo verticale. Mentre quando parliamo di ingegneria del software generale, c'è una superficie più ampia. Potrebbe esserci un'altra ragione per cui la transizione da LLM -> AGI ampiamente implementata potrebbe avvenire molto più rapidamente: gli LLM ci forniscono percezione, rappresentazioni e buon senso (per affrontare esempi fuori distribuzione) gratuitamente, mentre questi dovevano essere modellati da zero per le auto a guida autonoma. Ho chiesto ad Andrej di questo: > Non so quanto stiamo ottenendo gratuitamente. Gli LLM sono ancora piuttosto fallibili e hanno molti gap che devono ancora essere colmati. Non penso che stiamo ottenendo una generalizzazione magica completamente pronta all'uso. > L'altro aspetto a cui volevo tornare è che le auto a guida autonoma non sono ancora affatto finite. Le implementazioni sono piuttosto minime. Anche Waymo ha pochissime auto. Hanno costruito qualcosa che vive nel futuro. Hanno dovuto ritirare il futuro, ma hanno dovuto renderlo non economico. > Inoltre, quando guardi queste auto e non c'è nessuno alla guida, c'è più umanità nel loop di quanto potresti aspettarti. In un certo senso, non abbiamo effettivamente rimosso la persona, l'abbiamo spostata in un luogo dove non puoi vederla.