Je mehr ich darüber nachdenke, desto mehr liest es sich wie ein Monolog eines Cartoon-Bösewichts? "Also, nein. Ich halte es nicht für sinnvoll, eine Heilung für Krebs schneller zu finden, wenn das bedeutet, dass wir niemals wieder Wissenschaft betreiben können." Ich war vage über Julian informiert, ich respektierte ihn vage als Forscher, wir haben vielleicht vor einigen Jahren einmal gesprochen. Das ist... überraschend. Im Allgemeinen glaube ich, dass die meisten Menschen in den grundlegenden moralischen Prinzipien ("Mord ist schlecht") ungefähr übereinstimmen und sich in den Details und Nuancen und wie man dorthin gelangt, unterscheiden. Aber das deutet auf eine sehr seltene und tiefgreifende Werte-Diskrepanz hin, bei der der Tod von Kindern an Krebs anscheinend durch Nerds, die Spaß an der Wissenschaft haben, aufgewogen wird? Und schau, ich bin auch ein Nerd, ich habe sehr gemischte Gefühle darüber, Maschinen zu bauen, die mich in dem einen Bereich übertreffen, aus dem ich meine Karriere mache (d.h. Intelligenz). Wenn wir eine Superintelligenz bauen, die buchstäblich alles besser kann als ich, hoffe ich, dass sie mir zumindest gut gestaltete Rätsel gibt, um mein kümmerliches menschliches Dasein zu unterhalten. Aber letztendlich ist es wirklich und zutiefst böse, eine Welt zu schaffen, in der Kinder an Krebs sterben, wenn wir stattdessen einfach eine Welt schaffen könnten, in der sie das nicht tun. Ich hoffe wirklich, dass dies nur ein Missverständnis ist, aber die nachfolgenden Kommentare deuten nicht in diese Richtung. Andernfalls ist es einfach jemand mit einer Moral, die mir drastisch fremd ist. In diesem Fall hoffe ich, dass er sich niemals in eine Position der Macht begibt. Es ist ein moralisches Gebot, leistungsstarke und ausgerichtete KI zu entwickeln, so schnell wir können, und sie dazu zu bringen, alles zu verbessern, was in unserer Welt falsch ist. Wenn wir sie nicht bauen, sterben alle.