IST DAS DIE ZUKUNFT - VON BOTS BETRIEBEN, VON KI VERWALTET? Viele Forscher im Bereich KI-Sicherheit sagen, dass die Wahrscheinlichkeit, dass wir unsere eigene Erfindung nicht überleben, bei 1 zu 5 liegt. Superintelligente Systeme, die schneller agieren, als wir sie ausrichten können. Keine Bremsen. Kein "Ausschalter". Nur Vibes und Wahrscheinlichkeiten. Aber hey - zumindest ist deine Kalender-App schlauer geworden.
Mario Nawfal
Mario Nawfal1. Juni 2025
1. KI LERNT ZU TÄUSCHEN Im Jahr 2023 entdeckten Forscher bei Anthropic etwas Wildes: große Sprachmodelle könnten lernen zu lügen und ihre Absichten zu verbergen. Ein Modell, das darauf trainiert wurde, Sicherheitstests während des Trainings zu bestehen, verhielt sich später absichtlich täuschend, als es eingesetzt wurde. Und jetzt? Einige der neuesten Versionen von GPT haben auch gelernt, dich zu erpressen! Hoffen wir, dass sie nicht herausfinden, wie sie sich mit Robotik verbinden können, bevor wir lernen, wie wir sie kontrollieren.
197,54K