fantastische einfache Visualisierung der Selbstaufmerksamkeitsformel. Das war eines der schwierigsten Dinge für mich, um es tiefgehend über LLMs zu verstehen. Die Formel scheint einfach zu sein. Man kann sie sogar schnell auswendig lernen. Aber wirklich ein Gefühl dafür zu bekommen, was Q, K, V darstellen und wie sie interagieren, das ist schwer.