Дві найбільш цитовані статті всіх часів базуються на нашій роботі 1991 року Існує десятки мільйонів наукових статей, що охоплюють різні наукові дисципліни. За даними Google Scholar (2025), дві найцитовані наукові статті всіх часів (за кількістю цитувань за трирічний період, ігноруючи посібники) обидві стосуються глибоких штучних нейронних мереж [WHO4-11]. З такими темпами зростання, можливо, незабаром вони стануть двома найбільш цитованими статтями за всю історію. Див. примітку 1. Обидві статті безпосередньо базуються на тому, що ми опублікували 35 років тому у Чудесному році [MIR] між березнем і червнем 1991 року, коли обчислення були приблизно в 10 мільйонів разів дорожчими, ніж сьогодні. (Випадково, 1991 рік — єдиний паліндромний рік XX століття :-) 1. Одна з двох статей присвячена нейронній мережі (NN) під назвою Transformer (див. T у ChatGPT). З 2023 по 2025 рік він отримав понад 157 тисяч цитувань Google Scholar. Це тип програматора швидкої ваги, заснований на принципах нашого Ненормалізованого лінійного трансформатора (ULTRA), опублікованого в березні 1991 року. Деталі дивіться у технічному звіті [WHO10]: Хто винайшов нейронні мережі трансформерів? 2. Інша стаття присвячена глибокому залишковому навчанню з NN. З 2023 по 2025 рік він отримав понад 150 тисяч цитувань Google Scholar. Глибоке залишкове навчання з залишковими мережами було винайдено та подальше розвинено між червнем 1991 і травнем 2015 року — як для рецидивних NN (RNN), так і для прямих NN (FNN) — моїми студентами @HochreiterSepp, Феліксом Герсом, Алексом Грейвзом @rupspace та Клаусом Греффом. Глибокий залишковий RNN під назвою LSTM став найбільш цитованим ШІ XX століття, а глибокий залишковий варіант FNN — найбільш цитованим AI XXI століття. Деталі дивіться у технічному звіті [WHO11]: Хто винайшов глибоке залишкове навчання? Інші віхи 1991 року включають: 3. Першу рецензовану статтю про генеративні суперницькі мережі (GAN) для світових моделей і штучної цікавості [ВООЗ8] — значно пізніше стаття 2014 року про GAN стала найцитованішою статтею «найбільш цитованого живого науковця». 4. Попереднє навчання для глибоких NN [DLH] (P у ChatGPT). 5. Дистиляція NN (центральна частина знаменитого DeepSeek 2025 року) [WHO9]. У 1991 році мало хто очікував, що ці ідеї сформують сучасний ШІ, а отже, і сучасний світ і його найцінніші компанії [DLH]. ---------- Примітка 1. Існує конкуренція через високо цитовану статтю з психології [PSY06]. Слід також зазначити, що різні бази даних, які відстежують академічні цитування, розглядають різні набори документів і відрізняються за кількістю цитувань [MOST25-26]. Деякі містять широко цитовані посібники [RMAN][PSY13]. Деякі статті мають багато співавторів, і багато дослідників наголошують, що рейтинги цитувань слід нормалізувати, враховуючи це. Стаття з найбільшою кількістю цитувань у Google Scholar на співавтора (понад 300 000) досі є статтею швейцарського біолога Ульріха Леммлі (1970) [LAE]. Загалом, однак, будьте обережні з рейтингом цитувань! У 2011 році я писав у журналі Nature («Бульбашка цитування ось-ось лопне?») [NAT1]: «Як і менш ніж непотрібні забезпечені боргові зобов'язання, які спричинили нещодавню фінансову бульбашку, і на відміну від конкретних товарів і реального експорту, посилання легко надрукувати та надуватися. Фінансова дерегуляція призвела до короткострокових стимулів для банкірів і рейтингових агентств переоцінювати свої CDO, що призвело до краху цілих економік. Так само сучасні академічні рейтинги стимулюють професорів максимізувати кількість цитувань замість наукового прогресу [...] Можливо, ми вже перебуваємо в центрі бульбашки цитувань — подивіться, як відносно невідомі вчені тепер можуть збирати більше посилань, ніж найвпливовіші засновники своїх галузей [...] Зверніть увагу, що я пишу з країни з найбільшою кількістю цитувань на душу населення і на одного науковця.» [NAT1] ДЖЕРЕЛА [DLH] Й. Шмідхубер. Анотована історія сучасного ШІ та глибокого навчання. Технічний звіт IDSIA-22-22, IDSIA, Швейцарія, 2022, оновлений у 2025 році. Препринт arXiv:2212.11279 [LAE] U. K. Laemmli. Розщеплення структурних білків під час складання головки бактеріофага T4. Nature, 227 (5259):680-685, 1970. [MIR] Й. Шмідхубер (жовтень 2019, оновлено 2025). Глибоке навчання: наш дивовижний рік 1990-1991. Препринт arXiv:2005.05744 ...