Аннотация:
Предлагается новая концепция (δ,L)-модели функции, которая обобщает концепцию (δ,L)-оракула Деволдера–Глинера–Нестерова. В рамках этой концепции строятся градиентный спуск, быстрый градиентный спуск и показывается, что многие известные ранее конструкции методов (композитные методы, методы уровней, метод условных градиентов, проксимальные методы) являются частными случаями предложенных в данной работе методов. Библ. 34.
Ключевые слова:
градиентный спуск, быстрый градиентный спуск, модель функции, универсальный метод, метод условного градиента, композитная оптимизация.
Исследование А.И. Тюрина финансировалось в рамках государственной поддержки ведущих университетов Российской Федерации “5-100”. Работа А.В. Гасникова по основному материалу статьи была поддержана грантом РФФИ 18-31-20005 мол_а_вед. Работа А.В. Гасникова в Приложении была поддержана грантом РНФ 17-11-01027.
Поступила в редакцию: 08.11.2017 Исправленный вариант: 08.11.2017 Принята в печать: 11.03.2019
Образец цитирования:
А. В. Гасников, А. И. Тюрин, “Быстрый градиентный спуск для задач выпуклой минимизации с оракулом, выдающим (δ,L)-модель функции в запрошенной точке”, Ж. вычисл. матем. и матем. физ., 59:7 (2019), 1137–1150; Comput. Math. Math. Phys., 59:7 (2019), 1085–1097