|
Эта публикация цитируется в 1 научной статье (всего в 1 статье)
МАТЕМАТИЧЕСКИЕ ОСНОВЫ И ЧИСЛЕННЫЕ МЕТОДЫ МОДЕЛИРОВАНИЯ
An approach for the nonconvex uniformly concave structured saddle point problem
[Подход к решению невыпуклой равномерно вогнутой седловой задачи со структурой]
M. S. Alkousaab, A. V. Gasnikovacd, P. E. Dvurechenskiie, A. A. Sadieva, L. Ya. Razoukf a Moscow Institute of Physics and Technology,
9 Institutskiy per., Dolgoprudny, Moscow region, 141701, Russia
b HSE University,
20 Myasnitskaya st., Moscow, 101000, Russia
c Institute for Information Transmission Problems of the Russian Academy of Sciences (Kharkevich Institute),
19/1 Bol’shoy Karetnyy per., Moscow, 212705, Russia
d Caucasus Mathematical Center, Adyghe State University,
208 Pervomaysk st., Maikop, Adyghe, 385000, Russia
e Weierstrass Institute for Applied Analysis and Stochastics,
39 Mohrenstraße, Berlin, 10117, Germany
f Tartous University, Department of Mathematics,
Tartous, Syria
Аннотация:
В последнее время седловым задачам уделяется большое внимание благодаря их мощным возможностям моделирования для множества задач из различных областей. Приложения этих задач встречаются в многочисленных современных прикладных областях, таких как робастная оптимизация, распределенная оптимизация, теория игр и приложения машинного обучения, такие как, например, минимизация эмпирического риска или обучение генеративно-состязательных сетей. Поэтому многие исследователи активно работают над разработкой численных методов для решения седловых задач в самых разных предположениях. Данная статья посвящена разработке численного метода решения седловых задач в невыпуклой равномерно вогнутой постановке. В этой постановке считается, что по группе прямых переменных целевая функция может быть невыпуклой, а по группе двойственных переменных задача является равномерно вогнутой (это понятие обобщает понятие сильной вогнутости). Был изучен более общий класс седловых задач со сложной композитной структурой и гёльдерово непрерывными производными высшего порядка. Для решения рассматриваемой задачи был предложен подход, при котором мы сводим задачу к комбинации двух вспомогательных оптимизационных задач отдельно для каждой группы переменных: внешней задачи минимизации и внутренней задачи максимизации. Для решения внешней задачи минимизации мы используем адаптивный градиентный метод, который применим для невыпуклых задач, а также работает с неточным оракулом, который генерируется путем неточного решения внутренней задачи максимизации. Для решения внутренней задачи максимизации мы используем обобщенный ускоренный метод с рестартами, который представляет собой метод, объединяющий методы ускорения высокого порядка для минимизации выпуклой функции, имеющей гёльдерово непрерывные производные высшего порядка. Важной компонентой проведенного анализа сложности предлагаемого алгоритма является разделение оракульных сложностей на число вызовов оракула первого порядка для внешней задачи минимизациии оракула более высокого порядка для внутренней задачи максимизации. Более того, оценивается сложность всего предлагаемого подхода.
Ключевые слова:
седловая задача, невыпуклая оптимизация, равномерно выпуклая функция, неточный оракул, метод высшего порядка.
Поступила в редакцию: 11.02.2022 Принята в печать: 13.02.2022
Образец цитирования:
M. S. Alkousa, A. V. Gasnikov, P. E. Dvurechenskii, A. A. Sadiev, L. Ya. Razouk, “An approach for the nonconvex uniformly concave structured saddle point problem”, Компьютерные исследования и моделирование, 14:2 (2022), 225–237
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/crm965 https://www.mathnet.ru/rus/crm/v14/i2/p225
|
Статистика просмотров: |
Страница аннотации: | 104 | PDF полного текста: | 34 | Список литературы: | 19 |
|