| Теоретическая и математическая физика |
|
|
|
|
|
Эта публикация цитируется в 4 научных статьях (всего в 4 статьях) Модель типа Лотки–Вольтерры с мутациями и порождающие соревновательные сети С. В. Козырев Математический институт им. В. А. Стеклова Российской академии наук, Москва, Россия
Англоязычная версия:
Theoretical and Mathematical Physics, 2024, Volume 218, Issue 2, Pages DOI: https://doi.org/10.1134/S0040577924020077 
Реферативные базы данных:
    1. ВведениеВ настоящей работе обсуждаются параллели между популяционной генетикой и теорией машинного обучения. Модель порождающих соревновательных сетей (ПСС, или GAN, generative adversarial networks) [1], [2] описывает некоторый гибрид модели теории обучения (метода максимального правдоподобия) и теории игр (проблемы минимакса) для двух игроков, называемых дискриминатором и генератором. Обнаружилось, что ПСС в высокой степени устойчивы к переобучению, что можно рассматривать как регуляризацию метода максимального правдоподобия моделью из теории игр. В настоящей работе построена модель популяционной генетики типа модели Лотки–Вольтерры с мутациями на статистическом многообразии, обобщающая модель соревновательных сетей теории обучения (а также некоторый аналог модели Эйгена на статистическом многообразии). В предыдущих работах автора исследовались приложения модели Эйгена популяционной генетики в теории обучения [3], [4]. Аналогии между теорией обучения и теорией эволюции обсуждались еще Тьюрингом [5] и привлекают интерес в настоящее время [6]. Можно предположить, что эффективность соревновательных сетей имеет ту же природу, что и известный в теории эволюции эффект ускорения эволюции при наличии хищников. В рамках предлагаемой модели для соревновательных сетей хищником является генератор, жертвой – дискриминатор, их взаимодействие описывается некоторым вариантом модели Лотки–Вольтерры. Мутации описываются диффузией на статистических многообразиях (соответственно дискриминатора и генератора); распределения дискриминаторов (генераторов) на соответствующих статистических многообразиях рассматриваются как популяции жертв (хищников) с различными геномами; приспособление есть сосредоточение популяций дискриминатора и генератора в окрестности решения задачи обучения для соревновательной сети. Таким образом, модель сочетает методы теории машинного обучения, популяционной генетики и информационной геометрии. Контроль переобучения в рассматриваемой модели выглядит следующим образом: взаимодействие между дискриминатором и генератором устроено так, что алгоритм обучения подавляет узкие пики популяции на узких максимумах функции правдоподобия и заставляет популяцию занимать более широкие области в пространстве гипотез. В соответствии с принципом алгоритмической устойчивости (см. раздел 4) узкие пики отвечают режиму переобучения. С точки зрения популяционной генетики это означает, что более специализированный хищник эффективнее охотится. Статья имеет следующую структуру. В разделе 2 излагается модель соревновательных сетей. В разделе 3 вводится ее популяционное обобщение в виде модели Лотки–Вольтерры с мутациями, а также вариант модели Эйгена популяционной генетики в рамках информационной геометрии. В разделе 4 обсуждается контроль переобучения для рассмотренных моделей популяционной генетики. В приложении приводятся определения, использующиеся в методе максимального правдоподобия, теории игр, модели Лотки–Вольтерры, модели Лотки–Вольтерры с мутациями и информационной геометрии. 2. Порождающие соревновательные сетиОбсудим модель ПСС [1], [2] (см. также [7]). Пусть $X$ есть пространство исследуемых объектов, $p_\mathrm{data}$ – обучающая выборка (распределение) на $X$. В модели соревновательных сетей используются два параметрических распределения вероятностей: дискриминатор $D(x, \theta_\mathrm{d})$ с параметром $\theta_\mathrm{d}$ и генератор $p_\mathrm{gen}(x,\theta_\mathrm{g})$ с параметром $\theta_\mathrm{g}$. Модель ПСС включает следующие задачи оптимизации: дискриминатор максимизирует близость к данным $p_\mathrm{data}$ и удаленность от генератора $p_\mathrm{gen}$,
$$
\begin{equation}
\begin{aligned} \, V(\theta_\mathrm{d},\theta_\mathrm{g})&=E_{x\sim p_\mathrm{data}}\log D(x,\theta_\mathrm{d}) + E_{x\sim p_\mathrm{gen}}\log(1-D(x,\theta_\mathrm{d}))={} \notag \\ &=\int_{X}p_\mathrm{data}(x)\log D(x,\theta_\mathrm{d})\, dx + \int_{X} p_\mathrm{gen}(x,\theta_\mathrm{g}) \log(1-D(x,\theta_\mathrm{d}))\, dx. \end{aligned}
\end{equation}
\tag{1}
$$
Фактически в работах [1], [2] использовалась немного другая (эквивалентная) конструкция: вместо параметрического семейства $p_\mathrm{gen}$ распределений генератора на $X$ использовались распределение на некотором вспомогательном пространстве и параметрическое семейство отображений этого пространства в $X$. При этом распределение данных есть (обучающая) выборка $\{x_i\}$, $i=1,\dots,n$, тогда функционал (1) принимает вид эмпирической суммы
$$
\begin{equation}
V_\mathrm{emp}(\theta_\mathrm{d},\theta_\mathrm{g})=\frac{1}{n}\sum_{i=1}^n \log D(x_i,\theta_\mathrm{d}) + \int_{X} p_\mathrm{gen}(x,\theta_\mathrm{g}) \log(1-D(x,\theta_\mathrm{d}))\, dx.
\end{equation}
\tag{2}
$$
Генератор должен минимизировать величину (по $\theta_\mathrm{g}$)
$$
\begin{equation*}
E_{x\sim p_\mathrm{gen}}\log(1-D(x,\theta_\mathrm{d}))=\int_{X} p_\mathrm{gen}(x,\theta_\mathrm{g}) \log(1-D(x,\theta_\mathrm{d}))\, dx.
\end{equation*}
\notag
$$
Аргумент логарифма должен быть положителен, что задает ограничение на параметрическое семейство дискриминаторов – величина $D(x,\theta_\mathrm{d})$ должна быть меньше единицы. Объединение этих двух задач дает следующую задачу из теории игр (проблема минимакса, равновесие Нэша): найти $\theta_\mathrm{d}$ и $\theta_\mathrm{g}$ такие, что достигается минимакс
$$
\begin{equation*}
\min_{\theta_\mathrm{g}} \max_{\theta_\mathrm{d}} V_\mathrm{emp}(\theta_\mathrm{d},\theta_\mathrm{g}).
\end{equation*}
\notag
$$
При этом распределение генератора $p_\mathrm{gen}(x,\theta_\mathrm{g})$ (где $\theta_\mathrm{g}$ есть решение задачи минимакса) есть решение задачи обучения для модели порождающих соревновательных сетей. Второй член в (2) (добавка к эмпирической сумме) и проблема минимакса служат борьбе с переобучением в задаче нахождения распределения максимального правдоподобия, т. е. максимизации первого члена в (2). Эволюционная теория игр. Рассмотренная выше модель теории игр имеет следующую биологическую интерпретацию. Обучающая выборка $p_\mathrm{data}$ есть распределение травы, дискриминатор $D$ – распределение травоядных, генератор $p_\mathrm{gen}$ – распределение хищных. Задачи оптимизации интерпретируются как задачи эволюции: травоядный $D$ ищет траву и убегает от хищников, хищник $p_\mathrm{gen}$ ищет травоядных. Параметры $\theta_\mathrm{d}$ и $\theta_\mathrm{g}$ (параметры для дискриминатора и генератора) суть генотипы травоядных и хищных, вариация этих параметров означает наличие мутаций генотипов. Задача оптимизации означает дарвиновскую эволюцию, приспособление есть приближение дискриминатора и генератора к решению задачи минимакса для соревновательной сети. Известно, что появление хищников вызывает ускорение эволюции. Мы обсуждаем этот эффект с точки зрения теории обучения. Для теории обучения это выглядит как добавление в эмпирический риск вклада от игры с нулевой суммой, а стимуляция эволюции хищниками есть регуляризация задачи обучения для борьбы с переобучением. 3. Популяционное обобщение модели соревновательных сетейПереход от рассмотрения индивидуальных систем к рассмотрению ансамблей систем в физике отвечает переходу от механики к статистической механике, а в теории биологической эволюции – переходу от дарвинизма к популяционной генетике. Представляется, что подобный подход плодотворен также в теории машинного обучения. В стандартном подходе алгоритм обучения выполняет оптимизацию некоторого функционала на пространстве гипотез. В популяционном подходе такой алгоритм выполняет преобразование популяции обучающихся систем на пространстве гипотез к популяции, сосредоточенной в окрестности оптимума задачи обучения. Утверждается, что в популяционном подходе к обучению становятся более понятными некоторые аспекты теории обучения, в частности переобучение (см. раздел 4). Построим модель типа Лотки–Вольтерры с мутациями, описывающую обобщение модели ПСС на случай популяций (распределений сетей по параметрам). А именно, мы рассмотрим модель типа Лотки–Вольтерры, где дискриминатор есть жертва, а генератор есть хищник. Популяции дискриминаторов и генераторов проживают на своих статистических многообразиях; в данной модели статистическое многообразие есть пространство геномов, диффузия на этом пространстве описывает мутации. Обучение для такой модели сводится к сходимости популяций дискриминатора и генератора (для модели ПСС это в основном популяции генератора) к популяциям, сосредоточенным на окрестности решения задачи обучения, т. е. гипотеза для генератора, дающая пик популяции генератора, может рассматриваться как решение задачи обучения. Введем следующие обозначения: пусть $X$ с параметром $x$ есть пространство данных, $Y$ с параметром $y$ есть пространство (геномов) дискриминатора, $Z$ с параметром $z$ есть пространство (геномов) генератора. Таким образом, вдобавок к распределению данных на $X$ мы рассматриваем популяции дискриминаторов $f(y,t)$ на $Y$ и генераторов $g(z,t)$ на $Z$ (не обязательно нормированные). Пусть динамика популяции дискриминатора описывается уравнением диффузии на статистическом многообразии $Y$, генератор диффузии есть оператор Лапласа–Бельтрами для метрики Фишера (см. приложение)
$$
\begin{equation}
\frac{\partial}{\partial t} f(y,t)=M_\mathrm{d}\Delta_{y}f(y,t)+ A(y) f(y,t)- N_\mathrm{d} f(y,t)\int_{Z} B(y,z)g(z,t)\,dz,
\end{equation}
\tag{3}
$$
аналогично для динамики популяции генератора на пространстве $Z$
$$
\begin{equation}
\frac{\partial}{\partial t} g(z,t)=M_\mathrm{g}\Delta_{z}g(z,t) - C g(z,t) + N_\mathrm{g} g(z,t)\int_{Y} B(y,z)f(y,t)\,dy.
\end{equation}
\tag{4}
$$
Члены с функциями $A$ и $B$ берутся из задачи минимакса для (1), (2). Рост функции $f(y,t)$ происходит за счет близости дискриминатора с параметром $y$ к данным, описываемым функцией $A(y)$ (5) (функцией правдоподобия)
$$
\begin{equation}
A(y)=\exp\biggl(\,\int_{X}p_\mathrm{data}(x)\log D_y(x)\, dx\biggr)=\prod_{i=1}^n D_y(x_i).
\end{equation}
\tag{5}
$$
Функция $B(y,z)$ ($B(y,z)\geqslant 0$) описывает хищничество генератора на дискриминаторе:
$$
\begin{equation}
B(y,z)= -\alpha\int_{X} p_{{\rm gen},z}(x) \log(1-D_{y}(x))\, dx,
\end{equation}
\tag{6}
$$
$\alpha>0$. Член с $C>0$ для генератора описывает вымирание хищника при отсутствии жертв, константы $M_\mathrm{d},M_\mathrm{g}>0$ регулируют скорость мутаций для дискриминатора и генератора соответственно, $N_\mathrm{d},N_\mathrm{g}>0$ регулируют взаимодействие дискриминатора и генератора. Здесь для члена с функцией $A$ по сравнению с (1), (2) применена экспонента, чтобы получить положительную функцию (логарифм может быть неположителен). Функция $A(y)$ также зависит от данных (от обучающей выборки), эта функция сосредоточена на значениях параметра (гипотезы) $y$ дискриминатора, для которых дискриминатор достаточно близок к распределению данных. Обучающая выборка для $A(y)$ в моделях популяционной генетики может зависеть от меняющихся от времени внешних условий, т. е. содержать зависящий от времени шум (тогда $A(y)$ зависит от времени). Значения функции $B(y,z)$ вида (6) снижаются при удалении распределения генератора от распределения дискриминатора, т. е. узкие пики дискриминатора сильнее подавляются, или более специализированный хищник эффективнее охотится. Это влечет для системы (3), (4) эффект подавления узких пиков популяций для дискриминатора и генератора – соответствующие популяции будут стремиться занять более широкие области на своих статистических многообразиях; этому способствует также наличие генераторов диффузии в уравнениях (3), (4), но дополнительный эффект будет даваться также нелинейными членами. Фактически для описанного эффекта не важен конкретный вид (6) функции $B(y,z)$ (как в работе [1]), важно, чтобы эта функция снижалась при удалении дискриминатора от генератора. Поэтому можно выбрать эту функцию в “кулоновском” виде
$$
\begin{equation}
B(y,z)=D(p_{\mathrm{gen},z}|D_{y})^{-1}=\biggl(\,\int_{X}p_{\mathrm{gen},z}(x)\log\frac{p_{\mathrm{gen},z}(x)}{D_{y}(x)}\,dx\biggr)^{-1},
\end{equation}
\tag{7}
$$
где $D(p|q)$ – расстояние Кульбака–Лейблера. Для модели ПСС генератор притягивается к дискриминатору, а дискриминатор от него отталкивается (“кулоновское” взаимодействие несимметрично). Следует отметить, что равновесие Нэша (решение задачи минимакса) не обязано существовать в классе чистых стратегий. С точки зрения модели типа Лотки–Вольтерра это связано с возможностью существования популяционных циклов, для модели с мутациями подобные циклы могут включать не только осцилляции населенности, но также изменения геномов. На основе уравнения (3) можно предложить аналог модели Эйгена [8] в рамках информационной геометрии, а именно уравнение
$$
\begin{equation}
\frac{\partial}{\partial t} f(y,t)=M_\mathrm{d}\Delta_{y}f(y,t)+ A(y) f(y,t)- \frac{1}{N}f(y,t)\int_{Y} (M_\mathrm{d}\Delta_{u}+A(u))f(u,t)\,du
\end{equation}
\tag{8}
$$
(см. также работы автора [3], [4], где обсуждается применение модели Эйгена популяционной генетики к теории обучения). В такой модели будет сохраняться общая населенность (интеграл $\int_Y f(y)\,dy$), если она равна $N$, потому что множитель в последнем члене не зависит от $y$. Для уравнения типа Лотки–Вольтерры это уже не так. В настоящей модели информационная геометрия используется для введения метрики Фишера и оператора Лапласа–Бельтрами на статистическом многообразии (обзор информационной геометрии в классическом и квантовом случаях см. в [9]–[13], категорные аспекты информационной геометрии обсуждаются в [14]). 4. Контроль переобученияОбсудим разные режимы решения задачи обучения (на примере оценки максимального правдоподобия). Недообучение есть ситуация, когда мы не способны получить оценку максимального правдоподобия (не можем решить задачу оптимизации). Желаемый результат обучения есть воспроизводимость обучения на контрольной выборке (способность к обобщению), т. е. оценка максимального правдоподобия должна слабо зависеть от выборки для большинства (по вероятности) выборок (т. е. для выборки общего положения). Переобучение есть ситуация в теории обучения, когда имеют место высокое правдоподобие (малый риск) на обучающей выборке и при этом малое правдоподобие на контрольной выборке, т. е. существует сильная зависимость правдоподобия от выборки. Эффект связан с подгонкой гипотезы модели обучения под обучающую выборку (включая ее случайные особенности), в результате максимальное правдоподобие достигается на гипотезах, сильно удаленных от правильной, что проявляется в низком правдоподобии на контрольной выборке (низкой способности обобщения). Для контроля переобучения предлагались следующие подходы. Модель обучения должна иметь конечную и малую VC-размерность (модель обучения должна быть простой) [15]. Минимумы функционала риска должны быть плоскими [16] (что в данной работе обсуждалось в связи с принципом минимальной длины описания для модели обучения). Обсуждались различные формы алгоритмической устойчивости [17]–[19] решения задачи обучения (некоторые разновидности устойчивости решения алгоритма обучения к возмущениям обучающей выборки). С точки зрения алгоритмической устойчивости решения задачи обучения, если такое решение обладает способностью обобщения, оно отвечает максимуму для относительно широкого пика правдоподобия в пространстве гипотез. Узкие пики правдоподобия должны отвечать переобучению. Кроме того, такие пики должны быть достаточно далеко от настоящих (устойчивых) решений задачи обучения (потому что такое решение отвечает широкому пику). Таким образом, обучение есть нахождение максимума достаточно широкого пика правдоподобия в пространстве гипотез для обучающей выборки общего положения. Контроль переобучения с точки зрения модели типа Эйгена (8) выглядит следующим образом: для узких пиков популяции на переобученных гипотезах мутации на близлежащие гипотезы (где приспособленность низка) ведут к снижению пиков и уменьшению переобучения. Возможная зависимость функции $A(y)$ вида (5) от времени (через зависимость данных от времени) усиливает этот эффект – пик приспособленности может сдвинуться относительно пика популяции, что для узких пиков снижает приспособленность (это в точности эффект отсутствия устойчивости обучения при модификации выборки). Подобный механизм обсуждался Фишером [20], т. е. Фишер фактически обсуждал для популяционной генетики некоторый вариант алгоритмической устойчивости. С другой стороны, слишком высокая скорость мутаций ведет к размыванию всех пиков, даже отвечающих правильной гипотезе (пик приспособленности для которой должен быть достаточно широким). Слишком высокая скорость мутаций в рамках модели Эйгена обсуждается как катастрофа ошибок и выражается в падении эффективности очищающего отбора в популяционной генетике. Контроль переобучения с точки зрения модели типа Лотки–Вольтерры с мутациями (3), (4) имеет следующий вид: попадание хищника (генератора) на узкий пик популяции жертвы (дискриминатора) ведет к быстрому размножению хищника и подавлению острого пика. Это заставляет дискриминатора занимать более широкие области в пространстве гипотез, так как значения функции $B(y,z)$ вида (6) или (7) снижаются при удалении распределения генератора от распределения дискриминатора, т. е. узкие пики дискриминатора сильнее подавляются, более специализированый хищник эффективнее охотится. Это ведет к аналогичному поведению для генератора, при этом эти более широкие пики должны быть сосредоточены в области наличия данных (обучающей выборки). Это должно вести к снижению переобучения за счет подавления узких пиков популяций дискриминатора и генератора. Два других механизма контроля переобучения такие же, как для описанной выше модели типа Эйгена, – мутации и возможная зависимость функции $A(y)$ от времени. Скорость размножения хищника выше, чем скорость мутаций, поэтому модель типа Лотки–Вольтерры с мутациями обеспечивает более эффективный контроль переобучения, чем модель типа Эйгена; это также объясняет ускорение биологической эволюции при наличии хищников. Таким образом, модели популяционной генетики [20] и эволюционной теории игр [21] имеют прямое отношение к современным моделям машинного обучения. Введенная модель Лотки–Вольтерры с мутациями (3), (4) может рассматриваться как популяционное обобщение модели ПСС. Такая модель порождает устойчивые к переобучению в смысле [17], [19] решения задачи обучения (отвечающие плоским максимумам правдоподобия [16]). Дарвиновское приспособление для такой модели популяционной генетики есть сходимость популяций дискриминатора и генератора к некоторым распределениям, сосредоточенным в окрестности решения задачи минимакса для ПСС. Также было введено обобщение модели Эйгена (8) на случай информационной геометрии. ПриложениеМетод максимального правдоподобия. Рассмотрим параметрическое семейство распределений вероятности $p(x,\theta)$, $x\in X$, с параметром $\theta$. Пусть $\{x_i\}$ – выборка независимых испытаний в $X$ (т. е. мы предполагаем существование распределения вероятности $q$ на $X$, которое порождает такую выборку). Функция правдоподобия имеет вид произведения плотностей вероятности для событий из выборки Оценка максимального правдоподобия для $\theta$
$$
\begin{equation*}
\theta_0=\arg \max L(\{x_i\},\theta)=\arg \max \frac{1}{n} \log L(\{x_i\},\theta)=\arg \max \frac{1}{n} \sum_{i=1}^n \log p(x_i,\theta)
\end{equation*}
\notag
$$
принимает вид эмпирической суммы. Мы считаем, что распределение $p(x,\theta_0)$, отвечающее оценке максимального правдоподобия, приближает неизвестное распределение $q(x)$. Переобучение является известной проблемой теории обучения: подгонка $p(x,\theta)$ к обучающей выборке $\{x_i\}$ может иметь высокое правдоподобие, но при этом низкое правдоподобие на контрольной выборке $\{x'_i\}$ (некоторой другой выборке, порожденной распределением $q$). Борьба с переобучением в теории обучения обычно сводится к регуляризации (добавкам к эмпирической сумме, изменяющим вид функции правдоподобия, или другой разновидности функционала эмпирического риска). Теория игр. Игра есть функция нескольких переменных, называемых игроками. Игра принимает значения, равные набору вещественных чисел, по одному для каждого игрока $i$-е число в наборе $v_i$ называется выигрышем для $i$-го игрока. Переменная $s_i$ для каждого игрока принимает значения, называемые (чистыми) стратегиями; для каждого игрока имеется свое множество стратегий.Пример: два игрока, игра с нулевой суммой (сумма выигрышей игроков равна нулю). Смешанная стратегия для $i$-го игрока: распределение вероятностей $p_i(s_j^i)$ для стратегий этого игрока, индекс $j$ нумерует различные стратегии для $i$-го игрока. Выигрыш $i$-го игрока для набора смешанных стратегий
$$
\begin{equation*}
\langle v_i\rangle=\sum_{j_1,\dots,j_n} p_1(s_{j_1}^1)\dots p_n(s_{j_n}^n) v_i(s_{j_1}^1,\dots,s_{j_n}^n)
\end{equation*}
\notag
$$
есть усреднение выигрыша $i$-го игрока по смешанным стратегиям для всех игроков. Здесь индекс $j_k$ пробегает значения возможных стратегий $s_k$ для $k$-го игрока: $s_k\in\{s_{1}^k,\dots,s_{m_k}^k\}$. Равновесие Нэша: набор стратегий, в которых ни один участник не может увеличить выигрыш, изменив свою стратегию, если другие участники своих стратегий не меняют. Существует в классе смешанных стратегий (в классе чистых стратегий может не существовать). Максимин: наибольший выигрыш, который данный игрок может получить, не зная действий других игроков,
$$
\begin{equation*}
\underline{v_i}=\max_{s_i}\min_{s_{-i}}v_i(s_i,s_{-i}),
\end{equation*}
\notag
$$
где $s_i$ – стратегия $i$-го игрока, $s_{-i}$ – стратегии остальных игроков, $v_i$ – выигрыш $i$-го игрока. Минимакс: наименьший выигрыш, который другие игроки могут заставить получить, не зная действия данного игрока,
$$
\begin{equation*}
\overline{v_i}=\min_{s_{-i}}\max_{s_i}v_i(s_i,s_{-i}).
\end{equation*}
\notag
$$
Минимакс не меньше максимина, $\overline{v_i}\geqslant \underline{v_i}$. Минимакс для игр двух игроков с нулевой суммой совпадает с равновесием Нэша. Модель Лотки–Вольтерры описывает популяционную динамику двух видов (хищник и жертва) системой двух обыкновенных дифференциальных уравнений
$$
\begin{equation*}
\frac{dx}{dt}=\alpha x-\beta xy, \qquad \frac{dy}{dt}=-\gamma y+\delta xy,
\end{equation*}
\notag
$$
где $x$ – численность жертвы, $y$ – численность хищника, все константы положительны, нелинейный член описывает взаимодействие хищника и жертвы. Для экологической ниши конечного объема первое уравнение принимает вид ($N>0$)
$$
\begin{equation*}
\frac{dx}{dt}=\alpha \biggl(x-\frac{x^2}{N}\biggr)-\beta xy.
\end{equation*}
\notag
$$
Модель Лотки–Вольтерры с мутациями обобщает приведенную выше модель следующим образом: имеются жертвы $x_i$, хищники $y_m$, уравнения популяционной динамики имеют вид
$$
\begin{equation*}
\begin{aligned} \, \frac{dx_i}{dt}&=\sum_j A_{ij} x_j - x_i \sum_{n}B_{in} y_n, \\ \frac{dy_m}{dt}&=\sum_{n} C_{mn} y_n + y_m \sum_{j} B_{jm} x_j . \end{aligned}
\end{equation*}
\notag
$$
Матрица $A$ имеет следующий смысл: диагональная часть описывает размножение жертв, внедиагональная часть описывает мутации (матричные элементы положительны). Матрица $C$ имеет следующий смысл: диагональная часть (с отрицательными матричными элементами) описывает вымирание хищников, внедиагональная часть описывает мутации (эти матричные элементы положительны). Матрица $B$ описывает взаимодействие хищника и жертвы (матричные элементы положительны). Для ограниченной экологической ниши первое уравнение принимает вид
$$
\begin{equation*}
\frac{dx_i}{dt}=\sum_j A_{ij} x_j - \frac{1}{N} x_i \sum_{ij} A_{ij} x_j - x_i \sum_{n}B_{in} y_n.
\end{equation*}
\notag
$$
При отсутствии хищников ($y_n=0$) это уравнение принимает вид уравнения модели Эйгена [8], описывающей конкуренцию генотипов в ограниченной экологической нише при наличии мутаций. Информационная геометрия [9]–[14]. Статистическое многообразие есть многообразие параметров параметрического распределения вероятности, или многообразие, точки которого являются распределениями вероятности на пространстве $X$ (предполагается гладкая зависимость распределения от параметров). Расстояние Кульбака–Лейблера (несимметричное) между двумя распределениями вероятностей на $X$ определяется как Метрика Фишера–Рао на статистическом многообразии имеет вид
$$
\begin{equation*}
g_{ij}(\theta)=\int_{X}\frac{\partial \log p(x,\theta)}{\partial \theta_i}\frac{\partial \log p(x,\theta)}{\partial \theta_j} p(x,\theta)\,dx.
\end{equation*}
\notag
$$
Разложение расстояния Кульбака–Лейблера для малых разностей параметров $\Delta\theta=\theta-\theta_0$ связано с метрикой Фишера:
$$
\begin{equation*}
D(p(\theta_0)|p(\theta))=\frac{1}{2}\sum_{ij}g_{ij}(\theta_0)\Delta\theta^i\Delta\theta^j.
\end{equation*}
\notag
$$
Оператор Лапласа–Бельтрами на статистическом многообразии с параметром $\theta$ имеет следующий вид:
$$
\begin{equation*}
\Delta_{\theta}= \frac{1}{\sqrt{g}}\sum_{i}\frac{\partial}{\partial \theta_i}\biggl(\sqrt{g}\sum_{j}g^{ij}\frac{\partial}{\partial \theta_j}\biggr),
\end{equation*}
\notag
$$
где $g_{ij}$ – метрика Фишера. Конфликт интересовАвтор заявляет, что у него нет конфликта интересов.
Цитирование в формате AMSBIB
\RBibitem{Koz24} |
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
Обратная связь: |
Пользовательское соглашение
|
Регистрация посетителей портала |
Логотипы |
|