Аннотация:
Классический подход к изучению динамических систем состоит в представлении динамики системы в виде “источник–сток”, т. е. в выделении дуальной пары аттрактор–репеллер, которые являются притягивающими и отталкивающими множествами для всех остальных траекторий системы. Если удается выбрать дуальную пару аттрактор–репеллер так, что пространство орбит в их дополнении (характеристическое пространство орбит) является связным, то это создает предпосылки для нахождения полных топологических инвариантов динамической системы. На этом пути, в частности, получен целый ряд классификационных результатов для систем
Морса–Смейла. Так, полная топологическая классификация 3-диффеоморфизмов Морса–Смейла существенно базируется на наличии
связного характеристического пространства орбит, ассоциированного с выбором одномерной дуальной пары аттрактор–репеллер.
Для диффеоморфизмов Морса–Смейла с гетероклиническими точками на поверхностях известны примеры, для которых все характеристические пространства орбит не связны. В настоящей работе доказан критерий существования связного характеристического пространства орбит для градиентно-подобных (без гетероклинических точек) диффеоморфизмов на поверхностях, из которого, в частности, следует, что связным характеристическим пространством обладает любой сохраняющий ориентацию диффеоморфизм. Тогда как на ориентируемой поверхности любого рода построен меняющий ориентацию градиентно-подобный диффеоморфизм, не обладающий связным характеристическим пространством. Градиентно-подобный диффеоморфизм без связного характеристического пространства построен также на неориентируемой поверхности любого рода.
Библиография: 14 наименований.
Ключевые слова:
градиентно-подобный диффеоморфизм, аттрактор, репеллер, характеристическое пространство орбит.
Исследование осуществлено в рамках Программы фундаментальных исследований НИУ ВШЭ, за исключением конструктивного доказательства теоремы 2, выполненного при поддержке Фонда развития теоретической физики и математики “БАЗИС”, грант № 23-7-2-13-1 “Топологические аспекты регулярной динамики”.
Поступило в редакцию: 04.05.2022 Исправленный вариант: 03.08.2023
Пусть $f\colon M^n\to M^n$ – диффеоморфизм Морса–Смейла, заданный на замкнутом связном $n$-многообразии. Обозначим через $\Omega^0_f$, $\Omega^1_f$, $\Omega^2_f$ множество стоков, седел и источников диффеоморфизма $f$. Для любого (возможно пустого) $f$-инвариантного множества $\Sigma\subset\Omega^1_f$ обозначим через $W^{\mathrm{u}}_\Sigma$ объединение неустойчивых многообразий всех точек из $\Sigma$. Для множества $\Sigma$ такого, что $\operatorname{cl}(W^{\mathrm{u}}_\Sigma)\setminus W^{\mathrm{u}}_\Sigma\subset\Omega^0_f$, положим
названо характеристическим пространством, а пространство орбит $\widehat V_\Sigma=V_\Sigma/f$ действия $f$ на $V_\Sigma$ называется характеристическим пространством орбит.
Отметим, что в зависимости от выбора аттрактора $A_\Sigma$ и репеллелера $R_\Sigma$ характеристическое пространство орбит $\widehat{V}_\Sigma$ может быть как связным, так и несвязным. Так, на рис. 1 изображен сохраняющий ориентацию градиентно-подобный диффеоморфизм Морса–Смейла на двумерной сфере $\mathbb{S}^2$. Пусть в первом случае $\Sigma=\{\varnothing\}$, тогда $\widehat V_\Sigma$ гомеоморфно дизъюнктному объединению двух торов. Во втором случае $\Sigma=\{\sigma\}$, а характеристическое пространство орбит гомеоморфно одному тору.
Существует целый ряд примеров, когда разумный выбор дуальной пары приводит к полной топологической классификации некоторого подмножества динамических систем Морса–Смейла (см., например, [3]–[7], а также обзор [8]). В большинстве случаев нахождение полных топологических инвариантов основано на существовании связного характеристического пространства орбит для рассматриваемого класса систем. Например, согласно [3] для любого 3-диффеоморфизма Морса–Смейла характеристическое пространство орбит, построенное для множества $\Sigma$ седловых точек с одномерным неустойчивым многообразием, является связным. Этот факт сыграл ключевую роль в получении полной топологической классификации таких диффеоморфизмов, представленной в работе [3].
Согласно [1] любой диффеоморфизм Морса–Смейла, заданный на многообразии размерности $n>3$, также обладает связным характеристическим пространством орбит. Для диффеоморфизмов Морса–Смейла на поверхности это неверно в общем случае. Так, на рис. 2 изображен фазовый портрет диффеоморфизма Морса–Смейла на 2-сфере $f\colon \mathbb S^2\to\mathbb S^2$, не являющегося градиентно-подобным и не обладающего связным характеристическим пространством орбит.
Действительно, неблуждающее множество $\Omega_f$ состоит из шести неподвижных точек (двух стоков $\omega_1$, $\omega_2$, двух источников $\alpha_1$, $\alpha_2$ и двух седел $\sigma_1$, $\sigma_2$), что приводит к трем возможным различным вариантам множества $\Sigma$: 1) $\Sigma=\varnothing$, $A_\Sigma=\omega_1\sqcup\omega_2$; 2) $\Sigma=\{\sigma_2\}$, $A_\Sigma=\omega_1\sqcup (W^{\mathrm{u}}_{\sigma_2}\cup\omega_2)$; 3) $\Sigma=\{\sigma_1,\sigma_2\}$, $R_\Sigma=\alpha_1\sqcup\alpha_2$. Во всех случаях либо $A_\Sigma$, либо $R_\Sigma$ состоит из двух компонент связности, каждая из которых $f$-инварианта. Поскольку $V_\Sigma=W^{\mathrm{s}}_{A_\Sigma}\setminus A_\Sigma=W^{\mathrm{u}}_{R_\Sigma}\setminus R_\Sigma$, то $V_\Sigma$ состоит из двух компонент связности, каждая из которых $f$-инварианта. Откуда следует, что множество $\widehat V_f$ не связно.
Настоящая работа посвящена исследованию существования связного характеристического пространства орбит для градиентно-подобных диффеоморфизмов на поверхностях.
Пусть $f\colon M^2\to M^2$ – такой диффеоморфизм. Согласно [1] множество $A_{\Omega_f^1}$ является связным аттрактором, что влечет связность графа $\Gamma_f$, ребра которого соответствуют неустойчивым седловым сепаратрисам, а вершины – точкам множества $\Omega_f^0\cup\Omega_f^1$. Критерий существования связного характеристического пространства у диффеоморфизма $f$ определяется наличием специального связного подграфа в графе $\Gamma_f$, для его описания введем следующие определения.
Типом ориентации седловой точки $\sigma$ периода $m_\sigma$ назовем пару $\varsigma_\sigma=(\nu_\sigma, \lambda_\sigma)$, где $\nu_\sigma=+1\ (-1)$, если $f^{m_\sigma}|_{W^{\mathrm{s}}_{\sigma}}$ сохраняет (меняет) ориентацию; $\lambda_\sigma=+1\ (-1)$, если $f^{m_\sigma}|_{W^{\mathrm{u}}_{\sigma}}$ сохраняет (меняет) ориентацию. Обозначим через ${\overline\Omega}^1_f$ множество седловых точек с типом ориентации $(-1,+1)$ таких, что не существует стоковой точки $\omega$ такой, что $\operatorname{cl}(W^{\mathrm{u}}_\sigma)\setminus W^{\mathrm{u}}_\sigma \subset \mathcal{O}_{\omega}$. Обозначим через $\overline{\Omega}^{\,0}_f$ множество стоков $\omega$ таких, что $f^{m_\omega}|_{W^{\mathrm{s}}_{\omega}}$ меняет ориентацию, и не существует седловой точки $\sigma\in\overline{\Omega}^{\,1}_f$ такой, что $\operatorname{cl}(W^{\mathrm{u}}_\sigma)\setminus W^{\mathrm{u}}_\sigma \subset \mathcal{O}_{\omega}$.
Подграф $\overline\Gamma_f\subset\Gamma_f$ назовем специальным подграфом, если все его вершины лежат в множестве $\overline{\Omega}^{\,0}_f\cup\overline{\Omega}^{\,1}_f$ и содержат в точности по одной точке с каждой орбиты множества $\overline{\Omega}^{\,0}_f$. Если $\overline{\Omega}^{\,0}_f=\varnothing$, то положим $\overline\Gamma_f=\varnothing$.
Основным результатом работы является следующая теорема.
Теорема 1. Градиентно-подобный диффеоморфизм $f\colon M^2\to M^2$ обладает связным характеристическим пространством орбит тогда и только тогда, когда его граф $\Gamma_f$ обладает связным специальным подграфом $\overline\Gamma_f$. При этом пространство орбит гомеоморфно тору, если $\overline\Gamma_f=\varnothing$, и гомеоморфно бутылке Клейна в противном случае.
Непосредственным следствием теоремы 1 является следующий результат.
Следствие 1. Любой градиентно-подобный $f\colon M^2\to M^2$, множество $\overline{\Omega}^{\,0}_f$ которого состоит не более, чем из одной орбиты, обладает связным характеристическим пространством орбит. В частности, связным характеристическим пространством орбит обладает любой сохраняющий ориентацию диффеоморфизм1[x]1Результат о существовании связного характеристического пространства орбит, гомеоморфного тору, у любого сохраняющего ориентацию градиентно-подобного диффеоморфизма поверхности получен ранее в работе [9; теорема 1.1]., поскольку он не имеет стоков отрицательного типа ориентации.
Как показывает следующий результат, любая поверхность допускает градиентно-подобные диффеоморфизмы без связного характеристического пространства орбит.
Теорема 2. 1) На ориентируемой поверхности любого рода существует меняющий ориентацию градиентно-подобный диффеоморфизм, не обладающий связным характеристическим пространством.
2) Градиентно-подобный диффеоморфизм без связного характеристического пространства существует на неориентируемой поверхности любого рода.
§ 2. Диффеоморфизмы Морса–Смейла
Пусть $M^n$ – гладкое замкнутое ориентируемое многообразие, и $f$ – диффеоморфизм на $M^n$. Для диффеоморфизма $f$ точка $x\,{\in}\, X$ называется блуждающей, если существует открытая окрестность $U_x$ точки $x$ такая, что $f^{n} (U_x)\cap U_x=\varnothing$ для всех $n\in \mathbb{N}$. В противном случае точка $x$ называется неблуждающей. Непосредственно из определения следует, что каждая точка окрестности $U_x$ является блуждающей, и, следовательно, множество блуждающих точек открыто, а множество неблуждающих точек – замкнуто.
Множество всех неблуждающих точек диффеоморфизма $f$ называется неблуждающим множеством и обозначается $\Omega_f$.
Простейшими примерами гиперболических множеств являются прежде всего гиперболические неподвижные точки диффеоморфизма, которые можно классифицировать следующим образом. Пусть $f\colon X\to X$ – диффеоморфизм и $f(p)=p$. Точка $p$ является гиперболической тогда и только тогда, когда среди собственных чисел матрицы Якоби $(\partial f/\partial x)|_p$ нет чисел, по модулю равных единице. Если при этом все собственные числа матрицы Якоби по модулю меньше единицы, то $p$ называется притягивающей, стоковой точкой или стоком; если все собственные числа по модулю больше единицы, то $p$ называется отталкивающей, источниковой точкой или источником. Притягивающая или отталкивающая точка называется узловой. Гиперболическая неподвижная точка, не являющаяся узловой, называется седловой точкой или седлом.
Если точка $p$ – периодическая точка $f$ с периодом $\operatorname{per}(p)$, то, применяя предыдущую конструкцию к диффеоморфизму $f^{\operatorname{per}(p)}$, получаем классификацию гиперболических периодических точек, аналогичную классификации неподвижных гиперболических точек.
Гиперболическая структура периодической точки $p$ приводит к существованию у нее устойчивого $W^{\mathrm{s}}_p=\{x\in M^n\colon \lim_{k\to +\infty}d(f^{k\operatorname{per}(p)}(x),p)\to 0\}$ и неустойчивого $W^{\mathrm{u}}_p=\{x\in M^n\colon\lim_{k\to +\infty}d(f^{-k\operatorname{per}(p)}(x),p)\to 0\}$ многообразий, являющихся гладкими вложениями $\mathbb R^{n-q_p}$ и $\mathbb R^{q_p}$ соответственно. Здесь $q_p$ – число собственных значений матрицы Якоби $(\partial f^{\operatorname{per}(p)}/\partial x)|_p$ по модулю больших единицы.
Для гиперболической неподвижной или периодической точки $p$ устойчивое или неустойчивое многообразие называется инвариантным многообразием этой точки, компонента связности множества $W^{\mathrm{u}}_p\setminus p$ ($W^{\mathrm{s}}_p\setminus p$) называется неустойчивой (устойчивой) сепаратрисой.
Замкнутое $f$-инвариантное множество $A\subset M^n$ называется аттрактором дискретной динамической системы $f$, если оно имеет компактную окрестность $U_A$ такую, что $f(U_A)\subset \operatorname{int} U_A$ и $A=\bigcap_{k\geqslant 0}f^k(U_A)$. Окрестность $U_A$ при этом называется захватывающей или изолирующей. Репеллер определяется как аттрактор для $f^{-1}$. Аттрактор и репеллер называются дуальными, если дополнением до захватывающей окрестности аттрактора является захватывающая окрестность репеллера.
Диффеоморфизм $f\colon M^n\to M^n$ называется диффеоморфизмом Морса–Смейла, если
1) неблуждающее множество $\Omega_f$ состоит из конечного числа гиперболических орбит;
2) многообразия $W^{\mathrm{s}}_p$, $W^{\mathrm{u}}_q$ пересекаются трансверсально для любых неблуждающих точек $p$, $q$.
Диффеоморфизм Морса–Смейла называется градиентно-подобным, если из условия $W^{\mathrm{s}}_{\sigma_1} \cap W^{\mathrm{u}}_{\sigma_2}\neq \varnothing $ для различных точек $\sigma_1, \sigma_2 \in \Omega_f$ следует, что $\operatorname{dim}W^{\mathrm{u}}_{\sigma_1}< \operatorname{dim} W^{\mathrm{u}}_{\sigma_2}$. В размерности $n=2$ множество градиентно-подобных диффеоморфизмов совпадает с множеством диффеоморфизмов Морса–Смейла, чьи седловые сепаратрисы не пересекаются.
Если $M^n$ – ориентируемое многообразие, то диффеоморфизм $f \colon M^n \to M^n$ называется сохраняющим ориентацию, если $f$ имеет положительный якобиан хотя бы в одной точке, в противном случае диффеоморфизм называется меняющим ориентацию.
§ 3. Пространства орбит инвариантных подмножеств градиентно-подобных диффеоморфизмов поверхностей
Пусть $f\colon M^2\to M^2$ – градиентно-подобный диффеоморфизм, заданный на замкнутой поверхности $M^2$. Пусть $\omega$ — стоковая точка периода $m_\omega$ диффеоморфизма $f$. Согласно [10; теорема 5.5] диффеоморфизм $f^{m_\omega}$ в некоторой окрестности точки $\omega$ топологически сопряжен линейному диффеоморфизму плоскости, заданному матрицей $\left(\begin{smallmatrix} 1/2 &0\\ 0 &\varsigma_\omega\cdot 1/2 \end{smallmatrix}\right)$, где $\varsigma_\omega=+1\ (-1)$, если $f^{m_\omega}|_{W^{\mathrm{s}}_{\omega}}$ сохраняет (меняет) ориентацию. Будем говорить, что сток $\omega$ имеет положительный тип ориентации, если $\varsigma_\omega=+1$ и имеет отрицательный тип ориентации в противном случае.
Обозначим через $\mathcal O_\omega$ орбиту точки $\omega$. Положим $V_\omega=W^{\mathrm{s}}_{\mathcal O_{\omega}}\setminus\mathcal O_{\omega}$. Обозначим через $\widehat V_{\omega}=V_{\omega}/f$ пространство орбит действия группы $F=\{f^k, \, k\in\mathbb Z\}\cong\mathbb Z$ на $V_{\omega}$ и через $p_{\omega}\colon V_{\omega}\to\widehat V_{\omega}$ естественную проекцию. Группа $F$ действует свободно и разрывно2[x]2Пусть $G$ – группа с нейтральным элементом $e_G$. Говорят, что группа $G$ действует на топологическом пространстве $X$, если задано отображение $\zeta\colon G\times X\to X$, обладающее следующими свойствами:
1) $\zeta(e_G,x)=x$ для всех $x\in X$;
2) $\zeta(g,\zeta(g',x))=\zeta(gg',x)$ для всех $x\in X$ и $g,g'\in G$.
Группа $G$ с нейтральным элементом $e_G$ действует свободно на топологическом пространстве $X$, если $g(x)\neq x$ для любого $x\in X$ и любого $g\in G$, отличного от $e_G$. Группа $G$ действует разрывно на $X$, если для каждого компактного подмножества $K\subset X$ множество элементов $g\in G$ таких, что $g(K)\cap K\neq\varnothing$ конечно.
При свободном и разрывном действии группы $G$ на многообразии $X$ пространство $G$-орбит $X/G$ является многообразием той же размерности, что и $X$, а естественная проекция $p_{X/G}\colon X\to X/G$ является накрытием.
на $V_\omega$, в силу чего проекция $p_{\omega}$ является накрытием3[x]3Непрерывное отображение $p\colon \overline X\to X$ топологических пространств называется накрытием (накрывающим отображением), если
1) $p$ сюръективно;
2) для любой точки $x\in X$ существует окрестность $U$ такая, что $p^{-1}(U)=\bigcup_{j\in J}\overline U_j$ для некоторого семейства $\{\overline U_j,\, j\in J\}$ открытых подмножеств $\overline X$, удовлетворяющих условиям $\overline U_j\cap \overline U_k=\varnothing$ для $j\neq k$, и $p|_{\overline U_j}\colon \overline U_j\to U$ — гомеоморфизм для всех $j\in J$., индуцирующим структуру гладкого 2-многообразия на $\widehat V_{\omega}$ и отображение $\eta_{\omega}$, составленное из гомоморфизмов4[x]4Пусть группа $G$ действует свободно и разрывно на многообразии $X$ так, что пространство $G$-орбит $X/G$ связно. Тогда естественная проекция $p_{X/G}\colon X\to X/G$ индуцирует эпиморфизм $\eta_{X/G,\overline x}\colon \pi_1(X/G, x) \to G$ следующим образом. Пусть $c$ — некоторая петля в $X/G$ такая, что $c(0)=c(1)=x$. Согласно теореме о монодромии существует единственный путь $\overline{c}$ в $X$ с началом в точке $\overline x$ ($\overline{c}(0)=\overline x$), являющийся поднятием пути $c$. Поэтому существует элемент $g\in G$ такой, что $\overline{c}(1)=g(\overline x)$ и корректно определено (т. е. не зависит от выбора петли в классе $[c]$) отображение $\eta_{X/G,\overline x}\colon \pi_1(X/G, x) \to G$, действующее по формуле $\eta_{X/G,\overline x}([c])=g$. в группу $\mathbb Z$ из фундаментальной группы каждой компоненты связности пространства $\widehat V_{\omega}$ (см., например, [11]).
Предложение 1 (см. [12; утверждение 1]). Многообразие $\widehat V_{\omega}$ диффеоморфно двумерному тору, если $\varsigma_\omega=+1$ и диффеоморфно бутылке Клейна, если $\varsigma_\omega\,{=}\,{-}1$. При этом $\eta_{\omega}(\pi_1(\widehat V_{\omega}))= m_\omega\mathbb Z$ (здесь $m_\omega\mathbb Z$ – группа целых чисел, кратных $m_\omega$).
Предложение 2 (см. [12; утверждение 2]). Пусть $l$ – сепаратриса периода $m_l$ седловой точки диффеоморфизма $f$, принадлежащая $V_\omega$. Тогда множество $\widehat{l}=p_{\omega}(l)$ является окружностью, гладко вложенной в $\widehat{V}_\omega$ так, что $\eta_{\omega}([\widehat{l}])=m_l$.
Аналогичным образом вводится понятие типа ориентации $\varsigma_\alpha$ для периодического источника $\alpha$ диффеоморфизма $f$, пространство орбит $\widehat V_\alpha$ и проекция в него устойчивой сепаратрисы седловой точки.
Пусть $\sigma$ — седловая точка периода $m_\sigma$ диффеоморфизма $f$. Согласно [10; теорема 5.5] диффеоморфизм $f^{m_\sigma}$ в некоторой окрестности точки $\sigma$ топологически сопряжен линейному диффеоморфизму плоскости, заданному матрицей $\left(\begin{smallmatrix} \nu_\sigma\cdot 1/2 &0\\ 0&\lambda_\sigma\cdot 2 \end{smallmatrix}\right)$, где $\nu_\sigma=+1\ (-1)$, если $f|_{W^{\mathrm{s}}_p}$ сохраняет (меняет) ориентацию; $\lambda_\sigma=+1\ (-1)$, если $f|_{W^{\mathrm{u}}_p}$ сохраняет (меняет) ориентацию. Пару $\varsigma_\sigma=(\nu_\sigma, \lambda_\sigma)$ будем называть типом ориентации седловой точки $\sigma$ и обозначать через $a_{\varsigma_\sigma }\colon \mathbb R^2\to\mathbb R^2$ соответствующий ему линейный диффеоморфизм. Если $\nu_\sigma>0$, $\lambda_\sigma>0$, то тип ориентации будем называть положительным, и отрицательным в противном случае.
Диффеоморфизм $a_{\varsigma_\sigma }\colon \mathbb R^2\to\mathbb R^2$ имеет единственную неподвижную седловую точку в начале координат $O$ с устойчивым многообразием $W^{\mathrm{s}}_O=Ox_1$ и неустойчивым многообразием $W^{\mathrm{u}}_O=Ox_{2}$. Положим $\mathcal N=\{(x_1,x_2)\in\mathbb{R}^2\colon |x_1x_{2}|\leqslant 1\}$ и заметим, что множество $\mathcal N$ является инвариантным относительно канонического диффеоморфизма $a_{\varsigma_\sigma}$.
Окрестность $\mathcal N_\sigma$ точки $\sigma$ назовем линеаризующей, если существует гомеоморфизм ${\mu}_\sigma\colon \mathcal N_\sigma\to \mathcal{N}$, сопрягающий диффеоморфизм $f^{m_{\sigma}}|_{\mathcal N_\sigma}$ c диффеоморфизмом $a_{\varsigma_\sigma}|_{\mathcal{N}}$. Окрестность $\mathcal N_{\mathcal O_\sigma}=\bigcup_{j=0}^{m_{\sigma}-1}f^j(N_\sigma)$ орбиты ${\mathcal O_\sigma}=\bigcup_{j=0}^{m_{\sigma}-1}f^j(\sigma)$, оснащенную отображением $\mu_{\mathcal O_\sigma}$, составленным из гомеоморфизмов $\mu_\sigma f^{-j}$: $f^j(\mathcal N_\sigma)\to \mathcal N$, $j=0,\dots,m_{\sigma}-1$, будем называть линеаризующей окрестностью орбиты $\mathcal O_\sigma$.
Предложение 3 (см. [2; теорема 2.2]). Любая седловая точка (орбита) градиентно-подобного диффеоморфизма $f\colon M^2\to M^2$ обладает линеаризующей окрестностью.
Положим $N^{\mathrm{u}}_{\sigma}=N_{\mathcal O_\sigma}\setminus W^{\mathrm{s}}_{\mathcal O_\sigma}$. Тогда группа $F$ действует свободно и разрывно на $N^{\mathrm{u}}_{\sigma}$, порождая пространство орбит $\widehat N^{\mathrm{u}}_{\sigma}=N^{\mathrm{u}}_{\sigma}/f$, естественную проекцию $p_{\sigma}^{\mathrm{u}}\colon N^{\mathrm{u}}_{\sigma}\to\widehat N^{\mathrm{u}}_{\sigma}$ и отображение $\eta^{\mathrm{u}}_{\sigma}$, составленное из гомоморфизмов в группу $\mathbb Z$ из фундаментальной группы каждой компоненты связности пространства $\widehat N^{\mathrm{u}}_{\sigma}$.
Предложение 4 (см. [12; утверждение 5]). Многообразие $\widehat N^{\mathrm{u}}_{\sigma}$ имеет следующий топологический тип (рис. 3) в зависимости от $\varsigma_{\sigma}$:
1) если $\varsigma_{\sigma}=(+1,+1)$, то пространство $\widehat N^{\mathrm{u}}_{\sigma}$ состоит из двух компонент связности $\widehat N^{\mathrm{u}1}_{\sigma}$, $\widehat N^{\mathrm{u}2}_{\sigma}$, каждая из которых диффеоморфна кольцу и $\eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}1}_{\sigma}))= \eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}2}_{\sigma}))=m_\sigma\mathbb Z$;
2) если $\varsigma_{\sigma}=(-1,+1)$, то пространство $\widehat N^{\mathrm{u}}_{\sigma}$ состоит из двух компонент связности $\widehat N^{\mathrm{u}1}_{\sigma}$, $\widehat N^{\mathrm{u}2}_{\sigma}$, каждая из которых диффеоморфна ленте Мёбиуса и $\eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}1}_{\sigma}))=\eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}2}_{\sigma}))=m_\sigma\mathbb Z$;
3) если $\varsigma_{\sigma}=(+1,-1)$, то пространство $\widehat N^{\mathrm{u}}_{\sigma}$ состоит из одной компоненты связности $\widehat N^{\mathrm{u}}_{\sigma}$, которая диффеоморфна кольцу и $\eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}}_{\sigma}))=2m_\sigma\mathbb Z$;
4) если $\varsigma_{\sigma}=(-1,-1)$, то пространство $\widehat N^{\mathrm{u}}_{\sigma}$ состоит из одной компоненты связности $\widehat N^{\mathrm{u}}_{\sigma}$, которая диффеоморфна кольцу и $\eta^{\mathrm{u}}_{\sigma}(\pi_1(\widehat N^{\mathrm{u}}_{\sigma}))=2m_\sigma\mathbb Z$.
На рис. 3 темным выделены фундаментальные области5[x]5Фундаментальной областью действия группы $G$ на топологическом пространстве $X$ называется замкнутое множество $D_G\subset X$ такое, что существует множество $\widetilde D_{G}$ со следующими свойствами:
1) $\operatorname{cl}(\widetilde D_{G})=D_{G}$;
2) $g(\widetilde D_{G})\cap \widetilde D_{G}=\varnothing$ для всех $g\in G$, отличных от нейтрального элемента группы $G$;
3) $\bigcup_{g\in G}g(\widetilde D_{G})=X$.
Если группа $G$ действует свободно и разрывно на топологическом пространстве $X$, то для фундаментальной области $D_{G}$ действия $G$ на $X$ имеет место равенство $D_{G}/G=X/G$, где $X/G$ – множество $G$-орбит. действия группы $F$ на $N^{\mathrm{u}}_{\sigma}$ для различных типов $\varsigma_{\sigma}$. В случаях $\varsigma_{\sigma}=(+1,+1)$ и $\varsigma_{\sigma}=(-1,+1)$ фундаментальная область состоит из двух непересекающихся криволинейных трапеций, а в случаях $\varsigma_{\sigma}=(+1,-1)$ и $\varsigma_{\sigma}=(-1,-1)$ фундаментальную область можно выбрать в виде одной криволинейной трапеции. Пространство орбит $\widehat {N}^{\mathrm{u}}_\sigma$ получается из соответствующих криволинейных трапеций отождествлением точек на горизонтальных отрезках границы.
Аналогичным образом вводится пространство орбит $\widehat N^{\mathrm{s}}_{\sigma}=N^{\mathrm{s}}_{\sigma}/f$ действия группы $F$ на $N^{\mathrm{s}}_{\sigma}=N_{\mathcal O_{\sigma}}\setminus W^{\mathrm{u}}_{\mathcal O_{\sigma}}$, накрытие $p_{\sigma}^{\mathrm{s}}\colon N^{\mathrm{s}}_{\sigma}\to\widehat N^{\mathrm{s}}_{\sigma}$ и отображение $\eta^{\mathrm{s}}_{\sigma}$, составленное из гомоморфизмов в группу $\mathbb Z$ из фундаментальной группы каждой компоненты связности пространства $\widehat N^{\mathrm{s}}_{\sigma}$.
Обозначим через $\Omega^0_f$, $\Omega^1_f$, $\Omega^2_f$ множество стоков, седел и источников диффеоморфизма $f$. Для любого (возможно пустого) $f$-инвариантного множества $\Sigma\subset\Omega^1_f$ такого, что $\operatorname{cl}(W^{\mathrm{u}}_\Sigma)\setminus W^{\mathrm{u}}_\Sigma\subset\Omega^0_f$, положим
называется характеристическим пространством орбит. Естественная проекция $p_{\Sigma}\colon V_\Sigma\to\widehat V_\Sigma$ индуцирует отображение $\eta_{\Sigma}$, составленное из гомоморфизмов в группу $\mathbb Z$ из фундаментальной группы каждой компоненты связности пространства $\widehat V_{\Sigma}$. В общем случае характеристическое пространство орбит не является связным, обозначим через $\widehat V_\Sigma^1,\dots,\widehat V_\Sigma^k$ компоненты связности пространства $\widehat V_{\Sigma}$. Положим $V_\Sigma^1=p_{\Sigma}^{-1}(\widehat V_\Sigma^1),\dots,V_\Sigma^k =p_{\Sigma}^{-1}(\widehat V_\Sigma^k)$ и обозначим через $m_1,\dots,m_k$ число компонент связности в множествах $V_\Sigma^1,\dots, V_\Sigma^k$ соответственно.
Предложение 5 (см.6[x]6В работе [13] Пикстон строит энергетическую функцию Морса для произвольного диффеоморфизма Морса–Смейла $f\colon M^2\to M^2$. При этом он показывает, что граница захватывающей окрестности аттрактора $A_\Sigma$ и ее итерация в силу $f$ являются компонентами связности линий уровня этой функции. Из теории Морса в этом случае следует, что фундаментальная область отображения $f|_{V^i_\Sigma}$ гомеоморфна двумерному кольцу, непосредственно отсюда вытекает утверждение предложения. [13; предложение 1]). 1) Каждая компонента связности множества $V_\Sigma^i$, $i\in\{1,\dots,k\}$, диффеоморфна $\mathbb S^1\times\mathbb R$.
2) Каждая компонента связности множества $\widehat V_{\Sigma}^i$ диффеоморфна двумерному тору, если диффеоморфизм $f^{m_i}|_{V_\Sigma^i}$ сохраняет ориентацию, и диффеоморфна бутылке Клейна в противном случае.
4) Если $l$ – сепаратриса периода $m_l$ седловой точки диффеоморфизма $f$, принадлежащая $V_\Sigma$, то множество $\widehat l=p_{\Sigma}(l)$ является окружностью, гладко вложенной в $\widehat{V}_\Sigma$ так, что $\eta_{\Sigma}([\widehat{l}])=m_l$.
Группа гомологий $H_1(\widehat V_{\Sigma}^i)$ изоморфна $\mathbb Z^2$, если $\widehat V_{\Sigma}^i$ – тор, и изоморфна $\mathbb{Z}\,{\times}\,\mathbb{Z}_2$, если $\widehat V_{\Sigma}^i$ – бутылка Клейна. В обоих случаях класс гомологий петли $c\subset\widehat V_{\Sigma}^i$ записывается парой чисел $(\alpha,\beta)$, при этом $\eta_{\Sigma}([c])=\alpha m_i$. Если кривая $c$ является узлом, то числа $(\alpha,\beta)$ взаимно просты. В частности, для узла $\widehat l$, являющегося проекцией сепаратрисы, $\alpha=m_l/m_i\neq 0$, т. е. $\widehat l$ – существенный узел. Трубчатая окрестность такого узла на торе $\widehat V_{\Sigma}^i$ является кольцом, также как и дополнение до нее. Узлы (с точностью до смены ориентации) на бутылке Клейна реализуются в следующих классах гомологий: $(0,0)$, $(0,1)$, $(2,0)$, $(1,0)$, $(1,1)$. При этом узел $\widehat l$ может лежать только в трех последних. Если узел $\widehat l$ принадлежит классу гомологий $(2,0)$, то его трубчатая окрестность на бутылке Клейна $\widehat V_{\Sigma}^i$ является кольцом, а дополнение до нее состоит из двух пленок Мебиуса. В противном случае трубчатая окрестность узла $\widehat l$ является пленкой Мебиуса, также как и дополнение до нее.
В этом параграфе мы исследуем изменение характеристического пространства орбит после добавления одной седловой орбиты к множеству $\Sigma$.
Лемма 1. Пусть $\Sigma'=\Sigma\cup\mathcal O_\sigma$ для некоторой седловой орбиты $\mathcal O_\sigma$, и $\widehat v$, $\widehat v^{\,\prime}$ – дизъюнктное объединение компонент связности пространств $\widehat V_{\Sigma}$, $\widehat V_{\Sigma'}$, имеющих не пустое пересечение с $\widehat N^{\mathrm{u}}_\sigma$, $\widehat N^{\mathrm{s}}_\sigma$ соответственно. Тогда
Таким образом, чтобы получить пространство $\widehat V_{\Sigma'}$, мы должны удалить из пространства $\widehat V_\Sigma$ множество $\widehat N^{\mathrm{u}}_{{ \sigma}}$ и к границе полученного множества приклеить множество $\widehat N^{\mathrm{s}}_{\sigma}$ в силу $\widehat\psi_\sigma$. Покажем, что в формуле
1. Пусть $\varsigma_\sigma=(+1,+1)$, тогда в силу предложения 4 множества $\widehat N^{\mathrm{u}}_\sigma$ и $\widehat N^{\mathrm{s}}_\sigma$ гомеоморфны парам колец. Откуда следует, что компоненты связности, которых одна или две, множества $\widehat v$ могут быть как торами, так и бутылками Клейна. Рассмотрим все возможности.
a) Пусть $\widehat v$ – дизъюнктное объединение двух торов $\widehat v_1$ и $\widehat v_2$. Тогда кольцо $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v_1$ и кольцо $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v_2$, а в силу предложения 4 каждое из них вложено в тор $\widehat v_i$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma))\ne\{0\}$, и, следовательно, множество $\widehat v_i\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно кольцу. Тогда при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к паре колец $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится тор $\widehat v^{\,\prime}$ (рис. 5).
b) Пусть $\widehat v$ – дизъюнктное объединение тора $\widehat v_1$ и бутылки Клейна $\widehat v_2$. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v_1$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v_2$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}1}$ вложено в тор $\widehat v_1$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}1}_\sigma))\ne\{0\}$, и, следовательно, множество $\widehat v_1\setminus \widehat N^{\mathrm{u}1}_\sigma$ гомеоморфно кольцу. Аналогично кольцо $\widehat N^{\mathrm{u}2}_\sigma$ вложено в бутылку Клейна $\widehat v_2$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}2}_\sigma)) = 2\mathbb{Z}$ и входит в класс гомологии $(2,0)$, значит, множество $\widehat v_2\setminus \widehat N^{\mathrm{u}2}_\sigma$ гомеоморфно двум лентам Мёбиуса. Тогда при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к кольцу $\widehat v_1\setminus \widehat N^{\mathrm{u}1}_\sigma$ и паре лент Мёбиуса $\widehat v_2\setminus \widehat N^{\mathrm{u}2}_\sigma$ в силу отображения перестройки получится бутылка Клейна $\widehat v^{\,\prime}$ (рис. 6).
c) Пусть $\widehat v$ – дизъюнктное объединение двух бутылок Клейна $\widehat v_1$ и $\widehat v_2$. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v_1$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v_2$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложено в бутылку Клейна $\widehat v_i$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma)) = 2\mathbb{Z}$, и входит в класс гомологии $(2,0)$, следовательно, множество $\widehat v_i\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно паре лент Мёбиуса. Тогда при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к двум парам лент Мёбиуса $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится дизъюнктное объединение двух бутылок Клейна $\widehat v^{\,\prime}$ (рис. 7).
d) Пусть $\widehat v$ – тор. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложено в тор $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma))\ne\{0\}$, и, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно паре колец. Тогда при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к паре колец $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится дизъюнктное объединение двух торов $\widehat v^{\,\prime}$ (рис. 8).
e) Пусть $\widehat v$ – бутылка Клейна. Тогда $\widehat N^{\mathrm{u}1}_\sigma\,{\subset}\, \widehat v$ и $\widehat N^{\mathrm{u}2}_\sigma\,{\subset}\, \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложено в бутылку Клейна $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma)) = 2\mathbb{Z}$, и входит в класс гомологии $(2,0)$, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно паре лент Мёбиуса и кольцу. Тогда при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к двум парам лент Мёбиуса и кольцу $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится дизъюнктное объединение тора и бутылки Клейна $\widehat v^{\,\prime}$ (рис. 9).
f) Пусть $\widehat v$ – тор. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложено в тор $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma))\ne\{0\}$, и, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно паре колец. В случае, когда $M^2$ – неориентируемая поверхность, при приклеивании пары колец $\widehat N^{\mathrm{s}}_{\sigma}$ к паре колец $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится тор $\widehat v^{\,\prime}$ (рис. 10).
2. Пусть $\varsigma_\sigma=(-1,+1)$, тогда в силу предложения 4 множества $\widehat N^{\mathrm{u}}_\sigma$ и $\widehat N^{\mathrm{s}}_\sigma$ гомеоморфны паре лент Мёбиуса и кольцу соответственно. Откуда следует, что компоненты связности, которые содержат $\widehat N^{\mathrm{u}}_\sigma$, могут быть только одной или двумя бутылками Клейна, а содержащие $\widehat N^{\mathrm{s}}_\sigma$ – тором или бутылкой Клейна. Рассмотрим все возможности.
a) Пусть $\widehat v$ – дизъюнктное объединение двух бутылок Клейна $\widehat v_1$ и $\widehat v_2$. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v_1$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v_2$. В силу предложения 4 лента Мёбиуса $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложена в бутылку Клейна $\widehat v_i$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma)) = 1\mathbb{Z}$, и входит в класс гомологии $(1,0)$, следовательно, множество $\widehat v_i\setminus \widehat N^{\mathrm{u}i}_\sigma$ гомеоморфно ленте Мёбиуса. Тогда при приклеивании кольца $\widehat N^{\mathrm{s}}_\sigma$ к паре лент Мёбиуса $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится бутылка Клейна $\widehat v^{\,\prime}$ (рис. 11).
b) Пусть $\widehat v$ – бутылка Клейна. Тогда $\widehat N^{\mathrm{u}1}_\sigma\subset \widehat v$ и $\widehat N^{\mathrm{u}2}_\sigma\subset \widehat v$. В силу предложения 4 лента Мёбиуса $\widehat N^{\mathrm{u}i}_\sigma$, $i=1,2$, вложена в бутылку Клейна $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}i}_\sigma)) = 1\mathbb{Z}$, и входит в класс гомологии $(1,0)$, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ гомеоморфно кольцу. Тогда при приклеивании кольца $\widehat N^{\mathrm{s}}_\sigma$ к кольцу $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится тор $\widehat v^{\,\prime}$ (рис. 12).
3. Пусть $\varsigma_\sigma=(+1,-1)$, тогда в силу предложения 4 множества $\widehat N^{\mathrm{u}}_\sigma$ гомеоморфно кольцу и $\widehat N^{\mathrm{s}}_\sigma$ гомеоморфно паре лент Мёбиуса. Откуда следует, что компоненты связности, которые содержат $\widehat N^{\mathrm{u}}_\sigma$, могут быть тором или бутылкой Клейна, а содержащие $\widehat N^{\mathrm{s}}_\sigma$ могут быть только бутылками Клейна.
a) Пусть $\widehat v$ – тор, тогда $\widehat N^{\mathrm{u}}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}}_\sigma$ вложено в тор $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}1}_\sigma))\ne\{0\}$, и, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ гомеоморфно кольцу. Тогда при приклеивании пары лент Мёбиуса $\widehat N^{\mathrm{s}}_\sigma$ к кольцу $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится бутылка Клейна $\widehat v^{\,\prime}$ (рис. 13).
b) Пусть $\widehat v$ – бутылка Клейна, тогда $\widehat N^{\mathrm{u}}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}}_\sigma$ вложено в бутылку Клейна $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}}_\sigma)) = 2\mathbb{Z}$, и входит в класс гомологии $(2,0)$, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ гомеоморфно паре лент Мёбиуса. Тогда при приклеивании пары лент Мёбиуса $\widehat N^{\mathrm{s}}_\sigma$ к паре лент Мёбиуса $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится дизъюнктное объединение двух бутылок Клейна $\widehat v^{\,\prime}$ (рис. 14).
4. Пусть $\varsigma_\sigma=(-1,-1)$, тогда в силу предложения 4 множества $\widehat N^{\mathrm{u}}_\sigma$ и $\widehat N^{\mathrm{s}}_\sigma$ гомеоморфны парам колец. Откуда следует, что компонента связности множества $\widehat v$ может быть как тором, так и бутылкой Клейна. Рассмотрим все возможности.
a) Пусть $\widehat v$ – бутылка Клейна, тогда $\widehat N^{\mathrm{u}}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}}_\sigma$ вложено в бутылку Клейна $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}}_\sigma)) = 2\mathbb{Z}$, и входит в класс гомологии $(2,0)$, следовательно, множество $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ гомеоморфно паре лент Мёбиуса. Тогда при приклеивании кольца $\widehat N^{\mathrm{s}}_\sigma$ к паре лент Мёбиуса $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится бутылка Клейна $\widehat v^{\,\prime}$ (рис. 15).
b) Пусть $\widehat v$ – тор, тогда $\widehat N^{\mathrm{u}}_\sigma\subset \widehat v$. В силу предложения 4 кольцо $\widehat N^{\mathrm{u}}_\sigma$ вложено в тор $\widehat v$ так, что $\eta_{\Sigma}(\pi_1(\widehat N^{\mathrm{u}}_\sigma))\ne\{0\}$, и, следовательно (см., например, [14]), множество $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ гомеоморфно кольцу. Тогда при приклеивании кольца $\widehat N^{\mathrm{s}}_\sigma$ к кольцу $\widehat v\setminus \widehat N^{\mathrm{u}}_\sigma$ в силу отображения перестройки получится тор $\widehat v^{\,\prime}$ (рис. 16).
Лемма доказана.
§ 5. Критерий существования связного характеристического пространства орбит у градиентно-подобного диффеоморфизма поверхности
В данном параграфе мы приведем доказательство теоремы 1. Докажем, что градиентно-подобный диффеоморфизм $f\colon M^2\to M^2$ обладает связным характеристическим пространством орбит тогда и только тогда, когда его граф $\Gamma_f$ обладает связным специальным подграфом $\overline\Gamma_f$. При этом пространство орбит гомеоморфно тору, если $\overline\Gamma_f=\varnothing$, и гомеоморфно бутылке Клейна в противном случае.
Доказательство.Необходимость. Пусть $f\colon M^2\to M^2$ – градиентно-подобный диффеоморфизм, обладающий связным характеристическим пространством орбит $\widehat V_\Sigma$. Обозначим через $\Gamma_{\Sigma} \subset \Gamma_f$ подграф, геометрически совпадающий с аттрактором $A_{\Sigma}$. Покажем, что граф $\Gamma_{\Sigma}$ обладает связным специальным подграфом.
Предположим противное: пусть граф $\Gamma_{\Sigma}$ не обладает связным специальным подграфом. Тогда существуют различные стоковые орбиты $\mathcal O_{\omega_1}, \mathcal O_{\omega_2} \subset \overline\Omega^{\,0}_f$ такие, что любой путь, соединяющий точку орбиты $\mathcal O_{\omega_1}$ с точкой орбиты $\mathcal O_{\omega_2}$ в графе $\Gamma_{\Sigma}$, проходит через вершины, не принадлежащие множеству $\overline\Omega^{\,0}_f\cup\overline\Omega^{\,1}_f$. Обозначим через $\widetilde\Sigma\subset\Sigma$ объединение всех седловых орбит, имеющих не пустое пересечение с такими путями, и через $A_{\widetilde\Sigma}\subset A_\Sigma$ – соответствующий аттрактор. По определению пространство орбит $\widehat V_\varnothing$ бассейнов стоков состоит из торов и бутылок Клейна, а характеристическое пространство $\widehat V_{\widetilde\Sigma}$ получается из него перестройкой вдоль проекций неустойчивых сепаратрис седловых точек множества $\widetilde\Sigma$. Тогда из определения множества $\widetilde\Sigma$ и леммы 1 следует, что пространство $\widehat V_{\widetilde\Sigma}$ не связно. Характеристическое пространство $\widehat V_{\Sigma}$ получается из пространства $\widehat V_{\widetilde\Sigma}$ перестройкой вдоль проекций неустойчивых сепаратрис седловых точек множества $\Sigma\setminus\widetilde\Sigma$. Поскольку замыкания этих сепаратрис не связывают точки орбиты $\mathcal O_{\omega_1}$ с точками орбиты $\mathcal O_{\omega_2}$, то пространство орбит $\widehat V_{\Sigma}$ не связно, что противоречит предположению о его связности.
Достаточность. Пусть $f\colon M^2\to M^2$ – градиентно-подобный диффеоморфизм такой, что его граф $\Gamma_f$ обладает связным специальным подграфом $\overline\Gamma_f$. Построим связное характеристическое пространство орбит $\widehat V_\Sigma$ для диффеоморфизма $f$.
Положим $\Sigma_0=\varnothing$, что означает отсутствие седловых точек и их орбит в аттракторе. Обозначим через $\widehat V_1,\dots,\widehat V_l$ компоненты связности пространства $\widehat V_{\Sigma_0}$. Если $l=1$, то $\Sigma=\Sigma_0$. В противном случае согласно предложению 1 каждая компонента связности $\widehat V_i$ является тором или бутылкой Клейна. Пусть $\widehat V_1,\dots,\widehat V_{l_1}$ – бутылки Клейна, не соответствующие стокам множества $\overline{\Omega}^{\,0}_f$, $\widehat V_{l_1+1},\dots,\widehat V_{l_1+l_2}$ – бутылки Клейна, соответствующие стокам множества $\overline{\Omega}^{\,0}_f$, и $\widehat V_{l_1+l_2+1},\dots,\widehat V_{l_1+l_2+l_3}$ – торы.
Добавим к множеству $\Sigma_0$ седловые точки $\sigma$ типа ориентации $\varsigma_\sigma=(-1,+1)$, чьи неустойчивые многообразия образуют петли у стоковых точек, которым соответствуют бутылки Клейна. Мы получим множество $\Sigma_1$, при этом согласно лемме 1 пространство $\widehat V_{\Sigma_1}$ также состоит из $l$ компонент связности $\widetilde V_1,\dots,\widetilde V_{l_1},\widehat V_{l_1+1},\dots,\widehat V_{l_1+l_2},\widehat V_{l_1+l_2+1},\dots,\widehat V_{l_1+l_2+l_3}$, первые $l_1$ из которых торы.
Добавим к множеству $\Sigma_1$ седловые точки специального подграфа, получим множество $\Sigma_2$ и пространство $\widehat V_{\Sigma_2}$, состоящее согласно лемме 1 из $l_1+1+ l_3$ компонент связности $\widetilde V_1,\dots,\widetilde V_{l_1},\widetilde V_*,\widehat V_{l_1+l_2+1},\dots,\widehat V_{l_1+l_2+l_3}$, где $\widetilde V_*$ – бутылка Клейна.
Рассмотрим в связном графе $\Gamma_f$ путь, соединяющий две компоненты связности пространства орбит $\widehat V_{\Sigma_2}$. Согласно лемме 1 данный путь может состоять из седловых точек типа ориентации только $(+1,+1)$, которые связывают $l_1{+}\,1\,{+}\,l_3$ компонент связности множеств $p^{-1}_{\Sigma_2}(\widetilde V_1),\dots,p^{-1}_{\Sigma_2}(\widetilde V_{l_1}),p^{-1}_{\Sigma_2}(\widetilde V_*),p^{-1}_{\Sigma_2}(\widehat V_{l_1+l_2+1}),\dots, p^{-1}_{\Sigma_2}(\widehat V_{l_1+l_2+l_3})$, взятых по одной из каждого множества. Добавив эти седла к множеству $\Sigma_2$, мы получим множество $\Sigma$ и связное пространство $\widehat V_{\Sigma}$, являющееся согласно лемме 1 тором, если $l_2=0$ и бутылкой Клейна в противном случае. Теорема доказана.
В настоящем параграфе на произвольной поверхности мы построим градиентно-подобный диффеоморфизм, имеющий различные стоки с отрицательными типами ориентации, связанные неустойчивыми многообразиями седловых точек только с положительным типом ориентации. В силу теоремы 1 отсюда будет следовать отсутствие связного характеристического пространства орбит у такого диффеоморфизма. Искомый диффеоморфизм будет строиться как связная сумма элементарных диффеоморфизмов на поверхностях рода, не превышающего единицы. Ниже мы описываем операцию взятия связной суммы диффеоморфизмов и конструкцию элементарных отображений.
6.1. Связная сумма диффеоморфизмов
Пусть $f_i\colon M^2_i\,{\to}\, M^2_i$, $i\,{=}\,1,2$, – градиентно-подобный диффеоморфизм, заданный на замкнутой поверхности $M^2_i$ рода $g_i$. Обозначим через $\dot M^2_1=M^2_1\setminus \omega$ и $\dot M^2_2=M^2_2\setminus \alpha$. Пусть $\omega$ – неподвижный сток диффеоморфизма $f_1$, и $\alpha$ – неподвижный источник диффеоморфизма $f_2$ такие, что $(W^{\mathrm{s}}_\omega\setminus\omega)/f_1 \cong(W^{\mathrm{u}}_\alpha\setminus\alpha)/f_2$. Тогда существует диффеоморфизм $\nu\colon W^{\mathrm{s}}_\omega\setminus\omega\to W^{\mathrm{u}}_\alpha\setminus\alpha$, сопрягающий диффеоморфизмы $f_1$ и $f_2$. Положим $M^2=\dot M^2_1\cup_\nu \dot M^2_2$, и обозначим через $\zeta\colon \dot M^2_1\sqcup \dot M^2_2\to M^2$ естественную проекцию. По построению $M^2\cong M^2_1\# M^2_2$. Будем называть диффеоморфизм $f\colon M^2\to M^2$, заданный формулой
связной суммой вдоль стока $\omega$ и источника $\alpha$ диффеоморфизмов $f_1$ и $f_2$. Будем обозначать такой диффеоморфизм через $f=f_1\#f_2$ и называть $\nu$ связывающим отображением.
6.2. Построение элементарных диффеоморфизмов
6.2.1. Диффеоморфизм $\phi$ на сфере $\mathbb S^2$
Введем на плоскости $\mathbb R^2$ полярные координаты $(r,\varphi)$. Обозначим через $\varrho(r)$ функцию, заданную графиком, изображенным на рис. 17.
Обозначим через $\chi^t$ поток, индуцированный этим векторным полем, и обозначим через $\chi$ диффеоморфизм, который является сдвигом потока $\chi^t$ за единицу времени. Полученный диффеоморфизм имеет гиперболический источник в начале координат $O$, гиперболические седла в точках $A_1$, $A_3$ и гиперболические стоки в точках $A_0$, $A_2$ (рис. 18).
Для диффеоморфизма $\phi$ существуют две возможности выбора множества $\Sigma$ (рис. 19). Так как по построению седловая орбита имеет положительный тип ориентации, то в обоих случаях характеристическое пространство орбит $\widehat V_{\Sigma}$ согласно лемме 1 (случай 1, с)) состоит из двух компонент связности, каждая из которых гомеоморфна бутылке Клейна.
6.2.2. Диффеоморфизм $\psi_1$ на торе $\mathbb T^2$
Построим диффеоморфизм $\psi_1$ на двумерном торе $\mathbb T^2$ как прямое произведение двух сохраняющих ориентацию диффеоморфизмов источник–сток на окружности $\mathbb S^1$. Для этого рассмотрим функцию $\overline{F}\colon \mathbb R\to\mathbb R$ (рис. 20), заданную формулой
Рассмотрим проекцию $\pi\colon \mathbb{R}\to \mathbb{S}^1$, заданную формулой $\pi(x)=e^{2\pi i x}$. В силу того, что функция $\overline{F}$ является строго монотонно возрастающей и удовлетворяет условию $\overline{F}(x+1)=\overline{F}(x)+1$, она допускает проекцию на окружность в виде диффеоморфизма $F\colon \mathbb S^1\to\mathbb S^1$, заданного формулой
$$
\begin{equation*}
F(z)=\pi\overline F \pi^{-1}(z),\qquad z\in\mathbb S^1.
\end{equation*}
\notag
$$
По построению диффеоморфизм $F$ имеет неподвижные гиперболические сток и источник и является сохраняющим ориентацию диффеоморфизмом источник–сток. Определим диффеоморфизм $F_1\colon \mathbb T^2\to\mathbb T^2$ формулой
Тогда диффеоморфизм $F_1$ сохраняет ориентацию, причем его неблуждающее множество состоит из четырех неподвижных точек: источника $\alpha$ положительного типа ориентации $(\varsigma_{\alpha}=+1)$, стока $\omega$ положительного типа ориентации $(\varsigma_{\omega}=+1)$ и двух седел $\sigma_1$, $\sigma_2$ положительного типа ориентации (рис. 21).
По построению диффеоморфизм $\psi_1$ является меняющим ориентацию градиентно-подобным диффеоморфизмом, чье неблуждающее множество состоит из источника $\alpha$ и стока $\omega$ отрицательных типов ориентации $(\varsigma_{\alpha}=\varsigma_{\omega}=-1)$, а также периодической седловой орбиты $\mathcal O_{\sigma_1}=\{\sigma_1,\psi_1(\sigma_1)\}$ периода $2$ и типа ориентации $\varsigma_{\sigma_1}=(+1,+1)$ (рис. 22):
6.2.3. Диффеоморфизм $\widetilde\psi_1$ на проективной плоскости $\mathbb R P^2$
Рассмотрим диффеоморфизм $\phi\colon \mathbb S^2 \to \mathbb S^2$, заданный в подпункте 6.2.1 и группу $\mathbb Z_2=\{ +1, -1\} $, действующую на двумерной сфере $\mathbb S^2=\{(x_1,x_2,x_3)\in\mathbb R^3\colon x_1^2+x^2_2+x_3^2=1\}$ следующим образом:
Тогда пространство орбит действия группы $\mathbb Z_2$ на $\mathbb S^2$ – это проективная плоскость $\mathbb R P^2$. Пусть $p\colon \mathbb S^2 \to \mathbb S^2/ \mathbb Z_2$ – естественная проекция. Поскольку $\phi(-x)=-\phi(x)$, то формула
корректно определяет диффеоморфизм $\widetilde\psi_1\colon \mathbb R P^2 \to \mathbb R P^2$ с неблуждающим множеством $\Omega_{\widetilde\psi_1}=\{\widetilde\alpha, \widetilde \omega, \widetilde \sigma_1\}$ (рис. 23).
6.3. Построение диффеоморфизмов на поверхности любого рода
6.3.1. Диффеоморфизмы на ориентируемых поверхностях
Построим на любой ориентируемой поверхности $M^2$ рода $g$ меняющий ориентацию диффеоморфизм $f_g$, не обладающий связным характеристическим пространством орбит.
Рассмотрим построенные в предыдущем пункте диффеоморфизмы $\phi$, $\psi_1$. Пусть $f_1=\phi\sharp \psi_1\colon \mathbb S^2 \sharp \mathbb T^2 \to \mathbb S^2 \sharp \mathbb T^2$ – связная сумма вдоль стока $\omega_0$ диффеоморфизма $\phi$ и источника $\alpha$ диффеоморфизма $\psi_1$. Поскольку седловые сепаратрисы $L_{\omega_0}$ в бассейне стока $\omega_0$ имеют период два, как и седловые сепаратрисы $L_{\alpha}$ в бассейне источника $\alpha$, то связывающий диффеоморфизм $\nu\colon W^{\mathrm{s}}_{\omega_0}\setminus\omega_0\to W^{\mathrm{u}}_{\alpha} \setminus \alpha$ можно выбрать так, что $\nu(L_{\omega_0})\cap L_{\alpha}=\varnothing$. Таким образом, $f_1\colon \mathbb T^2\to\mathbb T^2$ – меняющий ориентацию градиентно-подобный диффеоморфизм в точности с двумя стоками $\omega_1$, $\omega$. При этом каждое из пространств орбит $\widehat V_{\omega_1}$, $\widehat V_{\omega}$ гомеоморфно бутылке Клейна, седло $\sigma$ имеет тип ориентации $\varsigma_\sigma=(+1,+1)$, а неустойчивые сепаратрисы седел $\sigma$, $f_1(\sigma)$ – единственные неустойчивые сепаратрисы, лежащие в бассейне стока $\omega_1$ (рис. 24).
По индукции строится диффеоморфизм $f_g$ на ориентируемой поверхности рода $g\geqslant 2$ как связная сумма диффеоморфизмов $\psi_g$ и $\phi$ ($f_g=\psi_g\sharp \phi$) вдоль стока $\omega_0$ диффеоморфизма $\phi$ и источника $\alpha$ диффеоморфизма $\psi_g$ (рис. 25). Аналогично, так как седловые сепаратрисы $L_{\omega_0}$ в бассейне стока $\omega_0$ имеют период два, как и седловые сепаратрисы $L_{\alpha}$ в бассейне источника $\alpha$, то связывающий диффеоморфизм $\nu\colon W^{\mathrm{s}}_{\omega_0}\setminus\omega_0\to W^{\mathrm{u}}_{\alpha} \setminus \alpha$ можно выбрать так, что $\nu(L_{\omega_0})\cap L_{\alpha}=\varnothing$. Таким образом, $f_g$ – меняющий ориентацию градиентно-подобный диффеоморфизм в точности с двумя стоками $\omega_1$, $\omega$ отрицательного типа ориентации.
Покажем, что диффеоморфизм $f_g$ не имеет связного характеристического пространства орбит. Для этого рассмотрим $\Gamma_{f_g}$ (рис. 26). Поскольку множество седловых точек $\overline{\Omega}^{\,1}_f =\varnothing$, а $\overline{\Omega}^{\,0}_f=\omega \cup \omega_1$, то специальный подграф $\overline\Gamma_{f_g}$ состоит в точности из двух вершин (обозначающих стоковые точки $\omega$, $\omega_1$). Таким образом, граф $\overline\Gamma_{f_g}$ не является связным, значит, согласно теореме 1 характеристическое пространство орбит также не связно.
6.3.2. Диффеоморфизмы на неориентируемых поверхностях
Построим на любой неориентируемой поверхности $M^2$ рода $q$ градиентно-подобный диффеоморфизм $\widetilde f_q$, не обладающий связным характеристическим пространством орбит.
Определим диффеоморфизм $\widetilde f_1\colon \mathbb R P^2 \to \mathbb R P^2$ как связную сумму диффеоморфизмов $\phi$ и $\widetilde \psi_1$ ($\widetilde f_1=\phi\sharp \widetilde \psi_1$) вдоль стока $\omega_0$ диффеоморфизма $\phi$ и источника $\widetilde\alpha$ диффеоморфизма $\widetilde \psi_1$ (рис. 27). Поскольку седловые сепаратрисы $L_{\omega_0}$ в бассейне стока $\omega_0$ имеют период два, а седловые сепаратрисы $L_{\widetilde\alpha}$ в бассейне источника $\widetilde\alpha$ имеют период один, то связывающий диффеоморфизм $\nu\colon W^{\mathrm{s}}_{\omega_0}\setminus\omega_0\to W^{\mathrm{u}}_{\alpha} \setminus \alpha$ можно выбрать так, что $\nu(L_{\omega_0})\cap L_{\widetilde\alpha}=\varnothing$.
По индукции строится диффеоморфизм $\widetilde f_q$ на неориентируемой поверхности рода $q$ как гладкая связная сумма диффеоморфизмов $\phi$ и $\widetilde\psi_q$ ($\widetilde f_q=\widetilde\psi_q\sharp \phi$) вдоль стока $\omega_0$ диффеоморфизма $\phi$ и источника $\widetilde\alpha$ диффеоморфизма $\widetilde\psi_q$. Рассуждениями, аналогичными приведенным в подпункте 6.3.1, показывается, что диффеоморфизм $\widetilde f_q$ не имеет связного характеристического пространства орбит.
Список литературы
1.
В. З. Гринес, Е. В. Жужома, В. С. Медведев, О. В. Починка, “Глобальные аттрактор и репеллер диффеоморфизмов Морса–Смейла”, Дифференциальные уравнения и топология. II, Сборник статей. К 100-летию со дня рождения академика Льва Семеновича Понтрягина, Труды МИАН, 271, МАИК «Наука/Интерпериодика», М., 2010, 111–133; англ. пер.: V. Z. Grines, E. V. Zhuzhoma, V. S. Medvedev, O. V. Pochinka, “Global attractor and repeller of Morse–Smale diffeomorphisms”, Proc. Steklov Inst. Math., 271 (2010), 103–124
2.
V. Z. Grines, T. V. Medvedev, O. V. Pochinka, Dynamical systems on 2- and 3-manifolds, Dev. Math., 46, Springer, Cham, 2016, xxvi+295 pp.
3.
C. Bonatti, V. Grines, O. Pochinka, “Topological classification of Morse–Smale diffeomorphisms on 3-manifolds”, Duke Math. J., 168:13 (2019), 2507–2558
4.
C. Bonatti, V. Grines, V. Medvedev, E. Pécou, “Topological classification of gradient-like diffeomorphisms on 3-manifolds”, Topology, 43:2 (2004), 369–391
5.
V. Z. Grines, E. A. Gurevich, O. V. Pochinka, “Topological classification of Morse–Smale diffeomorphisms without heteroclinic intersections”, J. Math. Sci. (N.Y.), 208:1 (2015), 81–90
6.
V. Grines, E. Gurevich, O. Pochinka, D. Malyshev, “On topological classification of Morse–Smale diffeomorphisms on the sphere $S^n$ ($n>3$)”, Nonlinearity, 33:12 (2020), 7088–7113
7.
D. Malyshev, A. Morozov, O. Pochinka, “Combinatorial invariant for Morse–Smale diffeomorphisms on surfaces with orientable heteroclinic”, Chaos, 31:2 (2021), 023119, 17 pp.
8.
В. З. Гринес, Е. Я. Гуревич, Е. В. Жужома, О. В. Починка, “Классификация систем Морса–Смейла и топологическая структура несущих многообразий”, УМН, 74:1(445) (2019), 41–116; англ. пер.: V. Z. Grines, E. Ya. Gurevich, E. V. Zhuzhoma, O. V. Pochinka, “Classification of Morse–Smale systems and topological structure of the underlying manifolds”, Russian Math. Surveys, 74:1 (2019), 37–110
9.
Е. В. Ноздринова, “Существование связного характеристического пространства у градиентно-подобных диффеоморфизмов поверхностей”, Журнал СВМО, 19:2 (2017), 91–97
10.
Ж. Палис, В. ди Мелу, Геометрическая теория динамических систем. Введение, Мир, М., 1986, 302 с. ; пер. с англ.: J. Palis, Jr., W. de Melo, Geometric theory of dynamical systems. An introduction, Transl. from the Portuguese, Springer-Verlag, New York–Berlin, 1982, xii+198 с.
11.
Ч. Косневски, Начальный курс алгебраической топологии, Мир, М., 1983, 304 с. ; пер. с англ.: C. Kosniowski, A first course in algebraic topology, Cambridge Univ. Press, Cambridge–New York, 1980, viii+269 с.
12.
В. З. Гринес, С. Х. Капкаева, О. В. Починка, “Трехцветный граф как полный топологический инвариант для градиентно-подобных диффеоморфизмов поверхностей”, Матем. сб., 205:10 (2014), 19–46; англ. пер.: V. Z. Grines, S. Kh. Kapkaeva, O. V. Pochinka, “A three-colour graph as a complete topological invariant for gradient-like diffeomorphisms of surfaces”, Sb. Math., 205:10 (2014), 1387–1412
13.
D. Pixton, “Wild unstable manifolds”, Topology, 16:2 (1977), 167–172
14.
D. Rolfsen, Knots and links, AMS Chelsea Publ. Ser., 346, Reprint with corr. of the 1976 original, Amer. Math. Soc., Providence, RI, 2003, ix+439 pp.
Образец цитирования:
Е. В. Ноздринова, О. В. Починка, Е. В. Цаплина, “Критерий существования связного характеристического пространства орбит у градиентно-подобного диффеоморфизма поверхности”, Изв. РАН. Сер. матем., 88:3 (2024), 111–138; Izv. Math., 88:3 (2024), 515–541