Математический сборник
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Лицензионный договор
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Матем. сб.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Математический сборник, 2024, том 215, номер 5, страницы 3–46
DOI: https://doi.org/10.4213/sm10034
(Mi sm10034)
 

Эта публикация цитируется в 2 научных статьях (всего в 2 статьях)

Траекторные инварианты биллиардов и линейно интегрируемые геодезические потоки

Г. В. Белозеровa, А. Т. Фоменкоab

a Механико-математический факультет, Московский государственный университет имени М. В. Ломоносова
b Московский центр фундаментальной и прикладной математики
Список литературы:
Аннотация: Обнаружены и вычисляются траекторные инварианты интегрируемых топологических биллиардов с двумя степенями свободы при условии постоянства энергии системы. Инварианты (векторы вращения) вычисляются через функции вращения на однопараметрических семействах $2$-торов Лиувилля. Доказан аналог теоремы Лиувилля в окрестности регулярных слоев для кусочно гладких биллиардов. Введены переменные действие-угол. Получена общая формула для функций вращения. Гипотеза А. Т. Фоменко предполагала, что функции вращения топологических биллиардов монотонны. Для многих важных систем гипотеза подтвердилась, но обнаружились интересные биллиарды с немонотонными функциями вращения. В частности, вычислены траекторные инварианты биллиардов-книжек, реализующих (с точностью до лиувиллевой эквивалентности) линейно интегрируемые геодезические потоки двумерных поверхностей. При надлежащем изменении параметров потоков эти функции вращения становятся монотонными.
Библиография: 45 названий.
Ключевые слова: интегрируемый биллиард, биллиардная книжка, переменные действие-угол, траекторный инвариант, функция вращения.
Финансовая поддержка Номер гранта
Российский научный фонд 22-71-00111
Фонд развития теоретической физики и математики БАЗИС
Исследование выполнено в МГУ имени М. В. Ломоносова за счет гранта Российского научного фонда № 22-71-00111, https://rscf.ru/project/22-71-00111/.
Г. В. Белозеров является стипендиатом Фонда развития теоретической физики и математики “БАЗИС”.
Поступила в редакцию: 22.11.2023
Дата публикации: 30.04.2024
Англоязычная версия:
Sbornik: Mathematics, 2024, Volume 215, Issue 5, Pages 573–611
DOI: https://doi.org/10.4213/sm10034e
Реферативные базы данных:
Тип публикации: Статья
MSC: 37C83, 37D40

§ 1. Введение

В последнее время большое внимание привлечено к реализации биллиардами (с точностью до лиувиллевой эквивалентности) различных интегрируемых гамильтоновых систем с двумя степенями свободы, известными в симплектической геометрии и топологии, теоретической механике, математической физике; см., в частности, работы А. Т. Фоменко, В. Драговича, М. Раднович, В. В. Ведюшкиной (Фокичевой), В. А. Кибкало, И. С. Харчевой, И. Ф. Кобцева, С. Е. Пустовойтова, Г. В. Белозерова, В. Н. Завьялова, Е. Е. Каргиновой [1]–[26].

Лиувиллева эквивалентность интегрируемых систем означает, что имеется гомеоморфизм (диффеоморфизм) симплектических фазовых многообразий (или изоэнергетических поверхностей, т.е. поверхностей постоянной энергии), совмещающий слои слоений Лиувилля сравниваемых систем. При этом рассматриваются системы, интегрируемые по Лиувиллю. Регулярные слои являются торами Лиувилля, особые слои имеют более сложную структуру. В случае невырожденных (боттовских) систем лиувиллево эквивалентные системы имеют “одинаковые” замыкания почти всех интегральных траекторий (эти замыкания и являются регулярными торами Лиувилля).

Напомним, что биллиард в плоской области, ограниченной дугами софокусных квадрик одного и того же семейства, интегрируем. Более точно: прямые, содержащие звенья любой траектории-ломаной, являются касательными к некоторой квадрике, софокусной с квадриками границы (см. классическую работу Дж. Д. Биркгофа [27] и книгу В. В. Козлова и Д. В. Трещева [28]). Параметр этой квадрики, называемой каустикой, сохраняется вдоль траектории системы.

В. В. Ведюшкина ввела новый класс интегрируемых биллиардов, рассмотрев двумерные кусочно гладкие поверхности, склеенные из элементарных биллиардов (более подробно см. [13]). При попадании на ребро склейки материальная точка переходит с одного элементарного биллиарда на другой по обычному закону отражения. Этот класс биллиардов можно расширить, рассмотрев более сложные клеточные комплексы, склеенные из элементарных биллиардов, включая так называемые биллиарды-книжки.

Затем класс интегрируемых биллиардов был существенно расширен разными авторами за счет биллиардов с потенциалом (см. [29], [30]), биллиардов с магнитным полем (см. [31]), силовых (эволюционных) биллиардов (см. [1]–[4]), биллиардов с проскальзыванием (см. [23], [24]), биллиардных игр (см. [9]), многомерных биллиардов, реализующихся в многомерных софокусных квадриках (см. [32], [33]).

А. Т. Фоменко сформулировал гипотезу из шести пунктов о моделировании топологическими биллиардами интегрируемых невырожденных систем с двумя степенями свободы (см. [34]). К настоящему времени несколько разделов гипотезы удалось доказать (см. [19], [34], [35]). В настоящей работе будет рассмотрен тот пункт гипотезы Фоменко, в котором говорится о траекторных инвариантах интегрируемых систем. Динамические системы называются траекторно эквивалентными, если существует гомеоморфизм фазовых ( соответственно изоэнергетических) многообразий, переводящий траектории в траектории (время вдоль траекторий сохраняется при этом не обязательно). В случае интегрируемых систем с двумя степенями свободы в первую очередь важны траекторные инварианты, описывающие поведение траекторий на однопараметрических семействах регулярных двумерных торов Лиувилля, “живущих” внутри трехмерных изоэнергетических поверхностей. Такими инвариантами являются векторы вращения, вычисляемые по функциям вращения, возникающим на таких однопараметрических семействах $2$-торов Лиувилля (см. [36]).

Отметим, что ранее изучались в основном инварианты лиувиллевой эквивалентности интегрируемых систем. Таким образом, в настоящей работе мы делаем следующий шаг и приступаем к анализу траекторных инвариантов биллиардных систем. Эти инварианты разбиваются на два класса. Первый был уже упомянут выше – инварианты однопараметрических семейств торов Лиувилля. Второй класс – это траекторные инварианты, классифицирующие траектории на особых слоях слоений Лиувилля (на так называемых “атомах”). Сейчас мы сосредоточимся на инвариантах первого типа (называемых иногда реберными инвариантами, т.е. инвариантами на ребрах меченого графа – инварианта Фоменко–Цишанга).

Согласно первоначальной гипотезе Фоменко функции вращения интегрируемых биллиардов должны быть монотонны на однопараметрических семействах торов. Первые примеры явного вычисления функций вращения для некоторых биллиардов подтвердили гипотезу (см. [37]). Однако в дальнейшем выяснилось, что класс интегрируемых биллиардов настолько широк и богат, что в нем обнаружились биллиарды с немонотонными функциями вращения, т.е. картина оказалась значительно более интересной и содержательной. Ее анализу и посвящена настоящая работа.

При этом нам потребовалось преодолеть трудность, связанную с построением аналога известной теоремы Лиувилля. Дело в том, что классическая теорема относится к гладким системам, что позволяет ввести гладкие переменные действие-угол в окрестности торов Лиувилля. Интегрируемые биллиарды являются кусочно гладкими системами, а потому напрямую “гладкая теорема Лиувилля” неприменима. Мы исследовали и доказали аналог теоремы Лиувилля для широкого класса биллиардных систем. После этого удалось определить функции вращения и векторы вращения, т.е. построить траекторные инварианты систем. В частности, удалось вычислить функции вращения важных серий интегрируемых биллиардов, например, биллиардов, реализующих (с точностью до лиувиллевой эквивалентности) важный класс линейно интегрируемых геодезических потоков на двумерных ориентируемых поверхностях.

Перечислим вкратце основные результаты настоящей работы. Для произвольной биллиардной книжки, не содержащей свободных ребер на фокальной прямой, нами доказан полный аналог теоремы Лиувилля. А именно, в малой окрестности произвольного регулярного слоя нам удалось корректным образом определить переменные действие-угол и доказать некоторые их свойства, наследуемые из “гладкой” симплектической геометрии. Доказательству этой теоремы посвящены § 2 и § 3.

Основываясь на полученном аналоге теоремы Лиувилля, мы нашли общую формулу функций вращения биллиардных книжек. Выводу этой формулы посвящен § 4.

Далее, используя эту формулу, в § 5 мы исследовали монотонность функций вращения трех плоских биллиардов, симметричных относительно осей координат. Была найдена тесная связь переменных действия биллиарда внутри эллипса с теоремой Грейвса (о нити и эллипсе). Также было показано, что у биллиарда внутри эллиптического кольца одна из функций вращения не является монотонной. Тем самым мы опровергли гипотезу А. Т. Фоменко о том, что все функции вращения биллиардов строго монотонны. Помимо этого была обнаружена интересная связь функций вращения биллиарда внутри эллиптического кольца с широко известной $B$-функцией Эйлера. Как оказалось, именно она “диктует” то соотношение полуосей граничных эллипсов, при котором функции вращения на двух ребрах молекулы являются монотонными. Кроме того, нами был обнаружен интересный пример двух биллиардов, имеющих разные меченые молекулы, но одинаковые грубые молекулы и реберные траекторные инварианты.

В § 6 нами были вычислены функции вращения замкнутых топологических биллиардов, склеенных из дисков и круговых колец. Этот класс биллиардов является важным, поскольку он моделирует слоения Лиувилля всех геодезических потоков на компактных ориентируемых поверхностях с дополнительным первым интегралом, линейным по импульсам. Как оказалось, функции вращения таких биллиардов явно выражаются через элементарные. Однако они также не всегда являются монотонными. Тем не менее, изменяя параметры границ склейки листов таких биллиардов, всегда можно добиться монотонности функций вращения на всех ребрах молекулы.

Благодарности

Авторы благодарят Е. А. Кудрявцеву и В. В. Ведюшкину за ряд ценных замечаний и внимание к работе.

Г. В. Белозеров является стипендиатом Фонда развития теоретической физики и математики “БАЗИС”.

§ 2. Интегрируемые гамильтоновы системы. Теорема Лиувилля. Биллиардные книжки

Рассмотрим симплектическое многообразие $(M^{2n},\omega)$ и гладкую функцию $H$ на нем. Функция $H$ порождает на $M^{2n}$ гладкое векторное поле $v=\operatorname{sgrad} H$, компоненты которого в каждой локальной системе координат вычисляются по формуле

$$ \begin{equation*} (\operatorname{sgrad} H)^i=\omega^{ij}\, \frac{\partial H}{\partial x^j}. \end{equation*} \notag $$

Определение 1. Векторное поле $v=\operatorname{sgrad} H$ называется гамильтоновой системой, а функция $H$ – функцией Гамильтона (гамильтонианом) этого векторного поля.

Напомним, что форма $\omega$ определяет скобку Пуассона $\{\cdot,\cdot\}$ на пространстве $C^{\infty}(M^{2n})$. Эта скобка в каждой локальной системе координат задается формулой

$$ \begin{equation*} \{f,g\}=\omega^{ij}\, \frac{\partial f}{\partial x^i}\,\frac{\partial g}{\partial x^j} \quad \forall\, f,g\in C^{\infty}(M^{2n}). \end{equation*} \notag $$

Определение 2. Гамильтонова система $v=\operatorname{sgrad} H$ называется вполне интегрируемой по Лиувиллю, если существует набор гладких на $M^{2n}$ функций $f_1,f_2,\dots,f_n$ таких, что:

Всякая вполне интегрируемая по Лиувиллю гамильтонова система задает расслоение многообразия $M^{2n}$ на связные компоненты поверхностей совместного уровня функций $f_1,\dots,f_n$. Это расслоение принято называть слоением Лиувилля. Устройство этого слоения в малой окрестности регулярного слоя устанавливает теорема Лиувилля.

Теорема 1 (Лиувилль). Пусть $v=\operatorname{sgrad} H$ – вполне интегрируемая по Лиувиллю гамильтонова система на $M^{2n}$ и $T_\xi$ – связная компонента регулярной поверхности уровня интегралов $f_1,\dots,f_n$ (из определения 2). Тогда:

Современное доказательство этой теоремы см. в [36].

Отметим, что теорема Лиувилля требует гладкости рассматриваемой на $M^{2n}$ гамильтоновой системы $v$. Помимо этого форма $\omega$ и само многообразие $M^{2n}$ должны быть гладкими. Многие механические системы удовлетворяют этим требованиям. Тем не менее есть примеры, когда условие гладкости нарушается. Таковыми системами, в частности, являются биллиарды, ограниченные дугами софокусных квадрик, а также биллиарды на столах-книжках, введенные В. В. Ведюшкиной.

Напомним определение софокусных квадрик.

Определение 3. Семейством софокусных квадрик на плоскости называется множество квадрик, заданных уравнением

$$ \begin{equation*} (b-\lambda)x^2+(a-\lambda)y^2=(a-\lambda)(b-\lambda), \end{equation*} \notag $$
где $a>b>0$ – фиксированные числа, a $\lambda\in \mathbb R$ – вещественный параметр.

Биллиардной книжкой $D$ называется $2$-комплекс, склеенный из элементарных софокусных столов $D_1,\dots,D_n$ (т.е. компактных плоских областей, ограниченных софокусными квадриками, с углами излома на границе, равными $\pi/2$) вдоль некоторых общих сегментов границ. На каждом участке склейки задана перестановка $\sigma\in S(n)$, отвечающая переходу материальной точки с одного листа на другой. При этом на устройство книжки накладываются следующие ограничения.

Все участки склейки границ листов биллиардной книжки принято делить на три класса. Если на участке $l$ склейки не происходит, то его называют свободным ребром. Если участку $l$ приписана транспозиция, то его называют ребром склейки. Если перестановка на $l$ не является ни тривиальной, ни транспозицией, то этот участок называют корешком книжки. Более подробное определение см. в [19].

Динамика материальной точки на биллиардной книжке задается следующим набором правил.

Согласно работам В. В. Ведюшкиной [10]–[16] классический биллиард (система с отсутствием внешних сил) на биллиардной книжке является интегрируемым по Лиувиллю в кусочно гладком смысле. Его первыми интегралами являются кинетическая энергия $H$, а также параметр $\Lambda$ софокусной квадрики, которой одновременно касаются все прямолинейные участки (или их продолжения) траектории материальной точки. Более того, верен следующий аналог теоремы Лиувилля.

Теорема 2 (В. В. Ведюшкина). Пусть $T_\xi$ – связная компонента неособой поверхности уровня интегралов $H$ и $\Lambda$ биллиарда на книжке $D$. Тогда:

Замечание 1. Все регулярные слои биллиардных книжек являются компактными. Компактность слоев обусловлена компактностью самой биллиардной книжки. Биллиарды на некомпактных столах могут обладать некомпактными слоями (см., например, [38]).

Теорема 2 является непосредственным обобщением пунктов 1) и 2) классической теоремы Лиувилля для биллиардных книжек (теорема 1). Возникает весьма разумный вопрос: можно ли обобщить пункт 3) теоремы Лиувилля на такие системы?

Согласно результатам В. Лазуткина [39] и Е. А. Кудрявцевой [40] для довольно большого класса биллиардных книжек в окрестности любого слоя, на котором не происходит касание невыпуклых границ листов книжки, система сглаживаема. А следовательно, в этих случаях мы вправе применять классическую теорему Лиувилля. Однако такой подход не сработает с регулярными слоями, на которых сглаживание невозможно. Тем не менее, как мы увидим далее, переменные действие-угол все же можно корректно определить на таких слоях.

Для того чтобы сформулировать полный аналог теоремы Лиувилля для биллиардных книжек, необходимо разобраться с устройством симплектической формы $\omega$ в окрестности регулярного слоя.

Обозначим через $M^4$ фазовое пространство биллиарда, а через $\Gamma_1,\dots,\Gamma_n$ – границы листов $D_1,\dots,D_n$ биллиардной книжки $D$ соответственно. Напомним, что на всем $M^4$ корректно определено отображение проекции $\pi\colon M^4\to D$, сопоставляющее паре точка-вектор $(x,v)$ точку $x\in D$.

На кокасательном расслоении к внутренности каждого листа $D_i$ определена точная форма $\omega=dp_x\wedge dx+dp_y\wedge dy=d\alpha$, где $\alpha=p_x\, dx+p_y \,dy$, а $p_x$ и $ p_y$ – импульсы, сопряженные координатам $x$ и $y$ соответственно.

Определение 4. Комплекс на торе Лиувилля, состоящий из всех таких пар $(x,v) \in M^4$, что $x\in \Gamma_i$ для некоторого $i$, будем называть критическим графом.

Критический граф состоит из конечного набора образующих окружностей двух видов (“параллели” и “меридианы”). Он разбивает тор Лиувилля на связные компоненты размерности $2$, которые мы будем называть гранями. Каждая грань критического графа соответствует единственному листу $D_i$. При этом различные грани и торы Лиувилля могут соответствовать одинаковым листам.

Замечание 2. В фокусах при $\Lambda=b$ возникает целая окружность направлений, в то время как в остальных точках возможны четыре и менее направлений вектора скорости. Поскольку этот случай выбивается из остальных, далее мы будем рассматривать только те биллиардные книжки, которые не содержат свободных ребер на фокальной прямой. Это условие гарантирует отсутствие фокусов в области возможного на уровне $\Lambda=b$, если он является регулярным.

Рассмотрим произвольную камеру образа отображения момента для первых интегралов $(H,\Lambda)$. Обозначим через $\widetilde{M}^4$ ограничение фазового пространства рассматриваемой системы на эту камеру. Согласно теореме 2 $\widetilde{M}^4$ гомеоморфно одному или несвязному объединению нескольких прямых произведений двумерного диска и двумерного тора. Без ограничения общности будем считать, что $\widetilde{M}^4$ состоит из одной компоненты связности.

На каждом листе биллиардной книжки рассмотрим эллиптические координаты $\lambda_1,\lambda_2$ и поднимем их на $\widetilde{M}^4$ с помощью отображения $\pi$. Заметим, что на каждой грани критического графа в координатах $(\lambda_1,\lambda_2,H,\Lambda)$ форма $\alpha$ вычисляется по формуле

$$ \begin{equation} \alpha=p_1\,d\lambda_1+p_2\,d\lambda_2, \quad\text{где }\ p_i^2=\frac{H(\Lambda-\lambda_i)}{2(a-\lambda_i)(b-\lambda_i)}. \end{equation} \tag{2.1} $$
Здесь $a>b>0$ – параметры семейства софокусных квадрик (см. определение 3). Из этой формулы становится ясным, что при отражении от свободных ребер при переходе через ребро склейки или корешок книжки, а также при касании каустики импульс $p_i$ меняет знак. Но при этом также меняется и направление соответствующей эллиптической координаты. Поэтому форму $\alpha$ можно корректно определить почти всюду в $\widetilde{M}^4$. Однако при таком определении нужно обратить внимание на некоторые сложности. Перечислим их.

1. Область определения формы $\alpha$. Для корректной определенности формы $\alpha$ в координатах $(\lambda_1,\lambda_2,H,\Lambda)$ (в окрестности тора Лиувилля) нужно потребовать гладкого изменения границы области возможного движения на каждом листе биллиардной книжки. Поэтому все регулярные слои мы разобьем на два класса.

Определение 5. Тор Лиувилля назовем вполне регулярным, если в его малой окрестности граница области возможного движения на каждом из листов книжки гладко зависит от $\Lambda$. В противном случае назовем его псевдорегулярным.

Замечание 3. Приведем простейший пример псевдорегулярных торов. Рассмотрим биллиард внутри эллиптического кольца. Обозначим параметр внутреннего эллипса границы этого стола через $\lambda_0$. Тогда торы Лиувилля, соответствующие уровню $\Lambda=\lambda_0$, являются псевдорегулярными. Действительно, при $\Lambda<\lambda_0$ границей области возможного движения являются внешний граничный эллипс и каустика, а при $\lambda_0<\Lambda<b$ область возможного движения совпадает со всем биллиардным столом. Таким образом, параметр внутренней границы области возможного движения равен $\min\{\Lambda,\lambda_0\}$. Однако эта функция не является гладкой при $\Lambda=\lambda_0$. Следовательно, торы Лиувилля на уровне $\Lambda=\lambda_0$ являются псевдорегулярными.

Замечание 4. Как мы увидим далее, при фиксированном значении энергии многообразие $\widetilde{M}^4$ может содержать лишь конечное число псевдорегулярных торов Лиувилля.

2. Корректность формы $\alpha$. На вполне регулярных торах неопределенности возникнут только в тех точках, где одна из эллиптических координат принимает значения $\Lambda$, $a$ или $b$. Чтобы их избежать, введем “отрегулированные” эллиптические координаты следующей формулой:

$$ \begin{equation*} u_i=\int_{a_i}^{b_i}\frac{dt}{\sqrt{(\Lambda-t)(a-t)(b-t)}}. \end{equation*} \notag $$
Здесь $a_1=\lambda_1$, $a_2=b$, $b_1=\Lambda$, $b_2=\lambda_2$ для эллиптических камер (т.е. при $\Lambda<b$) и $a_1=\lambda_1$, $a_2=\Lambda$, $b_1=b$, $b_2=\lambda_2$ для гиперболических (т.е. при $\Lambda\in(b,a)$).

Замечание 5. Координаты $(u_1,u_2)$ определены всюду в $\widetilde{M}^4$ и являются гладкими в малой окрестности вполне регулярного слоя.

Теперь от $(u_1,u_2)$ перейдем к однозначным координатам $(\psi_1,\psi_2)\ \operatorname{mod}2\pi$. Для того чтобы их аккуратно определить, необходимо заметить, что тор Лиувилля можно разбить на прямоугольные области однозначности эллиптических координат. Выбрав одну из областей в качестве стартовой, будем последовательно приклеивать оставшиеся области, меняя на них направление и начало отсчета “отрегулированных” эллиптических координат так, чтобы они (координаты) непрерывно возрастали. Затем поделим каждую из них на суммарную длину соответствующих координат и умножим на $2\pi$. Из этой конструкции становится ясным, что координаты $(\psi_1,\psi_2,H,\Lambda)$ являются гладкими вблизи вполне регулярных слоев.

Аналогичные рассуждения показывают, что форма $\omega$ тоже корректно определена в окрестности всякого вполне регулярного слоя в $\widetilde{M}^4$. Напомним, что в эллиптических координатах $\lambda_1$, $\lambda_2$ и сопряженных им импульсах $p_1$, $p_2$ форма $\omega$ записывается каноническим образом, т.е. $\omega=dp_1\wedge d\lambda_1+ dp_2\wedge d\lambda_2$. Поскольку при отражении, переходе на следующий лист или касании каустики эллиптическая координата и соответствующий ей импульс одновременно меняют знак, слагаемые в последней формуле остаются инвариантными.

Замечание 6. На любом вполне регулярном слое ограничение формы $\omega$ равняется нулю. Действительно, на совместном уровне первых интегралов $H$ и $\Lambda$ геодезического потока на плоскости $\omega=0$. Поскольку каждая грань критического графа на торе Лиувилля является участком совместного уровня $H$ и $\Lambda$ системы без отражения, форма $\omega$ обращается в нуль на любой грани. Осталось заметить, что критический граф – множество меры нуль на торе Лиувилля, а следовательно, $\omega=0$ на всем торе.

Итак, формы $\alpha$ и $\omega$ корректно определены в окрестности любого вполне регулярного слоя. Более того, в этой окрестности они являются гладкими почти всюду.

Теперь мы можем сформулировать полный аналог теоремы Лиувилля для биллиардных книжек.

Теорема 3. Пусть $T_\xi$ – связная компонента неособой поверхности уровня $(h,\lambda)$ пары интегралов $(H,\Lambda)$ биллиарда на книжке $D$, не содержащей свободные ребра на фокальной прямой. Тогда:

Пункты 1), 2) этой теоремы доказаны В. В. Ведюшкиной. Доказательству пункта 3) посвящен § 3.

Замечание 7. Вопрос о приведении формы $\omega$ к каноническому виду корректен, если систему можно сгладить в окрестности слоя. Гамильтоново сглаживание систем с отражением изучалось в работах В. Лазуткина [39] и Е. А. Кудрявцевой [40].

§ 3. Доказательство теоремы о переменных действие-угол для биллиардных книжек

Настоящий параграф посвящен доказательству пункта 3) теоремы 3. Сначала мы докажем теорему для вполне регулярных слоев. Отметим, что определение вполне регулярного слоя является довольно абстрактным. Поэтому мы переформулируем его на языке первых интегралов $H$ и $\Lambda$. Однако перед этим напомним, что эллиптическим тором называется тор Лиувилля, соответствующий значению $\Lambda=\lambda_0<b$, а гиперболическим – тор Лиувилля, соответствующий значению $\Lambda=\lambda_0>b$.

Лемма 1 (критерий вполне регулярности). Пусть $T_\xi$ – тор Лиувилля, отвечающий значениям $(h_0,\lambda_0)$ первых интегралов $(H,\Lambda)$. Тогда он является псевдорегулярным в том и только том случае, когда квадрика параметра $\lambda_0$ входит в состав границы хотя бы одного листа книжки.

Доказательство. Отметим, что области возможного движения материальной точки не зависят от (положительного) значения энергии, поэтому мы можем перейти от $\widetilde{M}^4$ к изоэнергетической поверхности $\widetilde{Q}^3_h=\{{(x,v)\in\widetilde{M}^4}\mid \|v\|^2=2h\}$, где $h$ – произвольное положительное число.

Сначала докажем лемму для эллиптических торов. Предположим, что $\Gamma_1$ (граница листа $D_1$ биллиардной книжки) содержит участок эллипса параметра $\lambda_0$. Согласно теореме Ведюшкиной о классификации плоских биллиардных столов лист $D_1$ лежит либо внутри этого эллипса, либо вне него (с учетом захода на сам эллипс). Пусть лист $D_1$ содержится внутри замкнутой области, ограниченной эллипсом параметра $\lambda_0$; тогда при $\Lambda<\lambda_0$ множество $\pi(T)$ (здесь тор $T\in\widetilde{Q}^3_h$ соответствует параметру $\Lambda$) не пересекается с $D_1$, а значит, длина интервала значений первой эллиптической координаты на $D_1$ равна нулю. При $\Lambda>\lambda_0$ первая эллиптическая координата $\pi(T)$ на $D_1$ изменяется на отрезке $[\lambda_0,\lambda']$. Следовательно, в окрестности точки $\Lambda=\lambda_0$ функцию $g(\Lambda)$ длины интервала значений первой эллиптической координаты проекции $\pi(T)$ на листе $D_1$ можно записать так: $g(\Lambda)=\max\{0,\Lambda-\lambda_0\}$. Однако эта функция не является гладкой в точке $\Lambda=\lambda_0$. Следовательно, согласно определению 5 тор $T_{\xi}$ является псевдорегулярным. Аналогично можно показать, что если $D_1$ лежит вне эллипса параметра $\lambda_0$, а сам эллипс входит в состав $\Gamma_1$, то тор $T_{\xi}$ тоже является псевдорегулярным.

Если же эллипс параметра $\lambda_0$ не входит в состав границы листов книжки, то внутренние границы (если таковые имеются) на каждом из листов близких торов либо не меняются, либо совпадают с каустикой, которая не выходит на границу листов и меняется гладко. Таким образом, границы первой эллиптической координаты меняются гладко, а границы второй статичны. Значит, тор $T_\xi$ является вполне регулярным. Следовательно, для эллиптических торов все доказано.

Аналогичными рассуждениями разбирается случай гиперболических торов Лиувилля.

Остается рассмотреть случай $\lambda_0=b$. Согласно утверждению теоремы 3 в состав границ листов биллиардной книжки не входят свободные ребра, лежащие на фокальной оси. Следовательно, если уровень $\Lambda=b$ является регулярным, то в малой окрестности соответствующего тора Лиувилля граница области возможного движения не меняется. А значит, такой тор будет вполне регулярным.

Лемма 1 доказана.

Мы получили удобный критерий вполне регулярности, которым чуть позже воспользуемся.

Напомним, что в малой окрестности вполне регулярного слоя корректно определена форма $\alpha$. Поэтому мы можем ввести переменные действия классическим способом.

Рассмотрим произвольный цикл $\gamma$ на торе Лиувилля и обозначим через $s(\gamma)$ интеграл от формы $\alpha$ по нему. Оказывается, этот интеграл наследует аналогичное свойство из “гладкой” симплектической геометрии.

Лемма 2. Пусть $\gamma_0,\gamma_1$ – гомологичные циклы на вполне регулярном торе Лиувилля. Тогда $s(\gamma_0)=s(\gamma_1)$.

Доказательство. Поскольку циклы $\gamma_0$ и $\gamma_1$ гомологичны, цикл $\gamma_1-\gamma_0$ является границей некоторого множества $K$. Это множество разбивается гранями критического графа на участки $K_1,\dots,K_m$.

Вычислим разность $s(\gamma_1)-s(\gamma_0)$. Для этого добавим к этой разности интегралы от формы $\alpha$ по оставшимся границам $K_i$ (т.е. не учтенным в разности $s(\gamma_1)-s(\gamma_0)$). Ориентацию границ согласуем с ориентацией $K_i$. Однако заметим, что сумма таких интегралов будет равна нулю, поскольку границы на смежных $K_i$ имеют противоположную ориентацию.

Таким образом, мы получаем следующую формулу:

$$ \begin{equation*} s(\gamma_1)-s(\gamma_0)=\sum_{i}\int_{\partial K_i}\alpha. \end{equation*} \notag $$
Интегралы в правой части этого равенства рассмотрим не на торе Лиувилля, а на совместном уровне интегралов $H$ и $\Lambda$ системы без отражения. Такой переход действительно корректен, поскольку каждая грань критического графа отвечает некоторому участку фазового пространства системы без отражения. Теперь мы вправе применить формулу Стокса для каждого из интегралов и воспользоваться тем, что форма $\omega$ на каждой грани критического графа равна нулю, т.е.
$$ \begin{equation*} s(\gamma_1)-s(\gamma_0)=\sum_{i}\int_{\partial K_i}\alpha=\sum_{i}\int_{K_i}\omega=0. \end{equation*} \notag $$
Следовательно, $s(\gamma_0)=s(\gamma_1)$.

Лемма 2 доказана.

Зафиксируем два базисных цикла $\gamma_1$ и $\gamma_2$, направленных вдоль линий координат $\psi_1$ и $\psi_2$. Переменные действия $s_1,s_2$ определим следующими формулами:

$$ \begin{equation*} s_1=\frac{1}{2\pi}\int_{\gamma_1}\alpha, \qquad s_2=\frac{1}{2\pi}\int_{\gamma_2}\alpha. \end{equation*} \notag $$

Теперь введем угловые переменные $(\varphi_1,\varphi_2)$. Напомним, что в гладком случае координатные линии $\varphi_i$ являются интегральными кривыми векторных полей $\operatorname{sgrad} s_i$. Поскольку в окрестности вполне регулярного слоя форма $\omega$ невырождена, непрерывна и является гладкой почти всюду, то векторные поля $\operatorname{sgrad} H$, $\operatorname{sgrad} \Lambda$ непрерывны и являются касательными к торам Лиувилля. Более того, они линейно независимы и почти всюду являются гладкими. Их гладкость на торе Лиувилля может нарушиться лишь на нескольких кривых вида $\psi_i=\mathrm{const}$ (т.е. в точках критического графа). Тем не менее эти поля можно продолжить до гладких, подходя к точкам критического графа с разных сторон. Отметим также, что вне критического графа эти поля коммутируют.

Заметим, что в силу формул (2.1) функции $s_1$ и $s_2$ можно представить в следующем виде:

$$ \begin{equation} s_i=\frac{1}{2\pi}\sum_{j=1}^{N_i}\int_{a_{i,j}}^{b_{i,j}} \sqrt{\frac{H(\Lambda-t)}{2(a-t)(b-t)}}\,dt. \end{equation} \tag{3.1} $$

В этой формуле $a_{i,j}$ и $b_{i,j}$ могут принимать следующие значения:

Согласно определению 5 в малой окрестности вполне регулярного слоя коэффициенты $a_{i,j}$ и $b_{i,j}$ как функции от тора Лиувилля являются бесконечно гладкими. А следовательно, функции $s_1$ и $s_2$ гладко зависят от $H$ и $\Lambda$. Поэтому поля $\operatorname{sgrad}s_i$ будут линейно выражаться через $\operatorname{sgrad}H$ и $\operatorname{sgrad}\Lambda$ с постоянными на торах Лиувилля коэффициентами. Более того, эти векторные поля будут обладать теми же свойствами, что и $\operatorname{sgrad} H$, $\operatorname{sgrad} \Lambda$.

Для того чтобы корректно ввести переменные углов $(\varphi_1,\varphi_2)$, нужно, чтобы фазовые потоки векторных полей $\operatorname{sgrad} s_i$ были корректно определены и коммутировали. Покажем, что это действительно так. Для этого рассмотрим вспомогательную задачу.

Пусть гладкие векторные поля $v_1,v_2$ определены и линейно независимы в малой окрестности точки $P\in\mathbb{R}^2(x_1,x_2)$. Хорошо известно, что если эти поля коммутируют, то найдутся окрестность точки $P$ и гладкие координаты $(y_1,y_2)$ такие, что $v_1=\partial/\partial y_1$, $v_2=\partial/\partial y_2$. Посмотрим, как изменится это утверждение, если ослабить условие гладкости векторных полей. А именно, предположим, что векторные поля $v_1,v_2$ обладают следующим набором свойств.

Замечание 8. Отмеченными свойствами 1–5 обладают векторные поля $\operatorname{sgrad} s_1$, $\operatorname{sgrad} s_2$ на вполне регулярных торах Лиувилля в случае, когда их критический граф представляет собой набор непересекающихся окружностей.

Лемма 3. Пусть векторные поля $v_1,v_2$ обладают свойствами 1–5. Тогда фазовые потоки этих полей корректно определены и коммутируют, т.е. существует $C^1$-гладкая замена переменных $\mathbf{y}=f(\mathbf{x})$ такая, что $v_i=\partial/\partial y_i$. Более того, эта замена принадлежит классу $C^{\infty}$, за исключением прямой $x_2=0$.

Доказательство. Заметим, что условия 1–3 гарантируют существование и единственность решения задач Коши $\dot{\mathbf{x}}=v_i(\mathbf{x})$ с начальным данным в диске $D$ (поскольку выполнены условия теоремы Пикара). Более того, решения будут непрерывно зависеть от начальных условий и параметров.

Пусть $P=(0,0)$. Покажем, что в малой окрестности этой точки поля $v_1$ и $v_2$ можно выпрямить. Разобьем доказательство этого утверждения на два шага.

Шаг 1. Сначала выпрямим одно из полей. Пусть $v_1(P)$ не параллельно $\partial/\partial x_1$ (так можно считать в силу свойства $4$). Опишем процедуру его выпрямления.

Обозначим через $\Phi(t,x)$ точку решения задачи Коши

$$ \begin{equation*} \begin{cases} \dot{\mathbf{x}}=v_1(\mathbf{x}), \\ \mathbf{x}(0)=(x,0) \end{cases} \end{equation*} \notag $$
в момент времени $t$.

Согласно теореме о непрерывной зависимости решения от начальных данных в малой окрестности нуля отображение $\Phi(t,x)$ является непрерывным. Покажем, что это отображение является непрерывно дифференцируемым.

Согласно определению вектор-функция $\Phi(t,x)$ удовлетворяет дифференциальному уравнению

$$ \begin{equation*} \frac{\partial \Phi(t,x)}{\partial t}=v_1(\Phi(t,x)). \end{equation*} \notag $$
Поскольку векторное поле $v_1$ и отображение $\Phi(t,x)$ непрерывны, то частная производная ${\partial \Phi(t,x)}/{\partial t}$ определена и непрерывна в малой окрестности нуля.

Теперь вычислим производную отображения $\Phi$ по второму аргументу. Если бы векторное поле $v_1$ было гладким, то была бы верна следующая формула:

$$ \begin{equation*} \frac{\partial\Phi(t,x)}{\partial x}= \begin{pmatrix}1\\0\end{pmatrix} +\int_0^t\frac{\partial v_1(\Phi(s,x))}{\partial x_1}\,ds. \end{equation*} \notag $$
Отметим, что в нашем случае эта формула по-прежнему работает. Действительно, поскольку векторное поле $v_1$ удовлетворяет условию $3$ и на прямой $x_2=0$ в малой окрестности точки $P$ оно не параллельно полю $\partial/\partial x_1$, то при $t>0$ и $t<0$ формула применима. А так как при $t=0$ пределы справа и слева этой частной производной совпадают, равенство остается верным при достаточно малых $t$ и $x$. Следовательно, частная производная ${\partial\Phi(t,x)}/{\partial x}$ корректно определена и непрерывна.

Итак, поскольку первые частные производные отображения $\Phi(t,x)$ корректно определены и непрерывны, само $\Phi(t,x)$ непрерывно дифференцируемо в малой окрестности нуля. Теперь вычислим матрицу Якоби отображения $\Phi(t,x)$ в точке $P$:

$$ \begin{equation*} J=\begin{pmatrix} v_1^1(P) & 1\\ v_1^2(P) & 0 \end{pmatrix}. \end{equation*} \notag $$
Поскольку $v_1(P)$ не параллельно $\partial/\partial x_1$, определитель $\det J$ не равен нулю. Следовательно, выполнены условия теоремы об обратном отображении и в координатах $(t,x)$ векторное поле $v_1$ совпадает с $\partial/\partial t$. Отметим также, что при $x\neq0$ произведенная замена координат является бесконечно гладкой. Поэтому в новых координатах условия 1–5 будут по-прежнему выполнены.

Шаг 2. Теперь выпрямим второе поле. Для удобства переобозначим переменные: переменную $t$ обозначим через $y$. Согласно шагу $1$ выполнено равенство $v_1=\partial/\partial y$. Воспользуемся свойством $4$. При $y\neq0$ имеем

$$ \begin{equation*} 0=[v_1,v_2]=\frac{\partial v_2}{\partial y}. \end{equation*} \notag $$
Значит, почти всюду поле $v_2$ не зависит от $y$. А следовательно, векторное поле $v_2$ зависит только от $x$. Отсюда также следует, что $v_2$ – гладкое векторное поле.

Заметим, что если $\mathbf{r}(t)=(x(t),y(t))$ – решение дифференциального уравнения $\dot{\mathbf{r}}(t)=v_2(\mathbf{r}(t))$, то для любого $C\in \mathbb{R}$ вектор-функция $(x(t),y(t)+C)$ тоже является решением этого уравнения. Поэтому если рассмотреть отображение $\Psi(t,z)$ как решение задачи Коши

$$ \begin{equation*} \begin{cases} \dot{\mathbf{r}}=v_2(\mathbf{r}), \\ \mathbf{r}(0)=(0,z) \end{cases} \end{equation*} \notag $$
в момент времени $t$, то $\Psi(t,z)=\Psi(t,0)+z$. Рассуждая аналогично шагу $1$, покажем, что отображение $\Psi(t,z)$ является непрерывно дифференцируемым и обратимым в окрестности нуля. Более того, $\partial/\partial z=\partial/\partial y$. Следовательно, в координатах $(t,z)$ векторные поля выпрямляются и $v_1=\partial/\partial z$, $v_2=\partial/\partial t$.

Лемма 3 доказана.

Итак, мы убедились, что фазовые потоки векторных полей $\operatorname{sgrad} s_i$ корректно определены и коммутируют почти всюду на вполне регулярных торах Лиувилля. Исключение могут составлять лишь те точки, в которых пересекаются две окружности критического графа. Однако таких точек лишь конечное число и на коммутативность фазовых потоков они никак не повлияют. Следовательно, фазовые потоки коммутируют всюду на торах Лиувилля.

Поскольку фазовые потоки – непрерывные отображения, а векторные поля $v_1$ и $v_2$ линейно независимы и непрерывны, угловые координаты являются непрерывно дифференцируемыми на каждом вполне регулярном торе Лиувилля. Для того чтобы их задать однозначно, будем считать, что начало отсчета расположено в точке $\psi_{1,2}=0$. Непрерывность координат $(s_1,s_2,\varphi_1,\varphi_2)$ снова следует из теоремы о непрерывной зависимости решения задачи Коши от начальных данных и параметров.

Для вполне регулярных слоев теорема 3 почти доказана. Остается показать, что построенные угловые координаты являются $2\pi$-периодическими.

Лемма 4. Координаты $(\varphi_1,\varphi_2)$ являются $2\pi$-периодическими. Координатные линии $\varphi_1$ и $\varphi_2$ гомологичны координатным линиям $\psi_1$ и $\psi_2$ соответственно.

Доказательство. Для начала заметим, что на каждом вполне регулярном торе Лиувилля форма $\alpha$ когомологична форме $\alpha_1=s_1\,d\psi_1+s_2\,d\psi_2$. Более того, $\alpha\,{-}\,\alpha_1$ есть дифференциал функции $f$, которая является непрерывно дифференцируемой в окрестности вполне регулярного слоя и почти всюду принадлежит классу $C^{\infty}$. Переход к когомологичной форме не изменит значений интегралов от нее. Поэтому можем считать, что в целой окрестности вполне регулярного тора
$$ \begin{equation*} \alpha=s_1 \,d\psi_1+s_2\, d\psi_2+\beta_1(s_1,s_2,\psi_1,\psi_2)\,ds_1+\beta_2(s_1,s_2,\psi_1,\psi_2)\,ds_2, \end{equation*} \notag $$
где функции $\beta_i$ являются непрерывными в малой окрестности вполне регулярного слоя и бесконечно гладкими почти всюду.

Следовательно, матрица формы $\omega=d\alpha$ в координатах $(s_1,s_2,\psi_1,\psi_2)$ имеет следующий вид:

$$ \begin{equation*} \omega=\begin{pmatrix} 0 & \dfrac{\partial\beta_2}{\partial s_1}-\dfrac{\partial\beta_1}{\partial s_2} & 1-\dfrac{\partial\beta_1}{\partial \psi_1} & -\dfrac{\partial\beta_1}{\partial \psi_2} \\ -\dfrac{\partial\beta_2}{\partial s_1}+\dfrac{\partial\beta_1}{\partial s_2}& 0 & -\dfrac{\partial\beta_2}{\partial \psi_1} & 1-\dfrac{\partial\beta_2}{\partial \psi_2} \\ -1+\dfrac{\partial\beta_1}{\partial \psi_1} & \dfrac{\partial\beta_2}{\partial \psi_1} & 0 & 0 \\ \dfrac{\partial\beta_1}{\partial \psi_2} & -1+\dfrac{\partial\beta_2}{\partial \psi_2} & 0 & 0 \end{pmatrix}. \end{equation*} \notag $$
Заметим, что поскольку $\omega$ является непрерывной формой, частные производные функций $\beta_i$ по переменным $\psi_j$ непрерывны. Значит, на каждом вполне регулярном торе Лиувилля $\beta_i\in C^1$.

Система уравнений интегральных кривых векторного поля $\operatorname{sgrad}s_1$ принимает следующий вид:

$$ \begin{equation} \begin{cases} \dfrac{\partial \beta_2}{\partial \psi_1}\dot{\psi}_1-\biggl(1-\dfrac{\partial \beta_2}{\partial \psi_2}\biggr)\dot{\psi}_2=0, \\ \biggl(1-\dfrac{\partial \beta_1}{\partial \psi_1}\biggr)\dot{\psi}_1-\dfrac{\partial \beta_1}{\partial \psi_2}\dot{\psi}_2=1. \end{cases} \end{equation} \tag{3.2} $$
Избавляясь от переменной $t$, получим уравнение траекторий этого поля
$$ \begin{equation*} \frac{\partial \beta_2}{\partial \psi_1}\,d\psi_1=\biggl(1-\frac{\partial \beta_2}{\partial \psi_2}\biggr)\,d\psi_2. \end{equation*} \notag $$
Рассмотрим это уравнение на цилиндре с координатами $(\psi_1,\psi_2)$, где переменная $\psi_1$ берется по модулю $2\pi$. На этом цилиндре оно имеет первый интеграл $F=\psi_2\,{-}\,\beta_2(\psi_1,\psi_2)$. Поскольку функция $\beta_2$ непрерывна на торе, она ограничена. Следовательно, линии уровня функции $F$ замкнуты и ограничены. А стало быть, они компактны. Отметим также, что в силу невырожденности формы $\omega$ градиент функции $F$ отличен от нуля. Значит, по теореме о неявной функции линии уровня $F$ суть $C^1$-подмногообразия. Поскольку компактное одномерное многообразие гомеоморфно окружности, траектории поля $\operatorname{sgrad}s_1$ замкнуты.

Так как траектории поля $\operatorname{sgrad}s_1$ замкнуты и форма $\omega$ является невырожденной, интегральные кривые этого поля являются периодическими. Пусть $T>0$ – наименьший период интегральной кривой. Проинтегрируем от $0$ до $T$ уравнения системы (3.2). Из первого уравнения получим $\psi_2(0)=\psi_2(T)$, а из второго получим $\psi_1(T)=T+\psi_1(0)$. Значит, $T=2\pi n$ для некоторого натурального $n$. Осталось доказать, что $n=1$.

В силу теоремы существования и единственности решения задачи Коши интегральные траектории не имеют самопересечений при $t\in[0,T)$. Покажем, что при $n>1$ самопересечение обязательно будет присутствовать. Предположим, что для некоторой интегральной кривой $\chi=(\psi_1(t),\psi_2(t))$ это неверно. Рассмотрим эту кривую на координатной плоскости $(\psi_1,\psi_2)$, считая, что $\psi_i(0)\in[0,2\pi)$. Заметим, что $\chi$ ограничена по координате $\psi_2$, поскольку $\psi_2(0)=\psi_2(T)$. Обозначим минимум функции $\psi_2(t)$ через $m$, а максимум – через $M$. Заметим, что кривая $\chi$ разбивает координатную плоскость на две компоненты связности, одна из которых содержит полуплоскость $\psi_2<m$, а другая – полуплоскость $\psi_2>M$.

Рассмотрим на координатной плоскости $(\psi_1,\psi_2)$ новую кривую $\chi'=(\psi_1(t)+2\pi,\psi_2(t))$. Если бы эта кривая пересекала кривую $\chi$ в точке $(\psi_1^0,\psi_2^0)$, то точка $(\psi_1^0+2\pi,\psi_2^0)$ также принадлежала бы кривой $\chi$. А поскольку эти две точки на торе совпадают, в ней происходило бы самопересечение, что неверно по нашему предположению. Значит, кривые $\chi$ и $\chi'$ не пересекаются. Однако минимумы и максимумы по второй координате у этих двух кривых совпадают. Следовательно, точки минимумов и максимумов по $\psi_2$ кривой $\chi'$ лежат в разных компонентах связности, на которые кривая $\chi$ разбивает координатную плоскость. Остается отметить, что $\chi'$ непрерывна. Значит, $\chi$ и $\chi'$ должны иметь общую точку, что, как мы показали выше, неверно. Противоречие.

Следовательно, $n=1$ и координатные линии вида $\psi_2=\mathrm{const}$ гомологичны координатым линиям вида $\varphi_2=\mathrm{const}$. В случае векторного поля $\operatorname{sgrad}s_2$ и координаты $\varphi_2$ рассуждения аналогичные.

Лемма 4 доказана.

Для вполне регулярных торов Лиувилля теорема 3 доказана. Осталось построить переменные действие-угол на псевдорегулярных торах Лиувилля.

Лемма 5. Функции $s_i$ могут быть продолжены по непрерывности до $C^1$-функций от $H$ и $\Lambda$ на всем $\widetilde{M}^4$.

Доказательство. На вполне регулярных торах Лиувилля функции $s_i$ определены формулой (3.1). Поскольку границы области возможного движения на каждом листе биллиардной книжки меняются непрерывно в зависимости от точки камеры бифуркационной диаграммы, функции $a_{i,j}$ и $b_{i,j}$ (из формулы (3.1)) являются непрерывными в $\widetilde{M}^4$. Поэтому функции $s_i$ корректно доопределяются до непрерывных на всем $\widetilde{M}^4$. Покажем, что $s_i$ являются $C^1$-функциями от $H$ и $\Lambda$.

Если слой $(h_0,\lambda_0)$ является псевдорегулярным, то согласно лемме 1 некоторые из $a_{i,j}$ или $b_{i,j}$ представляются в виде $\min\{\lambda_0,\Lambda\}$ или $\max\{\lambda_0,\Lambda\}$. Рассмотрим один из интегралов формулы (3.1). Будем считать, что $b_{1,j}=\widehat{\lambda}=\mathrm{const}$, $a_{1,j}=\min\{\lambda_0,\Lambda\}$. Поскольку множитель $\sqrt{H}$ выносится из-под знака интеграла, частная производная по $H$ корректно определена и непрерывна в любой точке. Теперь вычислим частную производную от этого интеграла по $\Lambda$. Заметим, что подынтегральная функция при $\Lambda<\lambda_0$ равна нулю в нижнем пределе. Поэтому по правилу дифференцирования интеграла с переменными пределами левая и правая частные производные по $\Lambda$ равны. Следовательно, функции $s_i$ являются непрерывно дифференцируемыми от $H$ и $\Lambda$.

Лемма 5 доказана.

Итак, мы построили переменные действия на всем $\widetilde{M}^4$. Остается доопределить переменные углов на псевдорегулярных торах. Пусть псевдорегулярный тор $T_0$ отвечает значению $(h_0,\lambda_0)$ пары интегралов $(H,\Lambda)$. Выберем $\varepsilon>0$ такое, что при $\lambda\in(\lambda_0-\varepsilon,\lambda_0)\cup(\lambda_0,\lambda_0+\varepsilon)$ слой в $\widetilde{M}^4$, отвечающий паре $(h,\lambda)$ ($h$ произвольное), будет вполне регулярным. Тогда мы можем рассмотреть непрерывные продолжения полей $\operatorname{sgrad} s_i$ при $\lambda<\lambda_0$ и при $\lambda>\lambda_0$. В координатах $(\lambda_1,\lambda_2,H,\Lambda)$ эти продолжения будут совпадать. Доказательство этого факта производится так же, как в лемме 5.

Для завершения доказательства пункта 3) теоремы 3 остается заметить, что коммутативность потоков $\operatorname{sgrad} s_i$ на псевдорегулярных торах Лиувилля и $2\pi$-периодичность траекторий наследуется при предельном переходе. Все оставшиеся свойства будут следовать из теоремы о непрерывной зависимости решения задачи Коши от начальных условий и параметров.

Теорема 3 доказана.

§ 4. Функции вращения биллиардов-книжек и метод их вычисления. Реберный траекторный инвариант

Пусть $v=\operatorname{sgrad} H$ – интегрируемая гамильтонова система (ИГС) на симплектическом многообразии $M^4$ с дополнительным первым интегралом $F$. Если изоэнергетическая поверхность $Q^3_h=\{x\in M^4\mid H(x)=h\}$ является компактной и регулярной, а ограничение $F$ на $Q^3_h$ является функцией Ботта, то слоение Лиувилля этой системы на $Q^3_h$ однозначно кодируется инвариантом Фоменко–Цишанга.

Напомним, что инвариантом Фоменко (или грубой молекулой) называется тип базы слоения Лиувилля на $Q_h^3$ – граф Риба, вершины которого оснащены символами атомов, описывающих слоение Лиувилля в окрестности особого слоя. Этот граф однозначно классифицирует ИГС на изоэнергетических поверхностях с точностью до грубой лиувиллевой эквивалентности, т.е. гомеоморфизма баз слоений Лиувилля, поднимающегося в окрестности любого слоя до послойного гомеоморфизма. Инвариантом Фоменко–Цишанга (или меченой молекулой) называется грубая молекула, оснащенная метками $r$, $\varepsilon$, $n$, которые отвечают виду склейки торов Лиувилля на границах соседних атомов. Этот инвариант в свою очередь классифицирует все ИГС на изоэнергетических поверхностях с точностью до лиувиллевой эквивалентности, т.е. послойного гомеоморфизма слоений Лиувилля (см. [41]).

Наша цель – разобраться с устройством функций вращения произвольной биллиардной книжки, а также описать метод их вычисления. Напомним определение функции вращения на ребрах молекул гладких ИГС.

Выберем на всем ребре молекулы координаты $(F,\varphi_1,\varphi_2)$, где $\varphi_i$ – угловые переменные из теоремы Лиувилля (см. теорему 1); согласно п. 3) этой теоремы в координатах $(F,\varphi_1,\varphi_2)$ поток $\operatorname{sgrad} H$ выпрямляется. Иными словами, траектории системы суть прямолинейные обмотки торов Лиувилля и

$$ \begin{equation*} \operatorname{sgrad} H=u(H,F)\,\frac{\partial}{\partial \varphi_1}+v(H,F)\,\frac{\partial}{\partial \varphi_2}. \end{equation*} \notag $$

Определение 6. Функцией вращения на ребре грубой молекулы называется функция $\rho(F)$, равная тангенсу угла обмотки на торе Лиувилля в координатах $(\varphi_1,\varphi_2)$. Иными словами, функция вращения определена следующей системой:

$$ \begin{equation*} \rho(F)= \begin{cases} \dfrac{v(F)}{u(F)},&\text{если } u(F)\neq0, \\ \infty,&\text{если }u(F)=0. \end{cases} \end{equation*} \notag $$

Отметим, что согласно теореме 3 такое определение функций вращения абсолютно корректно для биллиардных книжек.

Замечание 9. Функция вращения всегда определена с точностью до (рационального) дробно-линейного преобразования. Ее вид зависит от базиса $\gamma_1$, $\gamma_2$ на торе Лиувилля, который участвует в определении переменных действия. Как и при доказательстве теоремы 3, всюду далее мы будем считать, что $\gamma_1$ направлен вдоль первой эллиптической координаты, а $\gamma_2$ – вдоль второй.

Остается найти быстрый способ вычисления функций вращения биллиардных книжек. Для этого напомним, что на всем фазовом пространстве корректно определено отображение проекции $\pi$ (из фазового пространства биллиардной книжки на стол-комплекс), которое является гладким почти всюду. А следовательно, почти всюду в $\widetilde{M}^4$ выполнено соотношение

$$ \begin{equation} \pi_*(\operatorname{sgrad} H)=u(s_1,s_2)\cdot\pi_*(\operatorname{sgrad} s_1)+v(s_1,s_2)\cdot\pi_*(\operatorname{sgrad} s_2). \end{equation} \tag{4.1} $$
Здесь через $\pi_*$ обозначен дифференциал отображения $\pi$. Остается понять, как вычислить $\pi_*$ от косого градиента гладкой функции.

Заметим, что функции $H$, $\Lambda$, $s_1$, $s_2$ являются гладкими первыми интегралами геодезического потока на плоскости. В окрестности регулярного слоя этой системы почти всюду определены эллиптические координаты $\lambda_1,\lambda_2$ и сопряженные им импульсы $p_1$, $p_2$. Эти координаты по совокупности переменных являются каноническими. Следовательно, для любой гладкой функции $f$ на фазовом пространстве вектор косого градиента в координатах $(\lambda_1,\lambda_2,p_1,p_2)$ вычисляется следующим образом:

$$ \begin{equation*} \operatorname{sgrad} f=\biggl(\frac{\partial f}{\partial p_1}, \frac{\partial f}{\partial p_2}, -\frac{\partial f}{\partial \lambda_1}, -\frac{\partial f}{\partial \lambda_2}\biggr). \end{equation*} \notag $$
Поскольку проекция $\pi$ отбрасывает координаты импульсов, то получаем
$$ \begin{equation} \pi_*(\operatorname{sgrad} f)=\biggl(\frac{\partial f}{\partial p_1}, \frac{\partial f}{\partial p_2}\biggr). \end{equation} \tag{4.2} $$
Так как импульсы корректно определены почти всюду в $\widetilde{M}^4$, последняя формула корректна почти всюду. Применим ее для того, чтобы найти явный вид функций вращения биллиардных книжек.

Согласно доказательству теоремы 3 функции вращения на ребрах молекулы биллиардной книжки вычисляются по формуле (3.1). Обозначим функцию $H\cdot \Lambda$ через $F$; тогда

$$ \begin{equation*} \begin{aligned} \, \frac{\partial s_i}{\partial p_k} &=\frac{1}{2\pi}\sum_{j=1}^{N_i}\int_{a_{i,j}}^{b_{i,j}} \frac{1}{2\sqrt{2(F-Ht)(a-t)(b-t)}}\biggl(\frac{\partial F}{\partial p_k}-t\,\frac{\partial H}{\partial p_k}\biggr)dt \\ &= A_i\,\frac{\partial F}{\partial p_k}-B_i\,\frac{\partial H}{\partial p_k}, \end{aligned} \end{equation*} \notag $$
где
$$ \begin{equation*} \begin{gathered} \, A_i=\sum_{j=1}^{N_i}\int_{a_{i,j}}^{b_{i,j}}\frac{dt}{4\pi\sqrt{2(F-Ht)(a-t)(b-t)}}, \\ B_i=\sum_{j=1}^{N_i}\int_{a_{i,j}}^{b_{i,j}}\frac{t\,dt}{4\pi\sqrt{2(F-Ht)(a-t)(b-t)}}. \end{gathered} \end{equation*} \notag $$
Выражая $\partial H/\partial p_k$ через $\partial s_i/\partial p_k$, с учетом формул (4.1), (4.2) получим равенство
$$ \begin{equation*} \pi_*(\operatorname{sgrad} H)=-\frac{A_2}{B_1 A_2-A_1 B_2}\, \pi_*(\operatorname{sgrad} s_1)+\frac{A_1}{B_1 A_2-A_1 B_2}\, \pi_*(\operatorname{sgrad} s_2), \end{equation*} \notag $$
откуда получаем $\rho=-{A_1}/{A_2}$. Меняя знак $s_1$ и направление $\varphi_1$, получим $\rho={A_1}/{A_2}$. Таким образом, мы доказали следующую теорему.

Теорема 4. Функции вращения $\rho$ биллиарда-книжки на ребрах его молекулы вычисляются по формуле

$$ \begin{equation} \rho(\Lambda)=\frac{\displaystyle\sum_{j=1}^{N_1}\int_{a_{1,j}}^{b_{1,j}}\frac{dt} {\sqrt{(\Lambda-t)(a-t)(b-t)}}} {\displaystyle\sum_{j=1}^{N_2}\int_{a_{2,j}}^{b_{2,j}} \frac{dt}{\sqrt{(\Lambda-t)(a-t)(b-t)}}}, \end{equation} \tag{4.3} $$
где $N_i, a_{i,j},b_{i,j}$ зависят от комбинаторного устройства книжки. При этом числа $N_i$ постоянны на ребрах, а функции $a_{i,j}, b_{i,j}$ принимают следующие значения:

Аналогичная формула для биллиарда внутри эллипса была получена В. Драговичем и М. Раднович в работе [8]. Отметим, что В. Драгович и М. Раднович посвятили ряд работ изучению периодических траекторий интегрируемых биллиардов (см. [42]–[44]).

Напомним определение траекторной эквивалентности динамических систем.

Определение 7. Две динамические системы называются траекторно эквивалентными, если существует гомеоморфизм фазовых пространств этих систем, переводящий траектории первой системы в траектории второй.

В случае, когда функция вращения на некотором ребре молекулы корректно определена и принимает каждое свое значение лишь в конечном числе точек, на этом ребре, вообще говоря, можно вычислить траекторный инвариант $R$. Напомним его определение.

Пусть функция $\rho(F)$ определена на интервале $(0,1)$. Построим вектор $R$, состоящий из вещественных чисел и символов $+\infty$ и $-\infty$. В качестве первого элемента возьмем правый предел функции $\rho$ в нуле. Затем, двигаясь вдоль интервала $(0,1)$, будем последовательно выписывать значения функции $\rho$ в максимумах, минимумах и полюсах. При этом каждый полюс изображается двумя символами $\pm\infty$ , знаки которых соответствуют знакам левого и правого пределов в этой точке. В конце запишем левый предел функции $\rho$ в единице. Полученный вектор называется вектором вращения на ребре (рис. 1).

Хорошо известно, что две ИГС траекторно эквивалентны на ребрах молекул, если и только если найдутся базисы на соответствующих торах Лиувилля, для которых векторы вращения этих систем будут совпадать (см. [36]). Таким образом, траекторный инвариант $R$ с точностью до замены базиса на торе однозначно описывает структуру траекторий ИГС на ребрах молекул.

В следующих параграфах приведем примеры подсчета функций и векторов вращения некоторых плоских биллиардов и биллиардных книжек.

§ 5. Функции вращения и реберные траекторные инварианты плоских биллиардов, симметричных относительно координатных осей

В этом параграфе мы рассмотрим три плоских биллиардных стола, симметричных относительно осей координат. В состав границы таких столов входит не более двух софокусных квадрик. Это свойство упрощает анализ монотонности функций вращения.

5.1. Плоский биллиард, ограниченный эллипсом

Рассмотрим биллиард внутри эллипса параметра $0$. Инвариант Фоменко–Цишанга этого биллиарда изображен на рис. 2. Два правых ребра молекулы соответствуют случаю $\Lambda<b$ (т.е. когда каустикой является эллипс). Эти ребра мы будем называть эллиптическими. Ребро слева соответствует случаю $\Lambda\in(b,a)$ (т.е. когда каустикой является гипербола), поэтому будем называть его гиперболическим.

Рассмотрим эллиптическое ребро молекулы. Выберем цикл $\gamma_1$ на торе вдоль координаты $\lambda_1$, а $\gamma_2$ – вдоль $\lambda_2$, как показано на рис. 3, a. Ориентацию на циклах согласуем с ориентацией векторных полей вдоль них. Как было показано в доказательстве теоремы 3, переменные действия $s_1$, $s_2$ вычисляются по следующим формулам:

$$ \begin{equation} s_1=\frac{1}{\pi}\int_{0}^{\Lambda}\sqrt{\frac{H(\Lambda-t)}{2(a-t)(b-t)}}\,dt, \qquad s_2=\frac{2}{\pi}\int_{a}^{b}\sqrt{\frac{H(\Lambda-t)}{2(a-t)(b-t)}}\,dt. \end{equation} \tag{5.1} $$

Оба этих интеграла имеют наглядную геометрическую интерпретацию. Поскольку проекция $\pi$ цикла $\gamma_2$ касается каустики в каждой точке, интеграл от формы $\alpha$ по нему есть не что иное, как длина каустического эллипса, умноженная на квадрат вектора скорости, т.е.

$$ \begin{equation*} s_2=\frac{\sqrt{2H}}{\pi}\cdot E(\Lambda), \end{equation*} \notag $$
где $E(\Lambda)$ – длина эллипса параметра $\Lambda$, т.е. каустики.

С интегралом $s_1$ все куда интереснее. Заметим, что $\gamma_1$ гомотопен любому из циклов, представленных на рис. 3, b. Следовательно, по лемме 2 интегралы по таким циклам совпадают. Рассмотрим один из них и обозначим его через $\gamma'_1$. Крайние точки дуги проекции этого цикла обозначим через $A$ и $B$, а точку, лежащую на граничном эллипсе, обозначим через $O$. Однако, как и в случае цикла $\gamma_2$, проекция $\pi(\gamma'_1)$ в каждой точке касается поля направлений на торе Лиувилля. А значит,

$$ \begin{equation*} s_2=\frac{\sqrt{2H}}{\pi}(AO+OB-\operatorname{arc} AB), \end{equation*} \notag $$
где через $\operatorname{arc} AB$ обозначена длина меньшей дуги эллипса. В таком случае $\dfrac{\pi}{\sqrt{2H}}(s_1+s_2)$ есть сумма длин отрезков $OA$, $OB$ и бо́льшей дуги $AB$. Поскольку точка $O$ произвольная, отрезки $OA$ и $OB$ являются касательными к каустическому эллипсу, а величина $s_1\,{+}\,s_2$ не зависит от точки $O$, то верен следующий факт. Если на эллипс параметра $\Lambda$ накинуть петельку длины $\dfrac{1}{\sqrt{2H}}(s_1+s_2)$, поставить внутрь петли грифель карандаша и, натянув карандаш до предела, нарисовать кривую, то в результате получится эллипс параметра $0$.

Поскольку вместо граничного и каустического эллипсов могут быть рассмотрены любые два произвольных софокусных эллипса, имеет место следующая теорема, доказанная Ч. Грейвсом1 в 1850 г.

Теорема 5 (Ч. Грейвс). Если на эллипс длины $l$ накинуть петельку бо́льшей длины, поставить внутрь петли грифель карандаша и, натянув карандаш до предела, нарисовать кривую, то в результате получится эллипс, софокусный с заданным (рис. 4).

Отметим, что эта теорема верна не только для эллипсов, но и для гипербол, а также парабол. Однако формулируется она немного иначе.

Теорема 6. Пусть $l$, $l'$ – сонаправленные ветви двух софокусных гипербол (или две сонаправленные софокусные параболы). Тогда из любой точки $P\in l$ можно провести две касательные $PA$, $PB$ к $l'$ ($A,B\in l'$) и величина $PA+PB-\operatorname{arc} AB$, где $\operatorname{arc} AB$ – дуга на $l'$, не зависит от точки $P$ (рис. 5).

Теперь вернемся к исходной задаче и найдем функцию вращения на эллиптических ребрах. С учетом равенств (5.1) и теоремы 4 эта функция вычисляется по формуле

$$ \begin{equation*} \rho_1(\Lambda)=\frac{\displaystyle\int_{0}^{\Lambda}\Phi(t,\Lambda)\,dt} {\displaystyle2\int_{a}^{b}\Phi(t,\Lambda)\,dt}, \quad\text{где }\ \Phi(t,u)=\frac{1}{\sqrt{(u-t)(a-t)(b-t)}}. \end{equation*} \notag $$
На гиперболических ребрах функция вращения выглядит иначе:
$$ \begin{equation*} \rho_2(\Lambda)=\frac{\displaystyle\int_{0}^{b}\Phi(t,\Lambda)\,dt} {\displaystyle\int_{\Lambda}^{a}\Phi(t,\Lambda)\,dt}. \end{equation*} \notag $$
Отметим, что полученный нами результат в точности совпадает со следующим результатом В. В. Ведюшкиной (см. [37]).

Предложение 1 (В. В. Ведюшкина). Функции вращения $\rho_1$ и $\rho_2$ биллиарда внутри эллипса являются монотонными на интервалах $(0,b)$ и $(b,a)$ соответственно. Если на ребрах молекулы выбрать направление к седловому атому, то на эллиптических ребрах вектор вращения $R$ равен $(0,+\infty)$, а на гиперболическом равен $(l(a,b),+\infty)$, где $l(a,b)$ – константа, зависящая от параметров $a$ и $b$.

Замечание 10. В. В. Ведюшкина вычислила не только реберный траекторный инвариант биллиарда внутри эллипса, но и меченую $t$-молекулу этой системы. Ее подход был основан на следующем факте. Геодезический поток на трехосном эллипсоиде переходит в биллиард внутри эллипса при стремлении меньшей полуоси эллипсоида к нулю (рис. 6). При этом траекторные инварианты геодезического потока на эллипсоиде переходят в траекторные инварианты биллиарда внутри эллипса. Отметим, что меченая $t$-молекула геодезического потока на эллипсоиде была вычислена А. Т. Фоменко и А. В. Болсиновым (см., например, [36]).

5.2. Биллиард внутри эллиптического кольца

Рассмотрим плоский биллиард внутри кольца, ограниченного эллипсами параметров $0$ и $\lambda_0>0$. Этот биллиардный стол, а также инвариант Фоменко–Цишанга соответствующего биллиарда изображены на рис. 7.

1. Эллиптические ребра. Вычислим функцию вращения этого биллиарда на эллиптических ребрах. Для этого заметим, что первая эллиптическая координата в области возможного движения эллиптического тора меняется на отрезке $[0,\min\{\lambda_0,\Lambda\}]$, в то время как вторая координата принимает любое значение из отрезка $[b,a]$. При этом на торе Лиувилля первая координата пробегает отрезок $[0,\min\{\lambda_0,\Lambda\}]$ два раза, а вторая координата четырежды обходит отрезок $[b,a]$. Следовательно, функция вращения на эллиптическом ребре вычисляется по формуле

$$ \begin{equation} \rho_1(\Lambda)=\frac{\displaystyle\int_{0}^{\min\{\lambda_0,\Lambda\}}\Phi(t,\Lambda)\,dt} {\displaystyle2\int_{a}^{b}\Phi(t,\Lambda)\,dt}. \end{equation} \tag{5.2} $$
Отметим, что эта функция является непрерывной, но не является гладкой в точке $\Lambda=\lambda_0$. Исследуем ее на монотонность.

Предложение 2. Функция $\rho_1$ имеет ровно один локальный максимум на интервале $(0,b)$. Если на эллиптических ребрах выбрать направление к седловому атому, то $R=(0,\widehat{l}(a,b,\lambda_0),0)$, где $\widehat{l}(a,b,\lambda_0)$ – некоторая константа.

Доказательство. Заметим, что при $\Lambda<\lambda_0$ функция $\rho_1(\Lambda)$ совпадает с функцией вращения биллиарда, ограниченного эллипсом. Следовательно, при $\Lambda<\lambda_0$ функция $\rho_1$ возрастает и $\lim_{\Lambda\to 0+}\rho_1(\Lambda)=0$ (здесь под символом $0+$ подразумевается правый предел в нуле).

Пусть теперь $\Lambda>\lambda_0$. В этом случае пределы интегралов в формуле (5.2) статичны. Отметим, что если $b>\Lambda_1>\Lambda_2>\lambda_0$, то для любого $t\in[0,\lambda_0]$ выполнено неравенство $\Phi(t,\Lambda_1)<\Phi(t,\Lambda_2)$. А следовательно,

$$ \begin{equation*} \int_0^{\lambda_0}\Phi(t,\Lambda_1)\,dt<\int_0^{\lambda_0}\Phi(t,\Lambda_2)\,dt. \end{equation*} \notag $$
Если же $t\in[b,a]$, то для $b>\Lambda_1>\Lambda_2>\lambda_0$ выполнено неравенство $\Phi(t,\Lambda_1)>\Phi(t,\Lambda_2)$, откуда получаем
$$ \begin{equation*} \int_b^a\Phi(t,\Lambda_1)\,dt>\int_b^a\Phi(t,\Lambda_2)\,dt. \end{equation*} \notag $$
Таким образом, при $\Lambda\in(\lambda_0,b)$ числитель дроби в (5.2) убывает, а знаменатель возрастает. Следовательно, функция $\rho_1$ убывает при $\Lambda>\lambda_0$. Остается заметить, что предел числителя в формуле (5.2) при $\Lambda\to b-$ конечен, а предел знаменателя равен $+\infty$. Значит, $\lim_{\Lambda\to b-}\rho_1(\Lambda)=0$.

Предложение доказано.

Замечание 11. Предложение 2 показывает, что функции вращения биллиардов, вообще говоря, устроены весьма нетривиально, в частности, они не всегда являются монотонными. Таким образом, гипотеза А. Т. Фоменко о том, что функции вращения биллиардов являются монотонными, неверна.

2. Гиперболические ребра. Теперь исследуем функцию вращения на гиперболическом ребре. Нетрудно видеть, что она вычисляется по следующей формуле:

$$ \begin{equation} \rho_2(\Lambda)=\frac{\displaystyle\int_{0}^{\lambda_0}\Phi(t,\Lambda)\,dt} {\displaystyle2\int_{\Lambda}^{a}\Phi(t,\Lambda)\,dt}. \end{equation} \tag{5.3} $$
Поскольку $\lambda_0<b$, предел числителя при $\Lambda\to b+$ отличен от нуля, в то время как предел знаменателя равен $+\infty$. Следовательно, $\lim_{\Lambda\to b+}\rho_2(\Lambda)=0$.

Сделаем замену $s=(t-\Lambda)/(a-\Lambda)$ под знаком интеграла знаменателя дроби (5.3):

$$ \begin{equation} \int_{\Lambda}^{a}\Phi(t,\Lambda)\,dt=\int_0^1\frac{ds}{\sqrt{s(1-s)((a-\Lambda)s+\Lambda-b)}}. \end{equation} \tag{5.4} $$
Из этой формулы, в частности, следует, что предел знаменателя (5.3) при $\Lambda\to a-0$ конечен и равен ${2\pi}/{\sqrt{a-b}}$. Предел числителя тоже конечен и отличен от нуля, поэтому существует $\lim_{\Lambda\to a-}\rho_2(\Lambda)>0$.

Может ли $\rho_2$ быть монотонной? Ответ на этот вопрос весьма труден. Мы рассмотрим два предельных случая.

Предложение 3. Существует такое $p>0$, что при всех $\lambda_0$ таких, что $b-\lambda_0<p$, функция $\rho_2$ будет иметь на интервале $(b,a)$ хотя бы один локальный максимум.

Замечание 12. Если $\lambda_0$ близко к $b$, т.е. внутренняя граница стола довольно сильно прижата к фокальному отрезку (рис. 8, a), то функция вращения $\rho_2$ не будет монотонной.

Доказательство предложения 3. Действительно, если в формулу (5.2) подставить $\lambda_0=b$, то полученная функция с точностью до константы совпадет с функцией вращения биллиарда внутри эллипса на гиперболическом ребре. При этом для любого отрезка, лежащего внутри интервала $(b,a)$, функция $\rho_2(\Lambda)$ сходится равномерно к функции вращения биллиарда внутри эллипса параметра $0$ на гиперболическом ребре. Однако последняя убывает по $\Lambda$, а в нашем случае, если $\rho_2$ монотонна, она возрастает (рис. 9). Следовательно, при $\lambda_0$, близких к $b$, функция $\rho_2$ не является монотонной.

Предложение доказано.

Предположим теперь, что два граничных эллипса расположены достаточно близко друг к другу (см. рис. 8, b), т.е. $\lambda_0$ близко к нулю. Оказывается, этот случай довольно хорошо поддается анализу. Более того, верно следующее утверждение.

Доказательство. Обозначим интеграл в числителе формулы (5.3) через $f(\Lambda)$, а интеграл в знаменателе – через $g(\Lambda)$. Согласно формуле дифференцирования частного знак производной функции $\rho_2$ совпадает со знаком выражения $f'\cdot g-g'\cdot f$, которое с помощью формулы (5.4) можно переписать следующим образом:
$$ \begin{equation*} \begin{aligned} \, &f'\cdot g-g'\cdot f \\ &\qquad =-\frac{1}{2}\int_0^{\lambda_0}\int_0^1\frac{(a-t)s+t-b} {\sqrt{s(1-s)(a-t)(b-t)(\Lambda-t)^3((a-\Lambda)s+\Lambda-b)^3}} \,dt\,ds. \end{aligned} \end{equation*} \notag $$
Подставим в подынтегральное выражение $t=t_0$ и проинтегрируем его по $s$ от $0$ до $1$. Вынося из-под интеграла все ненулевые константы, зависящие от $\Lambda$ и $t_0$, получим функцию
$$ \begin{equation*} h_{t_0}(\Lambda)=\int_0^1\frac{(a-t_0)s+t_0-b}{\sqrt{s(1-s)((a-\Lambda)s+\Lambda-b)^3}}\,ds. \end{equation*} \notag $$
Если мы покажем, что при всех $\Lambda$ функция $h_{0}(\Lambda)$ является отрицательной, то при малых $\lambda_0$ и произвольном $t_0\in[0,\lambda_0]$ функция $h_{t_0}$ будет отрицательной. А следовательно, функция $\rho_2(\Lambda)$ будет монотонно возрастать. Если же функция $h_0$ не будет знакоопределенной, то и $\rho_2$ не будет монотонной.

Заметим, что $\lim_{\Lambda\to b+}h_0(\Lambda)=-\infty$. Теперь вычислим предел этой функции в правом конце отрезка. С точностью до положительной константы он равен

$$ \begin{equation*} \int_0^1\frac{sa-b}{\sqrt{s(1-s)}}\,ds=a \cdot B\biggl(\frac32,\frac12\biggr)-b\cdot B\biggl(\frac12,\frac12\biggr)=\pi\biggl(\frac{a}{2}-b\biggr). \end{equation*} \notag $$
Здесь через $B(x,y)$ обозначена широко известная $B$-функция Эйлера.

Следовательно, если $a>2b$, то при $\Lambda$, близких к $a$, функция $h_0(\Lambda)$ принимает положительные значения. Таким образом, при $a>2b$ функция $h_0$ не является знакоопределенной, а следовательно, $\rho_2$ при малых $\lambda_0$ немонотонна. Тем самым, мы доказали п. 1 предложения.

Теперь докажем п. 2. Покажем, что $h_{t_0}\leqslant 0$ для любого $t_0\in[0,\lambda_0]$. Поскольку при $a+\lambda_0<2b$ пределы функции $h_{t_0}$ отрицательны, достаточно доказать, что $h'_{t_0}$ монотонно возрастает по $\Lambda$ при всех $t_0\in[0,\lambda_0]$.

Действительно, представим $h'_{t_0}(\Lambda)$ в виде суммы двух интегралов:

$$ \begin{equation*} \begin{aligned} \, h'_{t_0}(\Lambda) &=-\frac{3}{2}\int_0^{(b-t_0)/(a-t_0)}\frac{(1-s)((a-t_0)s+t_0-b)}{\sqrt{s(1-s)((a-\Lambda)s+\Lambda-b)^5}}\,ds \\ &\qquad- \frac{3}{2}\int_{(b-t_0)/(a-t_0)}^1\frac{(1-s)((a-t_0)s+t_0-b)}{\sqrt{s(1-s)((a-\Lambda)s+\Lambda-b)^5}}\,ds. \end{aligned} \end{equation*} \notag $$
Поделим полученное выражение на $-3/2$ и в последнем интеграле сделаем замену, поменяв местами концы отрезка:
$$ \begin{equation*} \begin{aligned} \, & \int_0^{(b-t_0)/(a-t_0)}\frac{(1-s)((a-t_0)s+t_0-b)} {\sqrt{s(1-s)((a-\Lambda)s+\Lambda-b)^5}}\,ds \\ &\qquad\qquad +\int_0^{1-(b-t_0)/(a-t_0)}\frac{s((a-b)-(a-t_0)s)} {\sqrt{s(1-s)((a-b)-(a-\Lambda)s)^5}}\,ds. \end{aligned} \end{equation*} \notag $$
Сравним модули подынтегральных выражений на отрезке $[0,(a-b)/(a-t_0)]$. Отметим, что так как $a+\lambda_0<2b$, то и $a+t_0<2b$, а следовательно, правая точка рассматриваемого отрезка меньше $1/2$. Сначала сравним модули числителей. Для этого соберем коэффициенты при одинаковых степенях переменной $s$. Поскольку числитель левого подынтегрального выражения отрицателен, его модуль имеет противоположный знак:
$$ \begin{equation*} \begin{gathered} \, (1-s)(b-t_0-(a-t_0)s)\vee s((a-b)-(a-t_0)s), \\ s^2-s\vee -\frac{b-t_0}{2(a-t_0)}. \end{gathered} \end{equation*} \notag $$
Дискриминант квадратного уравнения $s^2-s+\dfrac{b-t_0}{2(a-t_0)}=0$ равен $1-\dfrac{2(b-t_0)}{(a-t_0)}$. Это число является отрицательным, поскольку $a-t_0<2(b-t_0)$. Следовательно, выражение слева больше.

Теперь сравним $(a-\Lambda)s+\Lambda-b$ и $(a-b)-(a-\Lambda)s$. Сначала соберем коэффициенты при одинаковых степенях переменной $s$:

$$ \begin{equation*} \begin{gathered} \, (a-\Lambda)s+\Lambda-b\vee (a-b)-(a-\Lambda)s, \\ 2(a-\Lambda)s\vee a-\Lambda, \\ s\vee \frac12. \end{gathered} \end{equation*} \notag $$
Следовательно, подкоренное выражение в первом интеграле меньше подкоренного выражения во втором. Таким образом, модуль первого подкоренного выражения больше модуля второго при всех $\Lambda\in[b,a]$. Поскольку первое выражение отрицательно на отрезке $[0,(b-t_0)/(a-t_0)]$, сумма интегралов всюду отрицательна. Значит, функция $h_{t_0}(\Lambda)$ строго монотонна и отрицательна при всех $t_0\in[0,\lambda_0]$. Следовательно, $\rho_2(\Lambda)$ строго монотонна.

Предложение 4 доказано.

5.3. Биллиард внутри бесфокусной области, ограниченной эллипсом и гиперболой

Рассмотрим биллиард внутри бесфокусного стола, ограниченного эллипсом параметра $0$ и гиперболой параметра $\widehat{\lambda}$ (рис. 10, a). Инвариант Фоменко–Цишанга этого биллиарда изображен на рис. 10, b.

Из устройства стола ясно, что функции вращения $\rho_1$, $\rho_2$ на эллиптических и гиперболических ребрах вычисляются по формулам

$$ \begin{equation} \rho_1(\Lambda)=\frac{\displaystyle\int_0^\Lambda \Phi(t,\Lambda)\,dt}{\displaystyle2\int_{\widehat{\lambda}}^a \Phi(t,\Lambda)\,dt}, \qquad \rho_2(\Lambda)=\frac{\displaystyle\int_0^b \Phi(t,\Lambda)\,dt}{\displaystyle\int_{\max\{\widehat{\lambda},\Lambda\}}^a \Phi(t,\Lambda)\,dt} \end{equation} \tag{5.5} $$

соответственно.

Предложение 5. Функции $\rho_1$ и $\rho_2$ являются монотонными на интервалах $(0,b)$ и $(b,a)$ соответственно. Более того, реберный траекторный инвариант рассматриваемого биллиарда совпадает с реберным траекторным инвариантом биллиарда внутри эллипса того же параметра.

Доказательство. Покажем, что при $\Lambda \in (0,b)$ (т.е. на эллиптических ребрах) функция вращения монотонна. Представим $\rho_1$ следующим образом:
$$ \begin{equation} \rho_1(\Lambda)=\frac{\displaystyle\int_0^\Lambda \Phi(t,\Lambda)\,dt}{\displaystyle2\int_{b}^a \Phi(t,\Lambda)\,dt} \cdot\left( 1+\frac{\displaystyle\int_{b}^{\widehat{\lambda}} \Phi(t,\Lambda)\,dt}{\displaystyle\int_{\widehat{\lambda}}^a \Phi(t,\Lambda)\,dt}\right). \end{equation} \tag{5.6} $$
Дробь слева представляет собой функцию вращения на эллиптическом ребре плоского биллиарда, ограниченного эллипсом. Согласно теореме В. В. Ведюшкиной (см. [37]) эта функция является монотонно возрастающей. Покажем, что дробь внутри скобок тоже является монотонно возрастающей. Обозначим знаменатель этой дроби через $f(\Lambda)$, а числитель – через $g(\Lambda)$. Знак производной дроби в скобках совпадает со знаком выражения
$$ \begin{equation*} f'\cdot g-g'\cdot f=\frac{1}{2}\int_{b}^{\widehat{\lambda}}\int_{\widehat{\lambda}}^{a} \frac{s-t}{\sqrt{(a-t)(b-t)(a-s)(b-s)(\Lambda-t)^3(\Lambda-s)^3}}\,dt\,ds. \end{equation*} \notag $$
Поскольку $s\geqslant t$, то это выражение всюду неотрицательно. Следовательно, функция $\rho_1$ строго монотонна. Остается заметить, что
$$ \begin{equation*} \lim_{\Lambda\to 0+}\rho_1(\Lambda)=0, \qquad \lim_{\Lambda\to b-}\rho_1(\Lambda)=+\infty. \end{equation*} \notag $$
Отсюда следует, что вектор вращения $R$ на эллиптических ребрах равен $(0,+\infty)$.

Теперь разберемся с гиперболическим ребром. Заметим, что при $\Lambda>\widehat{\lambda}$ функция $\rho_2$ совпадает с функцией вращения биллиарда внутри эллипса параметра $0$ на гиперболическом ребре. Поэтому при $\Lambda>\widehat{\lambda}$ функция $\rho_2$ убывает и $\lim_{\Lambda\to a-}\rho_2(\Lambda)=l(a,b)$, где $l(a,b)$ – константа, зависящая от параметров $a$ и $b$, уже встречавшаяся в п. 5.1.

Пусть теперь $b<\Lambda_1<\Lambda_2\leqslant\widehat{\lambda}$; тогда для любого $t\in(0,b)$ выполнено неравенство $\Phi(t,\Lambda_1)>\Phi(t,\Lambda)$, а при $t\in(b,a)$ неравенство обратное. Следовательно, эти неравенства сохранятся и для интегралов. Таким образом, справедливо неравенство $\rho_2(\Lambda_1)>\rho_2(\Lambda_2)$. Отсюда заключаем, что функция $\rho_2$ строго монотонна на интервале $(b,a)$. При этом $\lim_{\Lambda\to b+}\rho_2(\Lambda)=+\infty$. Таким образом, вектор вращения $R$ на гиперболическом ребре равен $(+\infty,l(a,b))$.

Предложение 5 доказано.

Замечание 13. Биллиарды, рассматриваемые в предложении 5 (на биллиардных столах из пп. 5.1, 5.3), хотя и не являются лиувиллево эквивалентными, тем не менее грубо лиувиллево эквивалентны, и соответствующие реберные траекторные инварианты у них совпадают.

§ 6. Биллиарды, моделирующие линейные геодезические потоки на компактных ориентируемых поверхностях

В примерах, рассмотренных выше (см. § 5), функции вращения не выражались через элементарные. Этот факт затруднял задачу поиска их минимумов и максимумов. В настоящем параграфе мы рассмотрим биллиарды, функции вращения которых могут быть представлены явно в виде композиции элементарных функций. Таковыми, например, являются топологические биллиарды на замкнутых столах, склеенных из круговых дисков и колец.

Замечание 14. Согласно совместному результату В. В. Ведюшкиной и А. Т. Фоменко [45] такие топологические биллиарды реализуют слоения Лиувилля всех геодезических потоков на компактных ориентируемых поверхностях с дополнительным интегралом, линейным по импульсам. Поэтому класс этих биллиардов является важным для изучения.

Напомним, что конфигурационным пространством топологического биллиарда является биллиардная книжка, у которой отсутствуют корешки, т.е. ребра, в которых склеиваются три и более листов. Более того, в нашем случае эта книжка не имеет свободных ребер, а ее листами являются круговые диски и кольца. Следовательно, существует в точности два класса таких биллиардных книжек: сферические (гомеоморфные двумерной сфере) и торические (гомеоморфные двумерному тору). Они изображены на рис. 11. Мы будем называть эти биллиардные книжки гармошками.

Замечание 15. Сферические книжки склеены из колец и двух дисков, а торические – только из колец.

6.1. Простейший топологический биллиард

Рассмотрим топологический биллиард на сферической гармошке, состоящей из двух одинаковых круговых колец и двух одинаковых дисков (рис. 12, a). Обозначим максимальный радиус склейки листов через $\mathcal R$, а минимальный через $r$.

Первыми интегралами нашего биллиарда являются функции

$$ \begin{equation*} H=\sqrt{v_1^2+v_2^2}, \qquad f=\frac{v_1y-v_2x}{\sqrt{v_1^2+v_2^2}}. \end{equation*} \notag $$

Отметим, что $|f|$ есть радиус окружности, которой одновременно касаются все отрезки траектории материальной точки. Знак $f$ определяет, в какую сторону “закручивается” траектория. Если $f>0$, то материальная точка оборачивается по часовой стрелке, если выполнено обратное неравенство, то против часовой стрелки.

В нашем случае функция $f$ принимает значения на отрезке $[-\mathcal R,\mathcal R]$. Если зафиксировать уровень энергии $H=h>0$, то критическими значениями функции $f$ на изоэнергетической поверхности $Q^3_h$ нашей системы будут $-\mathcal R$, $-r$, $r$, $\mathcal R$. Инвариант Фоменко рассматриваемого биллиарда на $Q^3_h$ изображен на рис. 12, b.

Вычислим сначала функцию вращения на ребре молекулы, соответствующем интервалу $(-r,r)$ (это ребро соединяет атомы $B$). Для этого найдем явный вид переменных действия через интегралы $H$ и $f$.

Положим

$$ \begin{equation*} s_1=\frac{1}{2\pi}\int_{\gamma_1}v_1\,dx+v_2\,dy, \end{equation*} \notag $$

где $\gamma_1$ – цикл (рис. 13). Отметим, что в декартовых координатах импульсы и соответствующие им скорости совпадают, поэтому под интегралом у $s_1$ стоит форма $\alpha$.

Запараметризуем проекцию $\pi$ цикла $\gamma_1$ на гармошке следующим образом:

$$ \begin{equation*} (\mathcal R\sin t,\mathcal R\cos t), \qquad t\in[0,2\pi]. \end{equation*} \notag $$
Заметим, что угол между касательным вектором этой проекции и векторным полем вдоль нее постоянен (обозначим его через $\varphi$). При этом $\cos{\varphi}=f/\mathcal R$. Следовательно, справедлива цепочка равенств
$$ \begin{equation*} \begin{aligned} \, s_1 &=\frac{1}{2\pi}\int_{\gamma_1}v_1\,dx+v_2\,dy=\frac{1}{2\pi}\int_{0}^{2\pi}\langle v(t),\dot{\gamma}(t)\rangle \,dt \\ &=\frac{1}{2\pi}\int_{0}^{2\pi}\|v(t)\|\cdot\|\dot{\gamma}(t)\|\cdot\cos\varphi\, dt=\frac{1}{2\pi}\int_{0}^{2\pi}h\cdot \mathcal R\cdot\frac{f}{\mathcal R}\,dt= f h. \end{aligned} \end{equation*} \notag $$

Таким образом, интеграл $s_1$ есть произведение длины каустики на энергию. Поскольку $f h=v_1y-v_2x$, функцию действия $s_1$ можно переписать так:

$$ \begin{equation*} s_1(x,y,v_1,v_2)=v_1y-v_2x. \end{equation*} \notag $$
Система уравнений Гамильтона с гамильтонианом $s_1$ на кокасательном расслоении к плоскости имеет следующий вид:
$$ \begin{equation} \begin{cases} \dot{x}=y,\\ \dot{y}=-x,\\ \dot{v}_1=v_2,\\ \dot{v}_2=- v_1. \end{cases} \end{equation} \tag{6.1} $$
Обозначим через $u_1$ проекцию вектора скорости этой системы в точке
$$ \begin{equation*} P=\biggl(0,\mathcal R,h\frac{f}{\mathcal R},-h\sqrt{1-\frac{f^2}{\mathcal R^2}}\biggr) \end{equation*} \notag $$
на диск гармошки. Очевидно, что $u_1=(\mathcal R,0)$.

Теперь выберем цикл $\gamma_2$, как показано на рис. 14, a, и рассмотрим функцию

$$ \begin{equation*} s_2=\frac{1}{2\pi}\int_{\gamma_2}v_1\,dx+v_2\,dy. \end{equation*} \notag $$

Выразим $s_2$ в элементарных функциях. Разрежем гармошку на элементарные области. При такой процедуре цикл $\gamma_2$ распадется на шесть частей (на дисках будет по одному участку, а на кольцах – по два). Проинтегрируем форму $v_1\,dx+v_2\,dy$ на каждом из этих участков, после чего сложим получившиеся выражения. Начнем с дисков. Вычислим интеграл по одному из дисков. В силу симметрии для другого диска вычисления аналогичные.

Проекция цикла $\gamma_2$ на диске в каждой своей точке касается векторного поля вдоль нее (рис. 14, b). Поскольку векторное поле вдоль проекции цикла $\gamma_2$ имеет постоянную длину, равную $h$, интеграл вдоль рассматриваемого участка $\gamma_2$ от формы $v_1\,dx+v_2\,dy$ равен длине проекции $\gamma_2$ на диске, умноженной на $h$. Иными словами, согласно обозначениям на рис. 14, b этот интеграл равен

$$ \begin{equation*} h(AB+CD+\operatorname{arc}BC). \end{equation*} \notag $$

Треугольник $AOB$ прямоугольный. Поскольку $AO=\mathcal R$, $OB=f$, то выполнено равенство $AB=\sqrt{\mathcal R^2-f^2}$. Аналогично $CD=\sqrt{\mathcal R^2-f^2}$. Осталось вычислить $\operatorname{arc}BC$. Заметим, что $\angle BOC=\pi-2\angle AOB$. При этом $\cos\angle AOB={f}/{\mathcal R}$. Следовательно, $\angle AOB=\operatorname{arccos}({f}/{\mathcal R})$, откуда получаем

$$ \begin{equation*} \operatorname{arc}BC=f\biggl(\pi-2\operatorname{arccos}\frac{f}{\mathcal R}\biggr) =2f\operatorname{arcsin}\frac{f}{\mathcal R}. \end{equation*} \notag $$

Итак, интеграл от формы $v_1\,dx+v_2\,dy$, взятый по ограничению цикла $\gamma_2$ на диск гармошки, равен

$$ \begin{equation*} 2h\biggl(\sqrt{\mathcal R^2-f^2}+f\operatorname{arcsin}\frac{f}{\mathcal R}\biggr). \end{equation*} \notag $$

Теперь определим, какой вклад в $s_2$ дают кольца гармошки.

Пусть точка $M$, расположенная на отрезке $KL$, имеет координаты $(0,y)$. Определим координаты вектора импульса в точке $M$, изображенного на рис. 15.

Треугольник $MON$ является прямоугольным. Поскольку $ON\,{=}\,f$ и $OM\,{=}\,y$, то получаем

$$ \begin{equation*} \sin\angle NMO=\frac{f}{y}, \qquad \cos\angle NMO=\sqrt{1-\frac{f^2}{y^2}}. \end{equation*} \notag $$
Следовательно, вектор импульса в точке $M$ имеет следующие координаты:
$$ \begin{equation*} \Biggl(-h\frac{f}{y},-h\sqrt{1-\frac{f^2}{y^2}}\, \Biggr). \end{equation*} \notag $$
Таким образом, интересующий нас интеграл равен
$$ \begin{equation*} h\int_r^\mathcal R\sqrt{1-\frac{f^2}{y^2}}\,dy. \end{equation*} \notag $$
Используя тригонометрическую замену, можно получить следующее равенство:
$$ \begin{equation*} h\int_r^\mathcal R\sqrt{1-\frac{f^2}{y^2}}\,dy=h\biggl(\sqrt{\mathcal R^2-f^2} +f\operatorname{arcsin}\frac{f}{\mathcal R}-\sqrt{r^2-f^2}-f\operatorname{arcsin}\frac{f}{r}\biggr). \end{equation*} \notag $$
Таким образом, мы вывели явную формулу функции $s_2$:
$$ \begin{equation*} s_2=\frac{2h}{\pi}\biggl(2\sqrt{\mathcal R^2-f^2}+2f\operatorname{arcsin}\frac{f}{\mathcal R} -\sqrt{r^2-f^2}-f\operatorname{arcsin}\frac{f}{r}\biggr). \end{equation*} \notag $$

Система уравнений Гамильтона с гамильтонианом $s_2$ на кокасательном расслоении к плоскости имеет следующий вид:

$$ \begin{equation} \begin{cases} \dot{x}=F(f,h)v_1+G(f)y,\\ \dot{y}=F(f,h)v_2-G(f)x,\\ \dot{v_1}=G(f)v_2,\\ \dot{v_2}=-G(f)v_1.\\ \end{cases} \end{equation} \tag{6.2} $$
Здесь
$$ \begin{equation*} \begin{gathered} \, F(f,h)=\frac{2}{h\pi}\bigl(2\sqrt{\mathcal R^2-f^2}-\sqrt{r^2-f^2}\,\bigr), \qquad G(f)=\frac{2}{\pi}\biggl(2\operatorname{arcsin}\frac{f}{\mathcal R}-\operatorname{arcsin}\frac{f}{r}\biggr). \end{gathered} \end{equation*} \notag $$

Обозначим через $u_2$ проекцию вектора скорости этой системы в точке

$$ \begin{equation*} P=\Biggl(0,R,h\frac{f}{\mathcal R},-h\sqrt{1-\frac{f^2}{\mathcal R^2}}\,\Biggr) \end{equation*} \notag $$
на диск гармошки. Из системы ясно, что
$$ \begin{equation*} u_2=\frac{1}{2\pi}\Biggl(hF(f,h)\frac{f}{\mathcal R}+G(f)\mathcal R,-hF(f,h)\sqrt{1-\frac{f^2}{\mathcal R^2}}\,\Biggr). \end{equation*} \notag $$

Представим вектор $w=(h{f}/{\mathcal R},-h\sqrt{1-f^2/\mathcal R^2})$ в виде линейной комбинации векторов $u_1$ и $u_2$, т.е. $w=\alpha u_1+\beta u_2$, и найдем отношение ${\alpha}/{\beta}$. Это отношение и есть искомая функция вращения.

Из формул Крамера следует, что ${\alpha}/{\beta}={\Delta_1}/{\Delta_2}$, где

$$ \begin{equation*} \Delta_1=\frac{G(f)}{2\pi}\mathcal R h\sqrt{1-\frac{f^2}{\mathcal R^2}}, \qquad \Delta_2=-2\pi \mathcal R h\sqrt{1-\frac{f^2}{\mathcal R^2}}. \end{equation*} \notag $$

Таким образом,

$$ \begin{equation*} \rho(f)=\frac{\alpha}{\beta}=-\frac{G(f)}{2\pi} =-\frac{2}{\pi}\biggl(2\operatorname{arcsin}\frac{f}{\mathcal R}-\operatorname{arcsin}\frac{f}{r}\biggr) \end{equation*} \notag $$
– искомая функция вращения.

Вычислим производную функции $\rho(f)$ и определим, при каких значениях $\mathcal R$ и $r$ она монотонна. Итак,

$$ \begin{equation*} \rho'(f)=\frac{2}{\pi}\biggl(\frac{1}{\sqrt{r^2-f^2}}-\frac{2}{\sqrt{\mathcal R^2-f^2}}\biggr). \end{equation*} \notag $$

Заметим, что $\rho'(f)\to+\infty$ при $f\to r-$. Поэтому если $\rho(f)$ монотонна на $(-r,r)$, то $\rho'(f)\geqslant0$ на этом отрезке. Это в свою очередь эквивалентно тому, что $\mathcal R^2-f^2\geqslant4(r^2-f^2)$ при $f\in(-r,r)$, откуда получаем $3f^2\geqslant 4r^2-\mathcal R^2$. Следовательно, $\rho(f)$ монотонна тогда и только тогда, когда $\mathcal R\geqslant 2r$.

Отметим, что если $\mathcal R<2r$, то функция $\rho$ имеет на интервале $(-r,r)$ в точности один локальный минимум и один локальный максимум.

Таким образом, мы доказали следующее предложение.

Предложение 6. Функция вращения $\rho(f)$ является монотонной на интервале $(-r,r)$ в том и только том случае, когда $\mathcal R\geqslant2r$. При $\mathcal R<2r$ функция $\rho(f)$ имеет на интервале $(-r,r)$ ровно один локальный максимум и один локальный минимум.

Замечание 16. Аналогичными вычислениями можно показать, что функции вращения на оставшихся ребрах молекулы, изображенной на рис. 12, b, строго монотонны.

Итак, мы получили, что на рассматриваемой гармошке при $f\in(-r,r)$ функция вращения монотонна только при $2r\leqslant \mathcal R$. При этом на промежутках $(r,\mathcal R)$, $(-\mathcal R,r)$ функции вращения монотонны всегда. Тем не менее при надлежащем выборе $\mathcal R$ и $r$ функции вращения можно сделать монотонными на всех ребрах одновременно. Оказывается, таким свойством обладают все гармошки. Доказательство этого факта приведено в следующем пункте.

6.2. Общий случай

Сначала сделаем одно важное упрощение. Если при склейке какая-то пара кольцо-диск или кольцо-кольцо при изометричном вложении в плоскость пересекается только по границе склейки, то такую пару листов можно объединить в один лист. Проводя эту процедуру максимальное число раз, мы упростим комбинаторное устройство гармошки.

Рассмотрим сначала сферическую серию. Сферическую гармошку $D$ можно однозначно задать, указав последовательность радиусов склейки ее листов. Эту последовательность можно разбить на две: последовательность максимумов $\{\mathcal R_i\}_{i=1}^n$ и последовательность минимумов $\{r_j\}_{j=1}^{n-1}$. При этом сама последовательность склейки радиусов выглядит следующим образом: $\mathcal R_1,r_1,\mathcal R_2,r_2,\dots$, $r_{n-1},\mathcal R_n$. Построим по ней кусочно линейную функцию $h_D(x)$, однозначно описывающую “профиль” гармошки $D$. Для этого рассмотрим на вещественной прямой набор точек $0=x_0<x_1<\dots<x_{2n}$. Положим

$$ \begin{equation*} h_D(x_k)=\begin{cases} 0,&\text{если }k=0\, \text{ или }\, k=2n, \\ \mathcal R_i,&\text{если } k=2i-1, \\ r_j, &\text{если } k=2j. \end{cases} \end{equation*} \notag $$
В оставшихся точках отрезка $[0,x_{2n}]$ продолжим эту функцию по линейности (рис. 16).

Определение 8. Функцию $h_D(x)$ назовем профилем гармошки $D$.

Как и в п. 6.1, первыми интегралами биллиарда на гармошке $D$ являются функции $H$ и $f$. На неособой изоэнергетической поверхности критическими значениями функции $f$ являются $\pm \mathcal R_i$ и $\pm r_j$, где $i=1,\dots,n$, $j=1,\dots,n-1$. Более того, зная взаимное расположение радиусов $\mathcal R_i,r_j$, можно однозначно вычислить инвариант Фоменко–Цишанга биллиарда на гармошке $D$ (см. [45]). Иными словами, функция $h_D$ однозначно определяет топологию слоения Лиувилля. Тем не менее знание взаимного расположения абсолютно всех радиусов склейки для вычисления инварианта Фоменко–Цишанга не обязательно.

Определим с помощью функции $h_D(x)$ ориентированное дерево $G_D$. Для этого рассмотрим на координатной плоскости $Oxy$ график функции $h_D(x)$. Напомним, что эта функция определена на отрезке $[0,x_{2n}]$. Обозначим через $M$ компактное множество, ограниченное графиком функции $h_D$ и отрезком $[0,x_{2n}]$ на оси $Ox$. Это множество можно расслоить прямыми вида $y=\mathrm{const}$ на связные компоненты. База этого расслоения представляет собой дерево. Укажем на ребрах этого дерева направление роста $y$. Полученный граф мы назовем кодификатором гармошки $D$. Начальная вершина у этого дерева одна, конечных вершин ровно $n$. Каждая конечная вершина соответствует некоторому максимуму $\mathcal R_i$ (рис. 17).

Определение 9. Две гармошки $D_1$ и $D_2$ назовем структурно эквивалентными, если существует гомеоморфизм их кодификаторов, сохраняющий ориентацию ребер.

Заметим, что все сферические гармошки, склеенные из двух колец и двух дисков, структурно эквивалентны друг другу, хотя взаимное расположение максимумов может быть разным. При этом топологии слоений Лиувилля соответствующих биллиардов совпадают. Оказывается, верен следующий факт.

Предложение 7. Биллиарды на структурно эквивалентных гармошках лиувиллево эквивалентны.

Доказательство см. в [45].

Замечание 17. Заметим, что если произвольным образом увеличить максимумы $\mathcal R_i$, не меняя при этом минимумы $r_j$, то получится гармошка, структурно эквивалентная исходной.

На примере сферической гармошки с двумя максимумами и одним минимумом мы видели, что, вообще говоря, функции вращения на ребрах молекул биллиардов на гармошках могут быть немонотонными. Тем не менее при подходящем выборе радиусов склейки можно добиться того, что топология слоения Лиувилля не изменится, а функции вращения будут строго монотонными. Наша цель – доказать следующий аналогичный результат для произвольной гармошки.

Теорема 7. Пусть $\{\mathcal R_i\}_{i=1}^n$, $\{r_j\}_{j=1}^{n-1}$ – последовательности максимумов и минимумов сферической гармошки $D$. Тогда функция вращения $f$ на ребре грубой молекулы, соответствующем максимальным радиусам $\mathcal R_{i},\dots,\mathcal R_{i+k}$, имеет следующий вид:

$$ \begin{equation*} \rho(f)=-\frac{2}{\pi}\biggl(\sum_{j=0}^{k}\operatorname{arcsin}\frac{f}{\mathcal R_{i+j}}-\sum_{j=0}^{k-1}\operatorname{arcsin}\frac{f}{r_{i+j}}\biggr). \end{equation*} \notag $$
Более того, найдется гармошка $D'$, структурно эквивалентная $D$, все функции вращения на ребрах которой строго монотонны.

Доказательство. Явный вид функции вращения вычисляется абсолютно так же, как в примере выше.

Отметим, что $\operatorname{arcsin} x$ – монотонная функция, а стало быть, на ребрах, соединяющих атом $A$ с седловыми атомами, функция вращения монотонна.

Рассмотрим теперь седловое ребро, соответствующее максимальным радиусам $\mathcal R_i,\dots,\mathcal R_{i+k}$. На этом ребре модуль функции $f$ изменяется на отрезке $[a_1,a_2]$, где $a_2=\min\{\rho_{i},\dots,\rho_{i+k}\}$, а $a_1$ равен либо максимуму из $\rho_{i-1}$ и $\rho_{i+k}$ (если таковые имеются), либо нулю. Вычислим производную функции $\rho(f)$:

$$ \begin{equation*} \rho'(f)=-\frac{2}{\pi}\left(\sum_{j=0}^k \frac{1}{\sqrt{\mathcal R_{i+j}^2-f^2}}-\sum_{j=0}^{k-1}\frac{1}{\sqrt{r_{i+j}^2-f^2}}\right). \end{equation*} \notag $$
Заметим, что $\lim_{|f|\to a_2+}\rho'(f)=-\infty$. Обозначим через $M$ минимум второй суммы на отрезке изменения функции $\rho$ на ребре молекулы. Заметим, что $M>0$. Увеличим все $\mathcal R_{i_j}$ настолько, что первая сумма на рассматриваем отрезке будет меньше $M/2$. Тогда на всем отрезке производная функции вращения будет положительной. Пробегая по всем ребрам молекулы и увеличивая соответствующие $\mathcal R_i$, добьемся того, что у новой гармошки все функции вращения будут монотонными. А поскольку увеличение максимумов не меняет структурное устройство гармошки, слоение Лиувилля не изменится.

Теорема 7 доказана.

Замечание 18. Для торических гармошек утверждение теоремы 7 изменится лишь на двух ребрах, содержащих уровень $f=0$. На них функция вращения имеет следующий вид:

$$ \begin{equation*} \rho(f)=-\frac{2}{\pi}\biggl(\sum_{j=1}^n\operatorname{arcsin}\frac{f}{\mathcal R_{j}}-\sum_{j=1}^{n}\operatorname{arcsin}\frac{f}{r_{j}}\biggr). \end{equation*} \notag $$
Она всегда является монотонной, так как представляется в виде суммы $n$ монотонных функций вида
$$ \begin{equation*} \frac{2}{\pi}\biggl(\operatorname{arcsin}\frac{\rho}{\mathcal R_i}-\operatorname{arcsin}\frac{\rho}{r_i}\biggr). \end{equation*} \notag $$

Список литературы

1. А. Т. Фоменко, “Биллиарды переменной конфигурации в гамильтоновой геометрии и топологии”, Международная конференция “Лобачевские чтения”. Сборник трудов (Казань, 2022), Труды Математического центра имени Н. И. Лобачевского, 62, Изд-во КФУ, Казань, 2022, 112–115
2. А. Т. Фоменко, “Биллиарды переменной конфигурации и биллиарды с проскальзыванием в гамильтоновой геометрии и топологии”, Математика и теоретические компьютерные науки, 1:1 (2023), 49–68
3. А. Т. Фоменко, В. В. Ведюшкина, “Биллиарды и интегрируемые системы”, УМН, 78:5(473) (2023), 93–176  mathnet  crossref; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Billiards and integrable systems”, Russian Math. Surveys, 78:5 (2023), 881–954  crossref
4. А. Т. Фоменко, В. В. Ведюшкина, “Эволюционные силовые биллиарды”, Изв. РАН. Сер. матем., 86:5 (2022), 116–156  mathnet  crossref  mathscinet  zmath; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Evolutionary force billiards”, Izv. Math., 86:5 (2022), 943–979  crossref  adsnasa
5. A. T. Fomenko, V. A. Kibkalo, “Topology of Liouville foliations of integrable billiards on table-complexes”, Eur. J. Math., 8:4 (2022), 1392–1423  crossref  mathscinet  zmath
6. В. А. Кибкало, А. Т. Фоменко, И. С. Харчева, “Реализация интегрируемых гамильтоновых систем биллиардными книжками”, Тр. ММО, 82, № 1, МЦНМО, М., 2021, 45–78  mathnet  zmath; англ. пер.: V. A. Kibkalo, A. T. Fomenko, I. S. Kharcheva, “Realizing integrable Hamiltonian systems by means of billiard books”, Trans. Moscow Math. Soc., 82, 37–64  crossref  mathscinet
7. V. Dragović, M. Radnović, “Bifurcations of Liouville tori in elliptical billiards”, Regul. Chaotic Dyn., 14:4-5 (2009), 479–494  mathnet  crossref  mathscinet  zmath  adsnasa
8. В. Драгович, М. Раднович, Интегрируемые биллиарды, квадрики и многомерные поризмы Понселе, НИЦ “Регулярная и хаотическая динамика”, М.–Ижевск, 2010, 338 с.; пер. с англ.: V. Dragović, M. Radnović, Poncelet porisms and beyond. Integrable billiards, hyperelliptic Jacobians and pencils of quadrics, Front. Math., Birkhäuser/Springer Basel AG, Basel, 2011, viii+293 с.  crossref  mathscinet  zmath
9. V. Dragović, S. Gasiorek, M. Radnović, “Billiard ordered games and books”, Regul. Chaotic Dyn., 27:2 (2022), 132–150  mathnet  crossref  mathscinet  zmath  adsnasa
10. В. В. Фокичева, “Описание особенностей системы “биллиард в эллипсе” ”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2012, № 5, 31–34  mathnet  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Description of singularities for system “billiard in an ellipse””, Moscow Univ. Math. Bull., 67:5-6 (2012), 217–220  crossref
11. В. В. Фокичева, “Классификация биллиардных движений в областях, ограниченных софокусными параболами”, Матем. сб., 205:8 (2014), 139–160  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Classification of billiard motions in domains bounded by confocal parabolas”, Sb. Math., 205:8 (2014), 1201–1221  crossref  adsnasa
12. В. В. Фокичева, “Описание особенностей системы бильярда в областях, ограниченных софокусными эллипсами или гиперболами”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2014, № 4, 18–27  mathnet  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “Description of singularities for billiard systems bounded by confocal ellipses or hyperbolas”, Moscow Univ. Math. Bull., 69:4 (2014), 148–158  crossref
13. В. В. Фокичева, “Топологическая классификация биллиардов в локально плоских областях, ограниченных дугами софокусных квадрик”, Матем. сб., 206:10 (2015), 127–176  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Fokicheva, “A topological classification of billiards in locally planar domains bounded by arcs of confocal quadrics”, Sb. Math., 206:10 (2015), 1463–1507  crossref  adsnasa
14. В. В. Ведюшкина, “Слоение Лиувилля невыпуклых топологических биллиардов”, Докл. РАН, 478:1 (2018), 7–11  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “The Liouville foliation of nonconvex topological billiards”, Dokl. Math., 97:1 (2018), 1–5  crossref
15. В. В. Ведюшкина, “Инварианты Фоменко–Цишанга топологических бильярдов, ограниченных софокусными параболами”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2018, № 4, 22–28  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Fomenko–Zieschang invariants of topological billiards bounded by confocal parabolas”, Moscow Univ. Math. Bull., 73:4 (2018), 150–155  crossref
16. В. В. Ведюшкина, “Инварианты Фоменко–Цишанга невыпуклых топологических биллиардов”, Матем. сб., 210:3 (2019), 17–74  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “The Fomenko–Zieschang invariants of nonconvex topological billiards”, Sb. Math., 210:3 (2019), 310–363  crossref  adsnasa
17. В. А. Кибкало, “Топология аналога случая интегрируемости Ковалевской на алгебре Ли $\operatorname{so}(4)$ при нулевой постоянной площадей”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2016, № 3, 46–50  mathnet  zmath; англ. пер.: V. A. Kibkalo, “The topology of the analog of Kovalevskaya integrability case on the Lie algebra $so(4)$ under zero area integral”, Moscow Univ. Math. Bull., 71:3 (2016), 119–123  crossref  mathscinet
18. В. А. Кибкало, “Топологическая классификация слоений Лиувилля для интегрируемого случая Ковалевской на алгебре Ли $\operatorname{so}(4)$”, Матем. сб., 210:5 (2019), 3–40  mathnet  crossref  mathscinet  zmath; англ. пер.: V. A. Kibkalo, “Topological classification of Liouville foliations for the Kovalevskaya integrable case on the Lie algebra $\operatorname{so}(4)$”, Sb. Math., 210:5 (2019), 625–662  crossref  adsnasa
19. В. В. Ведюшкина, И. С. Харчева, “Биллиардные книжки моделируют все трехмерные бифуркации интегрируемых гамильтоновых систем”, Матем. сб., 209:12 (2018), 17–56  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, I. S. Kharcheva, “Billiard books model all three-dimensional bifurcations of integrable Hamiltonian systems”, Sb. Math., 209:12 (2018), 1690–1727  crossref  adsnasa
20. И. Ф. Кобцев, “Геодезический поток двумерного эллипсоида в поле упругой силы: топологическая классификация решений”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2018, № 2, 27–33  mathnet  mathscinet  zmath; англ. пер.: I. F. Kobtsev, “The geodesic flow on a two-dimensional ellipsoid in the field of an elastic force. Topological classification of solutions”, Moscow Univ. Math. Bull., 73:2 (2018), 64–70  crossref
21. С. Е. Пустовойтов, “Топологический анализ биллиарда в эллиптическом кольце в потенциальном поле”, Фундамент. и прикл. матем., 22:6 (2019), 201–225  mathnet  mathscinet  zmath; англ. пер.: S. E. Pustovoytov, “Topological analysis of a billiard in elliptic ring in a potential field”, J. Math. Sci. (N.Y.), 259:5 (2021), 712–729  crossref
22. Г. В. Белозеров, “Топологическая классификация интегрируемых геодезических биллиардов на квадриках в трeхмерном евклидовом пространстве”, Матем. сб., 211:11 (2020), 3–40  mathnet  crossref  mathscinet  zmath; англ. пер.: G. V. Belozerov, “Topological classification of integrable geodesic billiards on quadrics in three-dimensional Euclidean space”, Sb. Math., 211:11 (2020), 1503–1538  crossref  adsnasa
23. В. В. Ведюшкина, В. Н. Завьялов, “Реализация геодезических потоков с линейным интегралом биллиардами с проскальзыванием”, Матем. сб., 213:12 (2022), 31–52  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, V. N. Zav'yalov, “Realization of geodesic flows with a linear first integral by billiards with slipping”, Sb. Math., 213:12 (2022), 1645–1664  crossref  adsnasa
24. В. Н. Завьялов, “Биллиард с проскальзыванием на любой рациональный угол”, Матем. сб., 214:9 (2023), 3–26  mathnet  crossref  mathscinet; англ. пер.: V. N. Zav'yalov, “Billiard with slipping by an arbitrary rational angle”, Sb. Math., 214:9 (2023), 1191–1211  crossref  adsnasa
25. Е. Е. Каргинова, “Слоение Лиувилля топологических биллиардов на плоскости Минковского”, Фундамент. и прикл. матем., 22:6 (2019), 123–150  mathnet  mathscinet  zmath; англ. пер.: E. E. Karginova, “Liouville foliation of topological billiards in the Minkowski plane”, J. Math. Sci. (N.Y.), 259:5 (2021), 656–675  crossref
26. Е. Е. Каргинова, “Биллиарды, ограниченные дугами софокусных квадрик на плоскости Минковского”, Матем. сб., 211:1 (2020), 3–31  mathnet  crossref  mathscinet  zmath; англ. пер.: E. E. Karginova, “Billiards bounded by arcs of confocal quadrics on the Minkowski plane”, Sb. Math., 211:1 (2020), 1–28  crossref  adsnasa
27. Дж. Д. Биркгоф, Динамические системы, Изд. дом “Удмуртский университет”, Ижевск, 1999, 408 с.  zmath; пер. с англ.: G. D. Birkhoff, Dynamical systems, Amer. Math. Soc. Colloq. Publ., 9, Amer. Math. Soc., New York, 1927, viii+295 с.  mathscinet  zmath
28. В. В. Козлов, Д. В. Трещев, Биллиарды. Генетическое введение в динамику систем с ударами, Изд-во Моск. ун-та, М., 1991, 168 с.  mathscinet  zmath; англ. пер.: V. V. Kozlov, D. V. Treshchev, Billiards. A genetic introduction to the dynamics of systems with impacts, Transl. Math. Monogr., 89, Amer. Math. Soc., Providence, RI, 1991, viii+171 с.  crossref  mathscinet  zmath
29. С. Е. Пустовойтов, “Топологический анализ эллиптического бильярда в потенциальном поле четвертого порядка”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2021, № 5, 8–19  mathnet  mathscinet  zmath; англ. пер.: S. E. Pustovoitov, “Topological analysis of an elliptic billiard in a fourth-order potential field”, Moscow Univ. Math. Bull., 76:5 (2021), 193–205  crossref
30. С. Е. Пустовойтов, “Топологический анализ биллиарда, ограниченного софокусными квадриками, в потенциальном поле”, Матем. сб., 212:2 (2021), 81–105  mathnet  crossref  mathscinet  zmath; англ. пер.: S. E. Pustovoitov, “Topological analysis of a billiard bounded by confocal quadrics in a potential field”, Sb. Math., 212:2 (2021), 211–233  crossref  adsnasa
31. В. В. Ведюшкина, С. Е. Пустовойтов, “Классификация слоений Лиувилля интегрируемых топологических биллиардов в магнитном поле”, Матем. сб., 214:2 (2023), 23–57  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, S. E. Pustovoitov, “Classification of Liouville foliations of integrable topological billiards in magnetic fields”, Sb. Math., 214:2 (2023), 166–196  crossref  adsnasa
32. Г. В. Белозеров, “Топологическая классификация биллиардов в трехмерном евклидовом пространстве, ограниченных софокусными квадриками”, Матем. сб., 213:2 (2022), 3–36  mathnet  crossref  mathscinet  zmath; англ. пер.: G. V. Belozerov, “Topological classification of billiards bounded by confocal quadrics in three-dimensional Euclidean space”, Sb. Math., 213:2 (2022), 129–160  crossref  adsnasa
33. Г. В. Белозеров, “Топология изоэнергетических $5$-поверхностей трехмерного бильярда внутри трехосного эллипсоида с потенциалом Гука”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2022, № 6, 21–31  mathnet  crossref  mathscinet  zmath; англ. пер.: G. V. Belozerov, “Topology of isoenergy 5-surfaces of a three-axial ellipsoid with a Hooke potential”, Moscow Univ. Math. Bull., 77:6 (2022), 277–289  crossref
34. А. Т. Фоменко, В. В. Ведюшкина, “Бильярды и интегрируемость в геометрии и физике. Новый взгляд и новые возможности”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2019, № 3, 15–25  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, V. V. Vedyushkina, “Billiards and integrability in geometry and physics. New scope and new potential”, Moscow Univ. Math. Bull., 74:3 (2019), 98–107  crossref
35. В. В. Ведюшкина, А. Т. Фоменко, И. С. Харчева, “Моделирование невырожденных бифуркаций замыканий решений интегрируемых систем с двумя степенями свободы интегрируемыми топологическими биллиардами”, Докл. РАН, 479:6 (2018), 607–610  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, A. T. Fomenko, I. S. Kharcheva, “Modeling nondegenerate bifurcations of closures of solutions for integrable systems with two degrees of freedom by integrable topological billiards”, Dokl. Math., 97:2 (2018), 174–176  crossref
36. А. В. Болсинов, А. Т. Фоменко, Интегрируемые гамильтоновы системы. Геометрия, топология, классификация, т. 1, 2, Изд. дом “Удмуртский университет”, Ижевск, 1999, 444 с., 447 с.  mathscinet  zmath; англ. пер.: A. V. Bolsinov, A. T. Fomenko, Integrable Hamiltonian systems. Geometry, topology, classification, Chapman & Hall/CRC, Boca Raton, FL, 2004, xvi+730 с.  crossref  mathscinet  zmath
37. В. В. Ведюшкина, “Траекторные инварианты плоских бильярдов, ограниченных дугами софокусных квадрик и содержащих фокусы”, Вестн. Моск. ун-та. Сер. 1. Матем., мех., 2021, № 4, 48–51  mathnet  mathscinet  zmath; англ. пер.: V. V. Vedyushkina, “Orbital invariants of flat billiards bounded by arcs of confocal quadrics and containing focuses”, Moscow Univ. Math. Bull., 76:4 (2021), 177–180  crossref
38. В. В. Ведюшкина (Фокичева), А. Т. Фоменко, “Интегрируемые топологические биллиарды и эквивалентные динамические системы”, Изв. РАН. Сер. матем., 81:4 (2017), 20–67  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina (Fokicheva), A. T. Fomenko, “Integrable topological billiards and equivalent dynamical systems”, Izv. Math., 81:4 (2017), 688–733  crossref  adsnasa
39. V. F. Lazutkin, KAM theory and semiclassical approximations to eigenfunctions, Ergeb. Math. Grenzgeb. (3), 24, Springer-Verlag, Berlin, 1993, x+387 pp.  crossref  mathscinet  zmath
40. Е. А. Кудрявцева, “Интегрируемые по Лиувиллю обобщенные биллиардные потоки и теоремы типа Понселе”, Фундамент. и прикл. матем., 20:3 (2015), 113–152  mathnet  mathscinet  zmath; англ. пер.: E. A. Kudryavtseva, “Liouville integrable generalized billiard flows and Poncelet type theorems”, J. Math. Sci. (N.Y.), 225:4 (2017), 611–638  crossref
41. А. Т. Фоменко, Х. Цишанг, “Топологический инвариант и критерий эквивалентности интегрируемых гамильтоновых систем с двумя степенями свободы”, Изв. АН СССР. Сер. матем., 54:3 (1990), 546–575  mathnet  mathscinet  zmath; англ. пер.: A. T. Fomenko, Kh. Tsishang, “A topological invariant and a criterion for the equivalence of integrable Hamiltonian systems with two degrees of freedom”, Math. USSR-Izv., 36:3 (1991), 567–596  crossref  adsnasa
42. V. Dragović, M. Radnović, “Minkowski plane, confocal conics, and billiards”, Publ. Inst. Math. (Beograd) (N.S.), 94:108 (2013), 17–30  crossref  mathscinet  zmath
43. V. Dragović, M. Radnović, “Bicentennial of the Great Poncelet Theorem (1813–2013): current advances”, Bull. Amer. Math. Soc. (N.S.), 51:3 (2014), 373–445  crossref  mathscinet  zmath
44. V. Dragović, M. Radnović, “Periods of pseudo-integrable billiards”, Arnold Math. J., 1:1 (2015), 69–73  crossref  mathscinet  zmath
45. В. В. Ведюшкина (Фокичева), А. Т. Фоменко, “Интегрируемые геодезические потоки на ориентируемых двумерных поверхностях и топологические биллиарды”, Изв. РАН. Сер. матем., 83:6 (2019), 63–103  mathnet  crossref  mathscinet  zmath; англ. пер.: V. V. Vedyushkina (Fokicheva), A. T. Fomenko, “Integrable geodesic flows on orientable two-dimensional surfaces and topological billiards”, Izv. Math., 83:6 (2019), 1137–1173  crossref  adsnasa

Образец цитирования: Г. В. Белозеров, А. Т. Фоменко, “Траекторные инварианты биллиардов и линейно интегрируемые геодезические потоки”, Матем. сб., 215:5 (2024), 3–46; G. V. Belozerov, A. T. Fomenko, “Orbital invariants of billiards and linearly integrable geodesic flows”, Sb. Math., 215:5 (2024), 573–611
Цитирование в формате AMSBIB
\RBibitem{BelFom24}
\by Г.~В.~Белозеров, А.~Т.~Фоменко
\paper Траекторные инварианты биллиардов и~линейно интегрируемые геодезические потоки
\jour Матем. сб.
\yr 2024
\vol 215
\issue 5
\pages 3--46
\mathnet{http://mi.mathnet.ru/sm10034}
\crossref{https://doi.org/10.4213/sm10034}
\mathscinet{https://mathscinet.ams.org/mathscinet-getitem?mr=4809222}
\zmath{https://zbmath.org/?q=an:07945686}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2024SbMat.215..573B}
\transl
\by G.~V.~Belozerov, A.~T.~Fomenko
\paper Orbital invariants of billiards and~linearly integrable geodesic flows
\jour Sb. Math.
\yr 2024
\vol 215
\issue 5
\pages 573--611
\crossref{https://doi.org/10.4213/sm10034e}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=001312960500001}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85204375137}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/sm10034
  • https://doi.org/10.4213/sm10034
  • https://www.mathnet.ru/rus/sm/v215/i5/p3
  • Эта публикация цитируется в следующих 2 статьяx:
    Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Математический сборник Sbornik: Mathematics
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2025