Один из известных результатов, связанных с явлениями автоматической непрерывности, утверждает, что ограничение локально ограниченного линейного представления связной группы Ли на коммутант этой группы непрерывно (см. [1]–[3]). В настоящей работе это утверждение распространяется на произвольные локально ограниченные гомоморфизмы групп Ли.
Основным техническим инструментом является понятие группы разрывов гомоморфизма топологических групп, напоминаемое в следующем параграфе.
§ 2. Предварительные результаты
2.1. Группа разрывов локально относительно компактного гомоморфизма топологических групп
Сначала напомним определения локальной относительной компактности и локальной ограниченности гомоморфизмов топологических групп.
Определение 1. Пусть $G$ – топологическая группа, $\pi$ – ее (не обязательно непрерывный) гомоморфизм в отделимую топологическую группу $H$. Мы будем говорить, что $\pi$ локально относительно компактен, если существует такая окрестность $V$ единичного элемента $e$ в $G$, что замыкание множества $\pi(V)$ является компактным подмножеством топологической группы $H$. Мы будем говорить, что $\pi$ локально ограничен, если существует такая окрестность $V$ единичного элемента $e$ в $G$, что множество $\pi(V)$ является вполне ограниченным подмножеством топологической группы $H$, т.е. для любой окрестности $W$ единичного элемента $e_H$ в $H$ существует конечное число сдвигов окрестности $W$, объединение которых покрывает множество $\pi(V)$.
Замечание 1. Очевидно, если группа $H$ локально компактна, то любой локально ограниченный гомоморфизм в группу $H$ автоматически является локально относительно компактным.
Определение 2. Пусть $\mathfrak U=\mathfrak U_G$ – направленное по убыванию семейство окрестностей единицы в отделимой топологической группе $G$. Для любого локально относительно компактного (не обязательно непрерывного) гомоморфизма $\pi$ группы $G$ в отделимую топологическую группу $H$ введем обозначение
Здесь и далее черта означает замыкание в соответствующей топологии (в данном случае – в топологии группы $H$).
Теорема 1. Пусть $G$ – топологическая группа, а $\pi$ – локально относительно компактный гомоморфизм группы $G$ в отделимую топологическую группу $H$. Множество $\operatorname{DG}(\pi)$ является компактной подгруппой топологической группы $H$ и компактной нормальной подгруппой в замкнутой подгруппе $\overline{\pi(G)}$ группы $H$. Кроме того, для любой окрестности $V$ множества $\operatorname{DG}(\pi)$ существует окрестность единицы $U$ такая, что $\overline{\pi(U)}\subset V$, и гомоморфизм $\pi$ непрерывен тогда и только тогда, когда $\operatorname{DG}(\pi)=\{e_H\}$.
Доказательство. Первое утверждение доказано в [3; теорема 1.1.2].
Пусть $V$ – окрестность множества $\operatorname{DG}(\pi)$ в $H$, а $U_0$ – некоторая окрестность единицы в $G$. По условию множество $\overline{\pi(U_0)}$ компактно в $H$. Следовательно, множество $\overline{\pi(U_0)}\setminus V$ тоже компактно в $H$. Семейство пересечений $(\overline{\pi(U_0)}\setminus V)\cap \overline{\pi(U)}$, $U\in\mathfrak U$, имеет пустое пересечение и ввиду компактности множества $\overline{\pi(U_0)}\setminus V$ содержит конечное число участников семейства $(\overline{\pi(U_0)}\setminus V)\cap \overline{\pi(U)}$ с пустым пересечением; обозначим соответствующие окрестности через $U_1,\dots,U_n$. Тогда пересечение $(\overline{\pi(U_0)}\setminus V)\cap \overline{\pi(U)}$ с $U \in\mathfrak U$ таким, что $U\subset\bigcap_{i\colon 1\leqslant i\leqslant n}U_i$, пусто, так что $\overline{\pi(U)}\subset V$.
Утверждение о равносильности условия непрерывности гомоморфизма $\pi$ условию $\operatorname{DG}(\pi)=\{e_H\}$ доказано в [3; теорема 1.1.2].
Теорема доказана.
Предложение 1. Пусть $\mathfrak U=\mathfrak U_G$ – направленное по убыванию семейство окрестностей единицы в топологической группе $G$. Для любого локально относительно компактного (не обязательно непрерывного) гомоморфизма $\pi$ группы $G$ в отделимую топологическую группу $H$ рассмотрим направленность $\{\pi(g_U)\mid g_U\in U\in\mathfrak U_G\}$ в $H$ (о направленностях и их сходимости см. [4; разд. 1.6 и предложение 1.6.1]). Тогда все предельные точки направленности $\{\pi(g_U)\}$ принадлежат $\operatorname{DG}(\pi)$.
Доказательство. По теореме 1 для любой окрестности $V$ введенного выше множества $\operatorname{DG}(\pi)$ существует такая окрестность единицы $U$, что $\overline{\pi(U)}\subset V$. Как известно, отделимое пространство топологической группы вполне регулярно, так что в отделимом пространстве $H$ любое подмножество $A$ в $H$ имеет окрестность, не содержащую данную точку $x_0$, не принадлежащую подмножеству $A$. Поэтому пересечение всех окрестностей множества $\operatorname{DG}(\pi)$ совпадает с $\operatorname{DG}(\pi)$. В свою очередь, если $V$ – окрестность множества $\operatorname{DG}(\pi)$ в $H$, а $U_0$ – такая окрестность единицы в $G$, что $\overline{\pi(U_0)}\subset V$, то при $U\subset U_0$ тем более $\overline{\pi(U)}\subset V$, так что все предельные точки направленности $\{\pi(g_U)\}$ лежат в замыкании $V$ для любой окрестности $V$ множества $\operatorname{DG}(\pi)$, и все эти точки содержатся в $\operatorname{DG}(\pi)$.
Предложение доказано.
Предложение 2. Пусть $\mathfrak U=\mathfrak U_G$ – направленное по убыванию семейство окрестностей единицы в топологической группе $G$. Пусть $\pi$ – локально относительно компактный (не обязательно непрерывный) гомоморфизм группы $G$ в отделимую топологическую группу $H$. Тогда любая точка множества $\operatorname{DG}(\pi)$ является пределом некоторой поднаправленности направленности вида $\{\pi(g_U)\}$.
Доказательство. Пусть $V\in H$ – окрестность множества $\operatorname{DG}(\pi)$ в $H$, и пусть $U\in\mathfrak U_G$ и $W\in\mathfrak U_H$. Пусть $h_0\in\operatorname{DG}(\pi)$. Сопоставим тройке $(V, U, W)$ элемент $h_{(V,U, W)}\in h_0W\cap{\overline{\pi(U)}}$ (множество $h_0W\cap{\overline{\pi(U)}}$ непусто, так как $h_0\in\overline{\pi(U)}$). Согласно [4; теорема 3.1.23] построенная направленность (с покомпонентными направленностями по убыванию) имеет предельную точку, и предел соответствующей поднаправленности непременно совпадает с $h_0$ ввиду участия направленности с $W\in\mathfrak U_H$.
Предложение доказано.
Определение 3. Пусть $G$ – топологическая группа, а $\pi$ – локально относительно компактный гомоморфизм группы $G$ в топологическую группу $H$. Компактная нормальная подгруппа $\operatorname{DG}(\pi)$ замыкания образа группы $G$ при гомоморфизме $\pi$ называется группой разрывов гомоморфизма $\pi$.
В частности, группа разрывов определена для любого локально ограниченного гомоморфизма в локально компактную группу (см. замечание 1) и тем самым и для любого локально ограниченного конечномерного представления топологической группы.
Определение 4. Пусть $G$ – группа, $X$ – подмножество в $G$. Множество $X$ называется безгранично делимым, если для любого элемента $x\in X$ и любого натурального числа $p$ существует такой элемент $y\in X$, что $y^p=x$. Группа $G$ называется локально безгранично делимой, если операция возведения в любую натуральную степень $p$ открыта в единице группы, т.е. множество $p$-х степеней элементов, пробегающих любую окрестность единицы в $G$, содержит некоторую окрестность единицы в $G$.
Очевидно, любая группа Ли локально безгранично делима. Следующее фольклорное утверждение показывает, что в любой топологической группе замыкания безгранично делимых относительно компактных подгрупп безгранично делимы.
Лемма 1. Пусть $G$ – топологическая группа, а $X$ – подмножество группы $G$ с компактным замыканием в $G$. Если $X$ безгранично делимо, то и его замыкание в $G$ безгранично делимо.
Лемма 2. Пусть $G$ – локально безгранично делимая группа, а $\pi$ – локально относительно компактный гомоморфизм группы $G$ в отделимую топологическую группу $H$. Тогда группа разрывов $\operatorname{DG}(\pi)$ является компактной связной подгруппой группы $H$.
В доказательстве дальнейших утверждений используется следующее факторизационное свойство групп разрывов.
Лемма 3. Пусть $G$ – связная локально компактная группа, $N$ – ее замкнутая нормальная подгруппа, а $\pi$ – локально относительно компактный гомоморфизм группы $G$ в некоторую отделимую топологическую группу $H$ (например, локально ограниченный гомоморфизм в локально компактную группу, см. замечание 1). Пусть $\operatorname{DG}(\pi|_N)$ – группа разрывов ограничения $\pi|_N$. Тогда $\operatorname{DG}(\pi|_N)$ является замкнутой нормальной подгруппой в компактной группе разрывов $\operatorname{DG}(\pi)$, и соответствующая факторгруппа $\operatorname{DG}(\pi)/\operatorname{DG}(\pi|_N)$ изоморфна группе разрывов $\operatorname{DG}(\psi)$ гомоморфизма $\psi$ группы $G$, получаемого композицией гомоморфизма $\pi$ и канонического гомоморфизма
Следующее свойство связывает группы разрывов гомоморфизма и определяемого им гомоморфизма коммутанта.
Лемма 4. Пусть $G$ – топологическая группа, $G'$ – коммутант группы $G$ (в топологии, индуцированной топологией группы), а $\pi$ – локально относительно компактный гомоморфизм группы $G$ в некоторую отделимую топологическую группу $H$. Коммутант группы разрывов гомоморфизма $\pi$ содержится в группе разрывов ограничения $\pi|_{G'}$ гомоморфизма $\pi$ на коммутант $G'$ группы $G$:
Если при этом группа разрывов $\operatorname{DG}(\pi)$ коммутативна, то группа разрывов ограничения $\pi|_{G'}$ гомоморфизма $\pi$ на коммутант $G'$ единична, т.е.
Следующее утверждение позволяет описывать структуру группы разрывов конечно разложимых топологических групп.
Лемма 5. Пусть $G$ – топологическая группа, $A_1,\dots,A_n$ – замкнутые подгруппы в $G$, и $A=A_1\times A_2\times\cdots\times A_n$. Предположим, что отображение $A\to G$, определенное правилом $(a_1,a_2,\dots,a_n)\mapsto a_1a_2\cdots a_n\in G$ для любого $(a_1,a_2,\dots,a_n)\in A$, $a_i\in A_i$, $i=1,\dots,n$, открыто в единице группы $A$. Пусть $\pi$ – локально относительно компактный гомоморфизм топологической группы $G$ в отделимую топологическую группу $H$. Тогда любой элемент $d$ группы разрывов $\operatorname{DG}(\pi)$ можно представить в виде $d=d_1d_2\cdots d_n$, где $d_i\in\operatorname{DG}(\pi|_{A_i})$.
2.2. Условия непрерывности некоторых гомоморфизмов топологических групп
Теорема 2. Пусть $G$ и $H$ – топологические группы, и пусть $f$ – локально относительно компактный гомоморфизм группы $G$ в отделимую группу $H$. Пусть $M$ и $N$ – такие замкнутые нормальные подгруппы в $H$, что пересечение $M\cap N$ не содержит нетривиальных компактных подгрупп, и пусть $\varphi$ и $\psi$ – канонические гомоморфизмы группы $H$ на факторгруппы $H/M$ и $H/N$ соответственно. Если композиции $\varphi\circ f$ и $\psi\circ f$ непрерывны, то и гомоморфизм $f$ непрерывен.
Теорема 3. Группа разрывов каждого локально ограниченного гомоморфизма группы Ли в группу Ли коммутативна.
Это утверждение доказано в [5; теорема 2] с использованием приведенных выше утверждений и свойств алгебр Ли групп Ли (см. [6]).
Замечание 2. Пусть $G$ и $H$ – группы Ли и $\pi\colon G\to H$ – гомоморфизм. Так как компонента единицы $G_0$ открыта в $G$, а $H_0$ открыта в $H$, то при изучении непрерывности $\pi$ можно считать $G$ и $H$ связными.
В доказательстве в [5; теорема 2] отсутствует объяснение того факта, что группа разрывов рассматриваемого гомоморфизма содержится в полном прообразе группы разрывов $DG(\rho)$ присоединенного представления группы $H$ (см. [6; гл. IX, § 3, п. 3.5]) при каноническом гомоморфизме группы $H$ на ее факторгруппу по ее центру $Z_H$. Требуемый факт сразу следует из леммы 3, примененной к центру $Z_H$ группы $H$.
§ 4. Основная теорема
Теорема 4. Любой локально ограниченный гомоморфизм группы Ли $G$ в группу Ли непрерывен на коммутанте $G'$ группы $G$.
Доказательство. Пусть $\pi$ – локально ограниченный гомоморфизм группы Ли $G$ в группу Ли $H$. Тогда $\pi$ локально относительно компактен (см. замечание 1). Как было доказано в теореме 3, группа разрывов $\operatorname{DG}(\pi)$ гомоморфизма $\pi$ коммутативна. По лемме 4
и гомоморфизм $\pi$ непрерывен на $G'$ по теореме 1.
Теорема доказана.
§ 5. Некоторые приложения
Замечание 3. Любой локально ограниченный гомоморфизм группы Ли в группу Ли, не имеющую нетривиальных связных компактных подгрупп, непрерывен.
Доказательство. По лемме 2 группа разрывов $\operatorname{DG}(\pi)$ такого гомоморфизма $\pi$ связна и компактна. Следовательно, она тривиальна, и гомоморфизм $\pi$ непрерывен по теореме 1.
Теорема 5. Любой локально ограниченный гомоморфизм в связную группу Ли связной группы Ли $G$, коммутант которой $G'$ замкнут и допускает замкнутую дополнительную подгруппу $Z$ такую, что $G=G'Z$, непрерывен если и только если, когда непрерывно его ограничение на $Z$.
Доказательство. Очевидно, что если гомоморфизм группы непрерывен, то он непрерывен на каждой подгруппе группы, поэтому достаточно доказать часть “если”.
Пусть $G$ – связная группа Ли, коммутант которой $G'$ допускает замкнутую дополнительную подгруппу $Z$ такую, что $G=G'Z$.
Пусть $H$ – связная группа Ли. Пусть $\pi$ – локально ограниченный гомоморфизм $G$ в $H$, непрерывный на $Z$.
Группа разрывов ограничения $\pi$ на коммутант $G'$ – единичная группа (см. теорему 3), и, следовательно, по теореме 4 ограничение $\pi$ на коммутант $G'$ непрерывно относительно внутренней топологии Ли (ср. теорему 1.1.2 в [3] и исправление в [1].)
Следовательно, представление $\pi$ раздельно непрерывно относительно подгрупп $Z$ и $G'$.
По теореме Намиоки (см. [7]) представление $\pi$ имеет точку совместной непрерывности и, следовательно, является непрерывным. Это завершает доказательство теоремы 5.
Следствие 1. Пусть $G$ – связная группа Ли, которая либо линейна, либо односвязна, и ее коммутант $G'$ допускает такую замкнутую дополнительную подгруппу $Z$, что $G=G'Z$. Любой локально ограниченный гомоморфизм группы Ли $G$ в группу Ли непрерывен если и только если, когда он непрерывен на $Z$.
Доказательство. Очевидно, что если гомоморфизм группы непрерывен, то он непрерывен на каждой подгруппе группы, поэтому достаточно доказать часть “если”.
Пусть $G$ – связная группа Ли, которая либо линейна, либо односвязна, и ее коммутант $G'$ допускает такую замкнутую дополнительную подгруппу $Z$, что $G=G'Z$. Тогда коммутант $G'$ замкнут в $G$ (см. [8; теорема 3.8.12 и упражнение 41, (e) к гл. 3]).
Теперь утверждение следствия вытекает из теоремы 5. Это завершает доказательство следствия.
Следствие 2. Пусть $G$ – полупрямое произведение совершенной группы Ли $B$ и коммутативной группы Ли $Z$. Любой локально ограниченный гомоморфизм группы Ли $G$ в группу Ли непрерывен если и только если, когда он непрерывен на $Z$.
Доказательство. Очевидно, что если гомоморфизм группы непрерывен, то он непрерывен на каждой подгруппе группы, поэтому достаточно доказать часть “если”.
Пусть $B$ – совершенная группа Ли, $Z$ – абелева группа Ли, и пусть линейная связная группа Ли $G$ входит в расщепимую короткую точную последовательность
с непрерывным вложением $\iota$ и каноническим эпиморфизмом $\rho$ группы $G$ на $B$, изоморфную факторгруппе $G/Z$. Тогда коммутант $G'$ группы $G$ отображается эпиморфизмом $\rho$ на коммутант $B'$ группы $B$. Более того, $G'$ находится в естественном взаимно однозначном соответствии с $B'$. Действительно, для любого $z_1,z_2\in Z$ и $b,c\in G$ имеем $bz_1c_2(bz_1)^{-1}(cz_2)^{-1}=bzb^{-1}c^{-1} =[b,c]$ и, следовательно, коммутатор $bZ$ и $cZ$ равен $[b,c]Z$ для любых $b,c\in Z$. Таким образом, коммутант группы $G$ естественно изоморфен коммутанту группы $B$. Однако группа $B$ совершенна, а значит, $B'=B$. Следовательно, подгруппа $G'$ из $G$ совпадает с изоморфным образом группы $B$ в $G$ при отображении расщепления и потому замкнута, и каждый элемент $G$ является произведением элемента из $G'$ и элемента из $Z$.
Теперь утверждение следствия вытекает из теоремы 5. Это завершает доказательство следствия.
Теорема 6. Пусть $G$ – связная группа Ли, $G'$ – коммутант группы $G$, пусть $\mathfrak g$ – алгебра Ли группы $G$, $\mathfrak g'$ – коммутант $\mathfrak g$, пусть $\mathfrak h$ – векторное подпространство $\mathfrak g$, дополнительное к $\mathfrak g'$, $\{h_1,\dots,h_k\}$ – базис в $\mathfrak h$, пусть одномерные векторные подпространства $\mathfrak h_1,$ $\dots,$ $\mathfrak h_k$ натянуты на $h_1,\dots,h_k$ соответственно. Пусть $G'$ замкнут в $G$.
Локально ограниченный гомоморфизм $\pi$ группы $G$ в группу Ли $G_1$ непрерывен если и только если, когда составное отображение $\mathbb R$ в $G_1$, заданное формулой $\mathbb R\ni t\mapsto \pi(\exp(th_i))$, $i=1,\dots, k$, непрерывно.
Доказательство. Очевидно, что если $\pi$ непрерывно, то составное отображение из $\mathbb R$ в $G_1$, заданное формулой $\mathbb R\ni t\mapsto \pi(\exp(th_i))$, $i=1,\dots, k$, является непрерывным. Это доказывает часть теоремы “только если”. Следовательно, осталось доказать обратное утверждение.
Докажем часть “если”. Пусть соответствующие условия теоремы удовлетворяются для некоторого векторного подпространства $\mathfrak h$ в $\mathfrak g$, дополнительного к $\mathfrak g'$ и для некоторого базиса $\{h_1,\dots,h_k\}$ $\mathfrak h$.
По теореме 4 ограничение представления $\pi$ на $G'$ непрерывно (поскольку $G'$ замкнуто, то внутренняя топология группы Ли $G'$ совпадает с топологией $G'$, индуцированной топологией $G$).
С другой стороны, по самому предположению части “если” теоремы, отображение композиции $\mathbb R$ в $G_1$, заданное формулой $\mathbb R\ni t\mapsto \pi(\exp(th_i))$, $i=1,\dots, k$, непрерывно.
Следовательно, гомоморфизм $\pi$ раздельно непрерывен в некоторой окрестности единичного элемента $e$ группы $G$ относительно подгрупп $G',H_1,\dots,H_k$.
Поскольку соответствующее отображение, определяемое ограничением произведения соответствующих экспоненциальных отображений подгрупп в малую окрестность $U$ группы $e$, является аналитическим диффеоморфизмом $(G'\times H_1\times\dots\times H_k)\cap U$ на некоторую окрестность $G$ по теореме 2.10.1 из [8], то из теоремы Намиоки (см. [7]) следует, что представление $\pi$ имеет точку совместной непрерывности в $U$ и, следовательно, непрерывно.
Автор глубоко признателен анонимному рецензенту за указания на неточности и многочисленные советы, позволившие улучшить изложение.
Список литературы
1.
A. I. Shtern, “Corrected automatic continuity conditions for finite-dimensional representations of connected Lie groups”, Russ. J. Math. Phys., 21:1 (2014), 133–134
2.
А. И. Штерн, “Вариант теоремы Ван дер Вардена и доказательство гипотезы Мищенко для гомоморфизмов локально компактных групп”, Изв. РАН. Сер. матем., 72:1 (2008), 183–224; англ. пер.: A. I. Shtern, “A version of van der Waerden's theorem and a proof of Mishchenko's conjecture on homomorphisms of locally compact groups”, Izv. Math., 72:1 (2008), 169–205
3.
А. И. Штерн, “Конечномерные квазипредставления связных групп Ли и гипотеза Мищенко”, Фундамент. и прикл. матем., 13:7 (2007), 85–225; англ. пер.: A. I. Shtern, “Finite-dimensional quasirepresentations of connected Lie groups and Mishchenko's conjecture”, J. Math. Sci. (N.Y.), 159:5 (2009), 653–751
4.
Р. Энгелькинг, Общая топология, Мир, М., 1986, 752 с. ; пер. с англ.: R. Engelking, General topology, Monogr. Mat., 60, PWN–Polish Sci. Publ., Warsaw, 1977, 626 с.
5.
A. I. Shtern, “The discontinuity group of a locally bounded homomorphism of a connected Lie group into a connected Lie group is commutative”, Russ. J. Math. Phys., 30:3 (2023), 397–398
6.
М. А. Наймарк, Теория представлений групп, Наука, М., 1976, 560 с. ; англ. пер.: M. A. Naimark, A. I. Štern, Theory of group representations, Grundlehren Math. Wiss., 246, Springer-Verlag, New York, 1982, ix+568 с.
7.
I. Namioka, “Separate continuity and joint continuity”, Pacific J. Math., 51:2 (1974), 515–531
8.
V. S. Varadarajan, Lie groups, Lie algebras, and their representations, Prentice-Hall Ser. Modern Anal., Prentice-Hall, Inc., Englewood Cliffs, NJ, 1974, xiii+430 pp.
Образец цитирования:
А. И. Штерн, “Автоматическая непрерывность локально ограниченного гомоморфизма групп Ли на коммутанте”, Матем. сб., 215:6 (2024), 151–158; A. I. Shtern, “Automatic continuity of a locally bounded homomorphism of Lie groups on the commutator subgroup”, Sb. Math., 215:6 (2024), 861–868