Разложение по автоморфным собственным функциям оператора Лапласа–Бельтрами в классических симметрических пространствах ранга один и формула следа Сельберга

Дается обоснование формулы следа Сельберга для трех серий гиперболических пространств $S:SO_0(1,n)/SO(n),SU(1,n)/S(U(1)\times U(n)),S_p(1,n)/(S_p(1)\times S_p(n))$. Дискретная группа $\Gamma$, по предположениям, удовлетворяет условиям: a) $\Gamma\setminus S$ некомпактно и имеет конечный инвариантный объем; б) для множества непараболических элементов группы $\Gamma$ выполняется некоторый принцип минимума. Конкретное вычисление дополнительного по сравнению с компактным случаем вклада в формулу следа проводится для пространства $SO_0(1,n)/SO(n)$ и для некоторых специальных групп $\Gamma$. В качестве промежуточного результата в статье дано доказательство теоремы разложения по собственным функциям оператора Лапласа–Бельтрами на фундаментальной области $\Gamma\setminus S$. В частности, дается полная характеристика спектра указанного оператора. Кроме этого, приводится полная система собственных функций непрерывного спектра, которая совпадает с системой аналитически продолженных рядов Эйзенштейна. Библ. – 20 назв.