Математический сборник
RUS  ENG    ЖУРНАЛЫ   ПЕРСОНАЛИИ   ОРГАНИЗАЦИИ   КОНФЕРЕНЦИИ   СЕМИНАРЫ   ВИДЕОТЕКА   ПАКЕТ AMSBIB  
Общая информация
Последний выпуск
Скоро в журнале
Архив
Импакт-фактор
Правила для авторов
Лицензионный договор
Загрузить рукопись
Историческая справка

Поиск публикаций
Поиск ссылок

RSS
Последний выпуск
Текущие выпуски
Архивные выпуски
Что такое RSS



Матем. сб.:
Год:
Том:
Выпуск:
Страница:
Найти






Персональный вход:
Логин:
Пароль:
Запомнить пароль
Войти
Забыли пароль?
Регистрация


Математический сборник, 2024, том 215, номер 3, страницы 119–158
DOI: https://doi.org/10.4213/sm9921
(Mi sm9921)
 

О локальном устройстве выпуклых поверхностей

А. Ю. Плаховab

a CIDMA, Department of Mathematics, University of Aveiro, Aveiro, Portugal
b Институт проблем передачи информации им. А. А. Харкевича Российской академии наук, г. Москва
Список литературы:
Аннотация: Рассмотрим точку на поверхности выпуклого тела и опорную плоскость к телу в этой точке. Проведем плоскость, параллельную данной опорной плоскости и отсекающую некоторую часть поверхности. Мы изучаем предельное поведение отсеченной части поверхности, когда секущая плоскость приближается к заданной точке. Более точно, изучается предельное поведение подходящим образом нормированной поверхностной меры в $S^2$, порожденной этой частью поверхности. Рассматриваются случаи, когда точка является регулярной и когда она особая: коническая или ребристая. Опорная плоскость может быть по-разному расположена по отношению к касательному конусу в данной точке: может пересекаться с конусом по вершине, прямой (если точка является особой ребристой), плоскому углу (который может вырождаться в луч или полуплоскость) или по плоскости (если точка регулярная и соответственно конус вырождается в полупространство). В случае пересечения по лучу плоскость может касаться конуса (односторонним или двусторонним образом) или же нет.
Оказывается, предельное поведение меры может быть разным. В случае пересечения опорной плоскостью конуса по вершине или в случае (одностороннего или двустороннего) касания слабый предел всегда существует и однозначно определяется по плоскости и по конусу. В случае же пересечения по прямой или лучу при отсутствии касания предел может вообще не существовать. В последнем случае дана характеризация всех возможных слабых частичных пределов.
Библиография: 13 названий.
Ключевые слова: выпуклая геометрия, конические и ребристые особые точки, поверхностная мера выпуклых тел, касательный конус, аэродинамическая задача Ньютона.
Финансовая поддержка Номер гранта
Portuguese Foundation for Science and Technology UIDB/04106/2020
UIDP/04106/2020
2022.03091.PTDC
Работа была поддержана фондом Foundation for Science and Technology (FCT), посредством проектов UIDB/04106/2020 (https://doi.org/10.54499/UIDB/04106/2020), UIDP/04106/2020 (https://doi.org/10.54499/UIDP/04106/2020) и 2022.03091.PTDC (https://doi.org/10.54499/2022.03091.PTDC).
Поступила в редакцию: 10.04.2023 и 02.10.2023
Англоязычная версия:
Sbornik: Mathematics, 2024, Volume 215, Issue 3, Pages 401–437
DOI: https://doi.org/10.4213/sm9921e
Реферативные базы данных:
Тип публикации: Статья
MSC: Primary 52A15; Secondary 26B25, 49Q10

§ 1. Введение

Рассмотрим выпуклое компактное множество $C$ с непустой внутренностью в евклидовом пространстве $\mathbb R^d$, $d=3$ или $d=2$, точку $r_0$ на его границе, $r_0 \in \partial C$, и опорную плоскость (или прямую в двумерном случае) $\Pi$ к $C$ в точке $r_0$. Рассмотрим часть поверхности $\partial C$, содержащую $r_0$ и ограниченную некоторой плоскостью, параллельной $\Pi$. Нас интересуют предельные свойства этой части поверхности, когда ограничивающая плоскость стремится к $\Pi$.

Точка $r_0 \in \partial C$ называется регулярной, если опорная плоскость к $C$ в этой точке единственна, и особой в противном случае. Известно, что регулярные точки образуют множество полной меры в $\partial C$.

В настоящей статье мы в основном изучаем случай $d=3$. Двумерный случай $d=2$ весьма прост и исчерпывается замечанием 2. Рассмотрение случая высших размерностей мы оставляем на будущее.

В дальнейшем выпуклое компактное множество с непустой внутренностью будем называть выпуклым телом.

Обозначим $e$ внешнюю единичную нормаль к $\Pi$ и обозначим $\Pi_t$ плоскость, параллельную $\Pi$, на расстоянии $t>0$ от нее в стороне, противоположной к нормали. Таким образом, плоскость $\Pi=\Pi_0$ задана уравнением $\langle r-r_0, e \rangle=0$, а $\Pi_t$ – уравнением $\langle r-r_0, e \rangle=- t$. Тело $C$ содержится в замкнутом полупространстве $ \{r \colon \langle r-r_0, e\rangle \leqslant 0\}$. Здесь и далее $\langle \cdot\,{,}\,\cdot \rangle$ обозначает скалярное произведение.

Для каждого значения $t>0$ рассмотрим выпуклое тело

$$ \begin{equation*} C_t=C \cap \bigl\{{r} \colon \langle r-r_0, e\rangle \geqslant -t\bigr\}. \end{equation*} \notag $$
Другими словами, $C_t$ есть часть тела $C$, отсеченная от него плоскостью $\Pi_t$. Граница $C_t$ есть объединение плоского выпуклого множества
$$ \begin{equation} B_t=C \cap \bigl\{{r} \colon \langle r-r_0, e\rangle=-t\bigr\} \end{equation} \tag{1} $$
и выпуклой поверхности
$$ \begin{equation} S_t=\partial C \cap \bigl\{{r} \colon \langle r-r_0, e\rangle \geqslant -t\bigr\}; \end{equation} \tag{2} $$
таким образом, $\partial C_t=B_t \cup S_t$.

В дальнейшем мы будем обозначать $|\mathcal{A}|$ двумерную лебегову меру борелевского множества $\mathcal{A}$ на плоскости или на выпуклой поверхности $\partial C$. В частности, $|\square ABCD|$ обозначает площадь четырехугольника $ABCD$. Несколько злоупотребляя обозначениями, такое же обозначение мы будем использовать для длины отрезка или кривой; например, $|MN|$ обозначает длину отрезка $MN$; в будущем из контекста всегда будет ясно, о какой мере идет речь.

Обозначим ${n}_{r}$ внешнюю единичную нормаль к $C$ в регулярной точке границы ${r} \in \partial C$. Поверхностной мерой выпуклого тела $C$ называется борелевская мера $\nu_C$ в $S^2$, удовлетворяющая равенству

$$ \begin{equation} \nu_C(\mathcal{A}) :=|\{{r} \in \partial C \colon n_{r} \in \mathcal{A}\}|, \end{equation} \tag{3} $$
где $\mathcal{A} \subset S^2$ – произвольное борелевское множество. (В двумерном случае отсюда и до замечания 1 следует заменить $S^2$ на $S^1$.)

Приведенное определение поверхностной меры, по-видимому, возникло в работах А. Д. Александрова (см. [1; § 2]). Обзор известных результатов, относящихся к поверхностной мере, и соответствующие ссылки, а также некоторые новые результаты можно найти в статье [2].

Хорошо известна следующая формула для поверхностной меры (3) (см. [1; § 3, лемма 2]):

$$ \begin{equation} \int_{S^2} n\, d\nu_C(n)=\vec 0. \end{equation} \tag{4} $$

Будем обозначать $\nu_t=\nu_{C,r_0,e,t}$ нормированную меру, индуцированную поверхностью $S_t$. А именно, для каждого борелевского множества $\mathcal{A} \subset S^2$ положим по определению

$$ \begin{equation} \nu_t(\mathcal{A}) :=\frac{1}{|B_t|} \bigl|\{r\in S_t \colon n_r\in\mathcal{A}\}\bigr|. \end{equation} \tag{5} $$

Поверхностная мера выпуклого тела $C_t$ равна $\nu_{C_t}=|B_t| \delta_{-e}+|B_t| \nu_t$, а следовательно,

$$ \begin{equation*} \int_{S^2} n\, d\nu_{C_t}(n)=|B_t| \biggl(-e+\int_{S^2} n\, d\nu_t(n)\biggr). \end{equation*} \notag $$
Здесь и далее $\delta_{e}$ обозначает единичный атом, сосредоточенный в точке ${e}$. Применяя формулу (4) к $C_t$, получаем
$$ \begin{equation} \int_{S^2} n\, d\nu_t(n)=e. \end{equation} \tag{6} $$

Будем говорить, что мера $\nu_t$ слабо сходится к $\nu_*$ при $t \to 0$, и обозначать $\lim_{t\to0}\nu_t=\nu_*$, если для любой непрерывной функции $f$ на $S^2$ справедливо

$$ \begin{equation*} \lim_{t\to0} \int_{S^2} f(n)\, d\nu_t(n)=\int_{S^2} f(n)\, d\nu_*(n). \end{equation*} \notag $$
Аналогично, $\nu_*$ является слабым частичным пределом мер $\nu_t$, если существует последовательность положительных чисел $t_i, i \in \mathbb{N}$, сходящаяся к нулю и такая, что для любой непрерывной функции $f$ на $S^2$ справедливо
$$ \begin{equation*} \lim_{i\to\infty} \int_{S^2} f(n)\, d\nu_{t_i}(n)=\int_{S^2} f(n)\, d\nu_*(n). \end{equation*} \notag $$

В настоящей статье мы намереваемся изучить предельные свойства меры $\nu_t$ при $t \to 0$.

Одно такое свойство выводится немедленно. Пусть $\nu_*$ – слабый предел или слабый частичный предел мер $\nu_t$. Переходя к пределу $t \to 0$ в формуле (6) или к пределу $i \to \infty$, получаем

$$ \begin{equation} \int_{S^2} n\, d\nu_*(n)=e. \end{equation} \tag{7} $$

Замечание 1. Мотивация для такого изучения в значительной степени обусловлена экстремальными задачами в классах выпуклых тел и, в частности, задачей Ньютона о выпуклом теле наименьшего сопротивления (см. [3]–[9]). Естественно попытаться разработать метод малой вариации для таких задач, и, возможно, наиболее простой способ такой вариации – это отсечение плоскостью маленького кусочка тела. Этот подход оказался достаточно эффективным в случае задачи Ньютона (см. [4]):

  • найти наименьшее значение функционала
    $$ \begin{equation} \iint_\Omega \frac{1}{1+|\nabla u(x,y)|^2}\, dx\,dy \end{equation} \tag{8} $$
    в классе вогнутых функций $u\colon \Omega \to \mathbb R$, удовлетворяющих неравенству $0 \leqslant u \leqslant M$, где $\Omega \subset \mathbb R^2$ – плоское выпуклое тело и $M>0$.

В статье [10] анонсированы результаты настоящего исследования для частного случая, когда $r_0$ – ребристая особая точка, и затем эти результаты использованы при доказательстве следующего утверждения.

Если $u$ минимизирует функционал (8) и множество наибольшего уровня $L_M=\{ (x,y)\colon u(x,y)=M\}$ имеет непустую внутренность, то наклон боковой части графика $u$ в почти всех точках границы множества $L_M$ равен 1. Другими словами, для почти всех $(x, y) \in \partial L_M$ справедливо

$$ \begin{equation*} \lim_{\stackrel{(x',y')\to(x, y)}{u(x',y')<M}}|\nabla u(x',y')|=1. \end{equation*} \notag $$

Это утверждение представляет собой частичное доказательство гипотезы, которая была поставлена (без ограничения на множество наибольшего уровня) в середине 1990-х годов.

Замечание 2. Предельное поведение $\nu_t$ (5) достаточно просто в случае $d=2$. А именно, пусть касательный угол к $C \subset \mathbb R^2$ в точке $r_0$ (т.е. наименьший угол с вершиной в $r_0$, содержащий $C$) задается уравнениями

$$ \begin{equation*} \langle r-r_0, e_1 \rangle<0, \quad \langle r-r_0, e_2 \rangle<0, \qquad |e_1|=1, \quad |e_2|=1, \end{equation*} \notag $$
а $e$ задается формулой
$$ \begin{equation*} e=\lambda_1 e_1+\lambda_2 e_2, \qquad \lambda_1 \geqslant 0, \quad \lambda_2 \geqslant 0, \quad |e|=1. \end{equation*} \notag $$
Таким образом, $e_1$ и $e_2$ – векторы внешней нормали к сторонам угла, а $e$ – внешняя нормаль к опорной прямой в точке $r_0$. Тогда справедливо предельное соотношение
$$ \begin{equation*} \lim_{t\to 0} \nu_t=\lambda_1 \delta_{e_1}+\lambda_2 \delta_{e_2}. \end{equation*} \notag $$

В частном случае, если точка $r_0$ регулярная, справедливо $e_1=e_2=e$. В случае, если точка особая, $e_1 \ne e_2$, может оказаться, что $e$ совпадает с одним из векторов, $e_1$ или $e_2$. В обоих этих случаях предельная мера есть атом,

$$ \begin{equation*} \lim_{t\to 0} \nu_t=\delta_{e}. \end{equation*} \notag $$

Доказательство этих утверждений просто и предоставляется читателю.

В дальнейшем в настоящей статье мы сосредоточимся на трехмерном случае $d=3$. Под сходимостью мы будем всегда подразумевать слабую сходимость, не оговаривая этого специально.

По определению касательный конус к выпуклому телу $C$ в точке $r_0 \in \partial C$ – это наименьший замкнутый конус с вершиной в $r_0$, содержащий $C$. Другими словами, это замыкание объединения лучей с вершиной в $r_0$, пересечение которых с внутренностью $C$ непусто. Ясно, что касательный конус является выпуклым множеством.

Если касательный конус есть подпространство, то точка $r_0$ является регулярной. Если касательный конус есть двугранный угол, то $r_0$ называется ребристой особой точкой. Если же касательный конус является собственным, т.е. не содержит прямых, то $r_0$ называется конической особой точкой (см., например, [11]).

В частности, если $C$ – многогранник, то все внутренние точки его граней являются регулярными, внутренние точки его ребер являются ребристыми, а все вершины – конические точки.

Обозначим $N(r_0)$ множество внешних единичных нормалей к опорным плоскостям в точке $r_0$. Если точка $r_0$ регулярная, то $N(r_0)$ – одноточечное множество в $S^2$. Если точка ребристая и внешние нормали к соответствующему двугранному углу есть $e_1$ и $e_2$, то двугранный угол имеет вид

$$ \begin{equation} \langle r-r_0, e_1 \rangle \leqslant 0, \qquad \langle r-r_0, e_2 \rangle \leqslant 0, \end{equation} \tag{9} $$
а $N(r_0)$ – меньшая дуга большого круга в $S^2$ с концами в точках $e_1$ и $e_2$. Если точка $r_0$ коническая, то $N(r_0)$ – выпуклое множество в $S^2$ с непустой относительной внутренностью.

Обозначим $\partial N(r_0)$ относительную границу $N(r_0)$ в $S^2$. Если точка $r_0$ регулярная или ребристая, то $\partial N(r_0)=N(r_0)$. Точка множества $N(r_0)$ называется крайней, если она не является внутренней точкой дуги большого круга, целиком содержащейся в $N(r_0)$. Все крайние точки, конечно, лежат в $\partial N(r_0)$.

Ясно, что $e$ содержится в $N(r_0)$. Возможны следующие три случая (i)–(iii).

(i) $e$ является крайней точкой $N(r_0)$. Это справедливо, когда:

Случай a) означает, что плоскость $\Pi$ является касательной. Случай b) означает, что касательный конус является двугранным углом и $\Pi$ содержит одну из граней этого угла. Случай c) означает, что касательный конус является собственным, а плоскость $\Pi$ касается конуса (касание может быть односторонним или двусторонним).

(ii) $e$ принадлежит внутренности $N(r_0)$. В этом случае $r_0$ – коническая особая точка. Касательный конус является собственным, а плоскость $\Pi$ пересекается с конусом по его вершине.

(iii) $e$ принадлежит $\partial N(r_0)$, но не является крайней точкой. Это справедливо, когда:

В случае b) точки $e_1$ и $e_2$ определены однозначно с точностью до перестановки. Плоскость $\Pi$ пересекается с конусом по прямой (в случае a)) или по лучу (в случае b)), но не касается конуса.

Оказывается, предельное поведение меры $\nu_t$ различно в этих трех случаях. Это поведение детально описано в нижеследующих теоремах 15.

В случае (i) предел всегда существует и равен $\delta_e$.

В случае (ii) предел меры тоже существует и однозначно определен: он пропорционален мере, которая порождена отсеченной боковой поверхностью касательного конуса.

Случай (iii) наиболее трудный и интересный. В этом случае $e$ принадлежит $\partial N(r_0)$ и является внутренней точкой дуги $\Gamma$ большого круга, концы которой $e_1$ и $e_2$ есть крайние точки $N(r_0)$. Предел $\nu_t$ может не существовать вообще, однако множество предельных точек непусто и каждая предельная точка есть мера, носитель которой содержится в $\Gamma$ и содержит точки $e_1$ и $e_2$. Более того, справедливо следующее в некотором смысле обратное утверждение: пусть $e_1 \ne \pm e_2$; тогда любое замкнутое множество, содержащее $e_1$ и $e_2$ и содержащееся в малой дуге большого круга с концами в $e_1$ и $e_2$, может быть реализовано как носитель предела некоторого семейства мер $\nu_t$.

Рассмотрим несколько простых примеров.

Пример 1. Пусть $C$ – выпуклый многогранник, а пересечение опорной плоскости $\Pi$ с $C$ есть точка $r_0$ – одна из его вершин. В этом случае реализуется случай (ii), а мера $\nu_t$ не зависит от $t$ и является линейной комбинацией атомов $\delta_{e_i}$, где $e_i$ обозначают внешние нормали к граням, примыкающим к $r_0$.

Пример 2. Пусть $C$ – единичный шар в $\mathbb R^3$, а $r_0$ – точка на его поверхности. В этом случае реализуется случай (i), a), $e$ совпадает с $r_0$, а мера $\nu_t$ равномерно распределена в сферической шапочке углового раствора $\arccos(1-t)$ с центром в $e$. В пределе $t \to 0$ мера $\nu_t$ слабо сходится к $\delta_e$.

Пример 3. Пусть $C$ – выпуклый многогранник, $r_0$ – точка одной из его (замкнутых) граней, а $e$ – внешняя нормаль к этой грани. Если $r_0$ – внутренняя точка грани, то реализуется случай (i), a); если $r_0$ – внутренняя точка ребра данной грани, то реализуется случай (i), b); а если $r_0$ – одна из вершин, то реализуется случай (i), b).

Снабдим индексом $i$ каждую грань многогранника, примыкающую к данной грани. Мера $\nu_t$ есть линейная комбинация атомов,

$$ \begin{equation*} \nu_t=c(t) \delta_e+\sum_i c_i(t) \delta_{e_i}. \end{equation*} \notag $$
Здесь $c(t)$ – отношение площади заданной грани к площади сечения $C$ плоскостью $\Pi_t$, стремящееся к 1 при $t \to 0$, а каждый коэффициент $c_i(t)$ есть отношение площади отсеченной части $i$-й грани к площади сечения. При каждом $i$ имеем $c_i(t)=O(t)$, $t \to 0$. Таким образом, $\nu_t$ сходится к $\delta_e$, причем не только слабо, но и по норме.

Пример 4. Пусть $C$ снова является выпуклым многогранником, а $r_0$ – точка на одном из его ребер. Пусть $e_1$ и $e_2$ – внешние нормали к граням, содержащим это ребро, и $e=\lambda_1 e_1+\lambda_2 e_2$, $|e|=1$, $\lambda_1>0$, $\lambda_2>0$. Если $r_0$ – внутренняя точка ребра, то реализуется случай (iii), a) (рис. 1), а если $r_0$ совпадает с одной из вершин – концов этого ребра (точек $M$ и $N$ на рис. 1), то реализуется случай (iii), b).

Поверхность $S_t$ на рис. 1 есть объединение двух четырехугольников, $MNBA$ и $MNFD$, и двух треугольников, $BFN$ и $ADM$. Векторы $e_1$ и $e_2$ являются внешними нормалями к четырехугольникам $MNBA$ и $MNFD$ соответственно, и площадь каждого из четырехугольников – порядка $t$, т.е. $|\square MNBA|=c_1 t+ O(t^2)$, $|\Box MNFD|=c_2 t+O(t^2)$, $c_1>0$, $c_2>0$. Площади треугольников $BFN$ и $ADM$ есть $O(t^2)$.

Плоское множество $B_t$ есть четырехугольник $ABFD$, вектор нормали к нему есть $e$, а его площадь имеет порядок $t$, $|\square ABFD|=c_0 t+O(t^2)$. Следовательно, соответствующая мера $\nu_t$ сходится к мере $\nu_*$, носителем которой является двухточечное множество $\{e_1, e_2\}$, $\nu_*=\frac{c_1}{c_0} \delta_{e_1}+\frac{c_2}{c_0} \delta_{e_2}$. Используя формулу (7), получаем $\frac{c_1}{c_0}=\lambda_1$, $\frac{c_2}{c_0}=\lambda_2$, следовательно,

$$ \begin{equation} \nu_*=\lambda_1 \delta_{e_1}+\lambda_2 \delta_{e_2}. \end{equation} \tag{10} $$

Пример 5. Пусть $C=\{{r}=(x,y,z) \colon x^2+y^2 \leqslant 1,\, 0 \leqslant z \leqslant 1\}$ – цилиндр; возьмем ребристую точку $r_0$ на его границе, $r_0=(1,0,0) \in \partial C$. В этом случае реализуется случай (iii), a). Касательный конус в точке $r_0$ есть двугранный угол с внешними нормалями $e_1=(1,0,0)$ и $e_2=(0,0,-1)$. Рассмотрим единичный вектор $e= \lambda_1 e_1+\lambda_2 e_2$, где $\lambda_1>0$, $\lambda_2>0$, $\lambda_1^2+\lambda_2^2=1$ (рис. 2).

Поверхность $S_t$ есть часть поверхности $\partial C$, ограниченная плоскостью $\langle r- r_0, e\rangle=-t$; она является объединением части цилиндрической поверхности $S_t^1$ и части нижнего торца цилиндра $S_t^2$. Внешние нормали в точках поверхности $S_t^2$ совпадают с $e_2$. Внешние нормали в точках поверхности $S_t^1$ принадлежат некоторой дуге в $S^2$ с серединой в $e_1$, длина которой стремится к 0 при $t \to 0$. Следовательно, $\nu_t$ есть сумма двух членов, один из которых пропорционален $\delta_{e_2}$, а другой пропорционален мере, слабо сходящейся к $\delta_{e_1}$. Используя формулу (7), заключаем, что $\nu_t$ сходится к мере $\nu_*$, заданной формулой (10).

Может показаться, что в случае (iii) предельная мера всегда существует и задается соотношением (10), как в двумерном случае и как в разобранных примерах 4 и 5. Но оказывается, что это неверно. Рассмотрим следующий пример.

Пример 6. Пусть $C$ – часть цилиндра, ограниченная двумя плоскостями,

$$ \begin{equation*} C=\{(x,y,z) \colon -z-1 \leqslant x \leqslant z+1,\, y^2+z^2 \leqslant 1\}. \end{equation*} \notag $$
Рассмотрим ребристую точку на ней $r_0=(0,0,-1) \in \partial C$. Внешние нормали соответствующего двугранного угла есть $e_1=\frac{1}{\sqrt{2}}\, (-1,0,-1)$ и $e_2=\frac{1}{\sqrt{2}} \, (1,0,-1)$. Возьмем $e=(0,0,-1)=\frac{1}{\sqrt{2}} \, e_1+\frac{1}{\sqrt{2}}\, e_2$ (рис. 3).

Здесь мы имеем $C_t=C \cap \{z \leqslant -1+t\}$, а $B_t$ является прямоугольником $-t \leqslant x \leqslant t$, $-\sqrt{2t-t^2} \leqslant y \leqslant \sqrt{2t-t^2}$, содержащимся в плоскости $z=-1+t$. Поверхность $S_t$ есть объединение трех частей, $S_t=S_t^1 \cup S_t^2 \cup S_t^0$, где $S_t^1$ – плоская область с внешней нормалью $e_1$, заданная уравнениями $x=-z-1$, $x \geqslant -t$, $(x+1)^2+y^2 \leqslant 1$, а $S_t^2$ – плоская область с внешней нормалью $e_2$, заданная уравнениями $x=z+1$, $x \leqslant t$, $(x-1)^2+y^2 \leqslant 1$. Эти поверхности являются сегментами эллипсов в плоскостях $x=-z- 1$ и $x=z+1$ соответственно. Поверхность $S_t^0$ есть график функции $z(x,y)=-\sqrt{1-y^2}$ с областью определения

$$ \begin{equation*} -(1-\sqrt{1-y^2}) \leqslant x \leqslant 1-\sqrt{1-y^2},\qquad -\sqrt{2t-t^2} \leqslant y \leqslant \sqrt{2t-t^2} \end{equation*} \notag $$
(рис. 4). Внешние нормали в точках поверхности $S_t^0$ образуют дугу с серединой в $e$, длина которой стремится к 0 при $t \to 0$.

Нетрудно получить оценку для площади каждой из этих трех поверхностей:

$$ \begin{equation*} \begin{gathered} \, |B_t|=2t\cdot 2\sqrt{2t-t^2}=4\sqrt 2 \, t^{3/2}(1+o(1)), \qquad t \to 0, \\ |S_t^0|=\frac{4\sqrt 2}{3}\, t^{3/2}(1+o(1)), \quad |S_t^1|=|S_t^2|=\frac{8}{3}\, t^{3/2}(1+o(1)), \qquad t \to 0. \end{gathered} \end{equation*} \notag $$
Из этих формул следует, что $\nu_t$ сходится к мере
$$ \begin{equation*} \nu_*=\frac{\sqrt{2}}{3} \, \delta_{e_1}+\frac{\sqrt{2}}{3} \, \delta_{e_2}+\frac{1}{3} \delta_{e}, \end{equation*} \notag $$
носителем которой является трехточечное множество $\{e_1, e_2, e\}$.

Таким образом, предельная мера не обязательно является суммой двух атомов вида (10). Более того, оказывается, $\nu_t$ может вообще не сходиться, как показывает следующий пример.

Пример 7. Определим $C$ следующим образом:

$$ \begin{equation*} C=\{(x,y,z) \colon -z \leqslant x \leqslant z,\ \gamma(y) \leqslant z \leqslant 1\}, \end{equation*} \notag $$
где $\gamma \colon \mathbb R \to \mathbb R$ – выпуклая четная функция, причем $\gamma(0)=\gamma'(0)=0$ и $\gamma(y)>0$ при $y \ne 0$. Точка $r_0=(0,0,0)$ является ребристой, и соответствующий касательный конус задается неравенствами (9), где $e_1=\frac{1}{\sqrt{2}}\, (-1,0,-1)$ и $e_2= \frac{1}{\sqrt{2}}\, (1,0,-1)$. Положим $e=(0,0,-1)=\frac{1}{\sqrt{2}}\, e_1+\frac{1}{\sqrt{2}}\, e_2$. Таким образом, $e_1$, $e_2$ и $e$ такие же, как в примере 6.

Имеем $C_t=C \cap \{z \leqslant t\}$, а $B_t$ есть прямоугольник $-t \leqslant x \leqslant t$, $\gamma(y) \leqslant t$ в плоскости $z=t$. Поверхность $S_t$ есть объединение трех частей, $S_t=S_t^1 \cup S_t^2 \cup S_t^0$, где $S_t^1$ – плоская область с внешней нормалью $e_1$, заданная уравнениями $x=-z$, $-t \leqslant x \leqslant -\gamma(y)$, $S_t^2$ – плоская область с внешней нормалью $e_2$, заданная уравнениями $x=z$, $\gamma(y) \leqslant x \leqslant t$, а $S_t^0$ – график функции $z(x,y)\,{=}\,\gamma(y)$ с областью определения $-\gamma(y) \leqslant x \leqslant \gamma(y)$, $\gamma(y) \leqslant t$. Внешние нормали к $S_t^0$ содержатся в некоторой окрестности $e$ с диаметром, стремящимся к 0 при $t \to 0$.

Проекции поверхностей $S_t^1$, $S_t^2$ и $S_t^0$ на плоскость $xy$ выглядят примерно так же, как на рис. 4. Если семейство точек $\bigl(|S_t^-|/|B_t|, |S_t^+|/|B_t|, |S_t^0|/|B_t| \bigr)$ при $t \to 0$ имеет частичный предел $(b^-, b^+, b^0)$, то семейство мер $\nu_t$ имеет соответствующий частичный предел $\nu_*=b^- \delta_{e_1}+b^+\delta_{e_2}+b^0 \delta_{e}$.

Пусть график функции $x=\gamma(y)$, $y>0$ является ломаной с бесконечным числом звеньев, причем вершины ломаной $(x_i, y_i)$, $i \geqslant i_0$, определим индуктивно следующим образом. Зафиксируем $0<a<b<1$. Начальные значения $x_{i_0}>0$, $y_{i_0}>0$ выбираем произвольным образом. Пусть $(x_i, y_i)$ уже заданы, тогда положим $x_{i+1}=x_i/i$; если $i$ четно, то положим $y_{i+1}=ay_i$, а если $i$ нечетно, то положим $y_{i+1}=by_i$. Начальное значение $i_0$ выбираем достаточно большим для того, чтобы построенная таким образом функция $\gamma$ была выпуклой.

Положив $t=x_i$, получаем $|B_{x_i}|=4x_i y_i$; если $i$ четно, то

$$ \begin{equation*} \begin{gathered} \, |S_{x_i}^0|=4 \cdot \frac{1-a}{2}\, x_i y_i (1+o(1)),\qquad |S_{x_i}^1|= |S_{x_i}^2|=2\sqrt 2 \cdot \frac{1+a}{2}\, x_i y_i (1+o(1)), \\ i \to \infty, \end{gathered} \end{equation*} \notag $$
а если $i$ нечетно, то
$$ \begin{equation*} \begin{gathered} \, |S_{x_i}^0|=4 \cdot \frac{1-b}{2}\, x_i y_i (1+o(1)),\qquad |S_{x_i}^1|= |S_{x_i}^2|=2\sqrt 2 \cdot \frac{1+b}{2}\, x_i y_i (1+o(1)), \\ i \to \infty. \end{gathered} \end{equation*} \notag $$
Следовательно, $\nu_t$ имеет по крайней мере два частичных предела:
$$ \begin{equation*} \begin{gathered} \, \nu_*^1=\lim_{\stackrel{i\text{ четно}}{i\to\infty}} \nu_{x_i}=\frac{1+a}{2\sqrt 2} (\delta_{e_1}+\delta_{e_2})+\frac{1-a}{2}\delta_e, \\ \nu_*^2=\lim_{\stackrel{i\text{ нечетно}}{i\to\infty}} \nu_{x_i}=\frac{1+b}{2\sqrt 2} (\delta_{e_1}+\delta_{e_2})+\frac{1-b}{2}\delta_e. \end{gathered} \end{equation*} \notag $$

Введем некоторые дополнительные обозначения. Пусть $e_1$ и $e_2$ – единичные векторы, причем $e_1 \ne \pm e_2$. Обозначим $\Gamma_{e_1,e_2}$ меньшую дугу большого круга в $S^2$ с концами в точках $e_1$ и $e_2$.

Пусть $r_0$ – коническая точка, а $e$ – внутренняя точка множества $N(r_0)$. Плоскости $\Pi_t$ отрезают от касательного конуса подобные куски. Выберем $t$ таким образом, чтобы пересечение плоскости $\Pi_t$ с касательным конусом имело площадь 1. Обозначим $\nu_\star$ поверхностную меру, порожденную отсеченным куском конической поверхности. Она сосредоточена на множестве $\partial N(r_0)$ и удовлетворяет равенству

$$ \begin{equation*} \int_{S^2} n\, d\nu_\star(n)=e. \end{equation*} \notag $$

Итак, мы понимаем локальное устройство выпуклой поверхности как предельное поведение меры $\nu_t$, порожденной отсеченной частью поверхности. Отсечение производится плоскостью с вектором внешней нормали $e$. Это предельное поведение зависит от положения вектора $e$ во множестве $N(r_0)$, как видно из следующих теорем. В теоремах 13 поведение зависит от самого вектора и от касательного конуса. В теореме 4 все не так однозначно.

Теорема 1. Если $e$ – крайняя точка множества $N(r_0)$, то справедливо

$$ \begin{equation} \lim_{t\to 0} \nu_t=\delta_{e}. \end{equation} \tag{11} $$

Теорема 2. Если $e$ – внутренняя точка $N(r_0)$ и тем самым точка $r_0$ является конической, то справедливо

$$ \begin{equation} \lim_{t\to 0} \nu_t=\nu_\star. \end{equation} \tag{12} $$

Таким образом, согласно теоремам 1 и 2, если $e$ – крайняя точка или внутренняя точка множества $N(r_0)$, то предельная мера определена однозначно.

Если же $e$ содержится в $\partial N(r_0)$, но не является крайней точкой $N(r_0)$, то сходимость меры $\nu_t$ зависит от того, является множество $B_t$ при $t=0$ невырожденным отрезком или вырождается в точку. В первом случае предел существует и является суммой двух атомов, а во втором сходимость не гарантирована и удается лишь описать свойства частичных пределов. Ответ дается следующими теоремами 3 и 4.

Теорема 3. Пусть $e$ принадлежит $\partial N(r_0)$ и не является крайней точкой $N(r_0)$, и тем самым имеет место представление $e=\lambda_1 e_1+\lambda_2 e_2$, $\lambda_1>0$, $\lambda_2>0$, где $e_1$ и $e_2$ – крайние точки $N(r_0)$. В этом случае множество $B_0$ есть отрезок прямой, перпендикулярный векторам $e_1$ и $e_2$ и содержащий точку $r_0$. Если этот отрезок не вырождается в точку, то

$$ \begin{equation} \lim_{t\to 0} \nu_t=\lambda_1 \delta_{e_1}+\lambda_2 \delta_{e_2}. \end{equation} \tag{13} $$

Теорема 4. В условиях теоремы 3, если $B_0$ есть точка $r_0$, то множество частичных пределов $\nu_t$ непусто, причем каждый частичный предел есть мера, носитель которой содержится в дуге $\Gamma_{e_1,e_2}$ и содержит точки $e_1$ и $e_2$.

Таким образом, в теореме 4 определяется лишь некоторое свойство частичного предела $\nu_t$. Следующая теорема является в некотором смысле обратной к теореме 4: в ней говорится, что это свойство является не только необходимым, но и достаточным для существования соответствующей предельной меры.

Теорема 5. Рассмотрим единичные векторы $e_1$, $e_2$, $e$ такие, что $e_1 \ne \pm e_2$ и для некоторых $\lambda_1>0$, $\lambda_2>0$ справедливо $e=\lambda_1 e_1+\lambda_2 e_2$. Таким образом, $e$ – внутренняя точка дуги $\Gamma=\Gamma_{e_1,e_2}$. Пусть $K$ – замкнутое подмножество дуги $\Gamma$, содержащее ее концы $e_1$ и $e_2$, т.е. $\{e_1, e_2\} \subset K \subset \Gamma$. Тогда существуют выпуклое тело $C$ и ребристая точка $r_0$ на его поверхности такие, что касательный конус к $C$ в точке $r_0$ задается формулой (9) и мера $\nu_t=\nu_{C,r_0,e,t}$ при $t \to 0$ сходится к некоторой мере $\nu_*$ с носителем $K$.

В теоремах 15 содержатся главные результаты статьи. Суммируя и несколько перефразируя их, можно утверждать, что в следующих случаях:

предельная мера существует и определена однозначно плоскостью и конусом.

Если же плоскость $\Pi$ пересекается с конусом по лучу или прямой, но не касается конуса, а пересечение ее с телом $C$ есть точка, то существование предельной меры нельзя гарантировать. Частичные пределы меры существуют всегда и удовлетворяют определенным условиям. Доказано также, что любая мера, удовлетворяющая этим условиям, может быть реализована как предел мер, соответствующих некоторой ребристой точке некоторого выпуклого тела.

Замечание 3. Мы предполагаем, что теорема 5 может быть усилена следующим образом.

Утверждение. Пусть $N \subset S^2$ – замкнутое выпуклое множество, принадлежащее одной из полусфер, пересечение $N$ с большим кругом – границей этой полусферы – есть дуга $\Gamma=\Gamma_{e_1,e_2}$, и пусть $e$ – внутренняя точка дуги $\Gamma$. Предположим, что мера $\nu_*$ удовлетворяет (7) и носитель $\nu_*$ содержится в $\Gamma$ и содержит $e_1$ и $e_2$. Тогда существуют выпуклое тело $C$ и точка $r_0 \in \partial C$ такие, что $N(r_0)=N$ и мера $\nu_t=\nu_{C,r_0,e,t}$ при $t \to 0$ сходится к $\nu_*$.

Доказательство этого утверждения мы оставляем на будущее.

Некоторые частные утверждения теорем 15, относящиеся к случаям, когда точка $r_0$ регулярная и когда точка коническая и $e$ – внутренняя точка $N(r_0)$, доказаны в статье [12].

Доказательства теорем 15 приведены в §§ 26.

§ 2. Доказательство теоремы 1

Сначала докажем несколько простых утверждений.

Лемма 1. Если плоское выпуклое множество $D \subset \mathbb R^2$ содержит круг радиуса $a$, то его периметр $P$ и площадь $A$ связаны соотношением

$$ \begin{equation} P \leqslant \frac{2}{a} A. \end{equation} \tag{14} $$

Доказательство. В самом деле, пусть $A(d\varphi)$ – площадь подмножества $D$, заключенного между двумя лучами, исходящими из центра круга и ограничивающими инфинитезимальную дугу $d\varphi$ границы $D$, и пусть $p(d\varphi)$ – длина этой дуги (рис. 5).

Тогда имеем

$$ \begin{equation*} A(d\varphi) \geqslant \frac{a}{2}\, p(d\varphi), \end{equation*} \notag $$
а значит,
$$ \begin{equation*} A=\int_0^{2\pi} A(d\varphi) \geqslant \frac{a}{2} \int_0^{2\pi} p(d\varphi)=\frac{a}{2}P. \end{equation*} \notag $$
Отсюда следует (14).

Лемма доказана.

Лемма 2. Пусть выпуклое тело $C$ в евклидовом пространстве $\mathbb R^3$ с координатами $(x_1, x_2, z)$ заключено между плоскостями $z=0$ и $z=t$, $t>0$. Обозначим $D$ образ $C$ при естественной проекции $\mathbb R^3$ на $x$-плоскость, $(x,z) \mapsto x$, и пусть $P=|\partial D|$ – его периметр. Пусть для некоторого значения $0<\varphi<\pi/2$ и для некоторой области $\mathcal{U} \subset \partial C$ внешняя нормаль $n_r=(n_{r1}, n_{r2}, n_{r3})$ в любой регулярной точке $r \in \mathcal{U}$ удовлетворяет неравенству $|n_{r3}| \leqslant \cos\varphi$. (Другими словами, касательная плоскость во всех регулярных точках $\mathcal{U}$ составляет угол $\geqslant \varphi$ с плоскостью $z=0$.) Тогда

$$ \begin{equation*} |\mathcal{U}| \leqslant \frac{2tP}{\sin\varphi}. \end{equation*} \notag $$

Доказательство. Тело $C$ ограничено снизу графиком некоторой выпуклой функции $u_1$ и сверху – графиком некоторой вогнутой функции $u_2$, т.е.
$$ \begin{equation*} C=\{(x,z) \colon u_1(x) \leqslant z \leqslant u_2(x)\} \end{equation*} \notag $$
(рис. 6). Обе функции определены в области $D$. Обозначим $\mathcal{U}_i$ $(i=1,2)$ пересечение $\mathcal{U}$ с графиком $u_i$. Ясно, что если точка $(x, u_i(x))$ регулярна и принадлежит $\mathcal{U}_i$, то $|\nabla u_i(x)| \geqslant \operatorname{tg}\varphi$.

При $0 \leqslant z \leqslant t$ обозначим $l_z$ длину кривой $\{x\colon u_1(x)=z\}$ и снабдим каждую такую кривую натуральным параметром $s \in [0, l_z]$. Если же соответствующее множество пусто, то положим $l_z=0$. Ясно, что $l_z \leqslant P$. Обозначим $x(z,s)$ точку, соответствующую параметру $s$ на данной кривой. Тогда площадь $\mathcal{U}_1$ равна

$$ \begin{equation*} |\mathcal{U}_1|=\int_0^t dz \int_0^{l_z} \sqrt{1+\frac{1}{|\nabla u_1(x(z,s))|^2}}\, ds \leqslant \int_0^t l_z \sqrt{1+\operatorname{ctg}^2 \varphi}\, dz \leqslant \frac{tP}{\sin\varphi}. \end{equation*} \notag $$
Те же рассуждения справедливы для $\mathcal{U}_2$; следовательно, $|\mathcal{U}|=|\mathcal{U}_1|+|\mathcal{U}_2| \leqslant 2tP/\sin\varphi$.

Лемма доказана.

Лемма 3. Если выпуклое множество на плоскости содержит два взаимно перпендикулярных отрезка длины 1, то оно также содержит круг радиуса $c$, где $c$ – некоторая положительная постоянная.

Доказательство. Рассмотрим два случая.

1. Один из отрезков (назовем его отрезок 1) пересекает прямую, содержащую другой отрезок (отрезок 2). Прямая делит отрезок 1 на два меньших отрезка, причем длина одного из них (скажем, отрезка $1'$) не меньше $1/2$. Второй отрезок делится первым на две части, одна из которых – отрезок $2'$ – имеет длину не меньше $1/2$. Выпуклая оболочка отрезков $1'$ и $2'$ есть прямоугольный треугольник с катетами длины $\geqslant 1/2$. Этот треугольник содержит круг с радиусом $r_1=1/(4+2\sqrt 2)$.

2. Прямая, содержащая один из отрезков, не пересекает другой отрезок. В подходящей системе координат отрезки имеют вид $[b-1, b] \times \{0\}$ и $\{0\} \times [a- 1, a]$, причем $a> 1$ и $b>1$. Без ограничения общности считаем, что $a \geqslant b$.

Рассмотрим треугольник с базой $[b-1, b] \times \{0\}$ и вершиной $(0, a)$. Его площадь равна $S=a/2$, а периметр $p$ удовлетворяет неравенствам $p \leqslant 1+2\sqrt{a^2+b^2} \leqslant 1+ 2\sqrt 2 a$. Значит, радиус $r$ окружности, вписанной в этот треугольник, удовлетворяет соотношениям

$$ \begin{equation*} r=\frac{2S}{p} \geqslant \frac{a}{1+2\sqrt 2 a}>\frac{1}{1+2\sqrt 2}=r_2. \end{equation*} \notag $$
Поскольку $r_1<r_2$, заключаем, что выпуклое множество содержит круг радиуса $c=r_1$.

Лемма доказана.

Пусть $K \subset \mathbb R^2$ – выпуклое тело. Напомним, что касательный угол к $K$ в точке $p \in \partial K$ есть замыкание объединения всех лучей с вершиной $p$, пересекающих внутренность $K$. Если точка $p$ регулярная, то касательный угол является полуплоскостью. Обозначим $K_\varepsilon$ множество точек внутри $K$, расстояние которых до $\partial K$ больше или равно $\varepsilon$. Другими словами, $K_\varepsilon=K \setminus \mathcal{N}_\varepsilon(\partial K)$, где $\mathcal{N}_\varepsilon$ обозначает $\varepsilon$-окрестность.

Пусть $l$ – опорная прямая к $K$ в некоторой точке $r^{\mathrm{o}} \in \partial K$, а $\epsilon^{\mathrm{o}}$ – внешняя нормаль к $l$. Таким образом,

$$ \begin{equation*} l=\{r \colon \langle r-r^{\mathrm{o}}, \epsilon^{\mathrm{o}} \rangle=0\}. \end{equation*} \notag $$
Обозначим $l_\delta$, $\delta>0$, прямую, параллельную прямой $l$ и проходящую на расстоянии $\delta$ от нее со стороны, противоположной вектору $\epsilon^{\mathrm{o}}$. Ее уравнение имеет вид
$$ \begin{equation*} l_\delta=\{r \colon \langle r-r^{\mathrm{o}}, \epsilon^{\mathrm{o}} \rangle=-\delta\}. \end{equation*} \notag $$
При достаточно малом $\delta>0$ $l_\delta$ пересекает $K$. Пересечение $l_\delta \,{\cap}\, K_\varepsilon$ есть отрезок (возможно, вырождающийся в точку или пустое множество). Обозначим $\beta_{\delta,\varepsilon}= |l_{\delta} \cap K_\varepsilon|$ длину этого отрезка.

Лемма 4. Пусть $l$ содержит одну из сторон касательного угла к $K$ в точке $r^{\mathrm{o}}$, и пусть $\kappa>0$. Тогда $\beta_{(1+\kappa)\varepsilon,\varepsilon}/\varepsilon \to \infty$ при $\varepsilon \to 0$.

Доказательство. В подходящей системе координат $(x_1, x_2)$ $r^{\mathrm{o}}$ совпадает с началом координат $(0,0)$, прямая $l$ есть $x_1$-ось, прямая $l_\delta$ задается уравнением $x_2=\delta$, одна из сторон касательного угла – луч $x_1 \geqslant 0$, $x_2=0$, а часть нижней границы $K$ задается выпуклой неотрицательной функцией $x_2=\varphi(x_1)$, определенной на отрезке положительной полуоси, содержащем 0, причем $\varphi'_+(0)=0$.

При достаточно малом $\varepsilon>0$ уравнение $\varphi(\xi)=\kappa\varepsilon$ имеет единственное решение $\xi= \xi(\varepsilon)$, причем $\lim_{\varepsilon\to 0} \xi(\varepsilon)/\varepsilon=0$. Отрезок $[\xi/2, \xi-\varepsilon] \times \{ (1+\kappa)\varepsilon\}$ при достаточно малых значениях $\varepsilon$ принадлежит $K_\varepsilon$, а значит, содержится в отрезке $l_{(1+\kappa)\varepsilon} \cap K_\varepsilon$ (рис. 7); отсюда получаем $\beta_{(1+\kappa)\varepsilon,\varepsilon} \geqslant \xi/2-\varepsilon$, а $\beta_{(1+\kappa)\varepsilon,\varepsilon}/\varepsilon \geqslant \xi/(2\varepsilon)-1 \to \infty$ при $\varepsilon \to 0$.

Лемма доказана.

Рассмотрим выпуклое тело $C$ в $\mathbb R^3$. Начиная отсюда и до конца доказательства леммы 6 мы предполагаем, что точка $r_0 \in \partial C$ является особой конической, и рассматриваем вектор $e$, принадлежащий $\partial N(r_0)$ (но не обязательно являющийся крайней точкой $N(r_0)$). Плоскость $\Pi$ проходит через $r_0$ и перпендикулярна вектору $e$.

Сделаем следующее дополнительное построение: возьмем вектор $\widehat e$ во внутренности $N(r_0)$ и обозначим $\widehat\Pi_t$ плоскость $\langle r-r_0, \widehat e \rangle=-t$. Таким образом, плоскость $\widehat\Pi_t$ проходит на расстоянии $t$ от $r_0$, и ее пересечение с касательным конусом есть плоское выпуклое тело $\widehat K_t$, а $\widehat B_t=C \cap \widehat\Pi_t$ – выпуклое тело, содержащееся в $\widehat K_t$. Прямая $\widehat l_t=\Pi \cap \widehat\Pi_t$ является опорной к $\widehat K_t$.

Лемма 5. Вектор $e$ является крайней точкой $N(r_0)$, если и только если прямая $\Pi \cap \widehat\Pi_t$ содержит одну из сторон одного из касательных углов $\widehat K_t$.

Доказательство предоставляется читателю.

Напомним, что $\mathcal{A}_\delta$ обозначает множество точек $\mathcal{A}$, лежащих на расстоянии $\geqslant \delta$ от $\partial\mathcal{A}$, т.е. $\mathcal{A}_\delta=\mathcal{A} \setminus \mathcal{N}_\delta(\partial\mathcal{A})$.

Лемма 6. Существует функция $\tau=\tau(\delta)$, $\delta>0$, такая, что

$$ \begin{equation*} \lim_{\delta\to 0} \frac{\delta}{\tau(\delta)}= 0 \end{equation*} \notag $$
и $\widehat B_\tau$ содержит $(\widehat K_\tau)_\delta$.

Доказательство. Поместим начало координат в точку $r_0$; тогда гомотетия любого множества $\mathcal{A}$ с центром в $r_0$ и коэффициентом $k$ есть $k\mathcal{A}$. Справедливо $\frac{1}{\tau} \widehat K_\tau=\widehat K_1$.

Предположим, что лемма 6 неверна; тогда существуют последовательности положительных чисел $\delta_n$ и $\tau_n$, сходящиеся к нулю и такие, что $\delta_n/\tau_n$ сходится к некоторому $c>0$ при $n \to \infty$ и $\widehat B_{\tau_n}$ не содержит $(\widehat K_{\tau_n})_{\delta_n}$. Это означает, что существует последовательность точек $r_n \in \widehat K_{\tau_n}$ таких, что $\operatorname{dist}(r_n, \partial\widehat K_{\tau_n}) \geqslant \delta_n$, но $r_n \not\in \widehat B_{\tau_n}$.

Соответствующая последовательность точек $\frac{1}{\tau_n} r_n$ удовлетворяет соотношениям

$$ \begin{equation*} \frac{1}{\tau_n} r_n \in \widehat K_1, \qquad \operatorname{dist}\biggl(\frac{1}{\tau_n} r_n, \partial\widehat K_1\biggr) \geqslant \frac{\delta_n}{\tau_n}. \end{equation*} \notag $$
Выбирая в случае необходимости подпоследовательность, считаем, что $\frac{1}{\tau_n} r_n$ сходится к некоторой точке $r^{\mathrm{o}} \in \widehat K_1$, причем $\operatorname{dist}(r^{\mathrm{o}}, \partial\widehat K_1) \geqslant c$, а значит, $r^{\mathrm{o}}$ – внутренняя точка $\widehat K_1$.

Проведем прямую через $r_n$ в плоскости $\widehat\Pi_{\tau_n}$ таким образом, что одна из полуплоскостей, ограниченных этой прямой, не пересекается с $\widehat B_{\tau_n}$. Пусть эта полуплоскость (напомним, в плоскости $\widehat\Pi_{\tau_n}$) имеет вид $\langle r-r_n, e_n \rangle \geqslant 0$, $|e_n|=1$. Снова выбирая в случае необходимости подпоследовательность, можем считать, что $e_n$ сходится к некоторому единичному вектору $e^{\mathrm{o}}$.

Возьмем произвольную точку $r$ в пересечении внутренности $\widehat K_1$ с открытой полуплоскостью $\langle r-r^{\mathrm{o}}, e^{\mathrm{o}} \rangle>0$ в плоскости $\widehat\Pi_{1}$. В силу сходимости $\frac{1}{\tau_n} r_n \to r^{\mathrm{o}}$, $e_n \to e^{\mathrm{o}}$, при достаточно больших $n$ справедливо $\langle r-\frac{1}{\tau_n} r_n, e_n \rangle>0$, а значит, $\langle {\tau_n} r-r_n, e_n \rangle>0$. Последнее означает, что точка ${\tau_n} r$ не содержится в $\widehat B_{\tau_n}$, а значит, и в $C$. Отсюда следует, что и весь луч $\mathbb R^+_0 r$ пересекается с $C$ только в точке 0. Мы получаем противоречие с тем, что этот луч содержится во внутренности касательного конуса.

Лемма доказана.

Лемма 7. Пусть $e$ – крайняя точка $N(r_0)$. Тогда множество $B_t$ содержит два взаимно перпендикулярных отрезка длины $\beta_t$, где $\beta_t/t \to \infty$ при $t \to 0$.

Доказательство. (a) Пусть точка $r_0$ регулярная, а значит, множество $N(r_0)$ есть одна точка $e=n_{r_0}$.

Пересечение $B_t$ с любой плоскостью, проходящей через $r_0$ и перпендикулярной $\Pi_t$, есть отрезок, длина которого $\beta_t^\varphi$ удовлетворяет предельному соотношению $\beta_t^\varphi/t \to \infty$ при $t \to 0$. Здесь $0 \leqslant \varphi<\pi$ – угол поворота плоскости, служащий для нее параметром. Взяв две взаимно перпендикулярные плоскости, например, соответствующие углам $\varphi=0$ и $\varphi=\pi/2$, получаем доказательство утверждения с $\beta_t=\min \{ \beta_t^0,\beta_t^{\pi/2}\}$.

(b) Пусть точка $r_0$ ребристая, а значит, $N(r_0)$ – дуга большого круга, а $e$ совпадает с $e_1$ или с $e_2$. Проведем две плоскости через $r_0$: одна перпендикулярна ребру двугранного угла, а другая содержит это ребро и некоторую внутреннюю точку двугранного угла (например, является биссектрисой этого угла). Пересечения этих плоскостей с $B_t$ есть два взаимно перпендикулярных отрезка с длинами $\beta_t^1$ и $\beta_t^2$, удовлетворяющими соотношению $\beta_t^i/t \to \infty$ при $t \to 0$, $i=1, 2$. Снова можно принять $\beta_t=\min \{ \beta_t^1,\beta_t^{2}\}$.

(c) Пусть точка $r_0$ коническая. Напомним, что плоскость $\Pi$ проходит через $r_0$ и перпендикулярна $e$. Пересечение ее с касательным конусом есть угол с вершиной в $r_0$, который может вырождаться в луч.

Возьмем биссектрису этого угла (луч $r_0 p$ на рис. 8) и проведем плоскость $\widetilde\Pi$ через нее и через какую-нибудь внутреннюю точку касательного конуса. Пересечение этой плоскости с $C$, с касательным конусом и с плоскостью $\Pi_t$ есть соответственно выпуклое плоское тело, касательный угол к этому телу и прямая, параллельная выбранному лучу $r_0 p$, на расстоянии от него, пропорциональном $t$. Пересечение $\widetilde\Pi$ с $B_t$ есть отрезок ($b_t$ на рис. 8); покажем, что его длина $\beta_t^1$ удовлетворяет соотношению $\beta_t^1/t \to \infty$ при $t \to 0$.

В самом деле, каждый луч, выпущенный из $r_0$ в плоскости $\widetilde\Pi$ внутри открытого касательного угла, пересекает $C$ по некоторому отрезку с одним концом в $r_0$. Это значит, что он пересечет и отрезок $b_t$ при достаточно маленьких значениях $t$. Для каждого значения $\varepsilon>0$, меньшего величины касательного угла, выпустим из $r_0$ два таких луча (штриховые линии на рис. 8), причем один фиксирован, а другой составляет угол $\varepsilon$ с лучом $r_0 p$. При достаточно малых значениях $t$ оба луча пересекут отрезок $b_t$, причем расстояние между точками пересечения составляет $\frac{ct}{\varepsilon} (1+o(1)), \varepsilon \to 0$. Ввиду того, что длина $\beta_t^1$ этого отрезка не меньше этого расстояния, устремляя $\varepsilon$ к нулю, получаем искомое соотношение.

Возьмем прямую $l$, перпендикулярную вышеуказанной биссектрисе, и проведем через нее плоскость $\widehat\Pi$, пересекающую касательный конус по ограниченной выпуклой фигуре (назовем ее $\widehat K$). Обозначим $\widehat e$ единичную нормаль к плоскости $\widehat\Pi$, находящуюся от нее по ту же сторону, что и точка $r_0$. Плоскость $\widehat\Pi_\tau$ задается уравнением $\langle r-r_0, \widehat e \rangle=-\tau$. Таким образом, плоскость $\widehat\Pi_\tau$ параллельна $\widehat\Pi$ и проходит на расстоянии $\tau$ от точки $r_0$. Ее пересечение с касательным конусом есть выпуклая ограниченная фигура, которую обозначаем $\widehat K_\tau$, а $\widehat B_\tau=C \cap \widehat\Pi_\tau$ – выпуклая фигура, содержащаяся в $\widehat K_\tau$. Прямая $\widehat l_\tau=\Pi \cap \widehat\Pi_\tau$ параллельна $l$ и является опорной к $\widehat K_\tau$. Согласно лемме 5 она содержит одну из сторон одного из касательных углов к $\widehat K_\tau$.

Для каждого $t>0$ возьмем $\tau=\tau(t/2)$, как указано в лемме 6. Пересечение $B_t$ с плоскостью $\widehat\Pi_\tau$ совпадает с пересечением $\widehat B_\tau$ с прямой $\widehat l_{\tau,ct}$, проведенной в плоскости $\widehat\Pi_\tau$, параллельной прямой $\widehat l_\tau$ и на расстоянии $ct$ от нее с внутренней стороны. Здесь $c \geqslant 1$ – параметр, обратный синусу угла между векторами $e$ и $\widehat e$, т.е. $c=1/\sqrt{1-\langle e, \widehat e\, \rangle^2}$.

Согласно лемме 6 $\widehat B_\tau$ содержит $(\widehat K_\tau)_{t/2}$. Взяв в лемме 4 параметры $\varepsilon=t/2$ и $\kappa=2c-1$, заключаем, что пересечение $(\widehat K_\tau)_{t/2}$ с прямой $\widehat l_{\tau,ct}$ есть отрезок, длина которого удовлетворяет соотношению $|\widehat K_\tau)_{t/2} \cap \widehat l_{\tau,ct}|/t \to \infty$ при $t \to 0$. Отрезок $B_t \cap \widehat\Pi_\tau$ содержит вышеупомянутый отрезок, а значит, его длина $\beta_t^2$ также удовлетворяет соотношению $\beta_t^2/t \to \infty$ при $t \to 0$, и, кроме того, он перпендикулярен отрезку $B_t \cap \widetilde\Pi$, выбранному выше. Таким образом, утверждение доказано с $\beta_t=\min \{\beta_t^1,\beta_t^{2}\}$.

Лемма 7 доказана.

Напомним, что $S_t$ – пересечение $\partial C$ с полупространством $\{r \colon \langle r-r_0, e \rangle \geqslant -t\}$. Для $\varphi \in (0, \pi/2)$ обозначим $S_{t,\varphi}$ часть поверхности $S_t$, точки $r$ которой удовлетворяют неравенству $\langle n_r, e \rangle \leqslant \cos\varphi$. Другими словами, это множество точек в $S_t$, угол наклона нормали в которых по отношению к вектору $e$ больше или равен $\varphi$.

Лемма 8. Если $e$ – крайняя точка множества $N(r_0)$, то для любого $\varphi \in (0, \pi/2)$ справедливо

$$ \begin{equation*} \frac{|S_{t,\varphi}|}{|B_t|} \to 0 \quad \textit{при} \ \ t \to 0. \end{equation*} \notag $$

Доказательство. Рассмотрим систему координат $(x,z)$, $x=(x_1, x_2)$, в которой $x$-плоскость совпадает с $\Pi$, а ось $z$ направлена вдоль вектора $e$. При некотором (достаточно малом) $t_0>0$ пересечение $\Pi_t, t \leqslant t_0$, с $C$ непусто. Для любой регулярной точки $r \in S_t, t \leqslant t_0$, и некоторого значения $\varphi_0 \in (0, \pi/2)$ справедливо $\langle n_r, e \rangle \geqslant -\cos\varphi_0$. Без ограничения общности можно взять $\varphi<\varphi_0$, и тогда для регулярных точек $r \in S_{t,\varphi}$ выполняется $|\langle n_r, e \rangle| \leqslant \cos\varphi$.

В выбранной системе координат тело $C_t$ заключено между плоскостями $z=0$ и $z=-t$. Обозначим $D_t$ образ $C_t$ при естественной проекции $(x,z) \mapsto x$. Область $D_t$ содержит $B_t$ и содержится в $(t\operatorname{ctg}\varphi)$-окрестности $B_t$, а значит, его периметр не превосходит $P_t= |\partial B_t|+2\pi t\operatorname{ctg}\varphi$.

Применяя лемму 2 к телу $C=C_t$ и области $\mathcal{U}=S_{t,\varphi}$, получаем неравенство

$$ \begin{equation*} |S_{t,\varphi}| \leqslant \frac{tP_t}{\sin\varphi}=t \frac{|\partial B_t|+2\pi t\operatorname{ctg}\varphi}{\sin\varphi}. \end{equation*} \notag $$
В силу лемм 3 и 7 $B_t$ содержит круг радиуса $c\beta_t$, а значит, в силу леммы 1
$$ \begin{equation*} |\partial B_t| \leqslant \frac{2}{c\beta_t}|B_t|. \end{equation*} \notag $$
Следовательно,
$$ \begin{equation*} \frac{|S_{t,\varphi}|}{|B_t|} \leqslant t \frac{\frac{2}{c\beta_t}|B_t|+2\pi t\operatorname{ctg}\varphi}{\sin\varphi |B_t|} \leqslant \frac{2}{c\sin\varphi}\,\frac{t}{\beta_t}+\frac{2\operatorname{ctg}\varphi}{c^2 \sin\varphi}\, \frac{t^2}{\beta_t^2} \to 0 \quad \text{при} \ \ t \to 0. \end{equation*} \notag $$

Лемма 8 доказана.

Теперь закончим доказательство теоремы 1.

Будем обозначать $\nu_S$ поверхностную меру, порожденную поверхностью $S$. Для любого $\varphi \in (0, \pi/2)$ имеем

$$ \begin{equation*} \nu_t=\frac{1}{|B_t|}\nu_{S_{t,\varphi}}+\frac{1}{|B_t|}\nu_{S_{t} \setminus S_{t,\varphi}}. \end{equation*} \notag $$
В силу леммы 8 мера $\frac{1}{|B_t|}\nu_{S_{t,\varphi}}$ стремится к 0 при $t \to 0$. С другой стороны, носитель каждого частичного предела меры $\frac{1}{|B_t|}\nu_{S_{t} \setminus S_{t,\varphi}}$ сосредоточен в круге углового раствора $\varphi$ вокруг $e$ в $S^2$, а значит, это же справедливо и для носителя каждого частичного предела меры $\nu_t$. Учитывая, что значение $\varphi>0$ может быть сделано сколь угодно малым, и используя равенство (7), справедливое для каждого частичного предела $\nu_*$, заключаем, что предел $\nu_t$ существует и равен $\delta_e$.

Теорема 1 доказана.

§ 3. Доказательство теоремы 2

В доказательстве теоремы 2 мы используем тот факт, что поверхностная мера непрерывна в топологии Хаусдорфа в пространстве выпуклых тел.

Именно, мы говорим, что семейство выпуклых тел $C_t$, $t>0$, в $\mathbb R^d$ сходится к выпуклому телу $C \subset \mathbb R^d$ при $t \to 0$ в смысле Хаусдорфа, и пишем $C_t \xrightarrow[t\to0]{} C$, если для любого $\varepsilon>0$ существует $t_0>0$ такое, что при всех $t \leqslant t_0$ $C_t$ содержится в $\varepsilon$-окрестности $C$ и $C$ содержится в $\varepsilon$-окрестности $C_t$.

Известно, что если $C_t \xrightarrow[t\to0]{} C$, то $\nu_{\partial C_t} \to \nu_{\partial C}$ при $t \to 0$ (см., например, абзац перед формулой (4.2.12) в [13], где поверхностная мера выпуклого тела $K$ обозначена $S_{n-1}(K, \cdot)$; данное свойство отмечается как простое следствие теоремы 4.2.1 из этой книги).

Напомним, что $\Pi_t$ обозначает плоскость $\langle r-r_0, e \rangle=-t$. Пересечение этой плоскости с касательным конусом есть плоское выпуклое тело, обозначим его $K_t$, а $B_t=C \cap \Pi_t$ есть выпуклое тело, содержащееся в $K_t$.

Выберем значение $\sigma>0$ такое, что $|K_{\sigma}|=1$. Напомним, что мера $\nu_\star$ порождена частью поверхности касательного конуса, отсеченной плоскостью $\Pi_{\sigma}$.

Пусть начало координат совпадает с точкой $r_0$, т.е. $r_0=\vec 0$; тогда гомотетия множества $\mathcal{A}$ с центром в $r_0$ и коэффициентом $k$ есть $k\mathcal{A}$ (рис. 9).

Лемма 9. Справедливо

$$ \begin{equation*} \frac{\sigma}{t} B_t \xrightarrow[t\to0]{} K_{\sigma}. \end{equation*} \notag $$

Доказательство. Для любых положительных значений $t_1$ и $t_2$ справедливо
$$ \begin{equation*} \frac{t_1}{t_2}\Pi_{t_2}=\Pi_{t_1}, \qquad \frac{t_1}{t_2}K_{t_2}=K_{t_1}. \end{equation*} \notag $$
Кроме того, поскольку $K_t$ содержит $B_t$, имеем
$$ \begin{equation*} \frac{\sigma}{t}B_t \subset \frac{\sigma}{t}K_t=K_\sigma. \end{equation*} \notag $$

Пусть теперь $0<t_1 \leqslant t_2$. Поскольку $\vec 0$ и $B_{t_2}$ содержатся в $C$, это же справедливо и для их линейной комбинации,

$$ \begin{equation*} \frac{t_1}{t_2}B_{t_2}=\biggl(1-\frac{t_1}{t_2}\biggr) \vec 0+\frac{t_1}{t_2}B_{t_2} \subset C. \end{equation*} \notag $$
С другой стороны, $\frac{t_1}{t_2}B_{t_2} \subset \frac{t_1}{t_2}\Pi_{t_2}=\Pi_{t_1}$. Следовательно, $\frac{t_1}{t_2}B_{t_2} \subset C \cap \Pi_{t_1}=B_{t_1}$. Мы приходим к заключению, что
$$ \begin{equation*} \frac{\sigma}{t_2}B_{t_2} \subset \frac{\sigma}{t_1}B_{t_1}; \end{equation*} \notag $$
таким образом, тела $\frac{\sigma}{t} B_t$, $t>0$, образуют вложенное семейство, содержащееся в $K_{\sigma}$.

Предположим, что $\frac{\sigma}{t} B_t$ не сходятся к $K_{\sigma}$. Тогда замыкание объединения

$$ \begin{equation*} \overline{\bigcup_{t>0}\frac{\sigma}{t} B_t}=: \widetilde B_{\sigma} \end{equation*} \notag $$
содержится в теле $K_{\sigma}$, но не совпадает с ним.

Объединение

$$ \begin{equation*} \bigcup_{t>0}\frac{t}{\sigma} \widetilde B_{\sigma}=: L \end{equation*} \notag $$
есть конус с вершиной в $r_0$; он содержится в касательном конусе, но не совпадает с ним. С другой стороны,
$$ \begin{equation*} C=\bigcup_{t\geqslant0}B_t \subset \bigcup_{t\geqslant0}\frac{t}{\sigma} \widetilde B_{\sigma}=L; \end{equation*} \notag $$
таким образом, $C$ содержится в конусе $L$, который меньше, чем касательный конус. Из этого противоречия следует наше утверждение.

Лемма 9 доказана.

Из леммы 9 следует, в частности, что

$$ \begin{equation} \lim_{t\to0} \biggl|\frac{\sigma}{t} B_t\biggr|=|K_{\sigma}|=1, \end{equation} \tag{15} $$
следовательно,
$$ \begin{equation} \nu_{\frac{\sigma}{t} B_t}=\biggl|\frac{\sigma}{t} B_t\biggr| \delta_{-e} \longrightarrow |K_{\sigma}| \delta_{-e}=\nu_{K_{\sigma}}, \qquad t \to 0. \end{equation} \tag{16} $$

Обозначим

$$ \begin{equation*} \Sigma^t_\sigma :=\operatorname{conv}\biggl(\frac{\sigma}{t}B_t \cup r_0\biggr). \end{equation*} \notag $$
Учитывая, что выпуклое тело $\frac{\sigma}{t}C_t$ содержит $r_0$ и $\frac{\sigma}{t}B_t$, заключаем, что $\Sigma^t_\sigma \subset \frac{\sigma}{t}C_t$.

Обозначим $W_\sigma$ часть касательного конуса, содержащую $r_0$, отсеченную плоскостью $\Pi_\sigma$, и $V_\sigma$ его боковую поверхность. Имеем $W_{\sigma}=\operatorname{conv}(K_{\sigma} \cup r_0)$. Согласно лемме 9 $\frac{\sigma}{t} B_t \xrightarrow[t\to0]{} K_{\sigma}$, отсюда следует

$$ \begin{equation*} \operatorname{conv}\biggl(\frac{\sigma}{t}B_t \cup r_0\biggr) \xrightarrow[t\to0]{} \operatorname{conv}(K_{\sigma} \cup r_0); \end{equation*} \notag $$
таким образом,
$$ \begin{equation*} \Sigma^t_\sigma \xrightarrow[t\to0]{} W_{\sigma}. \end{equation*} \notag $$
Используя это соотношение и двойное включение
$$ \begin{equation*} \Sigma^t_\sigma \subset \frac{\sigma}{t}C_t \subset W_\sigma, \end{equation*} \notag $$
заключаем, что $\frac{\sigma}{t}C_t$ сходится к $W_\sigma$ в смысле Хаусдорфа, следовательно,
$$ \begin{equation*} \nu_{\frac{\sigma}{t}\partial C_t} \to \nu_{\partial W_\sigma} \quad \text{при} \ \ t \to 0. \end{equation*} \notag $$
Учитывая, что $\frac{\sigma}{t}\partial C_t=\frac{\sigma}{t} S_t \cup \frac{\sigma}{t} B_t$ и $\partial W_\sigma=V_\sigma \cup K_\sigma$, и используя (16), получаем
$$ \begin{equation*} \nu_{\frac{\sigma}{t} S_t} \to \nu_{V_\sigma} \quad \text{при} \ \ t \to 0, \end{equation*} \notag $$
и в силу (15) находим
$$ \begin{equation*} \lim_{t\to0} \nu_t=\lim_{t\to0} \frac{1}{|B_t|}\nu_{S_t}= \frac{1}{\lim_{t\to0}|\frac{\sigma}{t}B_t|} \lim_{t\to0} \nu_{\frac{\sigma}{t}S_t}= \nu_{V_\sigma}=\nu_\star. \end{equation*} \notag $$

Теорема 2 доказана.

§ 4. Доказательство теоремы 3

Приступая к доказательству теоремы 3, напомним, что ее условия могут реализоваться, когда

либо когда

Сначала оценим площадь плоской области $B_t$.

Множество $B_0$ есть (невырожденный) отрезок. Пусть $l>0$ – длина этого отрезка, а $M$ и $N$ – его концы. В случае, если точка $r_0$ коническая, один из концов отрезка совпадает с $r_0$. В этом случае переименуем точку $r_0$ – назовем $r_0$ любую внутреннюю точку отрезка $MN$. Эта точка ребристая, и тем самым мы попадаем в условия пункта (а), причем соответствующие множества $B_t$ и $S_t$ остаются неизменными, а значит, и предельное поведение меры $\nu_t$ не изменится. Таким образом, без ограничения общности будем считать, что точка $r_0$ является ребристой.

Обозначим $l_i^t$, $i=1,2$, пересечение плоскости $\Pi_i\colon\langle r-r_0, e_i \rangle=0$ с секущей плоскостью $\Pi^t\colon\langle r-r_0, e \rangle=-t$. Другими словами, $l_i^t=\Pi_i \cap \Pi^t$. Проведем через точки $M$ и $N$ плоскости, перпендикулярные $B_0$, и обозначим $M_i=M_{i}^t$ и $N_i=N_{i}^t$, $i=1,2$, точки пересечения этих плоскостей с прямыми $l_i^t$ (рис. 10, а).

Треугольник $M_1^t M_2^t M$ лежит в плоскости, параллельной векторам $e_1$ и $e_2$. Его стороны $MM_1^t$, $MM_2^t$, $M_1^t M_2^t$ перпендикулярны векторам $e_1$, $e_2$, $e$ соответственно и их длины равны $|MM_1^t|=\lambda_1 c_0 t$, $|MM_2^t|=\lambda_2 c_0 t$, $|M_1^t M_2^t|=c_0 t$, где $c_0$ – положительная постоянная, зависящая только от $e_1$, $e_2$, $e$, а именно

$$ \begin{equation} c_0=\frac{\langle e_1, e\rangle}{\sqrt{1-\langle e_1, e\rangle^2}}+\frac{\langle e_2, e\rangle}{\sqrt{1-\langle e_2, e\rangle^2}} \end{equation} \tag{17} $$
(рис. 10, b).

Множество $B_t$ находится между прямыми $l_1^t$ и $l_2^t$ (рис. 11). Мы собираемся доказать, что длина ортогональной проекции $B_t$ на $l_1^t$ не превосходит $l+o(1)$, $t \to 0$, а значит,

$$ \begin{equation} |B_t| \leqslant l c_0 t(1+o(1)), \qquad t \to 0. \end{equation} \tag{18} $$

Предположим противное; тогда существует последовательность $(t_i)_{i \in \mathbb{N}}$, сходящаяся к 0, и последовательность точек $P_{t_i} \in B_{t_i}$ таких, что расстояние между $P_{t_i}$ и прямоугольником $M_1^{t_i} N_1^{t_i} N_2^{t_i} M_2^{t_i}$ больше некоторой положительной постоянной. Последовательность $(P_{t_i})_{i \in \mathbb{N}} \subset C$ ограничена и, следовательно, имеет по меньшей мере одну предельную точку $P$. Эта точка принадлежит $C$ и лежит в плоскости $\Pi^0\colon\langle r-r_0, e\rangle=0$; следовательно, $P \in B_0$. Но, с другой стороны, расстояние между $P$ и $B_0=MN$ больше некоторой положительной постоянной. Мы пришли к противоречию.

Возьмем положительное значение $\varepsilon<l$ и обозначим $M_\varepsilon$ и $N_\varepsilon$ точки на отрезке $B_0= [M, N]$, находящиеся на расстоянии $\varepsilon/2$ от $M$ и от $N$ соответственно. Пусть $\Pi^\perp_{M\varepsilon}$ и $\Pi^\perp_{N\varepsilon}$ – плоскости, ортогональные к $MN$ и проходящие через точки $M_\varepsilon$ и $N_\varepsilon$ соответственно. Обозначим $M_{\varepsilon 1}=M_{\varepsilon 1}^t$, $N_{\varepsilon 1}= N_{\varepsilon 1}^t$, $M_{\varepsilon 2}=M_{\varepsilon 2}^t$, $N_{\varepsilon 2}=N_{\varepsilon 2}^t$ точки пересечения этих плоскостей с прямыми $l_1^t$ и $l_2^t$. Ясно, что площадь прямоугольника $M_{\varepsilon 1} N_{\varepsilon 1} N_{\varepsilon 2} M_{\varepsilon 2}$ равна $| \square M_{\varepsilon 1} N_{\varepsilon 1} N_{\varepsilon 2} M_{\varepsilon 2}|=c_0 (l-\varepsilon) t$.

Учитывая, что касательные конуса в точках $M_\varepsilon$ и $N_\varepsilon$ совпадают с двугранным углом $\langle r-r_0, e_1\rangle \leqslant 0,\ \langle r-r_0, e_2\rangle \leqslant 0$, образованным плоскостями $\Pi_1$ и $\Pi_2$, мы заключаем, что касательный конус к двумерному выпуклому телу $C \cap \Pi^\perp_{M\varepsilon}$ в плоскости $\Pi^\perp_{M\varepsilon}$ есть угол $M_{\varepsilon 1} M_\varepsilon M_{\varepsilon 2}$, а касательный конус к двумерному выпуклому телу $C \cap \Pi^\perp_{N\varepsilon}$ в плоскости $\Pi^\perp_{N\varepsilon}$ есть угол $N_{\varepsilon 1} N_\varepsilon N_{\varepsilon 2}$ (рис. 12). Отсюда следует, что пересечение $C$ с прямой $M_{\varepsilon 1} M_{\varepsilon 2}$ (непустое при достаточно малом $t$) есть отрезок (обозначим его $\widetilde M_{\varepsilon 1} \widetilde M_{\varepsilon 2}$), содержащийся в отрезке $M_{\varepsilon 1} M_{\varepsilon 2}$, причем расстояния $|M_{\varepsilon 1} \widetilde M_{\varepsilon 1}|$ и $|M_{\varepsilon 2} \widetilde M_{\varepsilon 2}|$ есть $o(t)$. Аналогично, при достаточно малом $t$ пересечение $C$ с прямой $N_{\varepsilon 1} N_{\varepsilon 2}$ есть отрезок $\widetilde N_{\varepsilon 1} \widetilde N_{\varepsilon 2}$, содержащийся в отрезке $N_{\varepsilon 1} N_{\varepsilon 2}$, причем расстояния $|N_{\varepsilon 1} \widetilde N_{\varepsilon 1}|$ и $|N_{\varepsilon 2} \widetilde N_{\varepsilon 2}|$ есть $o(t)$.

Четырехугольник $\widetilde M_{\varepsilon 1} \widetilde N_{\varepsilon 1} \widetilde N_{\varepsilon 2} \widetilde M_{\varepsilon 2}$ содержится в $B_t$, а его площадь равна $|\square \widetilde M_{\varepsilon 1} \widetilde N_{\varepsilon 1} \widetilde N_{\varepsilon 2} \widetilde M_{\varepsilon 2}|=c_0 (l-\varepsilon) t (1+o(1))$, $t \to 0$. Следовательно,

$$ \begin{equation} |B_t| \geqslant c_0 (l-\varepsilon) t (1+o(1)), \qquad t \to 0. \end{equation} \tag{19} $$
Учитывая, что $\varepsilon>0$ произвольно, и используя соотношения (18) и (19), получаем
$$ \begin{equation} |B_t|=c_0 l t (1+o(1)), \qquad t \to 0. \end{equation} \tag{20} $$

Теперь рассмотрим поверхность $S_t$. Плоскость $\Pi_0$, заданная уравнением $\langle r- r_0, e_1-e_2\rangle=0$, является биссектором двугранного угла; она содержит отрезок $B_0$ и делит $S_t$ на две части, $S_t=S_t^1 \cup S_t^2$, где $S_t^1$ лежит между $\Pi_1$ и $\Pi_0$, а $S_t^2$ лежит между $\Pi_2$ и $\Pi_0$. Мы докажем, что:

(i) поверхностная мера $S_t^1$, деленная на $t$, слабо сходится к $\lambda_1 c_0 l\delta_{e_1}$;

(ii) поверхностная мера $S_t^2$, деленная на $t$, слабо сходится к $\lambda_2 c_0 l\delta_{e_1}$.

Затем из утверждений (i) и (ii) и из формулы (20) будет следовать утверждение теоремы 3.

Мы докажем только (i), поскольку доказательство (ii) полностью аналогично.

В дальнейшем будет использоваться следующее свойство:

Возьмем положительное $\varepsilon<l$ и для каждого $t>0$ рассмотрим несколько призм, каждая из которых ограничена плоскостями $\Pi_1$, $\Pi_2$, $\Pi^t$ и с торцов ограничена еще двумя плоскостями, перпендикулярными к $B_0$.

Назовем большой призмой наименьшую призму, обладающую указанными свойствами и содержащую $C_t$. Большая призма подразделяется на центральную призму и на две боковые призмы. Центральная призма ограничена с торцов плоскостями $\Pi^\perp_{M\varepsilon}$ и $\Pi^\perp_{N\varepsilon}$, перпендикулярными к $B_0$; конечно, она содержится в большой призме при достаточно малых значениях $t$. Боковые призмы получены “выбрасыванием” центральной призмы из большой призмы. Каждая из них ограничена с одного из торцов плоскостью $\Pi^\perp_{M\varepsilon}$ или плоскостью $\Pi^\perp_{N\varepsilon}$.

Полная поверхностная мера центральной призмы асимптотически пропорциональна $t$; более точно, она равна $c_0 (1+ \lambda_1+\lambda_2) (l-\varepsilon) t+o(t)$, причем член $o(t)$ порожден боковой поверхностью призм. Полная поверхностная мера каждой из боковых призм равна

$$ \begin{equation*} c_0 (1+\lambda_1+\lambda_2) \, \frac{\varepsilon t}2+o(t), \qquad t \to 0. \end{equation*} \notag $$

Центральная призма разделена плоскостью $\Pi_0$ на две части,

$$ \begin{equation*} \operatorname{Prism}_{\varepsilon,1}^t=\operatorname{Prism}_{\varepsilon,1}, \qquad \operatorname{Prism}_{\varepsilon,2}^t=\operatorname{Prism}_{\varepsilon,2}; \end{equation*} \notag $$
таким образом, каждая призма $\operatorname{Prism}_{\varepsilon,i}$, $i=1,2$, ограничена плоскостями $\Pi_{i}$, $\Pi_{0}$, $\Pi^t$, $\Pi^\perp_{M\varepsilon}$, $\Pi^\perp_{N\varepsilon}$. Соответственно каждая из поверхностей $S_t^1$ и $S_t^2$ также разделена этими плоскостями на две части, $S_t^i=S_t^{i,\varepsilon} \cup S_t^{i,\mathrm{lat}}$, причем $S_t^{i,\varepsilon}$ содержится в $\operatorname{Prism}_{\varepsilon,i}$, а $S_t^{i,\mathrm{lat}}$ содержится в объединении боковых призм. Последнее означает, что площадь поверхности $S_t^{i,\mathrm{lat}}$ не превосходит суммы площадей боковых призм,
$$ \begin{equation*} c_0 (1+\lambda_1+\lambda_2) \varepsilon t+o(t), \qquad t \to 0. \end{equation*} \notag $$

Таким образом, мы получаем разложение $\nu_t$ в виде $\nu_t=\nu_{t,\varepsilon}^1+\nu_{t,\varepsilon}^2+ \nu_{t,\varepsilon}^{\mathrm{lat}}$, причем

$$ \begin{equation*} \nu_{t,\varepsilon}^{\mathrm{lat}}(S^2) \leqslant (1+\lambda_1+\lambda_2) \frac{\varepsilon}{l}+o(1), \qquad t \to 0. \end{equation*} \notag $$

Теперь оценим площадь поверхности $S_t^{i,1}$. Для этого сначала сравним поверхности выпуклых тел $\operatorname{Prism}_{\varepsilon,1}$ и $C_t \cap\operatorname{Prism}_{\varepsilon,1}$.

Подсчитаем поверхностную меру тела $\operatorname{Prism}_{\varepsilon,1}$. Его поверхность есть объединение трех прямоугольников, содержащихся в плоскостях $\Pi_1$, $\Pi^t$, $\Pi_0$ и служащих боковыми сторонами и основанием призмы, и двух треугольников, содержащихся в плоскостях $\Pi^\perp_{M\varepsilon}$, $\Pi^\perp_{N\varepsilon}$ и служащих боковыми торцами призмы. Внешние нормали к прямоугольникам есть соответственно $e_1$, $-e$ и $\frac{e_2-e_1}{|e_2-e_1|}$. Стороны прямоугольников, параллельные прямой $MN$, имеют длину $l-\varepsilon$, а длины сторон, перпендикулярных этой прямой, равны соответственно

$$ \begin{equation*} \begin{gathered} \, |M_1^t M|=c_0 t \lambda_1, \qquad |M_1^t D|= c_0 t\frac{\lambda_1}{\lambda_1+\lambda_2}, \\ |MD|=c_0 t\sqrt{\lambda_1\lambda_2} \sqrt{1-(\lambda_1+ \lambda_2)^{-2}}, \end{gathered} \end{equation*} \notag $$
где $MD$ – биссектриса угла $M$ треугольника $M_1^tM_2^tM$ (см. рис. 10, b). Таким образом, площади прямоугольников равны
$$ \begin{equation*} c_0 t (l-\varepsilon) \lambda_1, \qquad c_0 t (l-\varepsilon) \frac{\lambda_1}{\lambda_1+\lambda_2}, \qquad c_0 t (l-\varepsilon) \sqrt{\lambda_1\lambda_2} \sqrt{1- (\lambda_1+\lambda_2)^{-2}}, \end{equation*} \notag $$
а площадь каждого из боковых торцов призмы равна площади треугольника $M_1^t MD$ и тем самым имеет порядок $t^2$. Отсюда следует, что поверхностная мера тела $\operatorname{Prism}_{\varepsilon,1}$ равна
$$ \begin{equation*} c_0 t (l-\varepsilon)\biggl(\lambda_1 \delta_{e_1}+\frac{\lambda_1}{\lambda_1+\lambda_2}\, \delta_{-e}+\sqrt{\lambda_1\lambda_2} \sqrt{1-(\lambda_1+\lambda_2)^{-2}}\, \delta_{\frac{e_2-e_1}{|e_2-e_1|}}\biggr)+o(t), \qquad t \to 0. \end{equation*} \notag $$

Поверхность тела $C_t \cap\operatorname{Prism}_{\varepsilon,1}$ есть дизъюнктное объединение нескольких поверхностей; часть поверхности $\partial (C_t \cap\operatorname{Prism}_{\varepsilon,1})$, содержащаяся в $\Pi^t$, индуцирует меру $c_0 t (l-\varepsilon) \frac{\lambda_1}{\lambda_1+\lambda_2}\delta_{-e}+o(t)$; при достаточно малом $t$ часть поверхности $\partial (C_t \cap\operatorname{Prism}_{\varepsilon,1})$, содержащаяся в $\Pi_0$, совпадает с частью $\partial (\operatorname{Prism}_{\varepsilon,1}$), содержащейся в $\Pi_0$, и поэтому индуцирует меру $c_0 t (l-\varepsilon)\sqrt{\lambda_1\lambda_2} \sqrt{1-(\lambda_1+\lambda_2)^{-2}} \delta_{\frac{e_2-e_1}{|e_2-e_1|}}$; часть поверхности, содержащаяся в плоскостях $\Pi^\perp_{M\varepsilon}$ и $\Pi^\perp_{N\varepsilon}$, имеет площадь $O(t^2)$; оставшаяся часть поверхности $\partial (C_t \cap\operatorname{Prism}_{\varepsilon,1})$ есть $S_t^1$, и именно она нас интересует. Используя интегральные равенства для обоих выпуклых тел, получаем

$$ \begin{equation*} \begin{aligned} \, \int_{S^2} n\, d\nu_{\operatorname{Prism}_{\varepsilon,1}}(n) &=c_0 t (l-\varepsilon) \biggl(\lambda_1 e_1- \frac{\lambda_1}{\lambda_1+\lambda_2}\, e \\ &\qquad +\sqrt{\lambda_1\lambda_2} \sqrt{1-\frac{1}{(\lambda_1+\lambda_2)^{2}}}\, \frac{e_2-e_1}{|e_2-e_1|}\biggr)+o(t)=\vec 0, \\ \int_{S^2} n\, d\nu_{C_t \cap \operatorname{Prism}_{\varepsilon,1}}(n) &=-c_0 t (l-\varepsilon) \frac{\lambda_1}{\lambda_1+ \lambda_2}\, e+o(t) \\ &\qquad +c_0 t (l-\varepsilon) \sqrt{\lambda_1\lambda_2} \sqrt{1-\frac{1}{(\lambda_1+\lambda_2)^{2}}}\, \frac{e_2-e_1}{|e_2-e_1|} \\ &\qquad +O(t^2)+\int_{S^2} n\, d\nu_{S_t^1}(n)=\vec 0. \end{aligned} \end{equation*} \notag $$
Приравнивая эти два выражения, получаем
$$ \begin{equation*} \int_{S^2} n\, d\nu_{S_t^1}(n)=c_0 t (l-\varepsilon)\lambda_1e_1+o(t) . \end{equation*} \notag $$
Обозначим
$$ \begin{equation*} c=\biggl(1-\frac{\varepsilon}l\biggr)\lambda_1. \end{equation*} \notag $$
Поделив обе части последнего равенства на $|B_t|$, имеем
$$ \begin{equation*} \int_{S^2} {n}\, d\nu_{t,\varepsilon}^1({n})=c e_1+o(1), \qquad t \to 0. \end{equation*} \notag $$
Затем, сравнивая площади тел $\operatorname{Prism}_{\varepsilon,1}$ и $C_t \cap\operatorname{Prism}_{\varepsilon,1}$, получаем, что $|S_{t,\varepsilon}^1|=(l-\varepsilon) c_0 \lambda_1 t+o(t)$ и, следовательно, $\nu_{t,\varepsilon}^1(S^2)=c+o(1), t \to 0$.

Покажем, что для любого $\delta>0$ справедливы предельные соотношения $\nu_{t,\varepsilon}^1(\{{n} \in S^2\colon \langle{n}, e_1\rangle>1-\delta\}) \to c$ и соответственно $\nu_{t,\varepsilon}^1(\{{n} \in S^2\colon \langle{n}, e_1\rangle \leqslant 1-\delta\}) \to 0$ при $t \to 0$; отсюда будет следовать, что $\nu_{t,\varepsilon}^1$ слабо сходится к $c\delta_{e_1}$.

Имеем

$$ \begin{equation*} \int_{S^2} (1-\langle n, e_1\rangle )\, d\nu_{t,\varepsilon}^1({n})=\nu_{t,\varepsilon}^1(S^2) -\biggl\langle \int_{S^2} {n}\, d\nu_{t,\varepsilon}^1({n}), e_1\biggr\rangle=o(1), \qquad t \to 0. \end{equation*} \notag $$
Согласно неравенству Чебышёва
$$ \begin{equation*} \nu_{t,\varepsilon}^1(\{{n} \in S^2\colon \langle{n}, e_1\rangle \leqslant 1-\delta\}) \leqslant \frac{1}{\delta} \int_{S^2} (1-\langle n, e_1\rangle)\, d\nu_{t,\varepsilon}^1({n}) \to 0, \qquad t \to 0. \end{equation*} \notag $$
Следовательно,
$$ \begin{equation*} \begin{aligned} \, &\nu_{t,\varepsilon}^1(\{{n} \in S^2\colon \langle{n}, e_1\rangle>1-\delta\}) \\ &\qquad = \nu_{t,\varepsilon}^1(S^2)-\nu_{t,\varepsilon}^1(\{{n} \in S^2\colon \langle{n}, e_1\rangle \leqslant 1-\delta\})=c+ o(1), \qquad t \to 0. \end{aligned} \end{equation*} \notag $$

Таким образом, доказано, что

$$ \begin{equation*} \nu_{t,\varepsilon}^1 \xrightarrow[t\to 0]{}\biggl(1-\frac{\varepsilon}l\biggr)\lambda_1\delta_{e_1}. \end{equation*} \notag $$
Аналогичным образом получаем, что
$$ \begin{equation*} \nu_{t,\varepsilon}^2 \xrightarrow[t\to 0]{}\biggl(1-\frac{\varepsilon}l\biggr)\lambda_2\delta_{e_2}. \end{equation*} \notag $$

Возьмем непрерывную функцию $f$ на $S^2$. Имеем

$$ \begin{equation*} \begin{aligned} \, &\biggl|\int_{S^2} f(n)\, d\nu_t(n)-(\lambda_1 f(e_1)+\lambda_2 f(e_2))\biggr| \\ &\qquad \leqslant \biggl|\int_{S^2} f(n)\, d\nu_{t,\varepsilon}^1(n)-\lambda_1 f(e_1)\biggr| +\biggl|\int_{S^2} f(n)\, d\nu_{t,\varepsilon}^2(n)-\lambda_2 f(e_2)\biggr| \\ &\qquad\qquad +\biggl|\int_{S^2} f(n)\, d\nu_{t,\varepsilon}^{\mathrm{lat}}(n)\biggr|. \end{aligned} \end{equation*} \notag $$
Первое слагаемое в правой части этого неравенства сходится к $\frac{\varepsilon}{l}\lambda_1 |f(e_1)|$, второе слагаемое сходится к $\frac{\varepsilon}{l}\lambda_2 |f(e_2)|$, а верхний частичный предел третьего слагаемого не превосходит $\frac{\varepsilon}{l}(1+\lambda_1+\lambda_2) \cdot \max f$. В силу того, что $\varepsilon>0$ можно взять произвольно малым, заключаем, что интеграл в левой части этого неравенства сходится к нулю. Таким образом, $\nu_t$ слабо сходится к $\lambda_1 \delta_{e_1}+ \lambda_2 \delta_{e_2}$ при $t \to 0$.

Теорема 3 доказана.

§ 5. Доказательство теоремы 4

Здесь предполагается, что $B_0$ – точка, т.е. $B_0=\{r_0\}$, $e=\lambda_1 e_1+\lambda_2 e_2$, $\lambda_1>0$, $\lambda_2>0$, где $e_1$ и $e_2$ – крайние точки $N(r_0)$. Для доказательства теоремы 4 нам потребуется несколько лемм.

Лемма 10. Справедливо

$$ \begin{equation*} \limsup_{t\to0} \frac{|S_t|}{|B_t|} \leqslant \mathrm{const}. \end{equation*} \notag $$

Доказательство леммы предоставляется читателю.

Из леммы 10 следует, что существует по крайней мере один частичный предел меры $\nu_t$. Если частичный предел $\nu_*$ единственный, то $\nu_t$ сходится к $\nu_*$.

Лемма 11. Носитель каждого частичного предела $\nu_t$ содержится в дуге $\Gamma=\Gamma_{e_1,e_2}$.

Доказательство. Заметим, что пересечение вложенных множеств $S_t$ есть точка $r_0$, $\bigcap_{t>0} S_t=\{r_0\}$, поэтому для любого $\varepsilon>0$ найдется $t_0$ такое, что при $t<t_0$ множество $S_t$ содержится в $\varepsilon$-окрестности точки $r_0$, $B_\varepsilon(r_0)$. В самом деле, в противном случае мы имели бы семейство вложенных непустых компактных множеств $S_t \setminus B_\varepsilon(r_0)$ с пустым пересечением, что невозможно.

Пусть $K \subset S^2$; обозначим $\mathcal{O}_K$ множество точек ${r} \in \partial C$ таких, что некоторая внешняя нормаль к опорной плоскости в точке ${r}$ содержится в $K$. Если $K$ компактно, то и множество $\mathcal{O}_K$ также компактно. В самом деле, пусть ${r}_i$, $i \in \mathbb{N}$, – последовательность точек из $\mathcal{O}_K$, сходящихся к ${r}$. Для любого $i$ существует опорная плоскость в ${r}_i$ с внешней нормалью $v_i \in K$. Без ограничения общности предположим, что $v_i$ сходится к некоторому вектору $v$. Тогда $v \in K$ и плоскость с внешней нормалью $v$, проходящая через ${r}$, является опорной. Отсюда заключаем, что ${r}$ содержится в $\mathcal{O}_K$, а значит, множество $\mathcal{O}_K$ замкнуто и тем самым компактно.

Рассмотрим открытое множество $\mathcal{N} \subset S^2$, содержащее $N(r_0)$. Множество $\mathcal{O}_{S^2 \setminus \mathcal{N}} \subset \partial C$ замкнуто и не содержит $r_0$. Следовательно, существует $t_0>0$ такое, что для всех $t<t_0$ множество $S_t$ содержится в $\partial C \setminus \mathcal{O}_{S^2 \setminus \mathcal{N}}$. Отсюда следует, что внешние векторы ко всем опорным плоскостям в точках из $S_t$ содержатся в $\mathcal{N}$, а значит, носитель меры $\nu_t$ принадлежит замыканию множества $\mathcal{N}$. Поскольку множество $\mathcal{N}$, содержащее $N(r_0)$, произвольно, мы заключаем, что носитель каждого частичного предела меры $\nu_t$ при $t \to 0$ содержится в $N(r_0)$.

Возьмем какой-нибудь частичный предел $\nu_t$ и назовем его $\nu_*$. Из доказанного следует, что его носитель принадлежит замкнутому полушарию, содержащему $N(r_0)$ и ограниченному большим кругом, содержащим дугу $\Gamma$. С другой стороны, из формулы (7) следует, что интеграл $\displaystyle\int_{S^2} n\, d\nu_*(n)$ принадлежит этому большому кругу. Отсюда заключаем, что и носитель меры $\nu_*$ принадлежит большому кругу, а значит, принадлежит $\Gamma$.

Лемма доказана.

Для завершения доказательства теоремы 2 остается доказать следующее утверждение.

Лемма 12. Носитель каждого частичного предела меры $\nu_t$ содержит точки $e_1$ и $e_2$.

Доказательство. Достаточно доказать лемму для точки $e_1$.

Сначала рассмотрим случай

(а) $N(r_0)$ имеет непустую внутренность.

Идея доказательства заключается в следующем. Мы фиксируем произвольное значение $0<\theta<1$ и для каждого $t$ находим область, принадлежащую $S_t$, относительная площадь которой (т.е. отношение ее площади к $|B_t|$) не стремится к нулю при $t \to 0$, причем носитель индуцированной этой областью нормированной меры находится на малом расстоянии от $e_1$ (в том смысле, что расстояние стремится к нулю при $\theta \to 0$).

Напомним, что плоскости $\Pi_1$ и $\Pi_2$ задаются уравнениями $\langle r-r_0, e_1\rangle=0$ и $\langle r-r_0, e_2\rangle=0$ и ограничивают двугранный угол, плоскость $\Pi^{t}$ задается уравнением $\langle r-r_0, e\rangle=-t$, а параллельные прямые $l_1= l_1^t$ и $l_2=l_2^t$ образованы пересечениями плоскости $\Pi^t$ с $\Pi_1$ и $\Pi_2$. Расстояние между $l_1^t$ и $l_2^t$ равно $c_0 t$, где $c_0$ – положительная постоянная, определенная формулой (17) (см. также описание рис. 10, b).

Обозначим $\widehat B_t$ пересечение касательного конуса с плоскостью $\Pi_t$. Это полубесконечная область, ограниченная лучами прямых $l_1^t$, $l_2^t$ и несколькими отрезками и содержащая $B_t$. Выберем точки $\widehat M_t$ и $\widehat N_t$ на этих лучах таким образом, что отрезок $\widehat M_t \widehat N_t$ перпендикулярен лучам. Обозначим $\widetilde\Pi$ плоскость, проходящую через $r_0$, $\widehat M_t$ и $\widehat N_t$.

При достаточно малом $t$ пересечение $\widetilde\Pi$ с $B_t$ есть отрезок; обозначим его концы $M= M_t$ и $N=N_t$. Этот отрезок содержится в $\widehat M_t \widehat N_t$, причем

$$ \begin{equation*} \frac{|M_t N_t|}{|\widehat M_t \widehat N_t|} \to 1\quad\text{при }\ t \to 0. \end{equation*} \notag $$

Обозначим $\widehat C_t \widehat D_t$ ортогональную проекцию $B_t$ на прямую $l_1$. При достаточно малом $t$ отрезок $\widehat C_t \widehat D_t$ содержит точку $\widehat N_t$ и справедливо

$$ \begin{equation*} \lim_{t \to 0}\frac{|\widehat C_t \widehat N_t|}{t}<\infty, \qquad \lim_{t \to 0} \frac{|\widehat D_t \widehat N_t|}{t}=\infty. \end{equation*} \notag $$
Обозначим $|\widehat D_t \widehat N_t|=d(t)$; таким образом, имеем $\lim_{t\to0} (d(t)/t)=\infty$.

Справедливо

$$ \begin{equation} |B_t| \leqslant d(t) \cdot c_0 t(1+o(1)). \end{equation} \tag{21} $$

Зафиксируем значение $0<\theta<1$ и возьмем точку $\widehat F_t$ на $l_1$ между точками $\widehat N_t$ и $\widehat D_t$ такую, что $|\widehat N_t \widehat F_t|/|\widehat N_t \widehat D_t|=\theta$. Тем самым имеем $|\widehat N_t \widehat F_t|=\theta d(t)$ и $|\widehat F_t \widehat D_t|=(1-\theta) d(t)$.

Пусть $D_t$ – точка на $\partial B_t$, проектирующаяся в точку $\widehat D_t$; если она не единственна (множество таких точек образует отрезок), то возьмем любую из них, например, ближайшую к $l_1$. Обозначим $\Pi_{[t]}$ плоскость, проходящую через $D_t$ и ребро двугранного угла, образованного $\Pi_1$ и $\Pi_2$, и обозначим $H_t$ точку пересечения этой плоскости с $M_t N_t$.

Обозначим $|H_t \widehat N_t|=h(t) \leqslant c_0 t$. Может оказаться, что отрезок $H_t \widehat N_t$ вырождается в точку; в этом случае $h(t)=0$. Имеем $|H_t N_t|=h(t)+o(t)$ при $t \to 0$.

Площадь прямоугольника $H_t \widehat N_t \widehat F_t E_t$ равна

$$ \begin{equation*} |H_t \widehat N_t \widehat F_t E_t|=h(t) \cdot \theta d(t). \end{equation*} \notag $$

Обозначим $B_t(\theta)$ часть области $B_t$, ограниченную ломаной $N_t H_t E_t F_t$ и дугой $N_t F_t$ границы $\partial B_t$. Учитывая, что кривая $N_t F_t D_t$ выпуклая, заключаем, что $|E_t F_t| \geqslant (1-\theta) |H_t N_t|$, а значит,

$$ \begin{equation*} \biggl(\biggl(1-\frac\theta2\biggr)h(t)+o(t) \biggr)\theta d(t) \leqslant |B_t(\theta)| \leqslant h(t) \cdot \theta d(t). \end{equation*} \notag $$
Отсюда следует, что для некоторого $\theta_1=\theta_1(t) \in [0, \theta]$ справедливо
$$ \begin{equation} |B_t(\theta)|=\biggl(\biggl(1-\frac{\theta_1}2\biggr)h(t)+o(t) \biggr)\theta d(t) \end{equation} \tag{22} $$
(рис. 13 и 14).

Проведем через точку $E_t$ плоскость $\Pi_\theta(t)$, параллельную плоскости $\widetilde\Pi$. Пусть ${r}_{\theta,t}$ – точка пересечения этой плоскости с этим ребром. Точку пересечения отрезка $E_t {r}_{\theta,t}$ с поверхностью $\partial C$ обозначим $q_{\theta,t}$.

Обозначим $v=v(t)$ вектор нормали к $\Pi_{[t]}$, направленный к $l_1$.

Обозначим $C_t(\theta)$ часть тела $C$, ограниченную плоскостями $\Pi_1$, $\Pi^t$, $\Pi_{[t]}$, $\widetilde\Pi$, $\Pi_\theta(t)$, и сравним его с призмой, основаниями которой являются треугольники $H_t \widehat N_t r_0$ и $E_t \widehat F_t {r}_{\theta,t}$. Мы намерены сравнить соответствующие части поверхностей этого тела и этой призмы, а именно часть поверхности $\partial C$, ограниченную замкнутой линией $N_t F_t q_{\theta,t} r_0$, и прямоугольник $r_0 {r}_{\theta,t} \widehat F_t \widehat N_t$.

Пусть расстояние между прямыми $r_0 r_{\theta,t}$ и $H_t E_t$ равно $c_1 t$, где $c_1= c_1(t)$ есть функция, зависящая от $t$ и ограниченная сверху и снизу положительными постоянными. Тогда $|r_0 H_t E_t {r}_{\theta,t}|=c_1t\cdot \theta d(t)$. Площадь криволинейного четырехугольника $r_0 H_t E_t q_{\theta,t}$ удовлетворяет неравенствам

$$ \begin{equation*} \biggl(1-\frac\theta2\biggr) c_1 t\cdot \theta d(t) \leqslant |\square r_0 H_t E_t q_{\theta,t}| \leqslant |\square r_0 H_t E_t {r}_{\theta,t}|=c_1 t\cdot \theta d(t). \end{equation*} \notag $$
Отсюда следует, что при некотором $\theta_2=\theta_2(t) \in [0, \theta]$ справедливо
$$ \begin{equation} |\square r_0 H_t E_t q_{\theta,t}|=\biggl(1-\frac{\theta_2}2\biggr) c_1 t\cdot \theta d(t). \end{equation} \tag{23} $$

Далее, имеем

$$ \begin{equation*} |\square r_0 {r}_{\theta,t} \widehat F_t \widehat N_t|e_1=c_1 t\cdot \theta d(t)v+h(t) \cdot \theta d(t) e, \end{equation*} \notag $$
следовательно,
$$ \begin{equation*} e_1=\frac{v+\frac{h(t)}{c_1 t}\,e}{\bigl|v+\frac{h(t)}{c_1 t}\,e\bigr|}. \end{equation*} \notag $$

Обозначим $S_{t,\theta}$ часть поверхности $\partial C$, ограниченную замкнутой линией $N_t F_t q_{\theta,t} r_0$, и рассмотрим соответствующую меру $\nu_{S_{t,\theta}}$. Имеем

$$ \begin{equation*} \begin{aligned} \, &\int_{S^2} n\, d\nu_{S_{t,\theta}}(n) \\ &\qquad=|B_t(\theta)|e+|r_0 H_t E_t q_{\theta,t}|v +|r_0 H_t N_t|\frac{e_1 \times e_2}{|e_1 \times e_2|}-|q_{\theta,t} E_t F_t|\frac{e_1 \times e_2}{|e_1 \times e_2|}. \end{aligned} \end{equation*} \notag $$
Используя соотношения (22), (23) и учитывая, что $|OH_t N_t|= O(t^2)$, $|q_{\theta,t} E_t F_t|=O(t^2)$ при $t \to 0$, получаем
$$ \begin{equation*} \begin{aligned} \, &\frac{1}{|B_t|} \int_{S^2} n\, d\nu_{S_{t,\theta}}(n) \\ &\qquad=\frac{\theta d(t) c_1 t}{|B_t|} \biggl[ \biggl(\biggl(1-\frac{\theta_1}{2}\biggr) \frac{h(t)}{c_1 t}+o(1) \biggr)e +\biggl(1-\frac{\theta_2}{2}\biggr)v+\frac{O(t)}{d(t)}\biggr]. \end{aligned} \end{equation*} \notag $$
Заметим, что $\frac{O(t)}{d(t)}=\frac{O(1)}{d(t)/t}=o(1)$.

Угол между $e_1$ и $\displaystyle\int_{S^2} n\, d\nu_{S_{t,\theta}(n)}$ равен углу между $v+ \frac{h(t)}{c_1 t}\, e$ и $[v+\frac{h(t)}{c_1 t} \, e]-[\frac{\theta_2}{2}\, v+ \frac{\theta_1}{2}\,\frac{h(t)}{c_1 t}\, e]+o(1)$. Угол между прямыми, содержащими векторы $v$ и $e$, всегда превосходит наименьший из углов между прямыми, содержащими $e$ и $e_i$, $i=1,2$.

Это видно из рис. 15: $e$ находится на дуге большого круга между $e_1$ и $e_2$, а $v$ – на дуге того же круга между $e_1$ и $-e_2$. Следовательно, норма вектора $v+\frac{h(t)}{c_1 t}\, e$ больше некоторого положительного значения $C_1$, зависящего только от $e$, $e_1$ и $e_2$. С другой стороны, учитывая неравенства $\frac{h(t)}{c_1 t} \leqslant \frac{c_0}{c_1}$, $0 \leqslant \theta_i \leqslant \theta$, $i= 1,2$, заключаем, что предел нормы вектора $\frac{\theta_2}{2}\, v+\frac{\theta_1}{2}\,\frac{h(t)}{c_1 t}\, e+o(1)$, $t \to 0$, меньше, чем произведение $\theta$ и некоторого положительного значения $C_2$, зависящего только от $e$, $e_1$ и $e_2$.

Далее, используя (21), находим

$$ \begin{equation*} \frac{\theta d(t)c_1 t}{|B_t|} \geqslant \frac{\theta c_1}{2c_0} \quad \text{при достаточно малом} \ \ t, \end{equation*} \notag $$
следовательно, величина $\frac{1}{|B_t|}\nu_{S_{t,\theta}}(S^2)$ удовлетворяет неравенству
$$ \begin{equation*} \frac{1}{|B_t|}\nu_{S_{t,\theta}}(S^2) \geqslant \frac{1}{|B_t|} \biggl|\int_{S^2} n\,d\nu_{S_{t,\theta}}(n)\biggr| \geqslant \frac{\theta c_1}{2c_0}(C_1-C_2 \theta+o(1)) \quad \text{при} \ \ t \to 0, \end{equation*} \notag $$
а значит, при $\theta<C_1/C_2$ каждый частичный предел $\frac{1}{|B_t|}\nu_{S_{t,\theta}^{1}}$ не равен нулю.

Пусть $\nu_*$ – некоторый частичный предел меры $\nu_t$; таким образом, $\nu_*=\lim_{i \to \infty} \nu_{t_i}$ для некоторой последовательности $t_i$, сходящейся к нулю. Центр масс каждого частичного предела меры $\frac{1}{|B_{t_i}|}\nu_{S_{{t_i},\theta}}$ принадлежит некоторому открытому выпуклому конусу $\mathcal{U}_\theta(e_1)$, который в пределе $\theta \to 0$ сжимается в луч, проходящий через $\{e_1\}$. Поскольку $\frac{1}{|B_t|}\nu_{S_{t,\theta}} \leqslant \nu_t$ и носитель меры $\nu_*$ принадлежит дуге $\Gamma$, носитель частичного предела меры $\frac{1}{|B_{t_i}|}\nu_{S_{{t_i},\theta}}$ также содержится в $\Gamma$ и, кроме того, имеет непустое пересечение с $\mathcal{U}_\theta(e_1)$ (в противном случае его центр масс не принадлежал бы $\mathcal{U}_\theta(e_1)$). Отсюда следует, что $\operatorname{spt}\nu_*$ также имеет непустое пересечение с $\mathcal{U}_\theta(e_1)$. Здесь и далее $\operatorname{spt}\nu$ обозначает носитель меры $\nu$.

Поскольку $\theta$ может быть сделано сколь угодно малым, $\operatorname{spt}\nu_*$ содержит точки, сколь угодно близкие к $e_1$, а значит, содержит и $e_1$.

Рассмотрим теперь случай

(b) $N(r_0)$ – двугранный угол.

Разделим $C$ на два выпуклых тела $C_1$ и $C_2$ плоскостью $\Pi_\perp$, проходящей через $r_0$ и параллельной $e_1$ и $e_2$. Вектор $e_\perp=e_1 \times e_2/|e_1 \times e_2|$ служит нормалью к этой плоскости. Плоская фигура $B_t$ и поверхность $S_t$ делятся этой плоскостью соответственно на две фигуры $B_t^1$ и $B_t^2$ и две поверхности $S_t^1$ и $S_t^2$. Точка $r_0$ является конической для тел $C_1$ и $C_2$.

Пусть $\nu_t^{(1)}$ и $\nu_t^{(2)}$ – нормированные меры, соответствующие этим телам в окрестности той же точки $r_0$, и с теми же отсекающими плоскостями. Эти меры индуцированы соответственно поверхностями $S_t^1$ и $S_t^2$, а также плоскими областями, принадлежащими $\Pi_\perp$ и имеющими площадь $s_t=O(t^2)$. Вклад этих плоских областей в меры $\nu_t^{(1)}$ и $\nu_t^{(2)}$ стремится к нулю при $t \to 0$.

Мера $\nu_t$ есть линейная комбинация нормированных мер, порожденных $S_t^1$ и $S_t^2$, а именно

$$ \begin{equation*} \nu_t=\frac{1}{|S_t|} [|S_t^1| \nu_t^{(1)}-s_t \delta_{v_\perp}]+\frac{1}{|S_t|} [|S_t^2| \nu_t^{(2)}-s_t \delta_{-v_\perp}]. \end{equation*} \notag $$
Следовательно, для каждого частичного предела $\nu_*$ мер $\nu_{t}$ и для соответствующей последовательности $t_i$ справедливо
$$ \begin{equation*} \nu_*=\lim_{i\to\infty} \biggl(\frac{|S_{t_i}^1|}{|S_{t_i}|} \nu_{t_i}^{(1)}+ \frac{|S_{t_i}^2|}{|S_{t_i}|} \nu_{t_i}^{(2)}\biggr). \end{equation*} \notag $$
Переходя в случае необходимости к подпоследовательности, можно считать, что пределы $|S_{t_i}^j|/|S_{t_i}|$, $\nu_{t_i}^{(j)}$, $i \to \infty$, $j=1,2$, существуют.

Согласно доказанному выше в случае (а) носитель каждого частичного предела мер $\nu_t^{(1)}$ и $\nu_t^{(2)}$ содержит точки $e_1$ и $e_2$, а следовательно, носитель $\nu_*$ также содержит эти точки.

Лемма 12 доказана.

Таким образом, мы полностью доказали теорему 4.

§ 6. Доказательство теоремы 5

Пусть $\alpha$ – угол между $e$ и $e_1$, а $\beta$ – угол между $e$ и $e_2$, т.е. $\langle e, e_1\rangle=\cos\alpha$ и $\langle e, e_2\rangle=\cos\beta$, $\alpha>0$, $\beta>0$, $\alpha+\beta<\pi$. Возьмем ортонормированную систему координат $x$, $y$, $z$, начало координат которой находится в $r_0$, а векторы $e$, $e_1$, $e_2$ имеют вид $e=(0,0,-1)$, $e_1=(-\sin\alpha, 0, -\cos\alpha)$, $e_2=(\sin\beta, 0, -\cos\beta)$. Тогда $\lambda_1=\sin\beta/\sin(\alpha+\beta)$, $\lambda_2= \sin\alpha/\sin(\alpha+\beta)$, $r_0=(0,0,0)$, а уравнение для касательного конуса (9) принимает вид

$$ \begin{equation} -z\operatorname{ctg}\alpha \leqslant x \leqslant z\operatorname{ctg}\beta. \end{equation} \tag{24} $$
Заметим, что $\operatorname{ctg}\alpha+\operatorname{ctg}\beta>0$, поэтому конус содержится в положительном полупространстве $z \geqslant 0$.

Далее, имеем $C_t=C \cap \{z \leqslant t\}$, $B_t=C \cap \{z=t\}$ и $S_t=\partial C \cap \{z \leqslant t\}$.

Образ дуги $\Gamma$ при ортогональной проекции на плоскость $xz$ есть дуга в $S^1$ с концами $(-\sin\alpha,-\cos\alpha)$ и $(\sin\beta, -\cos\beta)$. Будем отождествлять точки $(\sin\varphi, -\cos\varphi)$ окружности $S^1$ со значениями $\varphi \in [-\pi, \pi]$. В частности, образ дуги $\Gamma$ отождествляем с отрезком $[-\alpha,\beta]$. Образ компактного множества $K \subset \Gamma$ при данной проекции будем обозначать той же буквой $K$. Таким образом, при выбранной идентификации имеем $\{-\alpha,\beta\} \subset K \subset [-\alpha,\beta]$.

Пусть выпуклое тело $C$ и особая ребристая точка $r_0$ на его границе таковы, что касательный конус в этой точке задается формулой (9), а ребро $B_0$ есть невырожденный отрезок. Согласно теореме 3 соответствующая предельная мера существует и ее носитель есть двухточечное множество $\{-\alpha,\beta\}$. Поэтому в дальнейшем достаточно ограничиться случаем, когда $K$ не является двухточечным множеством, т.е. вместе с точками $-\alpha$ и $\beta$ включает в себя некоторые внутренние точки отрезка $[-\alpha,\beta]$.

Выберем конечную меру в $S^1$, носитель которой есть $K$. К примеру, можно выбрать производящую функцию меры $F_\mu(\varphi)=\mu([-\alpha, \varphi])$ следующим образом. Открытое множество $(-\alpha,\beta) \setminus K$ есть конечное или счетное объединение попарно не пересекающихся открытых интервалов, $(-\alpha,\beta) \setminus K=\bigcup_i (a_i, b_i)$. Каждому индексу $i$ поставим в соответствие некоторое значение $\xi_i \in (a_i, b_i)$. При $\varphi \in (a_i, b_i)$ положим $F_\mu(\varphi)=\alpha+\xi_i$, при $\varphi<-\alpha$ положим $F_\mu(\varphi)=0$, а при $\varphi \geqslant \beta$ положим $F_\mu(\varphi)=\alpha+\beta$. Затем распространим определение $F_\mu$ на замыкание $\overline{\bigcup_i (a_i, b_i)}$ таким образом, что полученная функция монотонно не убывает и полунепрерывна справа. Наконец, доопределим функцию $F_\mu$ на всем множестве $\mathbb R \setminus \overline{\bigcup_i (a_i, b_i)}$ (которое является несвязным объединением интервалов) таким образом, чтобы она была аффинной и строго монотонно возрастающей на замыкании каждого интервала.

Далее мы намерены построить плоскую кривую, порождающую меру $\mu$, с концами на лучах $x= -z\operatorname{ctg}\alpha$, $z \geqslant 0$, и $x=z\operatorname{ctg}\beta$, $z \geqslant 0$, такую, что неограниченная область с границей, составленной из этой кривой и этих лучей, является выпуклой (рис. 16).

Положим

$$ \begin{equation*} \int_{S^1} n\, d\mu(n)=c_0 n_0, \end{equation*} \notag $$
где $n_0$ – единичный вектор. Для любого вектора $n \in \Gamma$ справедливо неравенство $\langle n, e_1+e_2 \rangle> 0$, а значит,
$$ \begin{equation*} \biggl\langle \int_{S^1} n\, d\mu(n), e_1+e_2 \biggr\rangle>0. \end{equation*} \notag $$
Отсюда мы заключаем, что $c_0 \ne 0$. Центр масс вспомогательной меры $\overline\mu=\mu+c_0 \delta_{-n_0}$ находится в начале координат; следовательно, по теореме А. Д. Александрова (см. [1; § 3]) существует единственное (с точностью до параллельного переноса) плоское выпуклое тело, поверхностная мера которого равна $\overline\mu$. (На рис. 16, a это тело – четырехугольник $ABCD$, а на рис. 16, b тело ограничено кривой $l$ и отрезком, соединяющим ее концы $A$ и $D$.)

Граница этого тела есть объединение отрезка, соответствующего мере $c_0 \delta_{-n_0}$, и кривой, соответствующей мере $\mu$. Касательные векторы к этой кривой в ее концевых точках есть $(\cos\alpha, -\sin\alpha)$ и $(\cos\beta, \sin\beta)$. Проведем касательные к кривой в концевых точках и предположим без потери общности, что они пересекаются в начале координат (в противном случае мы можем соответствующим образом сдвинуть кривую). Построение закончено.

Обозначим $V$ угол $-z\operatorname{ctg}\alpha \leqslant x \leqslant z\operatorname{ctg}\beta$. Пусть $\mathcal{B}$ – неограниченное замкнутое выпуклое множество, ограниченное снизу вышеуказанной кривой и лучами $x=-z\operatorname{ctg}\alpha, z \geqslant 0$, и $x=z\operatorname{ctg}\beta$, $z \geqslant 0$, и пусть $\overline{\mathcal{B}}=V \setminus \mathcal{B}$ (см. рис. 16).

Возьмем $y \in \mathbb R$ и рассмотрим кривую $y^2 l$, гомотетичную $l$ с центром гомотетии в начале координат и с коэффициентом $y^2$ (если $y=0$, эта кривая вырождается в точку $(0,0)$), и обозначим $\mathcal{B}_y$ неограниченное выпуклое множество, ограниченное кривой $y^2 l$ и лучами угла $V$. Можно эквивалентным образом определить $\mathcal{B}_y=V \setminus y^2 \overline{\mathcal{B}}$. Таким образом, при $y \ne 0$ справедливо $\mathcal{B}_y=y^2\mathcal{B}$, а при $y=0$ $\mathcal{B}_0=V$. Справедливо отношение монотонности $\mathcal{B}_{y_1} \subset \mathcal{B}_{y_2}$ при $|y_1| \geqslant |y_2|$.

Определим $C$ следующим образом:

$$ \begin{equation*} C=\{(x,y,z) \colon (x,z) \in \mathcal{B}_y, \ z \leqslant 1\}. \end{equation*} \notag $$
Неформально выражаясь, при пересечении $C$ плоскостями $y=$ const получаются множества $\mathcal{B}_y \cap \{z \leqslant 1\}$.

Заметим, что при $0 \leqslant \lambda \leqslant 1$ и при любых $y_1$ и $y_2$

$$ \begin{equation*} \lambda\mathcal{B}_{y_1}+(1-\lambda)\mathcal{B}_{y_2}=\mathcal{B}_{\sqrt{\lambda y_1^2+(1-\lambda) y_2^2}} \subset \mathcal{B}_{\lambda y_1+(1-\lambda)y_2}. \end{equation*} \notag $$
Знак включения в этой формуле есть прямое следствие неравенства
$$ \begin{equation*} \sqrt{\lambda y_1^2+(1-\lambda) y_2^2} \geqslant |\lambda y_1+(1-\lambda)y_2|. \end{equation*} \notag $$
Если $y_1$ и $y_2$ ненулевые, то равенство в этой формуле следует из верного равенства для выпуклого множества $\mathcal{B}$
$$ \begin{equation*} \lambda y_1^2 \mathcal{B}+(1-\lambda) y_2^2 \mathcal{B}=(\lambda y_1^2+(1-\lambda) y_2^2) \mathcal{B}. \end{equation*} \notag $$
Если $y_1=y_2=0$, то равенство принимает вид $\lambda V+ (1-\lambda) V=V$. Если $y_1 \ne 0$ и $y_2=0$, то равенство принимает вид $\lambda y_1^2 \mathcal{B}+ (1-\lambda) V=\lambda y_1^2 \mathcal{B}$.

Покажем, что $C$ выпукло. Для этого возьмем две точки ${r}_1=(x_1, y_1, z_1)$ и ${r}_2=(x_2, y_2, z_2)$ в $C$ и покажем, что $\lambda {r}_1+(1-\lambda) {r}_2$ лежит в $C$ для всех $0 \leqslant \lambda \leqslant 1$. В самом деле, поскольку $(x_1, z_1) \in \mathcal{B}_{y_1}$ и $(x_2, z_2) \in \mathcal{B}_{y_2}$, получаем

$$ \begin{equation*} \lambda (x_1, z_1)+(1-\lambda) (x_2, z_2) \in \lambda\mathcal{B}_{y_1}+(1-\lambda)\mathcal{B}_{y_2} \subset \mathcal{B}_{\lambda y_1+(1-\lambda)y_2}. \end{equation*} \notag $$
Кроме того, имеем очевидное неравенство $\lambda z_1+(1-\lambda) z_2 \leqslant 1$. Отсюда следует, что $\lambda {r}_1+(1-\lambda) {r}_2 \in C$.

Легко видеть, что каждая точка $(x,0,z)$, где $(x,z)$ лежит во внутренности $V \cap \{z \leqslant 1\}$, есть внутренняя точка $C$. Далее, при достаточно большом $|y|$

$$ \begin{equation*} \mathcal{B}_y \cap \{z \leqslant 1\}=\varnothing, \end{equation*} \notag $$
а значит, $C$ ограничено и имеет непустую внутренность.

Теперь проверим, что $C$ замкнуто. Пусть последовательность $\{{r}_i=(x_i, y_i, z_i)\} \subset C$ сходится к точке ${r}=(x,y,z)$. Если $y \ne 0$, то $\frac{1}{y_i^2} (x_i, z_i) \in \mathcal{B}$, и поскольку $\mathcal{B}$ замкнуто, предельная точка $\frac{1}{y^2} (x,z)$ также лежит в $\mathcal{B}$. Отсюда следует, что $(x,y,z) \in C$. Если $y=0$, то

$$ \begin{equation*} (x_i, z_i) \in V \quad\Longrightarrow\quad (x,z) \in V, \end{equation*} \notag $$
следовательно, $(x,0,z) \in C$. Таким образом, $C$ выпукло, компактно и имеет непустую внутренность, т.е. является выпуклым телом.

Возьмем $\varphi \in (\beta, \pi-\alpha)$ и проведем луч в плоскости $xz$ с вершиной $(0,0)$ и с направляющим вектором $(\cos\varphi, \sin\varphi)$. Этот луч пересекает $\partial\mathcal{B}$ в некоторой точке $\tau(\cos\varphi, \sin\varphi)$, $\tau>0$. Таким образом, пересечение $\partial C$ с плоскостью, проходящей через точку $r_0=(0,0,0)$ и имеющей нормаль $(-\sin\varphi, 0, \cos\varphi)$, есть кривая

$$ \begin{equation*} (y^2 \tau\cos\varphi, y, y^2 \tau\sin\varphi), \qquad |y| \leqslant \frac{1}{\sqrt{\tau\sin\varphi}}. \end{equation*} \notag $$
Отсюда следует, что ось $y$ касается $C$, а значит, содержится в любой опорной плоскости, проходящей через $r_0$.

Далее, $C$ содержится в двугранном угле (24), но не содержится в любом меньшем двугранном угле с тем же ребром. Следовательно, касательный конус в точке $r_0$ задается соотношением (24).

Пересечение $\mathcal{B}$ с прямой $z=\tau$, $\tau \geqslant 0$, либо пусто, либо является отрезком. Обозначим его длину $L(\tau)$; это неотрицательная непрерывная функция, обращающаяся в нуль при достаточно малом $\tau$ и удовлетворяющая неравенству $L(\tau) \leqslant (\operatorname{ctg}\alpha+ \operatorname{ctg}\beta)\tau$. Далее, множество $B_t$ при $0<t \leqslant 1$ есть

$$ \begin{equation*} B_t=C \cap \{z=t\}=\{(x,y,t) \colon (x,t) \in \mathcal{B}_y\}. \end{equation*} \notag $$
Пересечение $B_t$ с прямой $y=\tau$, $z=t$ есть либо пустое множество, либо отрезок (возможно, вырождающийся в точку), а его длина равна $y^2 L(t/y^2)$. Следовательно, площадь $B_t$ равна
$$ \begin{equation*} |B_t|=\int_\mathbb R y^2 L\biggl(\frac{t}{y^2}\biggr)\, dy. \end{equation*} \notag $$
Этот интеграл конечен, поскольку подынтегральное выражение является ограниченной функцией и обращается в нуль вне некоторого ограниченного отрезка. Делая замену переменных $\xi=y/\sqrt t$, получаем
$$ \begin{equation*} |B_t|=bt^{3/2}, \quad \text{где} \ \ b=\int_\mathbb R \xi^2 L\biggl(\frac1{\xi^2}\biggr)\, d\xi>0. \end{equation*} \notag $$

Множество $S_t$ при $0<t \leqslant 1$ имеет вид

$$ \begin{equation*} S_t=\partial C \cap \{z \leqslant t\}=\{(x,y,z) \colon (x,z) \in \partial\mathcal{B}_y, \ z \leqslant t\}. \end{equation*} \notag $$
Оно является несвязным объединением, $S_t=S_t^+\cup S_t^- \cup S_t^0$, где
$$ \begin{equation*} \begin{gathered} \, S_t^+=S_t \cap \{x=z\operatorname{ctg}\beta\}, \qquad S_t^-=S_t \cap \{x=-z\operatorname{ctg}\alpha\}, \\ S_t^0=S_t \cap \{-z\operatorname{ctg}\alpha<x<z\operatorname{ctg}\beta\}; \end{gathered} \end{equation*} \notag $$
т.е. $S_t^+$ и $S_t^-$ являются пересечениями $S_t$ с гранями двугранного угла (24), а $S_t^0$ есть часть $S_t$, содержащаяся во внутренности этого угла.

Часть $\partial\mathcal{B}$ ниже горизонтальной прямой $z=\tau$ есть объединение трех кривых; первая и третья – отрезки, содержащиеся в лучах $x=z\operatorname{ctg}\beta$, $z \geqslant 0$, и $x=-z\operatorname{ctg}\alpha$, $z \geqslant 0$, соответственно, а третья кривая лежит между этими лучами (и содержится в кривой $l$ или совпадает с ней). Обозначим $L_-(\tau), L_+(\tau), L_0(\tau)$ длины этих кривых. Это неотрицательные непрерывные функции переменной $\tau$, обращающиеся в нуль при достаточно малом значении $\tau$.

Плоские поверхности $S_t^+$ и $S_t^-$ (с выкинутыми точками вида $(x,0,z)$) состоят из точек $(x,y,z)$ таких, что $z \leqslant t$ и $(x/y^2, z/y^2)$ лежит на пересечении $\partial\mathcal{B}$ с лучами $x=z\operatorname{ctg}\beta$ и $x=-z\operatorname{ctg}\alpha$ соответственно. Их площади равны

$$ \begin{equation*} |S_t^\pm|=\int_\mathbb R y^2 L_\pm\biggl(\frac{t}{y^2}\biggr)\, dy, \end{equation*} \notag $$
и, делая замену переменной $\xi=y/\sqrt t$, получаем
$$ \begin{equation*} |S_t^\pm|=s_\pm t^{3/2}, \quad \text{где} \ \ s_\pm=\int_\mathbb R \xi^2 L_\pm\biggl(\frac{1}{\xi^2}\biggr)\, d\xi>0. \end{equation*} \notag $$

Внешние нормали к поверхностям $S_t^-$ и $S_t^+$ равны $e_1$ и $e_2$, следовательно, нормированные меры, порожденные $S_t^-$ и $S_t^+$, есть атомы $\frac{s_-}{b}\delta_{e_1}$ и $\frac{s_+}{b}\delta_{e_2}$. Обозначим $\nu_t^0$ нормированную меру, порожденную поверхностью $S_t^0$; тогда

$$ \begin{equation*} \nu_t=\frac{s_-}{b}\delta_{e_1}+\frac{s_+}{b}\delta_{e_2}+\nu_t^0. \end{equation*} \notag $$
Остается описать $\nu_t^0$.

Обозначим $l_0$ часть кривой $l$, которая лежит во внутренности угла $V$, $-z\operatorname{ctg}\alpha<x< z\operatorname{ctg}\beta$, и рассмотрим ее естественную параметризацию $(x(s), z(s))$, $s \in [0, s_0]$, начиная от луча $x=-z\operatorname{ctg}\alpha$. Длина кривой $s_0$ конечна и производная $(x'(s),z'(s))$ существует для почти всех $s$ и удовлетворяет $x'^2+z'^2=1$. Поверхность $S_t^0$ состоит из точек $(x,y,z)$ таких, что $z \leqslant t$ и $(x/y^2, z/y^2) \in l_0$.

Параметризуем $S_t^0$ с помощью отображения

$$ \begin{equation*} (s,y) \mapsto {r}(s,y)=(y^2 x(s), y, y^2 z(s)), \end{equation*} \notag $$
определенного на области $D_t=\{(s,y) \colon 0 \leqslant s \leqslant s_0,\, y^2 z(s) \leqslant t\}$. Это отображение инъективно на подмножестве полной меры $D_t \setminus \{y \ne 0\}$.

Элемент площади поверхности $S_t^0$ имеет вид $|{r}'_s \times r'_y|\, ds\, dy$, и внешняя нормаль к $S_t^0$ есть $({r}'_s \times r'_y)/|{r}'_s \times r'_y|$. Нетрудно видеть, что

$$ \begin{equation*} {r}'_s(s,y) \times r'_y(s,y)=y^2 (z'(s), 2y\Delta(s), -x'(s)), \quad \text{где} \ \ \Delta(s)= \begin{vmatrix} x(s) & z(s)\\ x'(s) & z'(s) \end{vmatrix}, \end{equation*} \notag $$
и $|{r}'_s(s,y) \times r'_y(s,y)|=y^2 \sqrt{1+4y^2 \Delta(s)^2}$. Заметим, что вектор $(x', z')$ единичный и $|(x, z)| \leqslant C$, где $C$ обозначает наибольшее расстояние между точками $l_0$ и началом координат, поэтому функция $\Delta(s)$ ограничена, $|\Delta(s)| \leqslant C$.

Мы получили, что элемент площади $S_t^0$ имеет вид $y^2 \sqrt{1+4y^2 \Delta(s)^2}\, ds\, dy$, а внешняя нормаль к $S_t^0$ в точке ${r}(s,y)$ равна

$$ \begin{equation*} n(s,y)=\frac{(z'(s), 2y\Delta(s), -x'(s))}{\sqrt{1+4y^2\Delta(s)^2}}. \end{equation*} \notag $$

Теперь определим вспомогательную нормированную меру $\widetilde\nu_t$, индуцированную семейством векторов $\widetilde n(s,y)=(z'(s), 0, -x'(s))$ на измеримом пространстве $D_t$ с мерой $d\widetilde\mu(s,y)=y^2 \,ds \,dy$, следующим образом: для любого борелевского множества $\mathcal{A} \subset S^2$

$$ \begin{equation*} \widetilde\nu_t(\mathcal{A})=\frac{1}{b t^{3/2}}\widetilde\mu\bigl(\{(s,y) \colon \widetilde n(s,y) \in \mathcal{A}\} \bigr). \end{equation*} \notag $$

Изучать меру $\widetilde\nu_t$ легче, чем меру $\nu_t^0$; ниже мы покажем, что она в действительности не зависит от $t$. Покажем, что $\widetilde\nu_t$ и $\nu_t^0$ асимптотически эквивалентны: либо они обе сходятся к одному и тому же пределу, либо обе расходятся. Для этого достаточно показать, что для любой непрерывной функции $f$ на $S^2$

$$ \begin{equation*} \int_{S^2} f(n)\, d(\nu_t^0-\widetilde\nu_t)(n) \to 0 \quad \text{при} \ \ t \to 0. \end{equation*} \notag $$
Этот интеграл может быть записан в виде
$$ \begin{equation*} \begin{aligned} \, &\frac{1}{b t^{3/2}} \iint_{D_t} f \biggl(\frac{(z'(s), 2y\Delta(s), -x'(s))}{\sqrt{1+ 4y^2\Delta(s)^2}}\biggr) y^2 \sqrt{1+4y^2\Delta(s)^2}\,ds\,dy \\ &\qquad\qquad -\frac{1}{b t^{3/2}} \iint_{D_t} f(z'(s), 0, -x'(s))y^2\, ds\, dy \\ &\qquad =\frac{1}{b t^{3/2}} \iint_{D_t} \biggl[f\biggl(\frac{(z'(s), 2y\Delta(s), -x'(s))}{\sqrt{1+4y^2\Delta(s)^2}}\biggr)\sqrt{1+4y^2\Delta(s)^2} \\ &\qquad\qquad\qquad -f(z'(s), 0, -x'(s))\biggr] y^2\,ds\,dy. \end{aligned} \end{equation*} \notag $$
Поскольку функция $f$ непрерывная, а следовательно, и равномерно непрерывная на $S^2$, а функция $\Delta(s)$ ограничена, заключаем, что выражение в квадратных скобках в последнем интеграле стремится к нулю при $y \to 0$ равномерно по $s$, а значит, не превосходит по модулю некоторую неотрицательную четную монотонно неубывающую при $y \geqslant 0$ функцию $\gamma(y)$, сходящуюся к нулю при $y \to 0$. Делая замену переменной $\xi=y/\sqrt t$, получаем, что последний интеграл по модулю не превосходит
$$ \begin{equation*} \begin{aligned} \, \frac{1}{b t^{3/2}} \iint_{D_t} y^2 \gamma(y)\,ds\,dy &=\frac{1}{b t^{3/2}} \int_0^{s_0} ds \int_{-\sqrt{t/z(s)}}^{\sqrt{t/z(s)}} y^2 \gamma(y)\,dy \\ &=\frac{1}{b} \int_0^{s_0} ds \int_{-1/\sqrt{z(s)}}^{1/\sqrt{z(s)}} \xi^2 \gamma(\sqrt t\, \xi)\, d\xi. \end{aligned} \end{equation*} \notag $$
Поскольку подынтегральное выражение $\xi^2 \gamma(\sqrt t\, \xi)$ монотонно не убывает по $t$ и стремится к нулю при $t \to 0$, заключаем, что и последний интеграл
$$ \begin{equation*} \frac{1}{b} \int_0^{s_0} ds \int_{-1/\sqrt{z(s)}}^{1/\sqrt{z(s)}} \xi^2 \gamma(\sqrt t\, \xi)\, d\xi \end{equation*} \notag $$
стремится к 0 при $t \to 0$.

Остается рассмотреть меру $\widetilde\nu_t$. Ее носитель есть $\Gamma$, поскольку все векторы $(z', 0, -x')$ принадлежат $\Gamma$. Напомним, что мы отождествляем значение $\varphi$ с вектором $(\sin\varphi, 0, -\cos\varphi)$.

Возьмем интервал $\mathcal{U}=(\varphi_1, \varphi_2) \subset (-\alpha,\beta)$. Имеем

$$ \begin{equation*} \widetilde\nu_t(\mathcal{U})=\frac{1}{b t^{3/2}} \int_{F_\mu(\varphi_1)}^{F_\mu(\varphi_2-0)}\, ds \int_{-\sqrt{t/z(s)}}^{\sqrt{t/z(s)}} y^2\, dy =\frac{1}{b} \int_{F_\mu(\varphi_1)}^{F_\mu(\varphi_2-0)} \frac{2}{3}\,\frac{1}{z(s)^{3/2}}\,ds. \end{equation*} \notag $$
Следовательно, $\widetilde\nu_t$ не зависит от $t$, $\widetilde\nu_t=\widetilde\nu$, а значит, $\nu_t^0 \to \widetilde\nu$ при $t \to 0$. Если $\mathcal{U} \cap K=\varnothing$, то $F_\mu(\varphi_1)= F_\mu(\varphi_2-0)$ и согласно вышеозначенной формуле $\widetilde\nu(\mathcal{U})= 0$. Если пересечение $\mathcal{U} \cap K$ непусто, то $F_\mu(\varphi_1)<F_\mu(\varphi_2-0)$, и поэтому $\widetilde\nu(\mathcal{U})>0$. Таким образом, $\operatorname{spt}\widetilde\nu \setminus \{-\alpha,\beta\}$ совпадает с $K \setminus \{ -\alpha,\beta\}$. Остается заметить, что $\nu_t$ сходится к $\nu_*=\frac{s_-}{b}\, \delta_{e_1}+ \frac{s_+}{b}\, \delta_{e_2}+\widetilde\nu$ и $\operatorname{spt}\nu_*=K$.

Теорема 5 доказана.

Благодарности

Я благодарен Г. Вахсмуту и В. А. Александрову за полезные обсуждения. Я также благодарен анонимному рецензенту за внимательное чтение статьи и многочисленные полезные замечания.

Список литературы

1. А. Д. Александров, “К теории смешанных объемов выпуклых тел. III. Распространение двух теорем Минковского о выпуклых многогранниках на произвольные выпуклые тела”, Матем. сб., 3(45):1 (1938), 27–46  mathnet  zmath
2. В. А. Александров, Н. В. Коптева, С. С. Кутателадзе, “Сумма Бляшке и выпуклые многогранники”, Труды семинара по векторному и тензорному анализу, 26, Изд-во МГУ, М., 2005, 8–30  zmath
3. И. Ньютон, Собрание трудов академика А. Н. Крылова, т. VII, Математические начала натуральной философии, Изд-во АН СССР, М.–Л., 1936, 659 с.  mathscinet  zmath; пер. с латин.: I. Newton, Philosophiae naturalis principia mathematica, Streater, London, 1687, 510 с.  mathscinet  zmath
4. G. Buttazzo, B. Kawohl, “On Newton's problem of minimal resistance”, Math. Intelligencer, 15:4 (1993), 7–12  crossref  mathscinet  zmath
5. F. Brock, V. Ferone, B. Kawohl, “A symmetry problem in the calculus of variations”, Calc. Var. Partial Differential Equations, 4:6 (1996), 593–599  crossref  mathscinet  zmath
6. G. Buttazzo, V. Ferone, B. Kawohl, “Minimum problems over sets of concave functions and related questions”, Math. Nachr., 173 (1995), 71–89  crossref  mathscinet  zmath
7. G. Wachsmuth, “The numerical solution of Newton's problem of least resistance”, Math. Program., 147:1-2(A) (2014), 331–350  crossref  mathscinet  zmath
8. A. Plakhov, “A note on Newton's problem of minimal resistance for convex bodies”, Calc. Var. Partial Differential Equations, 59:5 (2020), 167, 13 pp.  crossref  mathscinet  zmath
9. A. Plakhov, “A solution to Newton's least resistance problem is uniquely defined by its singular set”, Calc. Var. Partial Differential Equations, 61:5 (2022), 189, 37 pp.  crossref  mathscinet  zmath
10. A. Plakhov, “On generalized Newton's aerodynamic problem”, Тр. ММО, 82, № 1, МЦНМО, М., 2021, 217–226  mathnet  zmath; Trans. Moscow Math. Soc., 82 (2021), 183–191  crossref  mathscinet
11. А. В. Погорелов, Внешняя геометрия выпуклых поверхностей, Наука, М., 1969, 759 с.  zmath; англ. пер.: A. V. Pogorelov, Extrinsic geometry of convex surfaces, Transl. Math. Monogr., 35, Amer. Math. Soc., Providence, RI, 1973, vi+669 с.  crossref  zmath
12. A. Plakhov, “Local structure of convex surfaces near regular and conical points”, Axioms, 11:8 (2022), 356, 10 pp.  crossref
13. R. Schneider, Convex bodies: the Brunn–Minkowski theory, Encyclopedia Math. Appl., 44, Cambridge Univ. Press, Cambridge, 1993, xiv+490 pp.  crossref  mathscinet  zmath

Образец цитирования: А. Ю. Плахов, “О локальном устройстве выпуклых поверхностей”, Матем. сб., 215:3 (2024), 119–158; A. Yu. Plakhov, “Local structure of convex surfaces”, Sb. Math., 215:3 (2024), 401–437
Цитирование в формате AMSBIB
\RBibitem{Pla24}
\by А.~Ю.~Плахов
\paper О локальном устройстве выпуклых поверхностей
\jour Матем. сб.
\yr 2024
\vol 215
\issue 3
\pages 119--158
\mathnet{http://mi.mathnet.ru/sm9921}
\crossref{https://doi.org/10.4213/sm9921}
\mathscinet{http://mathscinet.ams.org/mathscinet-getitem?mr=4774066}
\zmath{https://zbmath.org/?q=an:1544.52002}
\adsnasa{https://adsabs.harvard.edu/cgi-bin/bib_query?2024SbMat.215..401P}
\transl
\by A.~Yu.~Plakhov
\paper Local structure of convex surfaces
\jour Sb. Math.
\yr 2024
\vol 215
\issue 3
\pages 401--437
\crossref{https://doi.org/10.4213/sm9921e}
\isi{https://gateway.webofknowledge.com/gateway/Gateway.cgi?GWVersion=2&SrcApp=Publons&SrcAuth=Publons_CEL&DestLinkType=FullRecord&DestApp=WOS_CPL&KeyUT=001283662800007}
\scopus{https://www.scopus.com/record/display.url?origin=inward&eid=2-s2.0-85199896423}
Образцы ссылок на эту страницу:
  • https://www.mathnet.ru/rus/sm9921
  • https://doi.org/10.4213/sm9921
  • https://www.mathnet.ru/rus/sm/v215/i3/p119
  • Citing articles in Google Scholar: Russian citations, English citations
    Related articles in Google Scholar: Russian articles, English articles
    Математический сборник Sbornik: Mathematics
    Статистика просмотров:
    Страница аннотации:339
    PDF русской версии:6
    PDF английской версии:27
    HTML русской версии:21
    HTML английской версии:190
    Список литературы:30
    Первая страница:5
     
      Обратная связь:
     Пользовательское соглашение  Регистрация посетителей портала  Логотипы © Математический институт им. В. А. Стеклова РАН, 2025