\documentclass[a4paper,12pt]{article}
\usepackage[intlimits]{amsmath}
\usepackage{amsthm}
\usepackage{bm}
\usepackage{amsfonts,amssymb}
\usepackage[cp1251]{inputenc}
\usepackage[T2A]{fontenc}
\usepackage[russian]{babel}
\newcommand{\supp}{\mathop{\text{supp}}}
\input mathsoc.sty

\unitlength=1mm

\emergencystretch=10pt
\clubpenalty=10000
\widowpenalty=10000
\binoppenalty=10000
\relpenalty=10000

\textheight=23cm

\oddsidemargin = 28pt
\headheight = 0pt
\headsep = 0pt
\textheight = 230mm
\textwidth = 165mm
\hoffset=-10mm
\voffset=-10mm
\frenchspacing

\def\leq{\leqslant}
\def\geq{\geqslant}
\def\EV{EV}
\theoremstyle{remark}
\newtheorem{remark}{\textbf{Замечание}}
\theoremstyle{plain}
\newtheorem{lemma}{Лемма}
\newtheorem{prop}{Предложение}
\newtheorem{theorem}{Теорема}
\newtheorem*{bigtheor}{Основная теорема}
\newtheorem{corollary}{Следствие}
\DeclareMathOperator{\noi}{HOK}

\begin{document}
\def\submitted{21 мая 2020 г.}
\PutMathSocLogo

\title{О разрешимости полулинейной задачи \\ со спектральным дробным лапласианом Неймана \\ и критической правой частью\footnote{Работа поддержана грантом РФФИ 20-01-00630A}}
\author{Н.С. Устинов\footnote{Санкт-Петербургский Государственный Университет, Университетский пр. 28, Санкт-Петербург, 198504, Россия.  E-mail: {ustinns@yandex.ru}. 
} \footnote{Представлено А.И. Назаровым}}
\date{}

\maketitle 
\section{Введение}
В настоящей работе изучается вопрос существования решений с минимальной энергией в $\mathcal{C}^2$-гладкой ограниченной области $\Omega \subset \mathbb{R}^n,$ $n \geq 3$ для задачи
\begin{equation}
\label{main_equation_s_omega}
(-\Delta)_{Sp}^s u + u = |u|^{2^*_{s} - 2} u, \quad u\in \mathcal{H}^s(\Omega),
\end{equation}
где $s \in (0, 1)$ и $2^*_{s} := \frac{2n}{n-2s}.$ Дробный лапласиан $(-\Delta)_{Sp}^s$ в левой части уравнения --- это спектральный лапласиан Неймана (определения дробных лапласианов и функциональных пространств будут даны в \S 2).

Решение задачи (\ref{main_equation_s_omega}) с минимальной энергией (с точностью до домножения на константу) ---~это минимайзер (если он существует) функционала $\mathcal{I}^{Sp}_{s,\Omega}[u]$:
\begin{equation}
\label{main_fu_s_omega}
\mathcal{I}^{Sp}_{s, \Omega}[u] := \frac{\langle (-\Delta)_{Sp}^s u, u \rangle  + \| u \|^2_{L_2(\Omega)}}{\| u \|^2_{L_{2^*_{s}}(\Omega)}}, \quad \mathcal{S}^{Sp}_{s, \Omega} := \inf_{u\in \mathcal{D}^s(\Omega)} \mathcal{I}^{Sp}_{s, \Omega}[u].
\end{equation}
В силу неоднородности $\mathcal{I}^{Sp}_{s, \Omega}[u]$ при гомотетиях, в пространстве ($\Omega = \mathbb{R}^n$) или полупространстве ($\Omega = \mathbb{R}^n_+$) инфимум в (\ref{main_fu_s_omega}) не  достигается, и, таким образом, решений с минимальной энергией у задачи (\ref{main_equation_s_omega}) не существует. Однако известно, что имеет место дробное неравенство Соболева (см. \cite[Теорема 1.2, (22)]{Ilin})
\begin{equation*}
\mathcal{S}^{Sp}_{s, \mathbb{R}^n} := \min_{u\in \mathcal{D}^s(\mathbb{R}^n)} \frac{\langle (-\Delta)^s u, u \rangle}{\| u \|^2_{L_{2^*_{s}}(\mathbb{R}^n)}} > 0,
\end{equation*}
и минимум достигается (см. \cite{Tav}) на единственной функции (здесь и далее: \textit{с точностью до гомотетий, домножений на константу и переносов})
\begin{equation}
\label{bliss_s_with_Rn_const}
\Phi_{s, a}(x) := \left(a^2 + |x|^2 \right)^{\frac{2s-n}{2}} \quad \mbox{с} \quad 
\mathcal{S}^{Sp}_{s, \mathbb{R}^n} = 2^{2s}\pi^{s} \frac{\Gamma\left(\frac{n}{2}+s \right)}{\Gamma\left(\frac{n}{2} - s \right)} \left[ \frac{\Gamma\left(\tfrac{n}{2}\right)}{\Gamma\left( n \right)}  \right]^{\tfrac{2s}{n}}.
\end{equation}
Более того, в полупространстве $\mathbb{R}^n_+$ имеет место соотношение (см. \cite[Теорема 1.2]{MN5})
\begin{equation}
\label{sobolev_s_Rn_plus}
\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+} = \min_{u\in \mathcal{D}^s(\mathbb{R}^n_+)} \frac{\langle (-\Delta)_{Sp}^s u, u \rangle}{\| u \|^2_{L_{2^*_{s}}(\mathbb{R}^n_+)}}
\quad \mbox{с} \quad 
\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+} = 2^{-\frac{2s}{n}}  \mathcal{S}^{Sp}_{s, \mathbb{R}^n},
\end{equation}
а минимайзер, как и в $\mathbb{R}^n,$ единственен и равен $\Phi_{s, a}(x).$ В частности, $\Phi_{s, a}(x)$ (после домножения на подходящую константу) является решением уравнения
\begin{equation*}
(-\Delta)_{Sp}^s u = |u|^{2^*_{s} - 2} u  \quad \mbox{в} \quad \mathbb{R}^n_+
\end{equation*}
с минимальной энергией.

В локальном случае $s = 1$ задача (\ref{main_equation_s_omega}) имеет вид (здесь $2^* := \frac{2n}{n-2}$)
\begin{equation}
\label{main_equation_omega}
-\Delta u + u = |u|^{2^* - 2} u, \quad \left. \frac{\partial u}{ \partial \vec{n}} \right|_{x \in \partial\Omega} = 0,
\end{equation}
а в $\mathbb{R}^n$ и $\mathbb{R}^n_+$ рассматривается задача без слабого члена в левой части. В этом случае решение единственно и равно $\Phi_{1, a}(x),$ а точные константы (см. (\ref{bliss_s_with_Rn_const}) и (\ref{sobolev_s_Rn_plus}) при $s=1$) известны давно (см.~\cite{Aubin, Talenti}).  В \cite{Adimurthi, Wang} было показано, что при $n \geq 3$ в $\mathcal{C}^2$-гладкой ограниченной области~$\Omega$ задача (\ref{main_equation_omega}) имеет положительное решение с миинимальной энергией. В \cite{Dem_Naz_1} была изучена задача для уравнения, аналогичного (\ref{main_equation_omega}), с $p$-лапласианом в левой части.

В настоящей работе получен следующий результат:
\begin{theorem}
\label{main_theorem}
Пусть $\Omega \subset \mathbb{R}^n,$ $n \geq 3$ --- $\mathcal{C}^2$-гладкая ограниченная область, и $2s > 1.$ Тогда задача (\ref{main_equation_s_omega}) имеет неотрицательное нетривиальное решение с минимальной энергией.
\end{theorem}
\begin{remark}
Мы полагаем, что условия Теоремы \ref{main_theorem} являются точными, однако этот вопрос остается открытым.

Для других определений дробного лапласиана Неймана (см., напр., \cite{MN5}) аналогичные задачи не рассматривались. Задача такого типа для спектрального лапласиана Дирихле была рассмотрена в \cite{Ustinov_Dir}.
\end{remark}

Статья имеет следующую структуру: в \S 2 приводятся предварительные сведения о дробных лапласианах и вводится продолжение Стинга--Торреа. В \S 3 утверждение Теоремы \ref{main_theorem} выводится из четырех вспомогательных Лемм. Доказательства этих Лемм приведены в \S \S 4--5.

\medskip

\textbf{Введем некоторые обозначения}:
\begin{itemize}
\item $\mathbb{B}_r(x) \subset \mathbb{R}^{n}$ --- шар радиуса $r$ с центром в точке $x.$ Для краткости, $\mathbb{B}_r := \mathbb{B}_r(0).$
\item $\omega_{n-1} := \frac{n\pi^{\frac{n}{2}}}{\Gamma\left(\frac{n}{2} + 1 \right)}$ --- площадь единичной сферы в $\mathbb{R}^n.$
\item $\varphi_{r}(x)$ --- гладкая функция-срезка
\begin{equation*}
\varphi_{r}(x) := 
\begin{cases}
1,& |x|<\frac{r}{2}\\ 
0,& |x|>r
\end{cases},
\quad
|\nabla_{x} \varphi_{r}(x)| \leq \frac{C}{r}.
\end{equation*}
\item Через $C$ мы будем обозначать константы, зависящие только от $n$ и $s,$ значение которых для нас несущественно; в случае зависимости константы от дополнительного параметра мы будем указывать его в скобках.
\item Запись $o_{\varepsilon}(1)$ означает, что величина стремится к нулю при $\varepsilon \to 0.$
\item Полупространство $\mathbb{R}^n_+  := \{ x \equiv (x',x_n) \in \mathbb{R}^{n} \  | \ x_n > 0\}.$
\item Для функции $f \in L_1(\Omega)$ функция $\overline{f}$ определяется равенством 
\begin{equation}
\label{f_averaging}
\overline{f}(x) := f(x) - |\Omega|^{-1} \cdot \int\limits_{\Omega} f(x) \, dx, \quad \int\limits_{\Omega} \overline{f}(x)  \, dx = 0.
\end{equation}
\end{itemize}

\section{Предварительные сведения}
Дробный лапласиан $(-\Delta)^s$ в $\mathbb{R}^n$ определяется как
\begin{equation*}
(-\Delta)^s u = \mathcal{F}^{-1}(|\xi|^{2s}\mathcal{F}u(\xi)), \quad  u \in \mathcal{C}^{\infty}_0(\mathbb{R}^n),
\end{equation*}
где преобразование Фурье $\mathcal{F}$ задается формулой $\mathcal{F}u(\xi) := (2\pi)^{-\frac{n}{2}}\int\limits_{\mathbb{R}^n} e^{-i \langle \xi, x \rangle }u(x)dx.$ Его квадратичная форма имеет вид
\begin{equation*}
\langle (-\Delta)^s u,u \rangle = \int\limits_{\mathbb{R}^n} |\xi|^{2s}|\mathcal{F}u(\xi)|^2d\xi.
\end{equation*}
Областью определения $\langle (-\Delta)^s u,u \rangle$ является пространство $\mathcal{D}^s(\mathbb{R}^n):$
\begin{equation*}
\mathcal{D}^s(\mathbb{R}^n) := \left\{ u\in L_{2^*_{s}}(\mathbb{R}^n) \ \left| \ \langle (-\Delta)^s u,u \rangle < \infty \right. \right\}.
\end{equation*} 
Ввиду дробного неравенства Соболева пространство $\mathcal{D}^s(\mathbb{R}^n)$ совпадает с замыканием пространства $\mathcal{C}_0^{\infty}(\mathbb{R}^n)$ по форме $\langle(-\Delta)^s u,u\rangle.$

Спектральный дробный лапласиан Неймана $(-\Delta)_{Sp}^s$ определяется как $s$-ая степень оператора Лапласа с условием Неймана в области $\Omega$ в смысле спектральной теории. Это самосопряженный оператор, восстановленный по квадратичной форме: при $\Omega =\mathbb{R}^n_{+}$ 
\begin{equation*}
\langle (-\Delta)_{Sp}^s u,u \rangle := \int\limits_{\mathbb{R}^n_{+}} |\xi|^{2s}|\widehat{\mathcal{F}}u(\xi)|^2 \, d\xi \quad \mbox{с} \quad  \widehat{\mathcal{F}}u(\xi) := \frac{2}{(2\pi)^{n/2}}\int\limits_{\mathbb{R}^n_{+}} u(x) e^{-i \langle \xi', x' \rangle} \cos(x_n \xi_n) \, dx,
\end{equation*}
а в случае ограниченной липшицевой области $\Omega$ квадратичная форма равна
\begin{equation}
\label{seminorm_Sp}
\langle(-\Delta)_{Sp}^s u,u\rangle := \sum\limits_{j=1}^{\infty} \lambda_j^s \langle u,\phi_j \rangle^2,
\end{equation}
где $\lambda_j$ --- собственные числа, a $\phi_j$ --- ортонормированные в $L_2(\Omega)$ собственные функции задачи Неймана для оператора Лапласа (мы считаем, что $\lambda_0 = 0$ для собственной функции $\phi_0 = C$). Областью определения квадратичной формы $\langle(-\Delta)_{Sp}^s u,u\rangle$ является пространство $\mathcal{D}^s(\Omega):$
\begin{equation*}
\mathcal{D}^s(\Omega) := \left\{ u\in L_{2_s^*}(\Omega) \ \left| \  \langle(-\Delta)_{Sp}^s u,u\rangle < \infty \right. \right\}.
\end{equation*}
В ограниченной области $\Omega$ это пространство совпадает со стандартным пространством Соболева--Слободецкого $\mathcal{H}^s(\Omega)$ (см. \cite{slob} и \cite[\S 2.3.3]{Triebel}). Норму в этом пространстве определим равенством 
\begin{equation*}
\| u \|^2_{\mathcal{H}^s(\Omega)} = \langle (-\Delta)_{Sp}^s u, u \rangle  + \| u \|^2_{L_2(\Omega)}.
\end{equation*}
Введенная норма эквивалентна стандартной норме в $\mathcal{H}^s(\Omega)$ (доказательство этого факта практически дословно повторяет доказательство \cite[Лемма 1]{MN2}).

В \cite{Stinga} было показано, что спектральный лапласиан Неймана может быть получен посредством продолжения Стинга--Торреа (далее, \textbf{СТ-продолжение}; для краткости будем обозначать $X \equiv (x, t)$): решение  $w_{sp}$ задачи
\begin{equation*}
-div(t^{1-2s}\nabla_{X} w(x,t)) = 0 \quad \mbox{в} \quad  \Omega \times \mathbb{R}_{+}; \quad \left.w\right|_{t=0} = u; \quad  \left.\frac{\partial w}{\partial \vec{n}}\right|_{x \in \partial\Omega} = 0
\end{equation*}
с конечной энергией
\begin{equation}
\label{Navier_ext_functional}
\mathcal{E}_{s, \Omega}[w] := \int\limits_0^{\infty} \int\limits_{\Omega}t^{1-2s}|\nabla_{X} w(x,t)|^2 \,dxdt
\end{equation}
существует, единственно, и для достаточно гладких $u$ 
\begin{equation}
\label{bound_w}
(-\Delta)_{Sp}^s u(x)
= 
-\mathit{C}_s \cdot \lim_{t \to 0_{+}} t^{1-2s} \partial_{t}w_{sp}(x,t)
\quad \mbox{с} \quad \mathit{C}_s := \tfrac{4^s\Gamma(1+s)}{2s \cdot \Gamma(1-s)}.
\end{equation}
Кроме того, $w_{sp}$ можно получить как минимайзер функционала (\ref{Navier_ext_functional}) по пространству
\begin{equation*}
\mathfrak{W}_s \left(\Omega \times \mathbb{R}_+ \right) := \left\{ w(X) \mid \mathcal{E}_{s, \Omega}[w]< \infty, \left.w\right|_{t=0} = u \right\},
\end{equation*}
и несложно показать, что квадратичная форма (\ref{seminorm_Sp}) выражается через (\ref{Navier_ext_functional}): 
\begin{equation}
\label{norm_u_w}
\langle(-\Delta)_{Sp}^s u,u\rangle = \mathit{C}_s \mathcal{E}_{s, \Omega} \left[w_{sp}\right].
\end{equation}
Отдельно отметим, что соответствующий результат для оператора $(-\Delta)^s$ в $\mathbb{R}^n$ был получен в \cite{Caffarelli}, а функция $w_{sp}$ в этом случае называется продолжением Каффарелли--Сильвестра (\textbf{КС-продолжение}).

Мы будем называть любую функцию $w \in \mathfrak{W}_s \left(\Omega \times \mathbb{R}_+ \right)$ \textbf{допустимым} продолжением функции $u(x).$ Для допустимого продолжения очевидно неравенство $\mathcal{E}_{s, \Omega} \left[w\right] \geq \mathcal{E}_{s, \Omega} \left[w_{sp}\right].$ 


Покажем, что решения с минимальной энергией в задаче (\ref{main_equation_s_omega}) можно считать неотрицательными. Действительно, замена $u \to |u|$ уменьшает значение функционала $\mathcal{I}^{Sp}_{s, \Omega}[u]:$
\begin{prop}
\label{prop_musina}
Пусть $u \in \mathcal{H}^{s}(\Omega)$ при $s \in (0,1).$ Тогда $|u| \in \mathcal{H}^{s}(\Omega),$ и выполнено неравенство 
\begin{equation*}
 \langle(-\Delta)_{Sp}^s u,u\rangle \geq  \langle(-\Delta)_{Sp}^s |u|, |u|\rangle.
\end{equation*}
Кроме того, если $u(x)$ меняет знак в $\Omega,$ то неравенство строгое.
\end{prop}
\begin{proof}
Дословно повторяет доказательство \cite[Теорема 3]{MN4}.
\end{proof}

\section{Доказательство Теоремы \ref{main_theorem}}
Схема доказательства похожа на \cite[Теорема 2]{Ustinov_Dir}, однако вложение здесь критическое и требует модификации предельного случая принципа Лионса \cite{Lions}. Рассмотрим минимизирующую последовательность $u_k(x)$ для функционала~(\ref{main_fu_s_omega}): согласно Предложению \ref{prop_musina} можно считать, что $u_k(x) \geq 0$ и $\| u_k \|_{L_{2^*_{s}}\left(\Omega \right)} = 1.$ По функциям $u_k$ построим СТ-продолжения $w_k\left(X\right)$ и определим функции $U_k(x)$ формулой
\begin{equation}
\label{U_k_def}
U_k(x) := \mathit{C}_s \int\limits_{0}^{\infty} t^{1-2s} |\nabla_{X} w_k(X)|^2 \, dt.
\end{equation}
Поскольку последовательность $\{ u_k \}$ ограничена в $\mathcal{H}^s(\Omega),$ функции $w_k$ ограничены по норме, порождаемой квадратичной формой $\mathcal{E}_{s, \Omega}[w] + \|u\|^2_{L_2(\Omega)},$ а функции $U_k$ и $|u_k|^{2^*_{s}}$ ограничены в $L_1(\Omega).$ Не умаляя общности, можно считать, что:
\begin{itemize}
\item $u_k \rightharpoondown u$ в $\mathcal{H}^s(\Omega)$; отсюда следует, что $u_k \to u$ в $L_2(\Omega);$
\item $\nabla_{X} w_k \rightharpoondown \nabla_{X} w$ в $L_2(\Omega \times \mathbb{R}_+, t^{1-2s})$ (это соотношение определяет $w$ с точностью до константы);
\item $|u_k|^{2^*_{s}} \rightharpoondown \mu$ и $U_k \rightharpoondown \mathcal{M}$ в пространстве мер на $\overline{\Omega}.$
\end{itemize}
Из построения $u_k$ и $U_k$ следует, что выполнена цепочка равенств:
\begin{equation}
\label{measures_relation}
\int\limits_{\Omega} 1 d\mathcal{M} + \| u \|^2_{L_2(\Omega)}
=
\lim_{k \to \infty} \left[ \| U_k \|_{L_1(\Omega)} + \| u_k \|^2_{L_2(\Omega)} \right]
=
\mathcal{S}^{Sp}_{s, \Omega} \cdot \lim_{k \to \infty} \| u_k \|^2_{L_{2^*_{s}}(\Omega)}
=
\mathcal{S}^{Sp}_{s, \Omega} \cdot \Big( \int\limits_{\Omega} 1 d\mu\Big)^{\frac{2}{2^*_{s}}}.
\end{equation}

Следующие утверждения доказаны в \S 4:
\begin{lemma}
\label{lemma_extension_w_u}
Произвольную константу в определении $w$ можно выбрать так, что функция $w$ является СТ-продолжением функции $u.$
\end{lemma}
\begin{lemma}
\label{lemma_measures_ineq}
Для мер $\mu$ и $\mathcal{M}$ справедливы соотношения:
\begin{align}
\label{mu_repres}
\mu = |u|^{2^*_{s}} + \sum\limits_{j \in J} \alpha_j \bm{\delta}_{x_j};& \quad \alpha_j \geq 0; \\
\label{M_repres}
\mathcal{M} \geq U + \sum\limits_{j \in J} \beta_j \bm{\delta}_{x_j};& \quad \beta_j \geq \mathcal{S}^{Sp}_{s, \Omega} \cdot \alpha^{\frac{2}{2^*_{s}}}_j,
\end{align}
где $j \in J$ --- не более чем счетный набор индексов, $\bm{\delta}_{x_j}$ --- дельта--функции в точках $x_j \in \overline{\Omega},$ а функция $U$ получается из $w$ по формуле (\ref{U_k_def}).
\end{lemma}
Неравенство (\ref{M_repres}), равенство (\ref{norm_u_w}) и Лемма \ref{lemma_extension_w_u} показывают, что выполнено соотношение
\begin{equation*}
\int\limits_{\Omega} 1 d\mathcal{M} 
\geq 
\| U \|_{L_1(\Omega)} + \mathcal{S}^{Sp}_{s, \Omega} \cdot \sum_{j \in J} \alpha_j^{\frac{2}{2^*_{s}}} 
= 
\langle(-\Delta)_{Sp}^s u, u \rangle + \mathcal{S}^{Sp}_{s, \Omega} \cdot \sum_{j \in J} \alpha_j^{\frac{2}{2^*_{s}}}
\end{equation*}
откуда, с учетом (\ref{main_fu_s_omega}), получаем оценку на левую часть (\ref{measures_relation})
\begin{equation}
\label{left_side_est}
\int\limits_{\Omega} 1 d\mathcal{M} + \| u \|^2_{L_2(\Omega)}
\geq
\langle(-\Delta)_{Sp}^s u, u \rangle + \| u \|^2_{L_2(\Omega)} + \mathcal{S}^{Sp}_{s, \Omega} \cdot \sum_{j \in J} \alpha_j^{\frac{2}{2^*_{s}}}
\geq
\mathcal{S}^{Sp}_{s, \Omega} \cdot \Big( \| u \|^2_{L_{2^*_{s}}(\Omega)} + \sum_{j \in J} \alpha_j^{\frac{2}{2^*_{s}}} \Big).
\end{equation}
Отсюда, преобразуя правую часть (\ref{measures_relation}) с учетом (\ref{mu_repres}), получаем
\begin{equation}
\label{measure_ineq}
\mathcal{S}^{Sp}_{s, \Omega} \cdot \Big(\| u \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} + \sum_{j \in J} \alpha_j \Big)^{\frac{2}{2^*_{s}}}
\geq
\mathcal{S}^{Sp}_{s, \Omega} \cdot \Big(\| u \|^2_{L_{2^*_{s}}(\Omega)} + \sum_{j \in J} \alpha_j^{\frac{2}{2^*_{s}}} \Big). 
\end{equation}
Эта оценка может быть выполнена только в том случае, если в ее правой части есть ровно одно ненулевое слагаемое, а сама оценка обращается в равенство. Таким образом, у нас есть два варианта:

1 (\textit{Компактность}).  Все $\alpha_j$ равны нулю: будучи частью (\ref{measure_ineq}), оценка (\ref{left_side_est}) также вырождается в равенство и $\mathcal{I}^{Sp}_{s, \Omega}[u] = \mathcal{S}^{Sp}_{s, \Omega},$ поэтому $u$ минимизирует функционал $\mathcal{I}^{Sp}_{s, \Omega}[u]$ и, после домножения на подходящую константу, является решением задачи (\ref{main_equation_s_omega}) с минимальной энергией.

2 (\textit{Концентрация}). Есть ровно одно ненулевое слагаемое $\alpha_j:$ можно считать, что $\alpha_0 = 1$ и $u \equiv 0.$

Доказательства следующих утверждений содержатся в \S \S 4--5:
\begin{lemma}
\label{lemma_second_case_est}
В случае концентрации выполнено неравенство
\begin{equation}
\label{second_case_est}
\mathcal{S}^{Sp}_{s, \Omega} \geq \min \left( \mathcal{S}^{Sp}_{s, \mathbb{R}^n_+}, \mathcal{S}^{Sp}_{s, \mathbb{R}^n} \right).
\end{equation}
\end{lemma}
\begin{remark}
Правая часть (\ref{second_case_est}) равна $\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+},$ как показывает (\ref{sobolev_s_Rn_plus}).
\end{remark}
\begin{lemma}
\label{lemma_ineq}
Пусть $n \geq 3$ и $2s > 1.$ Тогда существует функция $\mathcal{V} \in \mathcal{H}^s(\Omega),$ такая что 

\begin{equation*}
\mathcal{I}^{Sp}_{s, \Omega}[\mathcal{V}] < \mathcal{S}^{Sp}_{s, \mathbb{R}^n_+}.
\end{equation*}
\end{lemma}
Из Леммы \ref{lemma_ineq} следует невозможность неравенства (\ref{second_case_est}), что исключает возможность концентрации и доказывает Теорему.

\section{Доказательство Лемм \ref{lemma_extension_w_u}-\ref{lemma_second_case_est}}
\begin{proof}[\textbf{Доказательство Леммы \ref{lemma_extension_w_u}}]
Напомним, что функция $w$ определялась сходимостью $\nabla_{X} w_k \rightharpoondown \nabla_{X} w$ в $L_2(\Omega \times \mathbb{R}_+, t^{1-2s}),$ где $w_k$ являются СТ-продолжениями функций $u_k.$ Для самих функций $u_k$ выполнено $u_k \rightharpoondown u$ в $\mathcal{H}^s(\Omega),$ и, следовательно, $u_k \to u$ в $L_2(\Omega).$

Для функции $u \in \mathcal{H}^s(\Omega)$ обозначим ее СТ-продолжение через $\widetilde{w}.$ Это продолжение может быть разложено в ряд Фурье по собственным функциям задачи Неймана для оператора Лапласа (см. \cite[(3.1)-(3.8)]{Stinga}):
\begin{equation}
\label{fourier_ext}
\widetilde{w}(X) = \sum\limits_{i = 0}^{\infty} d_{i}(t) \phi_i(x) , \quad  \mbox{с} \quad d_{i}(t) =  \langle u, \phi_i \rangle \cdot \mathcal{Q}_{s} (\lambda^{1/2}_i t), \  \ 
\mathcal{Q}_{s} (\tau) := \tau^s \frac{2^{1-s}}{\Gamma(s)} \, \mathcal{K}_s(\tau),
\end{equation}
где $\mathcal{K}_s(\tau)$ --- модифицированная функция Бесселя второго рода. Для функций $\mathcal{K}_s$ выполнены следующие асимптотики (см., напр., \cite[(3.7)]{Stinga}):  
\begin{equation*}
\mathcal{K}_s(\tau) \sim \Gamma(s) 2^{s-1} \tau^{-s} \quad \mbox{при $\tau \to 0;$} \quad \mathcal{K}_s(\tau) \sim \left( \frac{\pi}{2\tau} \right)^{\frac{1}{2}} e^{-\tau} \left(1 + O(\tau^{-1}) \right) \quad \mbox{при $\tau \to \infty$},
\end{equation*}
откуда следует оценка 
\begin{equation}
\label{Q_s_est}
\mathcal{Q}_{s} (\tau) \leq C \cdot \min(1, \tau^{-1}).
\end{equation}
Поэтому при любом $i \geq 1$ выполнено 
\begin{equation*}
\| \mathcal{Q}_{s} (\lambda^{1/2}_i t) \|^2_{L_2(\mathbb{R}_+)} 
\leq
\int\limits_{0}^{1} \mathcal{Q}^2_{s} (\lambda^{1/2}_i t) \, dt + C \int\limits_{1}^{\infty}
\lambda^{-1}_i t^{-2} \, dt \leq C(\lambda_1).
\end{equation*}
Пусть $\delta < 1.$ Покажем, что $w_k \to \widetilde{w}$ в $L_2\left(\Omega \times [ \delta, \delta^{-1}]\right):$ из представления  (\ref{fourier_ext}) имеем
\begin{equation*}
\| \widetilde{w} -  w_k \|^2_{L_2 \left(\Omega \times [\delta, \delta^{-1} ] \right)} = \sum\limits_{i = 0}^{\infty} \langle u - u_k, \phi_i \rangle^2 \cdot \| \mathcal{Q}_{s} (\lambda^{1/2}_i t) \|^2_{L_2\left[ \delta, \delta^{-1} \right]} \leq C(\delta, \lambda_1) \cdot \| u -  u_k \|^2_{L_2(\Omega)}.
\end{equation*}

С другой стороны, пользуясь разложением (\ref{f_averaging}), запишем $w_k$ как сумму ортогональных в $L_2\left(\Omega \times [ \delta, \delta^{-1}]\right)$ слагаемых:
\begin{equation*}
w_k = \overline{w}_k + c_k, \quad
\overline{w}_k := w_k - (\delta^{-1} - \delta) |\Omega|^{-1} \cdot \int\limits_{\delta}^{\delta^{-1}} \int\limits_{\Omega} w_k \, dX.
\end{equation*}
Поскольку $\nabla_{X} w_k \rightharpoondown \nabla_{X} w$ в $L_2\left(\Omega \times [ \delta, \delta^{-1} ]\right),$ получаем $\overline{w}_k \rightharpoondown \overline{w}$ в $W^1_2\left(\Omega \times [ \delta, \delta^{-1}]\right).$ Отсюда следует сходимость $\overline{w}_k \to \overline{w}$ в $L_2\left(\Omega \times [ \delta, \delta^{-1} ]\right),$ что влечет $w = \widetilde{w} + C.$
\end{proof}


\begin{proof}[\textbf{Доказательство Леммы \ref{lemma_measures_ineq}}]
Основано на предельном случае принципа Лионса \cite{Lions} и проводится аналогично \cite[Теорема 1.4.2]{Evans}. Разберем два случая: $u \equiv 0$ и $u \not\equiv 0.$ 

1. Пусть $u \equiv 0.$ Воспользуемся представлением (\ref{f_averaging}): пусть $u_k := \overline{u}_k + c_k.$ Поскольку $u_k \to u \equiv 0$ сильно в $L_2(\Omega),$ из равенства 
\begin{equation*}
\| u_k\|^2_{L_2(\Omega)}= 
\| \overline{u}_k \|^2_{L_2(\Omega)} + c^2_k \cdot |\Omega|
\end{equation*}
имеем $\overline{u}_k \to 0$ в $L_2(\Omega)$ и $c_k \to 0.$ Более того, для $\eta \in \mathcal{C}^{1}(\overline{\Omega})$ и  любого $\epsilon > 0$ выполнено 
\begin{equation}
\label{overline_u_eta}
\lim_{k \to \infty} \| u_k \eta  \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)}
\leq
\lim_{k \to \infty} \left[
(1 + \epsilon) \cdot \| \overline{u}_k \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} + C(\epsilon)  c^{2^*_{s}}_k \| \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} \right]
=
(1 + \epsilon) \cdot \lim_{k \to \infty} \| \overline{u}_k \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)}.
\end{equation}
Из (\ref{seminorm_Sp}) следует, что $\langle (-\Delta)_{Sp}^s \overline{u}_k , \overline{u}_k \rangle = \langle (-\Delta)_{Sp}^s u_k , u_k \rangle,$
поэтому из (\ref{overline_u_eta}) при $\eta \equiv 1$ получаем
\begin{equation*}
\lim_{k \to \infty} \mathcal{I}^{Sp}_{s, \Omega}[\overline{u}_k]
\leq 
\lim_{k \to \infty} \frac{\langle (-\Delta)_{Sp}^s u_k , u_k \rangle  + \| u_k \|^2_{L_2(\Omega)}}{ (1 + \epsilon)^{-\frac{2}{2^*_{s}}} \cdot \|u_k\|^2_{L_{2^*_{s}}(\Omega)}}
=
(1 + \epsilon)^{\frac{2}{2^*_{s}}} \cdot \lim_{k \to \infty} \mathcal{I}^{Sp}_{s, \Omega}[u_k]
=
(1 + \epsilon)^{\frac{2}{2^*_{s}}} \cdot \mathcal{S}^{Sp}_{s, \Omega}.
\end{equation*}
Поскольку $\epsilon$ произвольно, получаем, что последовательность $\{ \overline{u}_k \}$ является минимизирующей. Более того, из обратного к (\ref{overline_u_eta}) неравенства 
\begin{equation*}
\lim_{k \to \infty} \| \overline{u}_k \eta  \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)}
\leq
\lim_{k \to \infty} \left[
(1 + \epsilon) \cdot \| u_k \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} + C(\epsilon) c^{2^*_{s}}_k \| \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} \right]
=
(1 + \epsilon) \cdot \lim_{k \to \infty} \| u_k \eta\|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)},
\end{equation*}
следует $|\overline{u}_k|^{2^*_{s}} \rightharpoondown \mu.$ СТ-продолжения функций $\overline{u}_k$ имеют вид $\overline{w}_k := w_k - c_k,$ и поэтому функции $U_k$ из формулы (\ref{U_k_def}) не меняются при замене $u_k$ на $\overline{u}_k.$

Из того факта, что $\overline{w}_k \eta$ --- допустимое продолжение $\overline{u}_k \eta,$ имеем
\begin{equation*}
\mathcal{S}^{Sp}_{s, \Omega} \cdot \| \overline{u}_k \eta  \|^2_{L_{2^*_{s}}(\Omega)}
\leq 
\langle (-\Delta)_{Sp}^s \overline{u}_k \eta, \overline{u}_k \eta \rangle  + \| \overline{u}_k \eta \|^2_{L_2(\Omega)}
\leq
\mathit{C}_s \mathcal{E}_{s, \Omega}[\overline{w}_k \eta] + \| \overline{u}_k \eta \|^2_{L_2(\Omega)}.
\end{equation*}
Из сходимости $\overline{u}_k \to 0$ в $L_2(\Omega)$ получаем
\begin{multline}
\label{ineq_on_measures}
\frac{\mathcal{S}^{Sp}_{s, \Omega}}{\mathit{C}_s} \Big( \int \limits_{\Omega} \eta^{2^*_{s}}(x) \, d\mu \Big)^{\frac{2}{2^*_{s}}}
\leq
\lim_{k \to \infty} \mathcal{E}_{s, \Omega}[\overline{w}_k \eta]
\\= 
\lim_{k \to \infty} \int\limits_{0}^{\infty} \int\limits_{\Omega} \Big[  t^{1-2s} |\nabla_{X}  \overline{w}_k|^2 \eta^2  +  2t^{1-2s}  \langle \nabla_{x} \overline{w}_k, \nabla_{x} \eta \rangle \overline{w}_k \eta + t^{1-2s} |\nabla_{x} \eta|^2 \overline{w}^2_k \Big] \, dX.
\end{multline}
Предел первого слагаемого в (\ref{ineq_on_measures}) равен
\begin{equation*}
\lim_{k \to \infty} \int\limits_{0}^{\infty} \int\limits_{\Omega} t^{1-2s} |\nabla_{X}  \overline{w}_k|^2 \eta^2 \, dX = C^{-1}_s \cdot \int\limits_{\Omega} \eta^{2}(x) \, d\mathcal{M}.
\end{equation*}
Покажем, что предел третьего слагаемого в (\ref{ineq_on_measures}) равен нулю. Воспользуемся представлением (\ref{fourier_ext}) для $\overline{w}_k$ (здесь суммирование ведется по $i \geq 1$)
\begin{equation*}
\overline{w}_k(X) = \sum\limits_{i = 1}^{\infty} d_{ik}(t) \phi_i(x) \quad  \mbox{с} \quad d_{ik}(t) =  \langle \overline{u}_k, \phi_i \rangle \cdot \mathcal{Q}_{s} (\lambda^{1/2}_i t).
\end{equation*}
Из оценки (\ref{Q_s_est}) и того факта, что $\lambda_i \to \infty,$ имеем
\begin{equation*}
\int\limits_{\Omega} \overline{w}^2_k(X) |\nabla_{x} \eta|^2 \, dx \leq C (\lambda_1) \cdot \sum\limits_{i = 1}^{\infty} \langle \overline{u}_k, \phi_i \rangle^2 \cdot \min(1, t^{-2})
\end{equation*}
откуда получаем требуемое равенство
\begin{equation*}
\lim_{k \to \infty} \int\limits_{0}^{\infty} \int\limits_{\Omega} t^{1-2s} |\nabla_{x} \eta|^2 \overline{w}^2_k \, dX\leq
C \Big( \int\limits_{0}^{1} t^{1-2s} dt + \int\limits_{1}^{\infty} t^{-1-2s} dt \Big) \cdot \lim_{k \to \infty} \int\limits_{\Omega} \overline{u}^2_k \, dx = 0.
\end{equation*}
Второе слагаемое в (\ref{ineq_on_measures}) оценивается через первое и третье по неравенству Коши-Буняковского-Шварца, поэтому неравенство (\ref{ineq_on_measures}) принимает вид 
\begin{equation}
\label{measures_eta_ineq}
\mathcal{S}^{Sp}_{s, \Omega} \cdot \Big( \int \limits_{\Omega} \eta^{2^*_{s}}(x) \, d\mu \Big)^{\frac{2}{2^*_{s}}}
\leq
\lim_{k \to \infty} \mathcal{E}_{s, \Omega}[\overline{w}_k \eta]
=
\int\limits_{\Omega} \eta^{2}(x) \, d\mathcal{M}.
\end{equation}
Дальнейшие рассуждения совпадают с локальным случаем; для удобства читателя приведем их полностью: аппроксимацией на любом борелевском множестве $E \subset \Omega$ получаем неравенство
\begin{equation}
\label{meas_density}
\mathcal{S}^{Sp}_{s, \Omega} \cdot \mu(E)^{\frac{2}{2^*_{s}}} 
\leq
\mathcal{M}(E).
\end{equation}
Ввиду конечности меры $\mathcal{M}$ множество ее атомов $A := \left\{ x \in \Omega \mid  \mathcal{M}(\left\{ x \right\}) > 0 \right\}$ не более чем счетно. Обозначим множество индексов через $J,$ тогда $A = \left\{ x_j \right\}_{j \in J}, \beta_j := \mathcal{M}(\left\{ x_j \right\}),$ и выполнено неравенство $\mathcal{M} \geq \sum\limits_{j \in J} \beta_j \bm{\delta_{x_j}}.$ Поскольку из (\ref{meas_density}) следует абсолютная непрерывность $\mu$ относительно $\mathcal{M},$ имеем 
\begin{equation*}
\mu(E) = \int \limits_{E} f(x) \, d\mathcal{M}, \quad \mbox{где} \quad f(x) := \lim_{r \to 0} \frac{\mu\left( \mathbb{B}_r(x) \right)}{\mathcal{M} \left( \mathbb{B}_r(x) \right)} \quad \mbox{для $\mathcal{M}$-п.в. $x \in \Omega.$}
\end{equation*}
Также в силу (\ref{meas_density}) получаем
\begin{equation*}
\lim_{r \to 0} \frac{\mu\left( \mathbb{B}_r(x) \right)}{\mathcal{M} \left( \mathbb{B}_r(x) \right)} 
\leq
\lim_{r \to 0} \frac{\mathcal{M}^{\frac{2s}{n-2s}} \left( \mathbb{B}_r(x) \right)}{ \mathcal{S}^{Sp}_{s, \Omega}}
= 0
\quad \mbox{$\mathcal{M}$-п.в. на $\Omega \setminus A.$}
\end{equation*}
Для окончания доказательства обозначим $\alpha_j := \beta_j f(x_j),$ неравенства между $\alpha_j$~и~$\beta_j$ следуют из (\ref{meas_density}).

2. Теперь рассмотрим общий случай. Положим $\widehat{u_k} := u_k - u,$ тогда \cite[Теорема~1.4.1]{Evans} показывает, что $|\widehat{u_k}|^{2^*_{s}}$ слабо сходятся к мере $\mu - |u|^{2^*_{s}}$ на $\overline{\Omega}.$ Представление для $\mu$ получается применением п.1 для функций~$\widehat{u_k}.$

Получим неравенство для меры $\mathcal{M}.$ По функциям $\widehat{u_k}$ строим СТ-продолжения~$\widehat{w_k}$ и функции $\widehat{U_k}(x)$ из формулы (\ref{U_k_def}). 
Из Леммы \ref{lemma_extension_w_u} следует, что $\widehat{w_k} = w_k - w$ (продолжение разности равно разности продолжений), поэтому для любой $\eta(x) \in \mathcal{C}^{1}(\overline{\Omega})$ имеем
\begin{multline*}
\lim_{k \to \infty} \int\limits_{\Omega} \frac{U_k - \widehat{U_k}}{\mathit{C}_s} \cdot \eta(x) \, dx
= 
\lim_{k \to \infty} \int\limits_{\Omega} \int\limits_{0}^{\infty} t^{1-2s} \left( |\nabla_{X} w_k|^2 - |\nabla_{X} (w_k - w)|^2 \right) \eta(x) \, dX
\\=
\lim_{k \to \infty} \int\limits_{\Omega} \int\limits_{0}^{\infty} t^{1-2s} \left( 2 \langle\nabla_{X} w_k, \nabla_{X} w \rangle - |\nabla_{X} w|^2 \right) \eta(x) \, dX 
\stackrel{*}{=}
\int\limits_{\Omega} \frac{U}{\mathit{C}_s} \cdot \eta(x) \, dx,
\end{multline*}
(равенство (*) следует из $\nabla_{X} w_k \rightharpoondown \nabla_{X} w$). Используя п.1, получаем требуемое 
\begin{equation*}
\mathcal{M} = \lim_{k \to \infty} U_k = U + \lim_{k \to \infty} \widehat{U_k} \geq U + \sum\limits_{j \in J} \beta_j \bm{\delta}_{x_j}.
\qedhere
\end{equation*}
\end{proof}

\begin{proof}[\textbf{Доказательство Леммы \ref{lemma_second_case_est}}]
Напомним, что $\{ u_k \}$ --- минимизирующая последовательность для функционала (\ref{main_fu_s_omega}), $|u_k|^{2^*_{s}} \rightharpoondown \bm{\delta}_{x_0}$ в пространстве мер на $\overline{\Omega},$ а $\mathcal{M} = \mathcal{S}^{Sp}_{s, \Omega} \cdot \bm{\delta}_{x_0}.$ В частности, это означает, что $u_k \rightharpoondown 0$ в $\mathcal{H}^s(\Omega),$ и мы находимся в условиях доказательства п.1 Леммы \ref{lemma_measures_ineq}. Поэтому $\{ \overline{u}_k \}$ также является минимизирующей последовательностью для функционала (\ref{main_fu_s_omega}). Также, далее будем считать $x_0 = 0.$ 

Покажем, что и последовательность $\{ \overline{u}_k \varphi_{\epsilon} \}$ минимизирующая. Действительно, $\| \overline{u}_k \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\Omega)} \to 1,$ а для числителя функционала (\ref{main_fu_s_omega}) из (\ref{measures_eta_ineq}) при $\eta = \varphi_{\epsilon}$ имеем
\begin{equation*}
\lim \limits_{k \to \infty} \langle (-\Delta)_{Sp}^s \overline{u}_k \varphi_{\epsilon}, \overline{u}_k \varphi_{\epsilon} \rangle 
\leq
\mathit{C}_s \cdot \lim_{k \to \infty} \mathcal{E}_{s, \Omega}[\overline{w}_k \varphi_{\epsilon}]
=
\int\limits_{\Omega} \varphi_{\epsilon}^{2}(x) \, d\mathcal{M}
=
\mathcal{S}^{Sp}_{s, \Omega}.
\end{equation*}
Поскольку $\overline{u}_k \to 0$ в $L_2(\Omega),$ получаем $\lim \limits_{k \to \infty} \mathcal{I}^{Sp}_{s, \Omega}[\overline{u}_k \varphi_{\epsilon}] \leq \mathcal{S}^{Sp}_{s, \Omega},$ и поэтому
\begin{equation*}
\mathcal{S}^{Sp}_{s, \Omega} = \lim \limits_{k \to \infty} \mathcal{I}^{Sp}_{s, \Omega}[\overline{u}_k \varphi_{\epsilon}]
=
\lim \limits_{k \to \infty} \frac{\langle (-\Delta)_{Sp}^s \overline{u}_k  \varphi_{\epsilon}, \overline{u}_k  \varphi_{\epsilon} \rangle}{\| \overline{u}_k  \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\Omega)}}
=
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \mathcal{E}_{s, \Omega} \left[\overline{w}_k  \varphi_{\epsilon} \right]}{\| \overline{u}_k  \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\Omega)}}.
\end{equation*}
Разберем два случая: $0 \in \Omega$ и $0 \in \partial \Omega.$ 

1. Пусть $0 \in \Omega.$ Продолжим функцию $\overline{u}_k  \varphi_{\epsilon}$ нулем и обозначим ее КС-продолжение в $\mathbb{R}^n$ через $\dot{w}_k.$ Поскольку $\overline{w}_k  \varphi_{\epsilon}$ является допустимым продолжением $\overline{u}_k \varphi_{\epsilon}$ в~$\mathbb{R}^n$, имеем
\begin{equation*}
\mathcal{S}^{Sp}_{s, \Omega}
=
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \mathcal{E}_{s, \Omega} \left[\overline{w}_k  \varphi_{\epsilon} \right]}{\| \overline{u}_k  \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\Omega)}}
=
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \mathcal{E}_{s, \mathbb{R}^n} \left[\overline{w}_k  \varphi_{\epsilon} \right]}{\| \overline{u}_k  \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\mathbb{R}^n)}}
\geq
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \mathcal{E}_{s, \mathbb{R}^n} \left[\dot{w}_k \right]}{\| \overline{u}_k \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\mathbb{R}^n)}} \geq \mathcal{S}^{Sp}_{s, \mathbb{R}^n}.
\end{equation*}

2. Пусть $0 \in \partial \Omega.$ При малых $\epsilon$ множество $\partial \Omega \cap B_{\epsilon}$ представляет собой график функции. Не умаляя общности, пусть $x_n = F(x'),$ где $F \in \mathcal{C}^2,$ $F(0) = 0$ и $\nabla_{x'} F(0) = 0.$ Определим замену переменной $\Theta^{-1}(x) := (x', x_n - F(x')):$ она распрямляет границу и имеет единичный якобиан. Обратная замена имеет вид $\Theta(x) = (x', x_n + F(x')),$ и выполнено соотношение
\begin{equation*}
\mathcal{S}^{Sp}_{s, \Omega} 
=
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \mathcal{E}_{s, \Omega} \left[\overline{w}_k \varphi_{\epsilon} \right]}{\| \overline{u}_k  \varphi_{\epsilon} \|^2_{L_{2^*_{s}}(\Omega)}}
=
\lim \limits_{k \to \infty} \frac{\mathit{C}_s \cdot \int\limits_{0}^{\infty} \int\limits_{\mathbb{R}^n_{+}} t^{1-2s}|\nabla_{X}  \left[\overline{w}_k  \varphi_{\epsilon} \right](\Theta(x), t)|^2 \, dX \cdot (1 + o_{\epsilon}(1))}{\bigl( \, \int\limits_{\mathbb{R}^n_{+}} \left[ \overline{u}_k  \varphi_{\epsilon} \right]^{2^*_{s}} (\Theta(x)) \, dx \bigr)^{\frac{2}{2^*_{s}}}}
\end{equation*}
($o_{\epsilon}(1)$ в числителе возникает из оценки производных $\frac{\partial F}{\partial x_i}$ при замене переменных в градиенте). Ввиду того, что функция $\overline{w}_k (\Theta(x), t) \cdot \varphi_{\epsilon}(\Theta(x))$ является допустимым продолжением функции $\overline{u}_k (\Theta(x)) \cdot \varphi_{\epsilon}(\Theta(x)),$ выполнено неравенство
\begin{equation*}
\mathcal{S}^{Sp}_{s, \Omega} \geq \mathcal{S}^{Sp}_{s, \mathbb{R}_{+}^n} \cdot (1 + o_{\epsilon}(1)).
\end{equation*}
Поскольку $\epsilon$ может быть выбрано сколь угодно малым, Лемма \ref{lemma_second_case_est} доказана.
\end{proof}
\section{Доказательство Леммы \ref{lemma_ineq}}
Предварительно получим оценки на КС-продолжение $\mathcal{W}_{s, a}(X)$ функции $\Phi_{s, a}(x).$ Оно является решением задачи
\begin{equation}
\label{eq_caf_sil}
-div(t^{1-2s}\nabla_{X} \mathcal{W}_{s, a}(X)) = 0 \quad \mbox{в} \quad  \mathbb{R}^n \times \mathbb{R}_{+}; \quad \left.\mathcal{W}_{s, a}\right|_{t=0} = \Phi_{s, a}(x),
\end{equation}
а также единственным минимайзером функционала $\mathcal{E}_{s, \mathbb{R}^n}$ в пространстве $\mathfrak{W}_s \left( \mathbb{R}^n \times \mathbb{R}_+ \right).$ Отсюда следует, что продолжение $\mathcal{W}_{s, a}(X)$ является невозрастающей функцией от $|x|:$ симметризация Шварца по $x$ не увеличивает $\mathcal{E}_{s, \mathbb{R}^n}$ (см. \cite[Теорема 2.31]{Kawohl} для симметризации Штейнера; симметризация Шварца может быть получена как предел симметризаций Штейнера), а ее результат является допустимым продолжением $\Phi_{s, a}(x).$ Также отметим, что, в силу симметрии, продолжение $\mathcal{W}_{s, a}(X),$ ограниченное на $\mathbb{R}^n_+ \times \mathbb{R}_+,$ является СТ-продолжением $\Phi_{s, a}(x)$ в $\mathbb{R}^n_+.$
\begin{lemma}
Для функций $\Phi_{s, a}(x)$ и $\mathcal{W}_{s, a}(X)$ выполнены равенства
\begin{equation}
\label{dil_WU}
\Phi_{s, a}(ax) = a^{2s-n} \cdot \Phi_{s, 1}(x) \quad \mbox{и} \quad \mathcal{W}_{s, a}(aX) = a^{2s-n} \cdot \mathcal{W}_{s, 1}(X),
\end{equation} 
а также оценки (при $|x| > 1$ и $|X| > 1$ соответственно)
\begin{equation}
\label{est_WU}
\Phi_{s, 1}(x) \leq C |x|^{2s-n}  \quad \mbox{и} \quad \mathcal{W}_{s, 1}(X) \leq C |X|^{2s-n}.
\end{equation}
Более того, для градиента $\nabla_X \mathcal{W}_{s, a}(X)$ выполнено равенство
\begin{equation}
\label{dil_gradW}
 \nabla_X \mathcal{W}_{s, a}(aX) = a^{2s-n-1} \cdot \nabla_X \mathcal{W}_{s, 1}(X),
\end{equation} 
а при $|X| > 1$ и $2s > 1$ имеет место оценка
\begin{equation}
\label{est_gradWU}
|\nabla_{X} \mathcal{W}_{s, 1}(X)| \leq C |X|^{2s-n-1}.
\end{equation}
\end{lemma}
\begin{proof}
Равенство (\ref{dil_WU}) и оценка (\ref{est_WU}) для функции $\Phi_{s, a}$ очевидны из ее определения. Для доказательства оценок на продолжение $\mathcal{W}_{s, a}$ выпишем его в явном виде: в \cite{Caffarelli} было показано, что КС-продолжение функции $u$ может быть получено по формуле
\begin{equation*}
w(X) = \int\limits_{\mathbb{R}^n} G_s(x - \xi, t) \cdot (-\Delta)^s  u(\xi) \, d\xi  \quad \mbox{с} \quad G_s(X) :=  \frac{C}{\left(|x|^2 + t^2\right)^{\frac{n-2s}{2}}}.
\end{equation*}
Поскольку функция $\Phi_{s, a}(x)$ удовлетворяет уравнению 
\begin{equation}
\label{phi_sa_equation}
(-\Delta)^s  \Phi_{s, a}(x) = \frac{\mathcal{S}^{Sp}_{s, \mathbb{R}^n}}{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)}} \cdot  \Phi^{2_s^*-1}_{s, a}(x) \quad \mbox{в} \quad \mathbb{R}^n,
\end{equation}
получаем
\begin{equation}
\label{G_s_function}
\mathcal{W}_{s, a}(X) = \frac{\mathcal{S}^{Sp}_{s, \mathbb{R}^n}}{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)}} \cdot \int\limits_{\mathbb{R}^n} G_s(x - \xi, t) \cdot \Phi^{2_s^*-1}_{s, a}(\xi) \, d\xi.
\end{equation}
Градиент $\nabla_X \mathcal{W}_{s, a}(X)$ получается из (\ref{G_s_function}) дифференцированием:
\begin{equation*}
\nabla_X \mathcal{W}_{s, a}(X) = \frac{\mathcal{S}^{Sp}_{s, \mathbb{R}^n}}{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)}} \cdot \int\limits_{\mathbb{R}^n} \nabla_X G_s(x - \xi, t) \cdot \Phi^{2_s^*-1}_{s, a}(\xi) \, d\xi.
\end{equation*}
Равенства (\ref{dil_WU}) и (\ref{dil_gradW}) для функции $\mathcal{W}_{s, a} (X)$ следуют из $\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)} = a^{-2s} \cdot \|\Phi_{s, 1} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)}.$ Для примера получим равенство (\ref{dil_WU}):
\begin{equation*}
\mathcal{W}_{s, a}(aX) = 
\frac{\mathcal{S}^{Sp}_{s, \mathbb{R}^n} \cdot a^{2s}}{\|\Phi_{s, 1} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n)}} \cdot \int\limits_{\mathbb{R}^n} \frac{C \cdot a^{-(n+2s)} \Phi^{2_s^*-1}_{s, 1}(\xi) \cdot a^{n} }{\left(|x - \xi|^2 + t^2\right)^{\frac{n-2s}{2}} a^{n-2s}} \, d\xi
= a^{2s-n} \cdot \mathcal{W}_{s, 1}(X).
\end{equation*}

Остается получить оценки для $\mathcal{W}_{s, 1} (X)$ и $\nabla_X \mathcal{W}_{s, 1} (X).$ Они доказываются идентично; получим, например, оценку \eqref{est_gradWU} для $\nabla_X \mathcal{W}_{s, 1}(X).$ Поскольку 
для $|\nabla_{X} G_s(X)|$ выполнено очевидное неравенство
\begin{equation*}
|\nabla_{X} G_s(X)| \leq \frac{C}{\left(|x|^2 + t^2\right)^{\frac{n-2s+1}{2}}},
\end{equation*}
имеем 
\begin{equation*}
|\nabla_X \mathcal{W}_{s, 1}(X)| \leq \Big( \int\limits_{|\xi| \leq \frac{|X|}{2}} + \int\limits_{|\xi| > \frac{|X|}{2}} \Big) \, \frac{C d\xi}{\left(|x - \xi|^2 + t^2\right)^{\frac{n-2s+1}{2}} \left(1 + |\xi|^2\right)^{\frac{n+2s}{2}}} =: A_1 + A_2.
\end{equation*}
Оценка для $A_1$ следует из цепочки неравенств $\sqrt{|x - \xi|^2 + t^2} \geq |X| - |\xi| \geq \frac{|X|}{2}$:
\begin{equation*}
A_1 \leq \frac{C}{|X|^{n-2s+1}} \cdot \int\limits_{\mathbb{R}^n} \frac{d\xi}{\left(1 + |\xi|^2\right)^{\frac{n+2s}{2}}} = \frac{C}{|X|^{n-2s+1}}.
\end{equation*}
Оценка для $A_2$ следует из неравенств $3|\xi| \geq |x| + |\xi| \geq |x - \xi|$ и $2s>1:$
\begin{equation*}
A_2 \leq \frac{C}{|X|^{n-2s+1}} \cdot  \int\limits_{\mathbb{R}^n} \frac{d\xi}{|x - \xi|^{n-2s+1}   \left(1 + |x - \xi|^2\right)^{2s-\frac{1}{2}}} = \frac{C}{|X|^{n-2s+1}}. \qedhere
\end{equation*}
\end{proof}

\begin{proof}[\textbf{Доказательство Леммы \ref{lemma_ineq}}]
На границе $\mathcal{C}^2$-гладкой области~$\Omega$ всегда найдется такая точка $\widetilde{x}$, что:
\begin{itemize}
\item Область $\Omega$ выпукла в малой окрестности $B_{\varepsilon}(\widetilde{x})$
\item Средняя кривизна границы $\partial \Omega$ в точке $\widetilde{x}$ (обозначим ее $H_0$) положительна
\item Вся область $\Omega$ находится по одну сторону от касательной плоскости к $\partial \Omega$
\end{itemize}
(например, в качестве $\widetilde{x}$ подходит точка касания сферы наименьшего радиуса, описанной вокруг $\Omega,$ и самой $\Omega$).
Не умаляя общности можно считать, что $\widetilde{x} = 0,$ а ось $x_n$ направлена вдоль внутренней нормали к $\partial \Omega,$ и, таким образом, $\Omega \subset \mathbb{R}^n_+.$ В таких координатах оказывается, что в качестве искомой функции $\mathcal{V}$ можно взять функцию $\Phi_{s, a}(x)$ с малым параметром $a.$

Из уравнения (\ref{eq_caf_sil}) интегрированием по частям (с учетом (\ref{phi_sa_equation}) и (\ref{sobolev_s_Rn_plus})) получаем:
\begin{multline*}
0
= 
\mathit{C}_s \int\limits^{\infty}_{0} \int \limits_{\Omega} div \left( t^{1-2s} \nabla_{X} \mathcal{W}_{s, a} \right)  \mathcal{W}_{s, a} \, dX
=
- \mathit{C}_s \int\limits^{\infty}_{0} \int \limits_{\Omega} t^{1-2s} |\nabla_{X} \mathcal{W}_{s, a}|^2 \, dX
\\+
\frac{\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+}}{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n_+)}} \cdot \int \limits_{\Omega} \Phi^{2^*_s}_{s, a} \, dx
+
\mathit{C}_s \int\limits^{\infty}_{0} \int \limits_{\partial\Omega} t^{1-2s} \langle \nabla_{x} \mathcal{W}_{s, a}, \vec{\,n} \rangle \cdot  \mathcal{W}_{s, a} \, dX,
\end{multline*}
откуда, поскольку $\mathcal{W}_{s, a}$ --- допустимое продолжение $\Phi_{s, a}$ в $\Omega,$ имеем
\begin{multline}
\label{main_repres}
\mathcal{I}^{Sp}_{s,\Omega}[\Phi_{s, a}]
= 
\frac{\langle (-\Delta)^s_{Sp} \Phi_{s, a}, \Phi_{s, a} \rangle + \|\Phi_{s, a} \|^2_{L_2(\Omega)} }{\| \Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}} 
\leq
\frac{ \mathit{C}_s \int\limits^{\infty}_{0} \int \limits_{\Omega} t^{1-2s} |\nabla_{X} \mathcal{W}_{s, a}|^2 \, dX + \| \Phi_{s, a} \|^2_{L_2(\Omega)}}{\|\Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}}
\\ =
\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+} \cdot \left( \frac{\|\Phi_{s, a} \|_{L_{2^*_{s}}(\Omega)}}{\|\Phi_{s, a} \|_{L_{2^*_{s}}(\mathbb{R}^n_+)}} \right)^{2^*_{s} - 2}
+
\frac{\mathit{C}_s \int\limits^{\infty}_{0} \int \limits_{\partial\Omega} t^{1-2s} \langle \nabla_{x} \mathcal{W}_{s, a}, \vec{\,n} \rangle \cdot  \mathcal{W}_{s, a} \, dX }{\|\Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}} 
+ 
\frac{\| \Phi_{s, a} \|^2_{L_2(\Omega)}}{\|\Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}}.
\end{multline}
При интегрировании радиальных функций в окрестности нуля для формы объема выполнено представление (см., например, \cite[\S2.6]{Dem_Naz_1})
\begin{equation*}
dx = \frac{1}{2} \left( \omega_{n-1} r^{n-1} - \mathit{H}_0 \cdot \omega_{n-2} r^{n} + o(r^{n}) \right) dr.
\end{equation*}
Оценим каждый член  в (\ref{main_repres}) по отдельности. 

1. Для оценки первого члена получим асимптотику $\|\Phi_{s, a} \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)}$ при малых $a:$
\begin{multline*}
\|\Phi_{s, a} \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)} 
=
\int\limits_{\Omega} (a^2 + |x|^2)^{-n} \, dx
=
\Big( \int\limits_{\Omega \cap B_{\varepsilon}} + \int\limits_{\Omega \setminus B_{\varepsilon}} \Big) (a^2 + |x|^2)^{-n} \, dx
=
\int\limits_{\Omega \cap B_{\varepsilon}} (a^2 + |x|^2)^{-n} \,dx 
\\+ C(\varepsilon)
=
\int\limits_{0}^{\varepsilon}\frac{\omega_{n-1} r^{n-1}}{2(a^2 + r^2)^{n}} \, dr - \int\limits_{0}^{\varepsilon}\frac{\mathit{H}_0 \cdot \omega_{n-2} r^{n} + o(r^{n})}{2(a^2 + r^2)^{n}} \, dr + C(\varepsilon) =: B_1 - B_2 + C(\varepsilon).
\end{multline*}
Главный член $B_1$ оценивается как 
\begin{equation*}
B_1 
=
a^{-n} \, \frac{\omega_{n-1}}{2} \, \Big( \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right) - \int\limits_{\frac{\varepsilon}{a}}^{\infty} \frac{r^{n-1} dr}{(1 + r^2)^{n}} \Big)
=
a^{-n} \, \frac{\omega_{n-1}}{2} \,  \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right) - C(\varepsilon).
\end{equation*}
Оценка $B_2$ получается следующим образом: 
\begin{multline*}
B_2 
=
a^{1-n} (1 + o_{\varepsilon}(1)) \, \frac{\mathit{H}_0 \omega_{n-2}}{2} \,  \Big(\mathcal{B}\left( \tfrac{n+1}{2}, \tfrac{n-1}{2} \right) - \int\limits_{\frac{\varepsilon}{a}}^{\infty} \frac{r^{n} dr}{(1 + r^2)^{n}} \Big)
\\=
a^{1-n} \, \frac{\omega_{n-1}}{2} \, \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right) 
\cdot 
C_1 (1 + o_{\varepsilon}(1)) - C(\varepsilon), \quad \mbox{где} \quad C_1 = \frac{\mathit{H}_0 \Gamma\left(\tfrac{n+1}{2}\right)}{\pi^{\frac{1}{2}} \Gamma\left(\tfrac{n}{2}\right)}.
\end{multline*}
Объединяя оценки для $B_1$ и $B_2$ , мы получаем оценку нормы $\|\Phi_{s, a} \|_{L_{2^*_{s}}(\Omega)}:$
\begin{equation}
\label{est_2*}
\|\Phi_{s, a} \|^{2^*_{s}}_{L_{2^*_{s}}(\Omega)}
=
a^{-n} \, \frac{\omega_{n-1}}{2} \, \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right) \cdot \left[1 - C_1a(1 + o_{\varepsilon}(1))\right] + C(\varepsilon),
\end{equation}
а из нее оценку первого члена в (\ref{main_repres})
\begin{multline}
\label{first_q}
\frac{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\Omega)}}{\|\Phi_{s, a} \|^{2^*_{s} - 2}_{L_{2^*_{s}}(\mathbb{R}^n_+)}}
=
\left( \frac{a^{-n} \, \frac{\omega_{n-1}}{2} \, \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right) \cdot \left[1 - C_1a(1 + o_{\varepsilon}(1))\right] + C(\varepsilon)}{a^{-n} \, \frac{\omega_{n-1}}{2} \, \mathcal{B}\left( \tfrac{n}{2}, \tfrac{n}{2} \right)}\right)^{\frac{2s}{n}}
\\=
1 - C_2 a \cdot \left[1 + o_{\varepsilon}(1) + C(\varepsilon) o_{a}(1)\right] \quad \mbox{с константой} \ C_2 = \tfrac{2s}{n} \cdot C_1 > 0.
\end{multline}

2. Оценка последнего члена в (\ref{main_repres}) зависит от $n$ и $s.$ Выполнено равенство
\begin{equation*}
\| \Phi_{s, a} \|^2_{L_2(\Omega)}
=
\Big( \int\limits_{\Omega \cap B_{\varepsilon}} + \int\limits_{\Omega \setminus B_{\varepsilon}} \Big) (a^2 + |x|^2)^{2s-n} \, dx
=
\int\limits_{\Omega \cap B_{\varepsilon}} (a^2 + |x|^2)^{2s-n} \,dx + C(\varepsilon).
\end{equation*}
Поскольку $\Omega \cap B_{\varepsilon}$ содержится в $\mathbb{R}^n_+ \cap B_{\varepsilon},$ первый интеграл оценивается сверху
\begin{equation*}
\int\limits_{B_{\varepsilon} \cap \mathbb{R}^n_+} (a^2 + |x|^2)^{2s-n} \, dx
=
\frac{\omega_{n-1}}{2}  \int \limits_{0}^{\varepsilon}\frac{r^{n-1}}{(a^2 + r^2)^{n-2s}}  \, dr 
\leq
C(\varepsilon) \cdot
\begin{cases}
a^{4s-n}&  \mbox{при} \ n > 4s,\\ 
|\ln(a)|&  \mbox{при} \ n = 4s,\\ 
1& \mbox{при} \  n < 4s,
\end{cases}
\end{equation*} 
(заметим, что эта оценка точна по порядку), и, с учетом (\ref{est_2*}), имеем
\begin{equation}
\label{last_q}
\frac{\| \Phi_{s, a} \|^2_{L_2(\Omega)}}{\| \Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}}
=
\frac{\| \Phi_{s, a} \|^2_{L_2(\Omega)}}{C a^{2s-n} \cdot \left[1 - Ca(1 + o_{\varepsilon}(1))\right]}
\leq 
C(\varepsilon) \cdot
\begin{cases}
a^{2s}&  \mbox{при} \ n > 4s,\\ 
a^{n-2s} |\ln(a)|&  \mbox{при} \ n = 4s,\\ 
a^{n-2s}& \mbox{при} \  n < 4s.
\end{cases}
\end{equation} 

3. Для оценки среднего члена в (\ref{main_repres}) разобьем его числитель на две части:
\begin{equation*}
 \Big( \int \limits_{\partial\Omega \cap B_{\varepsilon}} + \int \limits_{\partial\Omega \setminus B_{\varepsilon}} \Big) \int\limits^{\infty}_{0} t^{1-2s} \langle \nabla_{x} \mathcal{W}_{s, a}, \vec{\,n} \rangle \cdot  \mathcal{W}_{s, a} \, dX =: E_1 + E_2.
\end{equation*}
Поскольку функция $\mathcal{W}_{s, a}$ радиальна по $x$ и убывает с ростом радиуса, а $\Omega \cap B_{\varepsilon}$ выпукла, получаем, что нормальная производная $\langle \nabla_{x} \mathcal{W}_{s, a}, \vec{\,n} \rangle$ отрицательна при $x \in \partial\Omega \cap B_{\varepsilon}.$ Отсюда следует $E_1 \leq 0.$
\begin{remark}
Более тонкие вычисления показывают, что $E_1 \asymp a^{1 + 2s - n},$ что после деления на $\| \Phi_{s, a} \|^2_{L_{2^*_{s}}(\Omega)}$ даст вклад порядка $a$ в (\ref{main_repres}). Отрицательный член такого порядка у нас уже есть, поэтому уточнение оценки $E_1 \leq 0$ избыточно. 
\end{remark}
Для получения оценки на $E_2$ воспользуемся оценками (\ref{est_WU}) и (\ref{est_gradWU}):
\begin{multline}
\label{mid_q}
E_2 
=
\int\limits^{\infty}_{0} \int \limits_{\partial\Omega \setminus B_{\varepsilon}} t^{1-2s} \langle \nabla_{x} \mathcal{W}_{s, a}, \vec{\,n} \rangle \cdot  \mathcal{W}_{s, a} \, dS_x dt
\leq 
\int\limits^{\infty}_{0} \int \limits_{\partial\Omega \setminus B_{\varepsilon}}  t^{1-2s}  |\nabla_{x} \mathcal{W}_{s, a}| \cdot |\mathcal{W}_{s, a}| \, dS_x dt
\\\leq
C a^{1-2s + n-1 + 1 - 2n +4s -1} \int \limits_{a^{-1} \left( \partial\Omega \setminus B_{\varepsilon} \right)} \int\limits^{\infty}_{0}  \frac{t^{1-2s}}{(|x|^2 + t^2)^{\frac{n-2s+1}{2}} (|x|^2 + t^2)^{\frac{n-2s}{2}}} \, dt dS_x
\\=
Ca^{2s - n} \int \limits_{a^{-1} \left( \partial\Omega \setminus B_{\varepsilon} \right)} |x|^{-2n+2s+1} \, dS_x
=
C \int \limits_{\partial\Omega \setminus B_{\varepsilon}} |x|^{-2n+2s+1} \, dS_x
\leq
C(\varepsilon).
\end{multline}

Из оценок (\ref{first_q}), (\ref{last_q}) и (\ref{mid_q}) следует оценка
\begin{equation*}
\mathcal{I}^{Sp}_{s,\Omega}[\Phi_{s, a}] 
\leq 
\mathcal{S}^{Sp}_{s, \mathbb{R}^n_+} \cdot \big(1 - C_2 a \left[1 + o_{\varepsilon}(1) + C(\varepsilon) o_{a}(1)\right]\big)
+ C(\varepsilon) a^{n-2s} + C(\varepsilon) a^{2s} (1 + o_{a}(1)).
\end{equation*}
Поскольку $n \geq 3$ и $2s > 1,$ имеем $\min(2s, n-2s) > 1,$ что при достаточно малых $\varepsilon$ и $a$ обеспечивает неравенство $\mathcal{I}^{Sp}_{s,\Omega}[\Phi_{s, a}] < \mathcal{S}^{Sp}_{s, \mathbb{R}^n_+},$ и Лемма \ref{lemma_ineq} доказана!
\end{proof}

\paragraph{Благодарности} Автор выражает глубокую признательность А. И. Назарову за ценные обсуждения и критику при решении задачи. Автор также благодарит участников семинара по вариационному исчислению (ПОМИ РАН) и рецензента за полезные замечания, позволившие улучшить текст работы.

\small
\begin{thebibliography}{CS}

\bibitem{Adimurthi}
Adimurthi and Mancini  G., {\it The Neumann problem for elliptic equations with critical nonlinearity}, Nonlin. Anal. Sc. Norm. Super. di Pisa Quaderni (1991), 9--25.

\bibitem{Aubin}
Aubin T., {\it Problemes isop{\'e}rim{\'e}triques et espaces de Sobolev}, J. Diff. Geom., {\bf 11} (1976), no.~4, 573--598.

\bibitem{Caffarelli}
Caffarelli L.\ and\ Silvestre L., {\it An extension problem related to the fractional Laplacian}, Comm. Part. Diff. Eqs., {\bf 32} (2007), no.~7-9, 1245--1260.

\bibitem{Tav}
Cotsiolis A. and Tavoularis N. K., {\it Best constants for Sobolev inequalities for higher order fractional derivatives}, J. Math. Anal. Appl., {\bf 295} (2004), no.~1, 225--236.
 
\bibitem{Kawohl}
B. Kawohl, {\it Rearrangements and convexity of level sets in PDE}, Springer, {\bf 1150} (2006).

\bibitem{Lions}
Lions P. L., {\it The concentration-compactness principle in the Calculus of Variations. The limit case}, Rev. Mat. Iberoam. {\bf 1} (1985), 45--121, 145--201.

\bibitem{MN2}
Musina R. and Nazarov A. I., {\it On fractional Laplacians}, Comm. Part. Diff. Eqs., {\bf 39} (2014), no.~9, 1780--1790.

\bibitem{MN4}
Musina R. and Nazarov A. I., {\it On the Sobolev and Hardy constants for the fractional Navier Laplacian}, Nonlin. Analysis -- TMA, {\bf 121} (2015), 123--129.

\bibitem{MN5}
Musina R. and Nazarov A. I., {\it Sobolev inequalities for fractional Neumann Laplacians on half spaces}, 
Adv. Calc. Var. (2018), DOI: https://doi.org/10.1515/acv-2018-0020.

\bibitem{Stinga}
Stinga P. R. and Torrea J. L., {\it Extension problem and Harnack's inequality for some fractional operators}, Comm. Part. Diff. Eqs., {\bf 35} (2010), no.~11, 2092--2122.

\bibitem{Talenti}
Talenti G., {\it Best constant in Sobolev inequality}, Ann. di Mat. Pura ed Appl., {\bf 110} (1976), no.~1, 353--372.

\bibitem{Ustinov_Dir}
Ustinov N., {\it The effect of curvature in fractional Hardy–Sobolev inequality involving the Spectral Dirichlet Laplacian}, arXiv preprint arXiv:1906.07519; 
to appear in Transactions of the AMS.

\bibitem{Wang}
Wang X. J., {\it Neumann problems of semilinear elliptic equations involving critical Sobolev exponents},  J. Diff. Eq., {\bf 93} (1991), no.~2, 283--310.

\bibitem{Dem_Naz_1}
Демьянов А. В., Назаров А. И., {\it О существовании экстремальной функции в теоремах вложения Соболева с предельным показателем}, Алгебра и анализ, {\bf 17} (2005), no.~5, 105--140.

\bibitem{Ilin}
Ильин В. П., {\it Некоторые интегральные неравенства и их применения в теории дифференцируемых функций многих переменных}, Мат. сб., {\bf 54} (1961), no.~96, 331--380.

\bibitem{slob}
Слободецкий Л. Н., {\it Обобщенные пространства С.Л. Соболева и их приложение к краевым задачам для дифференциальных уравнений в частных производных}, Ученые записки Ленинградского гос. педагогического института им. А.И. Герцена, {\bf 197} (1958), 54--112.

\bibitem{Triebel}
Трибель Х., {\it Теория интерполяции, функциональные пространства, дифференциальные операторы}, М., Мир, 1980.

\bibitem{Evans}
Эванс Л. К., {\it Методы слабой сходимости для нелинейных уравнений с частными производными}, Новосибирск, Тамара Рожковская, 2006.

\end{thebibliography}

\end{document}
