\documentclass[12pt]{article}
\usepackage[cp1251]{inputenc}
\usepackage[russian]{babel}
\usepackage{amssymb}
\usepackage{amsfonts}
\usepackage{amsthm}
\usepackage{array}
\usepackage{wrapfig}
\usepackage{graphicx}
\DeclareGraphicsExtensions{.jpg}
\oddsidemargin=1cm
\topmargin=0cm\textwidth=16cm\textheight=21cm

\makeatletter \@addtoreset{equation}{section} \makeatother



\begin{document}


\theoremstyle{plain}
\newtheorem{Th}{Теорема}[section]
\theoremstyle{definition}
\newtheorem{lemma}[Th]{Лемма}
\newtheorem{Def}[Th]{Определение}
\newtheorem{corollary}[Th]{Следствие}
\newtheorem{remark}{Замечание}
\newtheorem{example}{Пример}

\renewcommand{\thesection}{\arabic{section}.}
\renewcommand{\theTh}{\thesection\arabic{Th}}
\renewcommand{\theequation}{\thesection\arabic{equation}}

\sloppy
\tolerance=300
\binoppenalty=10000
\relpenalty=10000

\title{Гиперболические многочлены и конусы Гординга}
\author{Н. В. Филимоненкова, П. А. Бакусов}
\maketitle
 \centerline{nf33@yandex.ru}
 \centerline{Санкт-Петербургский государственный политехнический университет Петра Великого}
 \centerline{Россия, 195251, Санкт-Петербург, Политехническая ул. 29}

\centerline{Peter the Great St.Petersburg Polytechnic University}
\centerline{Russia, 195251, St.Petersburg, Polytechnicheskaya, 29}
\vskip 0.2in
 \centerline{bakusovpavel@gmail.com}
 \centerline{Санкт-Петербургский государственный архитектурно-строительный университет}
 \centerline{Россия, 190005, Санкт-Петербург, 2-ая Красноармейская ул. 4}

\centerline{St. Petersburg State University of Architecture and Civil Engineering}
\centerline{Russia, 190005, St. Petersburg, Vtoraja Krasnoarmejskaja ul. 4}

\begin{abstract}
В статье представлен краткий обзор теории гиперболических многочленов, основанной в 1950-е годы шведским математиком Ларсом Гордингом. Описано происхождение этой теории от линейных дифференциальных уравнений в частных производных гиперболического типа. Приведены основные факты о гиперболических многочленах и связанных в ними конусах Гординга, описаны типичные примеры и области приложения, в особенности та роль, которую они сыграли в современной теории полностью нелинейных дифференциальных уравнений в частных производных.\footnote{Работа рекомендована к публикации членом СПбМО проф. Ивочкиной Н. М.}
\date{}
\end{abstract}

\thanks{Работа выполнена при поддержке РФФИ, проекты \No~15-01-07650 a, \No~15-31-20600 мол-a-вед.} 

\section{Введение}
Изучение алгебраических многочленов имеет древнюю историю, в частности, изучение распределения корней многочлена, количества вещественных корней. Гиперболический многочлен -- это термин, появившийся в XX веке для наименования многочленов, у которых все корни вещественные.
\begin{Def}\label{v1}
Многочлен одной переменной $P(t)$ называется гиперболическим, если он имеет только вещественные корни.
\end{Def}
Для многочлена нескольких переменных вещественность его корней можно описать путем сведения к многочлену одной переменной. Например, для однородных многочленов это делается следующим образом.

\begin{Def}\label{v2}
Однородный многочлен нескольких переменных $P(x)$, $x=(x_1,x_2,\ldots,x_n)$, называется $a$-гиперболическим или гиперболическим в направлении вектора $a\in\mathbb{R}^n$, если $P(a)\neq 0$ и многочлен одной переменной $P(t)=P(ta+x)$ имеет только вещественные корни для любого вектора $x\in\mathbb{R}^n$.
\end{Def}

Понятие $a$-гиперболического многочлена восходит к шведскому математику Ларсу Гордингу (Lars G{\aa}rding, 1919 -- 2014), который заимствовал некоторые идеи из работ  И. Г. Петровского (к примеру, Гординг нередко ссылается на статью Петровского \cite{Pet45}). Корни этого понятия принадлежат теории линейных дифференциальных уравнений в частных производных (LPDE -- linear partial differential equations), а точнее, теории гиперболических уравнений порядка $m$.  Гиперболические уравнения высшего порядка определяются путем выделения одного из ключевых свойств гиперболических уравнений второго порядка и обобщения его на случай $m>2$. Одним из таких ключевых свойств является устойчивость решения задачи Коши (непрерывная зависимость решения от начальных данных). В работе \cite{Gar51} Гординг показал, как это свойство можно выразить в терминах характеристического многочлена (символа) дифференциального оператора. Для этого он ввел понятие $a$-гиперболического многочлена и доказал, что решение задачи Коши в $n$-мерном полупространстве, ограниченном гиперплоcкостью $\{x\in\mathbb{R}^n: (x,a)=0\}$ устойчиво тогда и только тогда, когда характеристический многочлен оператора является $a$-гиперболическим. Далее этот критерий удалось свести к исследованию главной части оператора, т. е. к однородному  многочлену. Генезис понятия гиперболического многочлена и его связь с понятием устойчивости подробно описаны в статье \cite{Pem11}.

Поскольку самым знаменитым представителем гиперболических операторов является волновой оператор
$$L[u]=\frac{\partial^2 u}{\partial x^2_1}-\frac{\partial^2 u}{\partial x^2_2}-\frac{\partial^2 u}{\partial x^2_3}-\ldots-\frac{\partial^2 u}{\partial x^2_n},$$
то прародителем всех $a$-гиперболических многочленов можно считать его символ:
$$P(x)=x_1^2-x_2^2-x_3^2-\ldots-x_n^2.$$

В 1959 году Гординг написал небольшую статью \cite{Gar59}, в которой исследовал $a$-гиперболические многочлены с алгебраической точки зрения, независимо от теории гиперболических LPDE, и вывел ряд фундаментальных фактов. Статья \cite{Gar59} не произвела немедленного резонанса: она казалась скромной как по объему (всего десять страниц), так и по значению описанных в ней результатов. Долгое время теория $a$-гиперболических многочленов распространялась в сравнительно небольшом кругу математиков, по всей видимости коллег Ларса Гординга (\cite{Lax56}, \cite{Hor63}, \cite{WN68}, \cite{Sv68}, \cite{ABG70}, \cite{Ch79}), и рассматривалась в контексте гиперболических LPDE.

Так продолжалось до тех пор, пока теория Гординга не обрела неожиданные приложения в теории полностью нелинейных дифференциальных уравнений в частных производных (FNPDE -- fully nonlinear partial differential equations). В первую очередь следует назвать фундаментальную работу \cite{CNS85} 1985 года, авторы которой L. Caffarelly, L. Nirenberg, J. Spruck впервые в математической литературе упоминают статью Гординга \cite{Gar59} в связи с описанием корректного множества разрешимости уравнений типа Монжа -- Ампера.

В начале XXI века к работе Гординга \cite{Gar59} пришло наконец заслуженное признание, и в настоящее время теория $a$-гиперболических многочленов и связанных с ними конусов Гординга востребована сразу в нескольких областях математики.

Во-первых, это уже названная современная теория FNPDE, о которой будет подробнее рассказано в параграфе 5. После публикации \cite{CNS85} гиперболические многочлены и конусы Гординга стали генератором множества алгебро-геометрических понятий в нелинейной теории, которые нуждаются в постоянном пересмотре, уточнении, систематизации. Исследованием этого фундамента занимаются F. R. Harvey, H. B. Lawson \cite{Harv09} и в большей степени Н. М. Ивочкина, Н. В. Филимоненкова \cite{I12}, \cite{IYP12}, \cite{IF13}.

Во-вторых, в конце 1990-х сформировалась новая ветвь линейного программирования, названная гиперболическим программированием (hyperbolic programming), основоположником которого считается O. Guler, \cite{Gu97}, \cite{BGLS01}, \cite{Re06}. Задача оптимизации линейного функционала ставится в конусе Гординга.

Вo-третьих, есть работы, посвященные алгебраическим свойствам $a$-гиперболических многочленов. В частности, исследуется возможность представления гиперболических многочленов разной степени в виде определителя (determinantal representability), \cite{Bran11}, \cite{Plaum13}. Эта ветка исследований смыкается с приложениями гиперболических многочленов в комбинаторике и дискретной теории вероятности. В этой области работают, например, P. Branden, R. Pemantle \cite{Pem11}, L. Gurvits \cite{Gurv04}.

В-четвертых, отдельное направление занимают работы, посвященные гиперболическим многочленам одной переменной, хотя, разумеется, такие многочлены изучались задолго до того, как появилась теория Гординга. Этому направлению принадлежит работы таких математиков, как В. И. Арнольд \cite{Ar86}, В. Костов \cite{Kos11}, F. Rellich, A. Rainer и др. Исследуются распределение корней гиперболического многочлена, геометрия области гиперболических многочленов фиксированной степени, порядок гладкости корней многочлена в зависимости от возмущения его коэффициентов, критерии гиперболичности.

Надо заметить, что большинство работ, так или иначе связанных с $a$-гиперболическими многочленами, принадлежат зарубежным авторам. Насколько нам известно, в отечественной математике эту теорию активно использует только Н. М. Ивочкина, профессор Санкт-Петербургской математической школы, специалист по FNPDE, а также ее ученики, к которым относятся и авторы данной статьи.

Таким образом, первой целью предлагаемой работы является популяризация теории $a$-гиперболических многочленов Гординга, знакомство с ней российских читателей. Второй целью работы является демонстрация ``простых'' задач этой теории, доступных даже студентам математических и технических специальностей. В конце концов, если не вдаваться в глубину приложений, то понятие $a$-гиперболического многочлена -- это просто удобный способ исследования вещественности корней для многочлена нескольких переменных. Поэтому анализ алгебраических свойств и построение примеров относится к области элементарной, доступной математики.


\section{Гиперболические многочлены одной переменной}

В этом параграфе представляем читателю фрагмент классической истории изучения многочленов одной переменной, у которых все корни вещественные и которые позднее стали называться гиперболическими. Приводим обзор известных неравенств Ньютона и Маклорена, указываем историю их появления и возможность использования в разных формах.

Рассмотрим комплексный многочлен одной переменной $P(t)=\sum_{k=0}^n a_kt^k$ степени $n$. Согласно определению \ref{v1} он называется гиперболическим, если имеет $n$ вещественных корней. В этом случае $P(t)=a_0\prod_{k=1}^{n}(t+\lambda_k)$, $\lambda_k\in\mathbb{R}$, а значит, ${P(t)}/{a_0}$ -- многочлен с вещественными коэффициентами. Поэтому, не умаляя общности, можно считать далее $a_0=1$ и рассматривать вещественные гиперболические многочлены.

\begin{Th}
Если $P(t)=\sum_{k=0}^n a_kt^k$ -- гиперболический многочлен, то все его коэффициенты удовлетворяют неравенствам Ньютона
\begin{equation}\frac{a_{k-1}}{C_n^{k-1}}\frac{a_{k+1}}{C_n^{k-1}}\leqslant\left(\frac{a_k}{C_n^k}\right)^2,\quad 1\leqslant k\leqslant n-1.\label{New}\end{equation}
Если первые $m$ коэффициентов многочлена положительны, тогда эти коэффициенты удовлетворяют неравенствам Маклорена:
\begin{equation}
\frac{a_1}{C_n^1}\geqslant \left(\frac{a_2}{C_n^2}\right)^{\frac{1}{2}}\geqslant
\left(\frac{a_3}{C_n^3}\right)^{\frac{1}{3}}\geqslant\ldots \left(\frac{a_{m-1}}{C_n^{m-1}}\right)^{\frac{1}{m-1}}\geqslant
\left(\frac{a_m}{C_n^m}\right)^{\frac{1}{m}}.
\label{Mac}\end{equation}
\end{Th}

Неравенства (\ref{New}) получили свое название в честь Исаака Ньютона, поскольку они восходят к правилу определения числа ``возможных'' (вещественных) и ``невозможных'' (комплексных) корней многочлена, впервые изложенному в книге Ньютона \cite{New}. После переложения на современный математический язык идей Ньютона получается, что по существу он утверждал следующее. Количество комплексных корней не меньше, чем число перемен знака в цепочке разностей
$$\left(\frac{a_k}{C_n^k}\right)^2-\frac{a_{k-1}}{C_n^{k-1}}\frac{a_{k+1}}{C_n^{k-1}},\quad 1\leqslant k\leqslant n-1.$$
Если верить примечаниям к русскому переводу \cite{New-rus} книги \cite{New}, то остается неизвестным, как Ньютон открыл это правило, доказал же его много позже J. J. Sylvester. Неравенства Ньютона, которые являются частным случаем этого правила, имеют несколько методов доказательства. Наиболее простой метод содержится в четвертой главе монографии G. H. Hardy, J. E. Littlewood, J. Polya \cite{H48}: после ``расщепления'' переменной $t$ на две переменные и дифференцирования многочлен степени $n$ приводится к квадратному многочлену, вещественность корней которого обусловлена теоремой Ролля и равносильна неотрицательности дискриминанта. Воспроизводство этого доказательства представляется несложной учебной задачей. Еще одной простой задачей является диагностика двух случаев, когда в цепочке (\ref{New}) часть или все неравенства вырождаются в равенства. В математической литературе один из двух случаев часто бывает упущен.

\begin{remark}
Неравенства (\ref{New}) являются необходимым, но не достаточным условием гиперболичности многочлена. Действительно, можно построить многочлен любой степени, для коэффициентов которого выполнены неравенства Ньютона, но не все его корни вещественны. Например, $P(t)=2t^3+6t^2+6t+1$.
\end{remark}

Неравенства (\ref{Mac}) впервые получил C. MacLaurin в работе \cite{Mac}, где он использовал геометрический метод, основанный на делении отрезка и максимизации суммы произведений получившихся частей. При этом длины частей отрезка играли роли корней многочлена, а длина целого отрезка -- их сумму, следовательно метод Маклорена применим к многочленам с корнями одинакового знака. Возможно именно поэтому до сей поры принято считать, что неравенства (\ref{Mac}) справедливы только для таких гиперболических многочленов, у которых все коэффициенты положительны (в этом случае цепочка содержит максимальное число неравенств).

Однако во второй главе книги \cite{H48} приведено чисто арифметическое доказательство неравенств Маклорена, основанное на неравенствах Ньютона: нужно рассмотреть первые несколько неравенств (\ref{New}), возвести $k$-тое неравенство в степень $k$, перемножить и сократить повторяющиеся множители. Для успешной реализации этого метода достаточно, чтобы первые несколько коэффициентов многочлена были положительны. Причем количество неравенств в цепочке (\ref{Mac}) соответствует количеству положительных коэффициентов.

Неравенства Ньютона и Маклорена могут быть записаны в трех разных формах за счет следующей подстановки:
\begin{equation} a_k=\sigma_k(\lambda)=tr_kS.\label{3}\end{equation}

Здесь $\sigma_k(\lambda)$ -- элементарная симметрическая функция от вещественных переменных $\lambda=(\lambda_1,\lambda_2,\ldots\lambda_n)$:
$$\sigma_k(\lambda)=\sum_{i_1,i_2,\ldots i_k}\lambda_{i_1}\lambda_{i_2}\ldots\lambda_{i_k},\quad \sigma_0(\Lambda)=1.$$
Первое равенство в формуле (\ref{3}) объясняется тем, что по любому вектору $\lambda$ можно построить гиперболический многочлен $P(t)=\prod_{k=1}^{n}(t+\lambda_j)$ с коэффициентами $a_k=\sigma_k(\lambda)$ (теорема Виета). В частности, $a_1=\lambda_1+\lambda_2+\ldots+\lambda_n$, $a_n=\lambda_1\lambda_2\ldots\lambda_n$ и если все $\lambda_k$ положительны, то крайние члены цепочки (\ref{Mac}) дают известное неравенство между средним арифметическим и средним геометрическим:
$$\frac{\lambda_1+\lambda_2+\ldots+\lambda_n}{n}\geqslant \sqrt[n]{\lambda_1\lambda_2\ldots\lambda_n}.$$

Поясним второе равенство в формуле (\ref{3}). Обозначим символом $Sym(n)$ пространство всех симметричных матриц размера $n\times n$.

\begin{Def}\label{mtr}
Следом порядка $k$ или просто $k$-следом матрицы $S\in Sym(n)$ называют сумму всех главных миноров порядка $k$ матрицы $S$.
Обозначают $tr_kS$. По определению $tr_0S=1$.
\end{Def}

Понятие $k$-следа включает два крайних случая. При $k=1$ это просто след матрицы, сумма элементов на главной диагонали: $tr_1S=trS$. При $k=n$ это определитель матрицы: $tr_nS=\det S$.

Термин ``след порядка $k$'' для обозначения сумм главных миноров появился в конце XX века и впервые встречается в работах \cite{I97}, \cite{I99}.

Хорошо известно, что $k$-след обладает ортогональной инвариантностью, т. е. принимает одинаковые значения на матрицах $S$ и $B^TSB$, где $B$ -- ортогональная матрица. К слову, существует способ классификации линий и поверхностей второго порядка, основанный на ортогональных инвариантах для матрицы коэффициентов соответствующей квадратичной формы, которые по сути являются ее $k$-следами. Благодаря ортогональной инвариантности справедливо равенство $tr_kS=\sigma_k(\lambda)$, где $\lambda=(\lambda_1,\lambda_2,\ldots\lambda_n)$ -- набор собственных чисел симметричной матрицы $S$. Ввиду этого равенства в зарубежной математической литературе $k$-след часто определяют как элементарную симметрическую функцию от собственных чисел матрицы $S$ (например, $k$-trace в \cite{W09}).

Таким образом, за счет подстановки (\ref{3}) неравенства Ньютона и Маклорена справедливы как для коэффициентов гиперболического многочлена, так и для элементарных симметрических функций, и для $k$-следов симметричной матрицы.


\section{Гиперболические многочлены нескольких переменных}
Рассмотрим однородный комплексный многочлен $P(x)$ степени $m$ от нескольких переменных $x=(x_1,x_2,\ldots,x_n)$, и вектор $a\in\mathbb{R}^n$, $a\ne 0$. Согласно определению \ref{v2} многочлен $P(x)$ называется $a$-гиперболическим, если $P(a)\ne 0$ и многочлен $P(t)=P(at+x)$ имеет $m$ вещественных корней при любом $x\in\mathbb{R}^n$. Поскольку $P(ta+x)=P(a)\prod_{i=1}^{m}(t+\lambda_i)$, $\lambda_i\in\mathbb{R}$, то ${P(x)}/{P(a)}$ -- многочлен с вещественными коэффициентами. Не умаляя общности, можно рассматривать вещественные гиперболические многочлены.

С геометрической точки зрения, $a$-гиперболичность многочлена $P(x)$ значит, что любая прямая в пространстве $\mathbb{R}^n$ с направляющим вектором $a$ пересекает гиперповерхность $P(x)=0$ в $m$ точках.

\begin{wrapfigure}{r}{4cm}
	\includegraphics[width=4cm]{pic1.pdf}
	\center{Рис. 1}
\end{wrapfigure}

Приведем простейший пример. Квадратный многочлен трех переменных $P(x,y,z)=x^2-y^2-z^2$ является гиперболическим в направлении вектора $a=(1,0,0)$, поскольку любая прямая, параллельная оси абсцисс, пересекает поверхность $x^2-y^2-z^2=0$ ровно в двух точках (рис. 1).

Если многочлен $P(x)$ является гиперболическим в направлении вектора $a\in\mathbb{R}^n$, то он может оставаться гиперболическим и в других направлениях, достаточно близких к вектору $a$. Возникает вопрос: насколько далеко можно ``отойти'' от вектора $a$, чтобы многочлен $P(x)$ оставался гиперболическим?

\begin{Def}
Пусть $P(x)$ -- $a$-гиперболический многочлен. Обозначим символом $K(P,a)$ наибольшее связное множество в пространстве $\mathbb{R}^n$, содержащее вектор $a$ и состоящее из векторов, в направлении которых многочлен $P(x)$ является гиперболическим. Множество $K(P,a)$ называется конусом гиперболичности или конусом Гординга, соответствующим вектору $a$.
\end{Def}

Определение и геометрический смысл $a$-гиперболичности позволяют заменить вектор $a$ на любой, коллинеарный ему вектор. Поэтому связное множество $K(P,a)$ действительно является односторонним конусом с вершиной в нуле: если $x\in K(P,a)$, то $\lambda x\in K(P,a)$, $\lambda>0$. Конус $K(P,a)$ сопровождается конусом $K(P,-a)$. В общей ситуации множество всех векторов, в направлении которых многочлен $P(x)$ является гиперболическим, распадается на четное число конусов Гординга.

Альтернативные описания и геометрические свойства каждого конкретного конуса Гординга дает следующая теорема.

\begin{Th}
Пусть $P(x)$ -- $a$-гиперболический многочлен. Тогда верны следующие утверждения о конусе $K(P,a)$:

1. Конус $K(P,a)$ совпадает с компонентой связности множества $\mathbb{R}^n\setminus\lbrace x: P(x)=0\rbrace$, содержащей вектор $a$.

2. Конус $K(P,a)$ состоит ровно из таких векторов $x$, для которых многочлен $P(t)=P(at+x)$ имеет только отрицательные корни (это значит, что все его коэффициенты положительны в случае $P(a)>0$).

3. Конус $K(P,a)$ выпуклый.

4. Функция $P^{\frac{1}{m}}(x)$ вогнута в конусе $K(P,a)$, где $P(a)>0$.
\end{Th}

Эти ключевые результаты были впервые доказаны в работах Гординга \cite{Gar51}, \cite{Gar59}, а также передоказаны во множестве последующих работ разных авторов.

Таким образом, каждый конкретный конус Гординга для многочлена $P(x)$ является компонентой положительности или компонентой отрицательности $P(x)$. Удобнее работать с компонентой положительности, поэтому далее рассматриваем $K(P,a)$, где $P(a)>0$.

\begin{remark}
Из пункта 2 теоремы 3.2 вытекает, что все коэффициенты многочлена
\begin{equation}P(at+x)=P(x)+P_{m-1}^a(x)t+P_{m-2}^a(x)t^2+\ldots +P_{1}^a(x)t^{m-1}+P(a)t^m\label{tay}\end{equation}
положительны, если $x\in K(P,a)$, $P(a)>0$. Отсюда нетрудно доказать, что многочлен $P(X)$ возрастает в конусе $K(P,a)$, а именно:
\begin{equation}P(x+y)>P(x),\quad x\in K(P,a),\quad y\in \overline{K}(P,a).\label{monot}\end{equation}
Поэтому конусы Гординга называют еще конусами монотонности.
\end{remark}

\begin{remark} Если многочлен $P(x)$ является $a$-гиперболическим, то каждый из коэффициентов $P^a_{k}(x)$ в разложении (\ref{tay}) тоже является $a$-гиперболическим многочленом. Это следует из равенства
$$P_k^a(at+x)=\frac{1}{(m-k)!}\frac{d^{m-k}P(ta+x)}{dt^{m-k}}$$
и теоремы Ролля. При этом $K(P,a)\subset K(P_k^a,a)$.
\end{remark}



\section{Примеры $a$-гиперболических многочленов и конусов Гординга}
В этом параграфе исследуем конусы гиперболичности для конкретных однородных многочленов. Первые два примера обычно приводятся в статьях как тривиальные. Однако их разбор демонстрирует хорошие учебные ``задачи с параметром'', для решения которых требуются только элементарные арифметические навыки и базовые знания из аналитической геометрии. Третий и четвертый примеры наиболее важны для теории полностью нелинейных уравнений в частных производных.

\begin{example}
Рассмотрим произвольный однородный многочлен первой степени:
$$P(x)=b_1x_1+b_2x_2+\ldots+b_nx_n, \quad b_k\in\mathbb{R}.$$
Гиперплоскость $P(x)=0$ имеет ровно одно пересечение с любой прямой, направляемой вектором $a$, в том и только в том случае, когда вектор $a$ не лежит в этой гиперплоскости. Поэтому многочлен $P(x)$ является гиперболическим в направлении любого вектора $a\in\mathbb{R}^n$, такого что $P(a)\ne 0$. Множество гиперболичности распадается на два конуса Гординга, на два полупространства.
\end{example}

\begin{example}
 Пусть имеется однородный многочлен второй степени:
\begin{equation}
    P(x)=x_1^2+x_2^2+\ldots+x_k^2-x_{k+1}^2-x_{k+2}^2\ldots-x_n^2.
\label{p_x}
\end{equation}
Рассмотрим два случая: $k>1$ и $k=1$.
Проведем графический анализ числа корней уравнения $P(at+x)=0$. Для этого перенесем последние $(n-k)$ квадратов в правую часть уравнения (\ref{p_x}), раскроем скобки, выделим полные квадраты в обеих частях уравнения и введем следующие обозначения:
$$\alpha_1=\sqrt{\sum_{i=1}^ka_i^2}, \quad \alpha_2=\sqrt{\sum_{i=k+1}^na_i^2},$$

\begin{equation}
    \beta_1=\frac{\sum_{i=1}^ka_ix_i}{\alpha_1}, \quad \beta_2=\frac{\sum_{i=k+1}^na_ix_i}{\alpha_2},
\label{zam}
\end{equation}

$$\gamma_1=\frac{\sum_{i=1}^kx_i^2\sum_{i=1}^ka_i^2-\left( \sum_{i=1}^ka_ix_i\right)^2}{\sum_{i=1}^ka_i^2}, \quad \gamma_2=\frac{\sum_{i=k+1}^nx_i^2\sum_{i=k+1}^na_i^2-\left( \sum_{i=k+1}^na_ix_i\right)^2}{\sum_{i=k+1}^na_i^2}.$$

Получим равенство:
\begin{equation}
    \left(\alpha_1t+\beta_1\right)^2+\gamma_1=\left(\alpha_2t+\beta_2\right)^2+\gamma_2.
\label{new_p}
\end{equation}
Левая и правая части равенства (\ref{new_p}) являются квадратичными функциями $y_1(t)$ и $y_2(t)$, графики которых -- параболы. Ветви этих парабол направлены вверх, а вершина, по неравенству Коши -- Буняковского, находится не ниже оси абсцисс.
Предположим, что существует такой вектор $a$, в направлении которого многочлен $P(x)$ гиперболический. Это значит, что данный вектор $a$ обеспечивает параболам $y_1$ и $y_2$ наличие двух точек пересечения для любого вектора $x$. Не умаляя общности, можно считать, что вектор $a$ обладает свойством:
    $$\alpha_1^2 > \alpha_2^2,$$
т. е. скорость роста функции $y_1$ больше, чем скорость $y_2$.

Построим вектор $x=(x_p, x_q)$ так, чтобы вектор $x_p=(x_1, x_2, \ldots , x_k)$ был ортогонален вектору $a_p=(a_1, a_2, \ldots, a_k)$, а вектор $x_q=(x_{k+1}, x_{k+2}, \ldots , x_n)$ - вектору $a_q=(a_{k+1}, a_{k+2}, \ldots, a_n)$.
Тогда
$$\beta_1=\beta_2=0, \quad \gamma_1=\sum_{i=1}^kx_i^2, \quad \gamma_2=\sum_{i=k+1}^n x_i^2.$$

С геометрической точки зрения это означает, что вершины графиков функций $y_1$ и $y_2$ находятся друг над другом, причём абсцисса вершин равна нулю. Очевидно, что в случае $k>1$ вектор $x$ можно построить таким образом, чтобы расположение парабол $y_1$ и $y_2$ было таким, как показано на рис. 2. Таким образом, пришли к противоречию с предположением об $a$-гиперболичности многочлена $P(x)$.
Значит, не существует такого вектора $a$, в направлении которого многочлен $P(x)$ был бы гиперболическим.

\begin{figure}[h]
	\begin{minipage}[h]{0.49\linewidth}
		\center{\includegraphics[width=6cm]{pic2.pdf} \\ Рис. 2}
	\end{minipage}
	\hfill
	\begin{minipage}[h]{0.49\linewidth}
		\center{\includegraphics[width=6cm]{pic3.pdf} \\ Рис. 3}
	\end{minipage}
\end{figure}

Теперь рассмотрим многочлен (\ref{p_x}) в случае $k=1$. Получаем характеристический многочлен волнового оператора:
$$P(x)=x_1^2-x_2^2-x_3^2-\ldots-x_n^2.$$
Уравнение $P(at+x)=0$ можно привести к виду:
\begin{equation}
	\left(a_1t+x_1\right)^2=\left(\alpha_2t+\beta_2\right)^2+\gamma_2.
	\label{new_p2}
\end{equation}

Здесь параметры $\alpha_2, \beta_2, \gamma_2$ заданы формулами (\ref{zam}).
Как и в равенстве (\ref{new_p}), левая и правая части уравнения (\ref{new_p2}) представляют собой квадратичные функции $y_1(t)$ и $y_2(t)$, графики которых -- параболы. Ветви этих парабол направлены вверх, однако вершина параболы $y_1$ расположена на оси абсцисс, а вершина $y_2$ находится не ниже этой оси. Несложно доказать, что для того, чтобы параболы $y_1$ и $y_2$ имели две точки пересечения для любого вектора $x \in \mathbb{R}^n$, необходимо и достаточно потребовать, чтобы скорость роста функции $y_1$ была больше, чем скорость $y_2$ (рис. 3), или что то же самое:
$$a_1^2>\alpha_2^2=\sum_{i=2}^n a_i^2.$$

Таким образом, при $k=1$ многочлен (\ref{p_x}) гиперболический в направлении любого вектора $a\in\mathbb{R}^n$, удовлетворяющего условию $P(a)>0$. Множество таких векторов $a$ образует две компоненты связности, т. е. два конуса Гординга.

Анализ, предпринятый здесь для многочлена (\ref{p_x}), является на самом деле исчерпывающим для всех однородных многочленов второй степени, поскольку любой квадратичный многочлен может быть записан в каноническом виде (\ref{p_x}) в подходящей системе координат. Заметим, что существуют и другие способы исследования многочлена (\ref{p_x}) на гиперболичность.
\end{example}

\begin{example}
Рассмотрим серию элементарных симметрических функций $\sigma_m(x)$, $x\in\mathbb{R}^n$, $1\leqslant m\leqslant n$:
$$\sigma_m(x)=\sum_{i_1,i_2,\ldots i_m}x_{i_1}x_{i_2}\ldots x_{i_m}.$$
Каждая функция $\sigma_m(x)$ является однородным многочленом степени $m$. Сначала обратимся к многочлену
$$\sigma_n(x)=x_1x_2\ldots x_n.$$
Он является гиперболическим в направлении любого вектора $a\in\mathbb{R}^n$, такого что $\sigma_n(a)\ne0$. Действительно, многочлен $\sigma_n(ta+x)=\prod_{k=1}^{n}(ta_k+x_k)$ имеет $n$ вещественных корней $t=-x_k/ a_k$ тогда и только тогда, когда все $a_k\ne 0$.

Множество гиперболичности этого многочлена распадается на $2^n$ конусов Гординга, ограниченных координатными плоскостями $x_k=0$. В случае $n=3$ имеем восемь координатных октантов (рис. 4).

\begin{figure}
	\center{\includegraphics[width=6cm]{pic4.pdf} \\ Рис. 4}
\end{figure}

Зафиксируем далее вектор $a=(1,1,\ldots,1)$, тогда
$$\sigma_n(ta+x)=\sum_{m=0}^{n}\sigma_m(x)t^{n-m}.$$
Согласно замечанию 3 многочлены $\sigma_m(x)$, $m<n$, также являются гиперболическими в направлении данного вектора $a$. Из пункта 2 теоремы 3.2 и представления
$$\sigma_m(ta+x)=C_n^m\sum_{k=0}^{m}\frac{C_m^k}{C_n^k}\sigma_k(x)t^{m-k}$$
следует, что конус Гординга для многочлена $\sigma_m(x)$, соответствующий вектору $a=(1,1,\ldots,1)$, состоит из таких векторов $x$, для которых первые $m$ симметрических функций положительны. Обозначим такие конусы следующим образом:
\begin{equation} V_m=\{\lambda\in \mathbb{R}^n:\; \sigma_k(\lambda)>0,\; k=1,2,...,m\}.\label{V}\end{equation}
Очевидно, $V_1\supset V_2\supset...\supset V_n$ и конус $V_n$ состоит из всех векторов с положительными координатами.
На рис. 5 изображены два таких конуса Гординга, соответствующих случаю $n=2$ и многочленам $\sigma_1(x)$, $\sigma_2(x)$. На рис. 6 изображены три таких конуса Гординга, соответствующих случаю $n=3$ и многочленам $\sigma_1(x)$, $\sigma_2(x)$, $\sigma_3(x)$. В этой ситуации конус $V_1$ -- это полупространство, ограниченное плоскостью $x_1+x_2+x_3=0$, $V_3$ -- первый координатный октант, $V_2$ -- односторонний круговой конус, граница которого задана уравнением $x_1x_2+x_2x_3+x_1x_3=0$.

\begin{figure}[h]
	\begin{minipage}[h]{0.49\linewidth}
		\center{\includegraphics[width=6cm]{pic5.pdf} \\ Рис. 5}
	\end{minipage}
	\hfill
	\begin{minipage}[h]{0.49\linewidth}
		\center{\includegraphics[width=6cm]{pic6.pdf} \\ Рис. 6}
	\end{minipage}
\end{figure}

Понятно, что каждому конусу $V_m$ соответствует парный конус, порожденный вектором $-a=(-1,-1,\ldots,-1)$. Как показано выше, для многочлена $\sigma_n(x)$ имеются и другие пары конусов Гординга, в случаях $m=1$, $m=2$ других конусов нет. При остальных значениях $m$ вопрос о наличии других конусов Гординга остается открытым.
\end{example}

\begin{example}
Рассмотрим серию однородных многочленов, построенных на основе $m$-следа симметричной матрицы (см. определение \ref{mtr}) . Каждый такой многочлен $tr_mX$, $1\leqslant m\leqslant n$, зависит от $n(n+1)/2$ переменных, организованных в виде матрицы $X=(x_{ij})\in Sym(n)$.

Сначала обратимся к многочлену
$$tr_nX=\det X.$$
Очевидно, этот многочлен является гиперболическим в направлении единичной матрицы $I$, поскольку корнями уравнения $\det(tI+X)=0$
являются $n$ собственных чисел симметричной матрицы $X$, взятых с обратным знаком. Согласно пункту 1 теоремы 3.2 вместе с единичной матрицей в конус Гординга этого многочлена попадают все положительно определенные матрицы. Аналогичные выводы верны и для матрицы $-I$. Таким образом, многочлен $\det X$ является гиперболическим в направлении любой положительно или отрицательно определенной матрицы $A$. Нетрудно показать, что эти два конуса Гординга исчерпывают все множество гиперболичности данного многочлена, т. е. других конусов Гординга у многочлена нет.

Поскольку
$$\det(tI+X)=\sum_{k=0}^{n}tr_kX\cdot t^{n-k},$$
то согласно замечанию 3 многочлены $tr_mX$, $m<n$, тоже являются $I$-гиперболическими, как и многочлен $\det X$. Из пункта 2 теоремы 3.2 и представления
$$tr_m(tI+X)=C_n^m\sum_{k=0}^{m}\frac{C_m^k}{C_n^k}tr_kX\cdot t^{m-k}$$
следует, что конус Гординга для многочлена $tr_mX$, соответствующий единичной матрице, состоит из симметричных матриц $X$, у которых все следы порядка от 1 до $m$ положительны.  Обозначим такой конус следующим образом:
\begin{equation} K_m=\{X\in Sym(n):\; tr_kX>0,\; k=1,2,...,m\}.\label{K}\end{equation}

\begin{Def}\label{mpol}
Симметричная матрица $X\in K_m$ называется $m$-положительной.
\end{Def}

Конусы (\ref{K}) впервые определила и исследовала Н. М. Ивочкина в работе \cite{I83}. Однако термин  ``$m$-положительная матрица'' для наименования элементов из $K_m$ введен совсем недавно в работах \cite{IYP12}, \cite{I12} того же автора. Для конусов (\ref{K}) справедлива цепочка вложений
$$K_1\supset K_2\supset...\supset K_n.$$
Причем $K_n$ -- это в точности конус положительно определённых матриц. Таким образом, понятие $m$-положительной матрицы является обобщением для положительно определенной матрицы.

Естественность такого обобщения подтверждается следующим. Для положительно определенных, или $n$-положительных, матриц широко известен критерий Сильвестра: матрица положительно определена тогда и только тогда, когда все ее главные угловые миноры положительны. Совсем недавно на основе неравенств Ньютона (\ref{New}) доказан аналог критерия Сильвестра для $m$-положительных матриц (см. статьи \cite{F14prep}, \cite{IF15}):

\begin{Th}\label{th}
Пусть $X\in Sym(n)$, $1\leqslant m\leqslant n$, $1\leqslant i_1,i_2,...,i_{m-1}\leqslant n$ -- произвольный набор различных номеров. Для того чтобы матрица $X$ была $m$-положительной, необходимо и достаточно выполнения следующих условий
$$tr_{m}X>0,\;tr_{m-1}X^{\langle i_1\rangle}>0,\;tr_{m-2}X^{\langle i_1,i_2\rangle}>0,...,tr_{1}X^{\langle i_1,i_2,...,i_{m-1}\rangle}>0.$$
\end{Th}

В теореме \ref{th} символом $X^{\langle i_1,i_2,...,i_k\rangle}$ обозначена матрица, полученная из матрицы $X$ вычеркиванием $k$ строк и $k$ столбцов с номерами $i_1,i_2,...,i_k$.

Нельзя не заметить очевидного сходства между примерами 3 и 4. Действительно, многочлены $tr_mX$, заданные на матрицах $X\in Sym(n)$, являются аналогами многочленов $\sigma_m(x)$, заданных на векторах $x\in\mathbb{R}^n$. Это обусловлено равенством $tr_mX=\sigma_m(\lambda)$, где $\lambda=(\lambda_1,\lambda_2,\ldots\lambda_n)$ -- набор собственных чисел матрицы $X$. Множества (\ref{V}) и (\ref{K}) являются конусами в пространствах $\mathbb{R}^n$ и $Sym(n)$ соответственно. Векторный конус $V_m$ -- аналог матричного конуса $K_m$.

Как и для $\sigma_m(x)$, остается открытым вопрос, имеет ли многочлен $tr_mX$ в случае $2<m<n$ другие конусы Гординга, кроме конуса $m$-положительных матриц и его ``зеркальной'' пары.
\end{example}

Описанные примеры $a$-гиперболических многочленов являются классическими. Другие примеры и методы построения $a$-гиперболических многочленов можно найти в работах \cite{Hor63}, \cite{Harv09}.


\section{Приложения конусов Гординга в FNPDE}

Рассмотрим замкнутую ограниченную область $\Omega\subset\mathbb{R}^n$ и линейный дифференциальный оператор второго порядка в частных производных:
$$L[u]=a^{ij}u_{ij},\quad u\in C^2(\Omega).$$
Здесь и далее такая запись подразумевает суммирование по повторяющимся индексам. Как известно, оператор $L[u]$ называется эллиптическим, если матрица $A=(a^{ij}(x))$ положительно определена в области $\Omega$. Это свойство гарантирует разрешимость соответствующей задачи Дирихле.

Рассмотрим полностью нелинейный дифференциальный оператор второго порядка в частных производных $F[u]$. Такой оператор принято называть гессиановским, если его главная часть зависит только от $u_{xx}$, т. е. матрицы Гессе функции $u$. Для простоты предполагаем, что $F[u]=F(u_{xx})$ и что оператор $F$ обладает 1-однородностью. В этом случае справедливо представление
\begin{equation}F[u]=F^{ij}[u]u_{ij},\quad F^{ij}[u]=\frac{\partial F[u]}{\partial u_{ij}}.\label{od}\end{equation}

Теория FNPDE (fully nonlinear partial differential equations) начала активно развиваться в 80-х годах XX века. Отталкиваясь от привычных понятий линейной теории, оператор $F$ стали называть эллиптическим на функции $u$, если матрица $F^{ij}[u]$ положительно определена в области $\Omega$. Большинство полностью нелинейных операторов не являются тотально эллиптическими, т. е. сохраняют эллиптичность только на некотором подмножестве $\mathbb{E}(\Omega)$ пространства $C^2(\Omega)$. Казалось бы естественным рассматривать задачу Дирихле для нелинейного оператора $F[u]$ в области его эллиптичности $\mathbb{E}(\Omega)$. Однако оказалось, что $\mathbb{E}(\Omega)$ не является корректным множеством разрешимости. Основные причины заключаются в следующем.

Во-первых, для полностью нелинейных уравнений (в отличие от линейных) эллиптичность оператора не гарантирует единственность решения. Простой пример наличия двух решений задачи Дирихле, на каждом из которых оператор $F[u]$ эллиптический, приведен в статье \cite{IYP12}.

Во-вторых, на разрешимость краевой задачи для FNPDE радикальным образом влияют геометрические свойства границы области $\Omega$, это принципиально не локальная задача, что предъявляет повышенные требования к выбору подходящих функций $u$.

Таким образом, сам термин ``эллиптический оператор'', унаследованный из линейной теории, оказывается недостаточно эффективным в теории полностью нелинейных уравнений. В исследовании FNPDE на первый план выходит построение специального конуса $\mathbb{K}(\Omega)\subset\mathbb{E}(\Omega)\subset C^2(\Omega)$, обеспечивающего оператору $F[u]$ не только эллиптичность, но и согласование с геометрическими характеристиками $\partial\Omega$, и ряд других полезных свойств, необходимых для доказательства теорем разрешимости.

В фундаментальной работе \cite{CNS85} 1985 года, посвященной Л. Гордингу, впервые замечено, что конусы $\mathbb{K}(\Omega)$ можно строить по образцу конусов Гординга. При этом функции из конуса $\mathbb{K}(\Omega)$ названы допустимыми.

Пусть имеется однородный многочлен $P(X)$ степени $m$, заданный на матрицах $X=(x_{ij})\in Sym(n)$. Предположим, многочлен $P(X)$ является $I$-гиперболическим, а соответствующий конус Гординга $K=K(P,I)$ является компонентой его положительности и, кроме того, содержит все положительно определенные матрицы. Сопоставим многочлену 1-однородный оператор
$$F[u]=P^{\frac{1}{m}}(u_{xx}).$$
Назовем функцию $u\in C^2(\Omega)$ допустимой для этого оператора, если ее матрица Гессе принадлежит конусу $K$ в каждой точке области $\Omega$. Обозначим конус допустимых функций символом $\mathbb{K}(\Omega)$.

Несложно доказать эллиптичность оператора $F[u]$ в конусе $\mathbb{K}(\Omega)$. Рассмотрим неотрицательно определенную матрицу $\xi\times\xi\in\overline{K}(P,I)$, $\xi\in\mathbb{R}^n$. Используем 1-однородность оператора $F[u]$ (соотношение (\ref{od})), монотонность (замечание 2) и вогнутость в конусе Гординга (теорема 3.2) для вывода цепочки соотношений:
$$F^{ij}[u]u_{ij}+F^{ij}[u]\xi_i\xi_j=F[u]+F^{ij}[u]\xi_i\xi_j\geqslant F[u+\xi\times\xi]>F[u]=F^{ij}[u]u_{ij}, \quad u\in\mathbb{K}(\Omega).$$
Отсюда следует, что матрица $F^{ij}[u]$ положительно определена, т. е. оператор $F[u]$ эллиптический на любой допустимой функции $u$, что доказывает включение $\mathbb{K}(\Omega)\subset\mathbb{E}(\Omega)$ (обратное включение может быть неверно).

Продемонстрируем естественность выбора $\mathbb{K}(\Omega)$ на примере конкретного оператора, порожденного $I$-гиперболическим многочленом.

В параграфе 4 (пример 4) описана серия $I$-гиперболических многочленов $tr_mX$ ($m$-след матрицы $X$), $1\leqslant m\leqslant n$. Операторы
\begin{equation}F_m[u]=tr_m^{\frac{1}{m}}(u_{xx})\label{mhes}\end{equation}
называются $m$-гессиановскими. Класс операторов $F_m[u]$ соединяет классический линейный оператор с классическим представителем нелинейной теории. При $m=1$ имеем оператор Лапласа:
$$F_1[u]=tr_1(u_{xx})=\triangle u.$$
При $m=n$ получаем 1-однородную версию оператора Монжа -- Ампера:
$$F_n[u]=tr_n^{\frac{1}{n}}(u_{xx})=\left(\det u_{xx}\right)^{\frac{1}{n}}.$$

Рассмотрим задачу Дирихле для $m$-гессиановского оператора в ограниченной области $\Omega\subset\mathbb{R}^n$:
\begin{equation}F_m[u]=f>0,\label{hes}\end{equation}
$$u\arrowvert _{\partial\Omega}=\varphi.$$
Уравнение (\ref{hes}) называется $m$-гессиановским (в зарубежной литературе чаще встречается под названием $k$-hessian equation).
После того как L. Caffarelly, L. Nirenberg и J. Spruck в своей статье \cite{CNS85} рассматривали (\ref{hes}) как эталонный пример общей нелинейной теории, $m$-гессиановскими уравнениями целенаправленно занимаются такие зарубежные ученые, как N. S. Trudinger, X.-J. Wang, K. S. Chou, B. Guan (\cite{ITW04}, \cite{W09}). B российской математике в этом направлении работает только Н. М. Ивочкина и ее ученики (см. серию работ Н. М. Ивочкиной, Н. В. Филимоненковой).

Очевидно, что задача (\ref{hes}) для $1$-гессиановского уравнения (уравнения Пуассона) должна рассматриваться на функциях $u$, у которых матрица Гессе обладает в области $\Omega$ положительным $1$-следом: $tr_1(u_{xx})=\triangle u>0$. Как известно, задачу (\ref{hes}) для $n$-гессиановского уравнения (уравнения Монжа -- Ампера) целесообразно рассматривать на множестве строго выпуклых функций. Естественное множество разрешимости для задачи (\ref{hes}) при $1<m<n$ впервые было построено в работе \cite{I83} 1983 года Н. М. Ивочкиной, причем еще до ее знакомства в теорией Гординга. Впоследствии оказалось, что конус допустимых функций для $m$-гессиановского оператора $F_m$ есть не что иное, как функциональный аналог матричного конуса Гординга для многочлена $tr_mX$.  Напомним (см. параграф 4), что конус Гординга для многочлена $tr_mX$, содержащий единичную матрицу, состоит из $m$-положительных матриц и обозначен символом $K_m$. При этом $K_1\supset K_2\supset...\supset K_n$, где $K_n$ -- это конус всех положительно определенных матриц.

\begin{Def}\label{mdop}
Пусть $u\in C^2(\Omega)$, $1\leqslant m\leqslant n$. Функция $u$ называется $m$-допустимой в области $\Omega$, если матрица $u_{xx}$ является $m$-положительной во всей этой области. В соответствии с определением \ref{mpol} $m$-положительных матриц множество всех $m$-допустимых функций можно описать следующим образом:
$$\mathbb{K}_m(\Omega)=\{u\in C^2(\Omega): F_k[u](x)>0,\;k=1,2,...,m, \;x\in\Omega\}.$$
\end{Def}

Очевидна цепочка включений $\mathbb{K}_1(\Omega)\supset\mathbb{K}_2(\Omega)\supset\ldots\supset\mathbb{K}_n(\Omega)$, причем
любая $n$-допустимая функция является строго выпуклой в классическом смысле.

Опишем коротко идею исследования классической разрешимости задачи (\ref{hes}). На основе неравенств Ньютона (\ref{New}) и Маклорена (\ref{Mac}), записанных в терминах $m$-следа матрицы (подстановка (\ref{3})), и других свойств конуса $K_m$ можно вывести двойное неравенство:
\begin{equation}  \frac{1}{c(n,m)}\left(\frac{F_m[u]}{F_1[u]}\right)\leqslant F_m^{ij}[u]\xi_i\xi_j
\leqslant \left(\frac{F_1[u]}{F_m[u]}\right)^{m-1},\quad u\in\mathbb{K}_m(\Omega),\quad \xi\in \mathbb{R}^n, \quad |\xi|=1.\label{ell}\end{equation}
Неравенство (\ref{ell}) свидетельствует о том, что при условии $f\geqslant \nu>0$ в $\Omega$ и при наличии априорной оценки величины $\|u\|_{C^2(\Omega)}$ уравнение (\ref{hes}) является равномерно эллиптическим на своем $m$-допустимом решении. Благодаря неравенствам Маклорена (\ref{Mac}), однородности и вогнутости оператора $F_m$ в конусе $\mathbb{K}_m(\Omega)$  для уравнения (\ref{hes}) имеется аналог принципа максимума Александрова, который позволяет ``вытеснить'' $C^2$-оценки на границу области $\Omega$. Для получения оценок на границе используются специальные барьеры, построение которых опирается на геометрические свойства поверхности $\partial\Omega$. Все это в конечном счете позволяет использовать метод непрерывности (продолжения по параметру) для доказательства теоремы разрешимости:

\begin{Th}\label{ex}
Пусть $\varphi \in C^{l+\alpha}(\partial\Omega )$, $f\in C^{l-2+\alpha}(\Omega),$ $\partial\Omega\in C^{l+\alpha}$, $f\geqslant \nu>0$ в $\Omega$, $l\geqslant 4,\; 0<\alpha<1$. Пусть, кроме того,
\begin{equation}\partial\Omega\hbox{-- строго } (m-1)\hbox{-выпуклая поверхность.}\label{geom}\end{equation}
Тогда существует единственное $m$-допустимое решение $u\in C^{l+\alpha}(\Omega)$ задачи (\ref{hes}).
\end{Th}

Наиболее полное доказательство теоремы \ref{ex} с построением априорных оценок в пространстве $C^2(\Omega)$  изложено в статье \cite{F11}.

В теореме \ref{ex} важную роль играет требование строгой $(m-1)$-выпуклости для замкнутой поверхности $\partial\Omega$. Оно описывается при помощи сравнительно новой конструкции в дифференциальной геометрии, а именно: в работе \cite{Iv90} была впервые определена симметричная матрица кривизны $\mathcal K[\Gamma]\in Sym(n-1)$ для произвольной $C^2$-гладкой гиперповерхности $\Gamma$. Не вдаваясь в детали построения матрицы кривизны, отметим только, что собственные числа $\mathcal K[\Gamma]$ совпадают с главными кривизнами поверхности $\Gamma$, а следы $tr_p\mathcal K[\Gamma]$ называются $p$-кривизнами $\Gamma$, $1<p<n-1$. Гиперповерхность $\Gamma$ называется строго $p$-выпуклой, если ее матрица кривизны является в каждой точке $p$-положительной, т. е. $\mathcal K[\Gamma]\in K_p$.

Поскольку конус $K_{n-1}\subset Sym(n-1)$, состоящий из $(n-1)$-положительных матриц, в точности совпадает с конусом положительно определенных матриц, то $(n-1)$-выпуклая гиперповерхность является строго выпуклой в классическом смысле. Поэтому при $m=n$ теорема \ref{ex} утверждает известный факт: разрешимость задачи Дирихле для уравнения Монжа -- Ампера в строго выпуклой области $\Omega$.

Естественность условия (\ref{geom}) при $m<n$ подтверждается тем, что поверхность уровня $m$-допустимой функции является строго $(m-1)$-выпуклой. Поэтому требование (\ref{geom}) необходимо для существования $m$-допустимого решения задачи Дирихле (\ref{hes}) с постоянным граничным условием. На самом деле в этой ситуации справедлива более сильная ``теорема несуществования'': если даже $f$ и $\partial\Omega$ достаточно гладкие, но при этом поверхность $\partial\Omega$ не является $(m-1)$-выпуклой хотя бы в одной точке, то задача (\ref{hes}) не имеет не только $m$-допустимых решений, но вообще не имеет $C^2$-гладких решений.

\begin{remark}
Можно доказать следующее: для того чтобы замкнутая гиперповерхность являлась $p$-выпуклой, достаточно, чтобы ее $p$-кривизна была положительной. Поэтому условие (\ref{geom}) сводится к положительности $(m-1)$-кривизны:
\begin{equation}tr_{m-1}\mathcal K[\partial\Omega]>0.\label{geom1}\end{equation}
\end{remark}

\begin{remark}
В зарубежных публикациях по FNPDE, начиная с работы  \cite{CNS85}, закрепилась традиция определять $m$-гессиановские операторы при помощи элементарных симметрических функций:
\begin{equation}F_m[u]=\sigma_m^{\frac{1}{m}}(\lambda(u_{xx})),\label{sim}\end{equation}
где $\lambda(u_{xx})=(\lambda_1,\lambda_2,\ldots,\lambda_n)$ -- набор собственных чисел матрицы Гессе.
В этом случае теория строится на основе $a$-гиперболических многочленов $\sigma_m(x)$, $x\in\mathbb{R}^n$, $a=(1,1,\ldots,1)$, и соответствующих конусов Гординга $V_m$ (см. параграф 4, пример 3). Такой подход позволяет иметь дело с векторами вместо матриц. Это упрощает внешний вид некоторых формул и условий. Например,  условие (\ref{geom})--(\ref{geom1}) выражается довольно коротко в классических терминах:
$$\sigma_{m-1}(\kappa_1,\kappa_2,\ldots,\kappa_n)>0,$$
где $\kappa_1,\kappa_2,\ldots,\kappa_n$ -- главные кривизны $\partial\Omega$.
Однако техническая проверка данного условия и вообще любые конкретные вычисления при этом сильно затрудняются. Например, возникают проблемы с дифференцированием оператора $F_m[u]$ в области $\Omega$. Поэтому форму записи (\ref{sim}) следует считать оправданной только исторически.
 \end{remark}

Таким образом, на примере этого краткого обзора $m$-гессиановских уравнений (\ref{hes}) видно, каким образом конусы Гординга продуцируют новые иерархии алгебро-геометрических понятий: распределение поверхностей по классам $p$-выпуклости согласовано с распределением функций по конусам $m$-допустимости, и оба порождены распределением симметричных матриц по конусам $m$-положительности. Подробное описание этих конструкций, основанных на теории Гординга, можно найти в работах \cite{F11}, \cite{IYP12}, \cite{I12}, \cite{IF15fix}, \cite{IF15}.

В заключение отметим, что уравнение (\ref{hes}) является простейшим стационарным уравнением, порожденным $I$-гиперболическим многочленом $tr_mX$.  Помимо него изучаются эволюционные $m$-гессиановские уравнения, уравнения $p$-кривизны, уравнения, порожденные отношениями многочленов $tr_mX$ разной степени и т. д.

\begin{thebibliography}{34}

\bibitem{Ar86}
Арнольд В. И. Гиперболические многочлены и отображения Вандермонда // Функциональный анализ и его приложения. -- 1986. -- Т. 20, вып. 2. -- С. 52—53.

\bibitem{I80}
Ивочкина Н. М. Интегральный метод барьерных функций и задача Дирихле для уравнений с операторами типа Монжа–Ампера // Математический сборник. -- 1980. -- Т. 112(154). -- № 2(6) -- С. 193–-206.

\bibitem{I83}
Ивочкина Н. М. Описание конусов устойчивости, порождаемых дифференциальными операторами типа Монжа-Ампера // Математический сборник. -- 1983. -- Вып. 22. -- С. 265--275.

\bibitem{I97}
Ивочкина Н. М. Мини-обзор основных понятий в теории полностью нелинейных дифференциальных уравнений второго порядка // Зап. научн. сем. ПОМИ. -- 1997. -- Т. 249. -- С. 199–-211.

\bibitem{I12}
Ивочкина Н. М. От конусов Гординга к $p$-выпуклым гипербоповерхностям // Современная математика. Фундаментальные направления. -- 2012. -- Т. 45 -- С. 94--104.

\bibitem{Iv90}
Ивочкина Н. М. Задача Дирихле для уравнения кривизны порядка $m$ // Алгебра и анализ. -- 1990. -- Т. 2, вып. 3. -- С. 192--217.

\bibitem{IF15}
Ивочкина Н. М., Филимоненкова Н. В. О новых структурах в теории полностью нелинейных уравнений // Современная математика. Фундаментальные направления. -- 2015 (в печати).

\bibitem{New-rus}
Ньютон И. Всеобщая арифметика или Книга об арифметическом синтезе и анализе. — М.: Изд. АН СССР. -- 1948. — 442 с.

\bibitem{Pet45}
Петровский И. Г. О диффузии волн и лакунах для гиперболических уравнений // Матем. сборник. -- 1945. -- 17 (59). -- С. 289—370.

\bibitem{F14prep}
Филимоненкова Н. В. Критерий Сильвестра для $m$-положительных матриц // Препринт Санкт-Петербургского математического общества. -- 2014. -- №7.

\bibitem{H48}
Харди Г. Г., Литтлвуд Дж. Е., Полиа Г. Неравенства. – М.: издательство «Государственное издательство иностранной литературы». -- 1948. –- 456 с.


\bibitem{ABG70}
Atiyah M., Bott R., Garding L. Lacunas for hyperbolic differential operators with constant coefficients // I. Acta Mathematica. -- 1970. -- 124. -- P. 109–189.

\bibitem{BGLS01}
Bauschke H. H., Guler O., Lewis A. S., Sendov H. S. Hyperbolic polynomials and convex analysis // Canad. J. Math.-- 2001. -- 53 (3). -- P. 470—488.

\bibitem{Bran11}
Branden P. Obstructions to determinantal representability // Advances in Mathematics. -- 2011. -- 226. -- P. 1202—1212.

\bibitem{CNS85}
Caffarelly L., Nirenberg L., Spruck J. The Dirichlet problem for nonlinear second order elliptic equations III. Functions of the eigenvalues of the Hessian // Acta Math. -- 1985. -- Vol. 155. -- P. 261--301.

\bibitem{Ch79}
Chaillou J. Hyperbolic differential polynomials and their singular perturbations. Mathematics and its applications; v. 3, 1979.

\bibitem{F11}
Filimonenkova N.V., On the classical solvability of the Dirichlet problem for nondegenerate m-Hessian equations// J. of Math. Sci.-- 2011. -- 178. -- P. 666--694.

\bibitem{IF15fix}
Filimonenkova N.V., Ivochkina N.M. On algebraic and geometric conditions in the theory of Hessian equations// Journal of Fixed Point Theory and Applications. -- 2014. -- Vol.16, Issue 1-2. -- P. 11–25.

\bibitem{Gar51}
Garding L. Linear hyperbolic partial differential equations with constant coefficients // Acta Math. -- 1951. -- Vol. 85, Issue 1. -- P. 1--62.

\bibitem{Gar59}
Garding L. An inequality for hyperbolic polynomials // J. Math. Mech. -- 1959. -- 8. -- P. 957--965.

\bibitem{Gu97}
Guler O. Hyperbolic polynomials and interior point methods for convex programming //
Math. Oper. Res.-- 1997. -- 22. -- P. 350--377.

\bibitem{Gurv04}
Gurvits L. Combinatorial and algorithmic aspects of hyperbolic polynomials. Electronic Colloquium on Computational Complexity, Report №70, 2004.

\bibitem{Harv09}
Harvey F. R., Lawson H. B. Garding's Theory of Hyperbolic Polynomials // Communications on Pure and Applied Mathematics. -- 2013. --
Vol. 66, Issue 7. -- P. 1102–1128.

\bibitem{Hor63}
Hormander L. Linear partial differential operators. -- Springer-Verlag, Berlin. -- 1963.

\bibitem{I99}
Ivochkina N. M. On the dirichlet problem for fully nonlinear parabolic equations //  Journal of Mathematical Sciences. -- 1999. -- Vol. 93, Issue 5. -- P. 689--696.

\bibitem{ITW04}
Ivochkina N. M., Trudinger, N., Wang, X.-J. The Dirichlet problem for degenerate Hessian equations // Comm.Partial Differ. Equations. -- 2004. -- Vol. 29. -- \mbox{P. 219--235.}

\bibitem{I06}
Ivochkina N. M. Weakly first-order interior estimates and Hessian equations // Journal of Mathematical Sciences. -- 2007. -- Vol. 143, Issue 2. -- P. 2875--2882.

\bibitem{IYP12}
Ivochkina N. M., Yakunina G. V., Prokof’eva S. I. The Garding cones in the modern theory of fully nonlin-ear second order differential equations // Journal of Mathematical Sciences. -– 2012. -– Vol. 184, Issue 3. –-  P. 295-–315.

\bibitem{IF13}
Ivochkina N. M., Filimonenkova N.V. On the bakgrounds of the theory of m-Hessian equations // Communications on Pure and Applied Analysis. -– 2013. -– Vol. 12. -– №4. –- P. 1687--1703.

\bibitem{Kos11}
Kostov V. Topics on Hyperbolic Polynomials in One Variable. -- Panoramas et Syntheses. -- 2011. -- 152 p.

\bibitem{Plaum13}
Kummer M., Plaumann D., Vinzant C. Hyperbolic polynomials, interlacers and sums of squares. Preprint, 2013. arXiv:1212.6696

\bibitem{Lax56}
Lax A. On Cauchy’s problem for partial differential equations with multiple characteristics // Comm. Pure Appl. Math. -- 1956. -- 9. -- P. 135–169.

\bibitem{Mac}
Maclaurin C. A second letter to Martin Folkes, Esq.: conserning the roots of equations, with the demonstration of other rules in algebra // Phil. Transactions. -- 1729. -- 36. -- P. 59-96.

\bibitem{New}
Newton I. Arithmetica universalis: sive De compositione et resolutione arithmetica. -- Vol. 1. -- 1707.

\bibitem{WN68}
Nuij W. A note on hyperbolic polynomials // Math. Scand. -- 1968. -- Vol. 23. -- P. 69--72.

\bibitem{Pem11}
Pemantle R. Hyperbolicity and stable polynomials in combinatorics and probability // Current Developments in Mathematics. -- Volume 2011. -- P. 58--123.

\bibitem{Re06}
Renegar J. Hyperbolic programs, and their derivative relaxations // Foundations of Computational Mathematics. --
2006. -- Vol. 6, Issue 1. -- P. 59--79.

\bibitem{Sv68}
Svensson L. Necessary and sufficient conditions for the hyperbolicity ofpolynomials
with hyperbolic principal part // Arkiv fur Math. -- 1969. -- 8. -- P. 145--162.

\bibitem{W09}
Wang X.-J. The k-hessian equation // Lecture Notes in Mathematics. –- 2009. –- Vol. 1977. –- P. 177--252.

\end{thebibliography}

\end{document}







