Matrice hessienne

«  Hessien (mathématiques) » et «  Hessienne (mathématiques) » redirigent ici. Pour les autres significations, voir Hesse.

En mathématiques, la matrice hessienne (ou simplement le hessien ou la hessienne) d'une fonction numérique ${\displaystyle f}$ est la matrice carrée, notée ${\displaystyle H(f)}$, de ses dérivées partielles secondes. Le terme « hessien » a été introduit par James Joseph Sylvester^{[réf. nécessaire]}, en hommage au mathématicien allemand Ludwig Otto Hesse.

Considérons une fonction ${\displaystyle f:\mathbb {R} ^{n}\to \mathbb {R} }$. La fonction est à valeurs réelles : elle associe à tout point ${\displaystyle (x_{1},...,x_{n})}$un nombre réel ${\displaystyle f(x_{1},...,x_{n})}$. On suppose que toutes les dérivées partielles secondes existent. La matrice hessienne de ${\displaystyle f}$, notée ${\displaystyle H(f)}$, est telle que le coefficient d'indice ${\displaystyle i,j}$ vaut ${\displaystyle H_{ij}(f)={\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}}$.

Autrement dit,

${\displaystyle H(f)={\begin{bmatrix}{\frac {\partial ^{2}f}{{\partial x_{1}}^{2}}}&{\frac {\partial ^{2}f}{\partial x_{1}\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{1}\partial x_{n}}}\\{\frac {\partial ^{2}f}{\partial x_{2}\partial x_{1}}}&{\frac {\partial ^{2}f}{{\partial x_{2}}^{2}}}&\cdots &{\frac {\partial ^{2}f}{\partial x_{2}\partial x_{n}}}\\\vdots &\vdots &\ddots &\vdots \\{\frac {\partial ^{2}f}{\partial x_{n}\partial x_{1}}}&{\frac {\partial ^{2}f}{\partial x_{n}\partial x_{2}}}&\cdots &{\frac {\partial ^{2}f}{{\partial x_{n}}^{2}}}\end{bmatrix}}}$ .

On appelle discriminant hessien (ou simplement hessien) le déterminant de cette matrice.

Soit notamment ${\displaystyle f}$ une fonction de classe ${\displaystyle {\mathcal {C}}^{2}}$ définie sur un ouvert ${\displaystyle U}$ de l'espace ${\displaystyle E}$, à valeurs réelles. Sa matrice hessienne est bien définie et en vertu du théorème de Schwarz, elle est symétrique.

On appelle forme hessienne la forme quadratique associée à la matrice hessienne.

On suppose ${\displaystyle f}$ fonction de classe C² sur un ouvert ${\displaystyle U}$. La matrice hessienne permet, dans de nombreux cas, de déterminer la nature des points critiques de la fonction ${\displaystyle f}$, c'est-à-dire des points d'annulation du gradient.

• Si ${\displaystyle a}$ est un point de minimum local de ${\displaystyle f}$, alors c'est un point critique et la hessienne en ${\displaystyle a}$ est positive (c'est-à-dire que la forme hessienne est positive).
• Si ${\displaystyle a}$ est un point de maximum local de ${\displaystyle f}$, alors c'est un point critique et la hessienne en ${\displaystyle a}$ est négative (c'est-à-dire que la forme hessienne est négative)^[1].

En particulier, si la hessienne en un point critique admet au moins une valeur propre strictement positive et une valeur propre strictement négative, le point critique est un point col.

Précisément, un point critique de ${\displaystyle f}$ est dit dégénéré lorsque le discriminant hessien y est nul, autrement dit lorsque 0 est valeur propre de la hessienne. En un point critique non dégénéré, le signe des valeurs propres (toutes non nulles) détermine la nature de ce point (point d'extremum local ou point col) :

• si la hessienne est définie positive, la fonction atteint un minimum local strict au point critique ;
• si la hessienne est définie négative, la fonction atteint un maximum local strict au point critique ;
• s'il y a des valeurs propres de chaque signe, le point critique est un point col (cf. supra).

Dans ce dernier cas, on définit l'indice du point critique comme la dimension maximale d'un sous-espace sur lequel la hessienne est définie négative. C'est aussi le nombre de valeurs propres négatives.

En dimension deux notamment, le discriminant hessien étant le produit des valeurs propres, son signe suffit à déterminer la nature d'un point critique non dégénéré.

Enfin pour un point critique dégénéré, aucune de ces implications n'est vraie. L'un des exemples les plus simples de point critique dégénéré est la selle de singe.

Si ${\displaystyle C}$ est la courbe algébrique d'équation projective (homogène) ${\displaystyle f(x,y,z)=0}$, on appelle courbe hessienne (ou simplement hessienne) de ${\displaystyle C}$ la courbe dont l'équation projective est ${\displaystyle |H(f)|(x,y,z)=0}$, où ${\displaystyle |H(f)|}$ est le hessien (le déterminant de la matrice hessienne) de ${\displaystyle f}$. La hessienne de ${\displaystyle f}$ a pour intersection avec ${\displaystyle C}$ les points critiques et les points d'inflexion de ${\displaystyle C}$^[2]. Si ${\displaystyle C}$ est de degré ${\displaystyle d}$, sa hessienne est de degré ${\displaystyle 3(d-2)}$ ; d'après le théorème de Bézout, le nombre des points d'inflexion d'une courbe régulière de degré ${\displaystyle d}$ est donc ${\displaystyle 3d(d-2)}$, ce qui est un cas particulier d'une des formules de Plücker.

Lorsque ${\displaystyle M}$ est une variété différentielle et ${\displaystyle f}$ une fonction numérique lisse sur ${\displaystyle M}$, il est possible de définir la différentielle ${\displaystyle \mathrm {d} _{x}f}$ de ${\displaystyle f}$ en tout point, mais pas la matrice hessienne, comme on le voit en écrivant une formule de changement de cartes. Cependant, lorsque ${\displaystyle m}$ est un point critique pour la fonction ${\displaystyle f}$, la matrice hessienne de ${\displaystyle f}$ en ${\displaystyle m}$ peut effectivement être définie. On peut donc parler de point critique dégénéré ou non et définir l'indice d'un tel point.

Il est possible de fournir une définition de cette hessienne en un point critique ${\displaystyle m}$, sans recourir à des cartes locales. En effet, le point ${\displaystyle m}$ admet pour image par ${\displaystyle \mathrm {d} _{m}f}$ l'élément nul ${\displaystyle 0_{m}}$ de la fibre en ${\displaystyle m}$ du fibré cotangent ${\displaystyle T^{\ast }M}$. L'application linéaire tangente ${\displaystyle T_{m}\mathrm {d} f}$ arrive donc dans l'espace tangent en ce point, qui admet une décomposition canonique ${\displaystyle T_{0_{m}}T^{\ast }M\simeq T_{m}M\oplus T_{m}^{\ast }M}$. La hessienne s'obtient en ne considérant que le deuxième terme de cette décomposition (le premier est trivial)^[3]. On peut donc la voir comme une application bilinéaire

${\displaystyle \mathrm {Hess} _{m}(f):(v,w)\in T_{m}M\times T_{m}M\mapsto T_{m}(df)(v)(w).}$

Lorsque ${\displaystyle (M,g)}$ est une variété riemannienne et ${\displaystyle f\in {\mathcal {C}}^{\infty }(M;\mathbb {R} )}$, la connexion de Levi-Civita ${\displaystyle \nabla }$ de la métrique riemannienne ${\displaystyle g}$ nous permet de définir le tenseur hessien

${\displaystyle \mathrm {Hess} (f)\in \Gamma ^{\infty }(T^{*}M\otimes T^{*}M)}$

de ${\displaystyle f}$ par :

${\displaystyle \mathrm {Hess} (f):=\nabla \nabla f=\nabla \mathrm {d} f}$

En coordonnées locales ${\displaystyle \{x_{i}\}}$, le tenseur hessien s'exprime comme^[4] :

${\displaystyle \mathrm {Hess} (f)=\nabla _{i}\,\partial _{j}f\ \mathrm {d} x_{i}\!\otimes \!\mathrm {d} x_{j}=\left({\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}-\Gamma _{ij}^{k}{\frac {\partial f}{\partial x_{k}}}\right)\mathrm {d} x_{i}\otimes \mathrm {d} x_{j}}$

où les ${\displaystyle \Gamma _{ij}^{k}}$ sont les symboles de Christoffel de la connexion ${\displaystyle \nabla }$. Le tenseur hessien possède aussi les expressions suivantes :

${\displaystyle \mathrm {Hess} (f)(X,Y)=g(\nabla _{X}\mathrm {grad} f,Y)}$

${\displaystyle \mathrm {Hess} (f)(X,Y)=X(Yf)-\mathrm {d} f(\nabla _{X}Y)}$.

À l'aide du tenseur hessien, on peut étendre la notion de fonction convexe (ou strictement convexe) aux fonctions numériques sur les variétés riemanniennes : ce sont celles pour lesquelles le hessien est, en chaque point, une forme bilinéaire positive (ou définie positive)^[5].

On peut aussi retrouver le fait que le hessien d'une fonction réelle lisse ${\displaystyle f}$ sur une variété différentielle ${\displaystyle M}$ est bien définie, indépendamment de tout choix de métrique, aux points critiques de ${\displaystyle f}$. En effet, il est toujours possible de munir ${\displaystyle M}$ d'une métrique riemannienne particulière. Et si ${\displaystyle m}$ est un point critique de ${\displaystyle f}$, l'expression en coordonnées locales du tenseur hessien en ${\displaystyle m}$ est :

${\displaystyle \mathrm {Hess} (f)_{m}=\left.{\frac {\partial ^{2}f}{\partial x_{i}\partial x_{j}}}\right|_{m}\mathrm {d} x_{i}\otimes \mathrm {d} x_{j}}$

Les coefficients du tenseur hessien de ${\displaystyle f}$ en un point critique ${\displaystyle m\in \mathrm {crit} (f)}$ sont bien indépendants de la métrique riemannienne.

Le lemme de Morse^[6] montre que le comportement d'une fonction régulière au voisinage d'un point critique non dégénéré est entièrement déterminé par la connaissance de l'indice du point critique.

On qualifie un tel système de coordonnées de Morse.

Il résulte notamment du lemme que les points critiques non dégénérés sont isolés.

Le lemme de Morse se généralise aux espaces de Hilbert sous le nom de lemme de Morse-Palais (en).

Une fonction dont tous les points critiques sont non dégénérés et toutes les valeurs critiques distinctes est appelée fonction de Morse. La théorie de Morse a pour objectif de relier l'étude de la topologie de la variété à celle des points critiques des fonctions qui peuvent y être définies.

• Forme quadratique
• Matrice jacobienne
• Point critique
• Théorème de Sard
• Lemme de Hadamard

G. Vial, Mini-cours d’optimisation

• Portail de l'analyse