Hessienne et extrema libres en L2 de maths : cours et méthodes

Supposons que \(\frac{\partial f}{\partial x_j}\) existe sur \(U\). Si cette fonction admet à son tour une dérivée partielle par rapport à \(x_i\), on la note \[\frac{\partial^2 f}{\partial x_i \partial x_j} = \frac{\partial}{\partial x_i}\left(\frac{\partial f}{\partial x_j}\right).\] Lorsque toutes ces dérivées existent et sont continues sur \(U\), on dit que \(f\) est de classe \(C^2\) sur \(U\).

Prenons \(f(x, y) = y\sin(x^2) + xe^{2y}\), de classe \(C^2\) sur \(\mathbb{R}^2\) comme composée de fonctions usuelles. D’abord, \(\frac{\partial f}{\partial x} = 2xy\cos(x^2) + e^{2y}\) et \(\frac{\partial f}{\partial y} = \sin(x^2) + 2xe^{2y}\). Ensuite, en dérivant la première par rapport à \(y\), on obtient \(2x\cos(x^2) + 2e^{2y}\). De même, en dérivant la seconde par rapport à \(x\), on trouve \(2x\cos(x^2) + 2e^{2y}\). Les deux dérivées croisées coïncident.

Soit \(f\) de classe \(C^2\) sur l’ouvert \(U\). En chaque point de \(U\) et pour tout couple d’indices \((i, j)\), on a \[\frac{\partial^2 f}{\partial x_i \partial x_j} = \frac{\partial^2 f}{\partial x_j \partial x_i}.\]

Il suffit de traiter deux variables, au point \((a, b)\). Pour \(h\) et \(k\) petits et non nuls, posons \(\Delta = f(a + h, b + k) – f(a + h, b) – f(a, b + k) + f(a, b)\). D’une part, \(\Delta = \varphi(a + h) – \varphi(a)\) avec \(\varphi(x) = f(x, b + k) – f(x, b)\). Le théorème des accroissements finis, appliqué deux fois, fournit un point \((\xi, \eta)\) du rectangle de sommets \((a, b)\) et \((a + h, b + k)\) tel que \(\Delta = hk\,\frac{\partial^2 f}{\partial y \partial x}(\xi, \eta)\). Symétriquement, \(\Delta\) est aussi l’accroissement de \(\psi(y) = f(a + h, y) – f(a, y)\) entre \(b\) et \(b + k\), ce qui fournit \(\Delta = hk\,\frac{\partial^2 f}{\partial x \partial y}(\xi^{\prime}, \eta^{\prime})\). En divisant par \(hk\) et en faisant tendre \((h, k)\) vers \((0, 0)\), la continuité des dérivées croisées donne l’égalité.

Soit \(f(x, y) = \frac{xy^3}{x^2 + y^2}\) si \((x, y) \neq (0, 0)\) et \(f(0, 0) = 0\). Pour \(y \neq 0\), le taux \(\frac{f(h, y) – f(0, y)}{h} = \frac{y^3}{h^2 + y^2}\) tend vers \(y\) ; pour \(y = 0\), il est nul. Ainsi \(\frac{\partial f}{\partial x}(0, y) = y\) pour tout \(y\), d’où \(\frac{\partial^2 f}{\partial y \partial x}(0, 0) = 1\). En revanche, \(\frac{f(x, k) – f(x, 0)}{k} = \frac{xk^2}{x^2 + k^2}\) tend vers 0. La dérivée partielle en \(y\) est donc nulle en chaque point de l’axe des abscisses, et \(\frac{\partial^2 f}{\partial x \partial y}(0, 0) = 0\). Les dérivées croisées diffèrent : \(f\) n’est donc pas \(C^2\) au voisinage de l’origine.

Si \(f\) est de classe \(C^2\) sur \(U\) et \(a \in U\), la matrice hessienne de \(f\) en \(a\) est la matrice \(H_f(a)\) de taille \(n\), dont le coefficient en ligne \(i\) et colonne \(j\) vaut \(\frac{\partial^2 f}{\partial x_i \partial x_j}(a)\). D’après le théorème de Schwarz, cette matrice est symétrique.

Pour deux variables, on utilise souvent les lettres de Monge \(r\), \(s\) et \(t\) : ce sont, dans l’ordre, la dérivée seconde deux fois en \(x\), la dérivée croisée et la dérivée seconde deux fois en \(y\), prises au point \(a\). La hessienne s’écrit alors \(\begin{pmatrix} r & s \\ s & t \end{pmatrix}\), et son déterminant vaut \(rt – s^2\).

Soit \(f\) de classe \(C^2\) sur \(U\) et \(a \in U\). Quand \(h\) tend vers 0, \[f(a + h) = f(a) + \nabla f(a) \cdot h + \frac{1}{2}\,h^{\top}H_f(a)h + o\left(\|h\|^2\right).\]

Fixons \(r_0 > 0\) tel que la boule fermée de centre \(a\) et de rayon \(r_0\) soit incluse dans \(U\). Pour \(\|h\| \leqslant r_0\), posons \(\varphi(\tau) = f(a + \tau h)\) pour \(\tau \in [0, 1]\). La règle de la chaîne donne \(\varphi^{\prime}(\tau) = \nabla f(a + \tau h) \cdot h\), puis \(\varphi^{\prime\prime}(\tau) = h^{\top}H_f(a + \tau h)h\). Ensuite, on applique à \(\varphi\) le développement de Taylor au premier ordre, avec un reste sous forme d’intégrale : \(\varphi(1) = \varphi(0) + \varphi^{\prime}(0) + \int_0^1 (1 – \tau)\varphi^{\prime\prime}(\tau)\,\mathrm{d}\tau\). Or \(\int_0^1 (1 – \tau)\,\mathrm{d}\tau = \frac{1}{2}\). L’écart entre le reste et \(\frac{1}{2}h^{\top}H_f(a)h\) est donc majoré par \(\frac{1}{2}\|h\|^2\) fois le maximum, sur le segment \([a, a + h]\), de la norme de \(H_f(a + \tau h) – H_f(a)\). Enfin, ce maximum tend vers 0 avec \(h\), par continuité des dérivées secondes.

Développons \(f(x, y) = \ln(1 + x + 2y)\) en \((0, 0)\). La fonction est \(C^2\) sur l’ouvert où \(1 + x + 2y > 0\). D’abord, \(\nabla f(x, y) = \frac{1}{1 + x + 2y}(1, 2)\), donc \(\nabla f(0, 0) = (1, 2)\). Ensuite, les dérivées secondes valent \(-\frac{1}{(1 + x + 2y)^2}\) fois \(1\), \(2\) et \(4\). Ainsi \(H_f(0, 0) = \begin{pmatrix} -1 & -2 \\ -2 & -4 \end{pmatrix}\), et \[f(x, y) = x + 2y – \frac{1}{2}(x + 2y)^2 + o\left(x^2 + y^2\right).\] On retrouve le développement \(\ln(1 + w) = w – \frac{w^2}{2} + o(w^2)\) avec \(w = x + 2y\), ce qui confirme le calcul.

Le point \(a \in U\) est un minimum local de \(f\) lorsque \(f(x) \geqslant f(a)\) pour tous les \(x\) de \(U\) assez proches de \(a\), c’est-à-dire situés dans une certaine boule de centre \(a\). Le minimum est strict si l’inégalité est stricte pour \(x \neq a\). Si l’inégalité vaut sur tout le domaine, le minimum est global. Les maxima se définissent de même, et le mot extremum désigne l’un ou l’autre.

Un point \(a\) de \(U\) est un point critique de \(f\), supposée différentiable, si \(\nabla f(a) = 0\), c’est-à-dire si toutes les dérivées partielles d’ordre 1 s’annulent en \(a\).

Soit \(f\) différentiable sur l’ouvert \(U\). En tout point de \(U\) où \(f\) présente un extremum local, le gradient de \(f\) est nul.

Supposons par exemple un minimum local. Fixons un indice \(i\) et considérons \(g(\tau) = f(a + \tau e_i)\), définie pour \(\tau\) proche de 0 parce que \(U\) est ouvert. Cette fonction d’une variable admet un minimum local en 0, point intérieur de son intervalle de définition. Par conséquent, \(g^{\prime}(0) = 0\). Or \(g^{\prime}(0) = \frac{\partial f}{\partial x_i}(a)\), ce qui conclut.

1. Justifier que \(f\) est \(C^2\) sur un ouvert et calculer ses dérivées partielles d’ordre 1.
2. Écrire le système \(\nabla f = 0\) et le résoudre en distinguant tous les cas, notamment lors d’une factorisation.
3. Vérifier chaque solution en la réinjectant dans le système.
4. Étudier ensuite la nature de chaque point critique, point par point.

Cherchons les points critiques de \(f(x, y) = 2x^3 – 6xy + 3y^2\) sur \(\mathbb{R}^2\). Les dérivées partielles sont \(6x^2 – 6y\) et \(-6x + 6y\). La seconde équation impose \(y = x\). Ensuite, la première devient \(x^2 = x\), donc \(x = 0\) ou \(x = 1\). Les points critiques sont ainsi \((0, 0)\) et \((1, 1)\). Nous déterminerons leur nature dans la partie suivante.

Soit \(f\) de classe \(C^2\) sur un ouvert de \(\mathbb{R}^2\) et \(a\) un point critique, de hessienne \(\begin{pmatrix} r & s \\ s & t \end{pmatrix}\).

• Si \(rt – s^2 > 0\) et \(r > 0\), alors \(f\) admet en \(a\) un minimum local strict.
• Si \(rt – s^2 > 0\) et \(r < 0\), alors \(f\) admet en \(a\) un maximum local strict.
• Si \(rt – s^2 < 0\), alors \(a\) est un point col, où \(f\) ne présente aucun extremum.
• Si \(rt – s^2 = 0\), on ne peut pas conclure avec l’ordre 2.

Supposons \(rt – s^2 > 0\) et \(r > 0\). La mise sous forme canonique donne \(q_a(u, v) = r\left(u + \frac{s}{r}v\right)^2 + \frac{rt – s^2}{r}v^2\). Cette forme est donc strictement positive hors de l’origine. Comme elle est continue, elle atteint sur le cercle unité, qui est compact, un minimum \(m > 0\). Par homogénéité, \(q_a(h) \geqslant m\|h\|^2\) pour tout \(h\). Ensuite, Taylor-Young fournit \(\delta > 0\) tel que le reste soit, en valeur absolue, au plus \(\frac{m}{3}\|h\|^2\) dès que \(\|h\| < \delta\). Pour \(0 < \|h\| < \delta\), l’écart \(f(a + h) – f(a)\) est donc minoré par \(\left(\frac{m}{2} – \frac{m}{3}\right)\|h\|^2\), qui est strictement positif. Le cas \(r < 0\) s’en déduit en remplaçant \(f\) par \(-f\). Enfin, si \(rt – s^2 < 0\), le trinôme \(q_a\) prend des valeurs strictement positives dans une direction \(h_1\) et strictement négatives dans une direction \(h_2\). Le long de la droite dirigée par \(h_1\), on a \(f(a + \tau h_1) – f(a) = \frac{\tau^2}{2}q_a(h_1) + o(\tau^2)\), qui est strictement positif pour \(\tau\) petit non nul. De même, \(f\) prend des valeurs strictement plus petites que \(f(a)\) le long de \(h_2\).

Reprenons \(f(x, y) = 2x^3 – 6xy + 3y^2\). Ses dérivées secondes sont \(r = 12x\), \(s = -6\) et \(t = 6\). En \((0, 0)\), on trouve \(rt – s^2 = -36 < 0\) : c’est un point col. En \((1, 1)\), on trouve \(rt – s^2 = 72 – 36 = 36 > 0\) avec \(r = 12 > 0\) : c’est un minimum local strict, de valeur \(f(1, 1) = -1\). Ce minimum n’est pourtant pas global, puisque \(f(x, 0) = 2x^3\) tend vers \(-\infty\) quand \(x\) tend vers \(-\infty\).

1. Calculer les trois dérivées secondes en un point quelconque, une fois pour toutes.
2. Évaluer \(r\), \(s\) et \(t\) en chaque point critique, puis le signe de \(rt – s^2\).
3. Si \(rt – s^2 > 0\), lire le signe de \(r\) ; si \(rt – s^2 < 0\), conclure à un col.
4. Si \(rt – s^2 = 0\), abandonner le critère et étudier la fonction à la main.
5. Pour un extremum global, chercher un argument supplémentaire.

Pour prouver qu’un point critique \(a\) n’est pas un extremum, il suffit d’exhiber deux chemins issus de \(a\) : l’un le long duquel \(f\) est strictement plus grande que \(f(a)\), l’autre le long duquel elle est strictement plus petite. Ces chemins peuvent être des droites ou des courbes.

Posons \(f_1(x, y) = (x – y)^2 + y^4\) et \(f_2(x, y) = (x – y)^2 – y^4\). L’origine est un point critique de chacune, avec la même hessienne \(\begin{pmatrix} 2 & -2 \\ -2 & 2 \end{pmatrix}\), de déterminant nul. Pourtant, \(f_1\) est positive et ne s’annule qu’en \((0, 0)\) : c’est un minimum strict. Au contraire, \(f_2(\tau, \tau) = -\tau^4 < 0\) et \(f_2(\tau, 0) = \tau^2 > 0\) : l’origine est un col pour \(f_2\).

Si \(f\) est \(C^2\) et admet un minimum local en \(a\), alors \(q_a(h) \geqslant 0\) pour tout \(h\). Autrement dit, la hessienne d’un minimum local est positive.

On sait déjà que \(\nabla f(a) = 0\). Pour \(h\) fixé et \(\tau\) proche de 0, Taylor-Young donne \(0 \leqslant f(a + \tau h) – f(a) = \frac{\tau^2}{2}q_a(h) + o(\tau^2)\). En divisant par \(\tau^2\) puis en faisant tendre \(\tau\) vers 0, on obtient \(q_a(h) \geqslant 0\).

Toute fonction continue sur une partie compacte non vide \(K\) de \(\mathbb{R}^n\) y possède une plus petite et une plus grande valeur. Autrement dit, on trouve deux points \(a\) et \(b\) de \(K\) vérifiant \(f(a) \leqslant f \leqslant f(b)\) sur \(K\) tout entier.

1. Justifier l’existence des extrema globaux : \(f\) continue sur \(K\) compact.
2. Chercher les points critiques situés à l’intérieur de \(K\) et calculer \(f\) en chacun ; leur nature est inutile.
3. Paramétrer chaque morceau du bord et étudier la fonction d’une variable obtenue, extrémités comprises.
4. Comparer toutes les valeurs : la plus grande est le maximum, la plus petite le minimum.

Soit \(T\) le triangle plein défini par \(x \geqslant 0\), \(y \geqslant 0\) et \(x + y \leqslant 3\), et \(f(x, y) = x^2 + y^2 – xy – x – y\). D’abord, \(T\) est fermé et borné, donc compact, et \(f\) est continue : les extrema existent. Ensuite, le gradient \((2x – y – 1, 2y – x – 1)\) s’annule seulement en \((1, 1)\), intérieur à \(T\), où \(f(1, 1) = -1\).

Étudions enfin le bord. Sur le côté \(y = 0\), on a \(f(x, 0) = x^2 – x\) pour \(x \in [0, 3]\), qui varie entre \(-\frac{1}{4}\) et \(6\). Par symétrie, le côté \(x = 0\) donne les mêmes valeurs. Sur l’hypoténuse, \(f(x, 3 – x) = 3x^2 – 9x + 6 = 3(x – 1)(x – 2)\), qui varie entre \(-\frac{3}{4}\) et \(6\). En comparant, le minimum global vaut \(-1\), atteint en \((1, 1)\), et le maximum global vaut \(6\), atteint en \((3, 0)\) et \((0, 3)\).

Une fonction continue et coercive sur \(\mathbb{R}^n\) admet un minimum global.

Fixons un point \(x_0\). Par coercivité, il existe \(R > 0\) tel que \(f(x) > f(x_0)\) dès que \(\|x\| > R\). Quitte à augmenter \(R\), on peut supposer \(\|x_0\| \leqslant R\). Sur la boule fermée de rayon \(R\), qui est compacte, \(f\) atteint un minimum \(m \leqslant f(x_0)\). Hors de cette boule, \(f\) est strictement plus grande que \(f(x_0)\), donc que \(m\). Par conséquent, \(m\) est le minimum global.

Soit \(f(x, y) = x^4 + y^2 – 4x – 2y\). D’abord, \(x^4 – 4x \geqslant -3\) et \(y^2 – 2y \geqslant -1\), et chacun de ces termes tend vers \(+\infty\) quand sa variable tend vers l’infini en valeur absolue. Or, si \(\|(x, y)\|\) devient grand, \(|x|\) ou \(|y|\) devient grand. Donc \(f\) est coercive. Ensuite, un minimum global existe et c’est un point critique, car \(\mathbb{R}^2\) est ouvert. Le système \(4x^3 – 4 = 0\), \(2y – 2 = 0\) a pour seule solution \((1, 1)\). Le minimum global vaut donc \(f(1, 1) = 1 + 1 – 4 – 2 = -4\), sans aucun calcul de hessienne.

• S’exercer : exercices corrigés de L2 de maths sur hessienne et extrema libres
• Bases utiles : Dérivées partielles, différentielle et jacobienne
• Chapitre d’avant : Dérivées partielles, différentielle et jacobienne
• Chapitre d’après : Probabilités sur un univers dénombrable
• Vérifier ses acquis : QCM de L2 de maths sur hessienne et extrema libres
• Contrôle corrigé en temps limité : Points critiques et points selles : contrôle de maths en L2
• Tous les chapitres : le sommaire de la L2 de maths
• Après le bac : les maths post-bac, de la MPSI à la L3