Extrema libres

Objectifs du chapitre

À la fin de ce chapitre, vous serez capable de:

distinguer maximum et minimum, local et global, strict et large, et de ne pas confondre un extremum avec un point critique;
écrire et démontrer la condition nécessaire du premier ordre (théorème de Fermat) et calculer les points critiques d'une fonction de plusieurs variables;
classer un point critique non dégénéré par la hessienne, et en deux variables par le test $r t - s^{2}$ ;
traiter à la main le cas douteux $r t - s^{2} = 0$ en étudiant $f$ le long de droites, de paraboles ou par un raisonnement de signe;
chercher les extrema d'une fonction continue sur un compact en combinant points critiques intérieurs et étude séparée du bord, et conclure par le théorème des bornes;
reconnaître une fonction coercive sur un domaine non borné et en déduire l'existence d'un minimum global;
dériver les équations normales de la méthode des moindres carrés et résoudre un problème d'optimisation libre à deux variables de conception.

Le vocabulaire des extremums

Maximum, minimum, local, global, strict

Optimiser, c'est chercher le meilleur: le dimensionnement le moins coûteux, la trajectoire la plus rapide, le jeu de paramètres qui rend un modèle le plus proche des mesures. Dès que le problème a plus d'une variable de décision, c'est l'analyse à plusieurs variables qui fournit les outils. Ce chapitre traite le cas libre, c'est-à-dire sans contrainte d'égalité entre les variables; le chapitre 8 traitera le cas lié, où les variables sont astreintes à une ou plusieurs relations $g (x) = 0$ .

Commençons par fixer le vocabulaire, car beaucoup d'erreurs d'examen sont des erreurs de vocabulaire.

Trois remarques valent d'être retenues dès maintenant.

Un extremum global est local, la réciproque est fausse. Une fonction peut avoir plusieurs minimums locaux de valeurs différentes; un seul d'entre eux (au mieux) est global. C'est précisément ce qui rend l'optimisation numérique difficile: un algorithme de descente s'arrête au premier minimum local rencontré, et rien dans l'information locale ne dit s'il est global.

Le maximum, s'il existe, est unique comme valeur, pas comme point. La fonction $f (x, y) = cos (x)$ atteint la valeur $1$ en une infinité de points $(2 k π, y)$ . On dit que le maximum global vaut $1$ et qu'il est atteint sur un ensemble de points.

L'existence n'est jamais gratuite. $f (x, y) = x$ n'a ni maximum ni minimum sur $R^{2}$ ; $f (x, y) = e^{- x^{2} - y^{2}}$ a un maximum global mais pas de minimum. Nous verrons deux théorèmes d'existence: le théorème des bornes sur un compact (chapitre 2) et un argument de coercivité sur un domaine non borné.

Ce que l'Analyse I nous a appris, et ce qu'il faut réapprendre

En une variable (Analyse I, chapitre 8), le tableau est simple et complet. Si $f$ est dérivable sur un intervalle ouvert et admet un extremum local en $a$ , alors $f^{'} (a) = 0$ . Réciproquement, si $f^{'} (a) = 0$ et $f^{''} (a) > 0$ , on a un minimum local strict. Et s'il y a doute, le tranche: négative puis positive donne un minimum, positive puis négative un maximum, de même signe des deux côtés donne un point d'inflexion à tangente horizontale.

Trois de ces quatre outils survivent en dimension $n$ ; le quatrième, non.

La condition $f^{'} (a) = 0$ devient $\nabla f (a) = 0$ : c'est le théorème de Fermat, démontré plus bas.
La condition $f^{''} (a) > 0$ devient « $H_{f} (a)$ définie positive»: la dérivée seconde est remplacée par une dont il faut classer la forme quadratique associée (chapitre 5 et annexe A).

C'est cette dernière remarque qui doit guider votre prudence. L'intuition d'une variable, transportée telle quelle, ment; les théorèmes, eux, restent vrais parce qu'ils ont été démontrés dans le bon cadre.

Extremum n'est pas point critique

La définition suivante a déjà été posée au chapitre 5 (juste avant le théorème 5.9); nous la rappelons parce qu'elle est le pivot de tout ce chapitre.

«Point critique» est une propriété du gradient; «extremum» est une propriété des valeurs de $f$ autour du point. Les deux notions sont reliées par le théorème de Fermat, mais elles ne coïncident pas: sur $R^{2}$ , la fonction $f (x, y) = x^{2} - y^{2}$ a un point critique en l'origine sans y avoir d'extremum, et la fonction $f (x, y) = ∥(x, y)∥ = x^{2} + y^{2}$ a un minimum global en l'origine sans y avoir de point critique — elle n'y est même pas différentiable.

Le mot selle vient de l'image: au voisinage de l'origine, le graphe de $x^{2} - y^{2}$ ressemble à une selle de cheval, montant dans la direction du cavalier et descendant sur les flancs. On dit aussi col, par analogie avec un col de montagne: point le plus bas de la crête et point le plus haut du chemin qui franchit la crête.

La condition nécessaire du premier ordre

Le théorème de Fermat

Démonstration. Traitons le cas d'un minimum local; le cas d'un maximum s'en déduit en remplaçant $f$ par $- f$ , qui a un minimum local là où $f$ a un maximum et dont le gradient est $- \nabla f$ .

Soit $r > 0$ tel que $B (a, r) \subset U$ (possible car $U$ est ouvert) et $f (x) \geq f (a)$ sur cette boule. Fixons $i \in {1, \dots, n}$ et introduisons la

φ_{i} (t) = f (a_{1}, \dots, a_{i - 1}, a_{i} + t, a_{i + 1}, \dots, a_{n}),

définie pour $∣ t ∣ < r$ puisque le point considéré reste alors dans $B (a, r)$ . Par définition de la dérivée partielle, $φ_{i}$ est dérivable en $0$ et $φ_{i}^{'} (0) = \frac{\partial f}{\partial x _{i}} (a)$ .

Or $φ_{i} (t) \geq φ_{i} (0)$ pour tout $t$ de $] - r, r [$ : la fonction d'une variable $φ_{i}$ admet un minimum local en , qui est un point à son intervalle de définition. Le théorème de Fermat d'Analyse I (chapitre 8) donne alors .

Reprenons-en l'argument, il tient en deux lignes et il est instructif. Pour $0 < t < r$ , le taux d'accroissement $\frac{φ _{i} ( t ) - φ _{i} ( 0 )}{t}$ est ; en faisant , on obtient . Pour , le même quotient est (numérateur positif, dénominateur négatif); en faisant , on obtient . Les deux inégalités donnent .

Ceci vaut pour chaque $i$ , donc toutes les composantes de $\nabla f (a)$ sont nulles. $□$

La démonstration montre bien où chaque hypothèse sert. L'ouverture de $U$ sert à disposer d'un voisinage de part et d'autre de $a$ dans chaque direction de coordonnée: c'est elle qui permet de faire tendre $t$ vers $0$ des deux côtés. L'existence des dérivées partielles sert à donner un sens à $φ_{i}^{'} (0)$ . Aucune continuité n'est requise: le théorème s'applique même à une fonction discontinue en dehors de $a$ , pourvu que ses dérivées partielles existent en $a$ .

Calculer les points critiques

Chercher les points critiques, c'est résoudre le système $\nabla f (x) = 0$ , soit $n$ équations à $n$ inconnues. En général non linéaire, ce système peut n'avoir aucune solution, en avoir un nombre fini ou une infinité.

Deux réflexes de calcul rendent service. Le premier: factoriser avant de diviser. Dans le système $y (1 - 2 x - y) = 0$ , $x (1 - x - 2 y) = 0$ , on ne divise pas par $y$ ni par $x$ sans discuter les cas et , sous peine de perdre des solutions. Le second: . Pour , la différence des deux équations du gradient donne , ce qui sépare aussitôt les cas et — nous utiliserons cette factorisation à la section de l'explorateur.

Question 7.1

Soit $f$ une fonction de classe $C^{1}$ sur $R^{2}$ qui atteint son maximum global sur le disque fermé $D = {x^{2} + y^{2} \leq 1}$ en un point $a$ . Que peut-on affirmer avec certitude?

La condition suffisante du second ordre

Ce que le chapitre 5 a mis en place

Le chapitre 5 a établi deux résultats dont nous allons faire un usage constant, et qu'il est inutile de redémontrer ici.

Le premier est la formule de Taylor à l'ordre deux avec reste de Young: si $f$ est de classe $C^{2}$ sur un ouvert $U$ et $a \in U$ , alors pour $h$ assez petit

f (a + h) = f (a) + ⟨ \nabla f (a), h ⟩ + \frac{1}{2} ⟨ H_{f} (a) h, h ⟩ + o (∥ h ∥^{2}), (7.2)

où $H_{f} (a) = (\frac{\partial ^{2} f}{\partial x _{i} \partial x _{j}} (a))_{i, j}$ est la , symétrique par le théorème de Schwarz.

Le second est la classification des formes quadratiques. À une matrice symétrique $A$ on associe $q (h) = ⟨ A h, h ⟩$ ; $q$ (et $A$ avec elle) est dite définie positive si $q (h) > 0$ pour tout $h \neq = 0$ , définie négative si pour tout , et indéfinie si prend des valeurs strictement positives et strictement négatives. Le théorème spectral (annexe A) assure que est diagonalisable dans une base orthonormée de vecteurs propres, et que le signe de se lit sur les valeurs propres.

Nous aurons besoin d'un lemme quantitatif, très simple mais essentiel: une forme définie positive n'est pas seulement positive, elle est minorée par un multiple du carré de la norme.

Démonstration. Par le théorème spectral, il existe une base orthonormée $(u_{1}, \dots, u_{n})$ de $R^{n}$ formée de vecteurs propres, $A u_{k} = λ_{k} u_{k}$ . Écrivons ; comme la base est orthonormée, et

q (h) = ⟨ k \sum c_{k} λ_{k} u_{k}, j \sum c_{j} u_{j} ⟩ = k = 1 \sum n λ_{k} c_{k}^{2} .

Comme $λ_{1} \leq λ_{k} \leq λ_{n}$ pour tout $k$ , on encadre terme à terme: $λ_{1} \sum_{k} c_{k}^{2} \leq \sum_{k} λ_{k} c_{k}^{2} \leq λ_{n} \sum_{k} c_{k}^{2}$ , ce qui est exactement (7.3). Si , la minoration donne pour ; réciproquement, si est définie positive, alors .

On peut lire (7.3) géométriquement: sur la sphère unité $∥ h ∥ = 1$ , qui est un compact, la fonction continue $q$ atteint son minimum (chapitre 2), et ce minimum vaut $λ_{1}$ . L'homogénéité $q (t h) = t^{2} q (h)$ propage ensuite l'inégalité à tout $R^{n}$ . Cette lecture par compacité est celle qu'il faut retenir: elle se transpose telle quelle à d'autres situations où l'on ne dispose pas du théorème spectral.

Le critère de la hessienne

Le résultat qui suit est le théorème 5.9 du chapitre 5: il y est énoncé et démontré, et ce n'est pas un oubli s'il reparaît ici. Le critère est l'outil central de ce chapitre, et nous le redonnons avec sa démonstration pour que le chapitre se suffise à lui-même — la preuve ci-dessous est d'ailleurs écrite de façon à faire apparaître explicitement la minoration quadratique (7.4), dont nous nous servirons ensuite.

Démonstration. (1) Notons $λ_{1} > 0$ la plus petite valeur propre de $H_{f} (a)$ . Comme $\nabla f (a) = 0$ , la formule (7.2) s'écrit

f (a + h) - f (a) = \frac{1}{2} ⟨ H_{f} (a) h, h ⟩ + ∥ h ∥^{2} ε (h), avec ε (h) h \to 0 0.

Par le théorème 7.2, $\frac{1}{2} ⟨ H_{f} (a) h, h ⟩ \geq \frac{λ _{1}}{2} ∥ h ∥^{2}$ , donc

f (a + h) - f (a) \geq (\frac{λ _{1}}{2} + ε (h)) ∥ h ∥^{2} . (7.4)

Choisissons $r > 0$ tel que $B (a, r) \subset U$ et $∣ ε (h)∣ < λ_{1} /4$ dès que $0 < ∥ h ∥ < r$ — c'est possible, c'est la définition même de . Alors, sur cette boule épointée,

f (a + h) - f (a) \geq \frac{λ _{1}}{4} ∥ h ∥^{2} > 0,

ce qui est bien un minimum local strict. Remarquons que la démonstration donne davantage qu'une inégalité large: elle fournit une minoration quadratique explicite, qui contrôle la vitesse à laquelle $f$ remonte.

(2) S'applique à $- f$ , dont la hessienne est $- H_{f} (a)$ , définie positive.

(3) Supposons $H_{f} (a)$ indéfinie et soient $u$ et $v$ tels que $q (u) > 0$ et $q (v) < 0$ , où $q (h) = ⟨ H_{f} (a) h, h ⟩$ ; quitte à normaliser, . Posons . La formule (7.2) appliquée à donne, en utilisant l'homogénéité ,

ψ (t) - f (a) = t^{2} (\frac{q ( u )}{2} + ε (t u)),

et pour $∣ t ∣$ assez petit la parenthèse est $\geq q (u) /4 > 0$ : $f$ est strictement supérieure à $f (a)$ le long de la direction $u$ . Le même calcul avec $v$ montre que $f$ est strictement inférieure à $f (a)$ le long de . Aucun voisinage de , si petit soit-il, ne peut donc porter une inégalité de signe constant: n'est ni un maximum ni un minimum local.

(4) Voir la section suivante, où cinq exemples de hessienne dégénérée donnent cinq verdicts différents. $□$

La figure 7.1 mérite une lecture attentive, car elle donne la signature visuelle des trois cas sur des lignes de niveau — c'est ainsi que l'on lit une carte topographique ou une carte de potentiel. Autour d'un minimum ou d'un maximum, les lignes de niveau sont des courbes fermées emboîtées, et toutes les valeurs voisines sont du même côté de la valeur critique. Autour d'un col, le niveau critique lui-même se croise en formant un X, et les quatre secteurs qu'il délimite alternent: deux au-dessus, deux au-dessous. Sur une carte de randonnée, c'est exactement le dessin d'un col entre deux sommets.

Le test pratique en deux variables

En deux variables, on n'a pas besoin de calculer les valeurs propres. Notons, avec la notation classique de Monge et celle du chapitre 5,

r = f_{xx} (a), s = f_{x y} (a), t = f_{y y} (a), H_{f} (a) = (r s s t) .

Rappelons la convention de lecture fixée par la relation (5.2) du chapitre 5: dans la notation indicielle, l'indice le plus proche de $f$ dérive en premier, de sorte que $f_{x y} = \frac{\partial ^{2} f}{\partial y \partial x}$ — les deux notations se lisent en sens contraires. Comme est de classe , le théorème de Schwarz donne : la hessienne est symétrique et le coefficient est le même quel que soit l'ordre choisi. Nous écrirons donc partout où la place manque.

Le déterminant et la trace de cette matrice sont respectivement le produit et la somme de ses deux valeurs propres $λ_{1}, λ_{2}$ :

det H_{f} (a) = r t - s^{2} = λ_{1} λ_{2}, tr H_{f} (a) = r + t = λ_{1} + λ_{2} . (7.5)

Démonstration. Si $Δ = λ_{1} λ_{2} > 0$ , les deux valeurs propres sont de même signe, et ce signe est celui de $r + t = λ_{1} + λ_{2}$ . Or lorsque , et sont eux-mêmes de même signe (car ), donc le signe de est celui de , donc celui des valeurs propres: donne une hessienne définie positive et une hessienne définie négative. Si , les valeurs propres sont de signes opposés et la hessienne est indéfinie. On applique alors le théorème 7.3.

On peut aussi éviter le théorème spectral par une simple mise sous forme canonique. Pour $r \neq = 0$ ,

q (h, k) = r h^{2} + 2 s hk + t k^{2} = r (h + \frac{s}{r} k)^{2} + \frac{r t - s ^{2}}{r} k^{2}, (7.6)

identité que l'on vérifie en développant. Si $Δ > 0$ et $r > 0$ , les deux coefficients $r$ et $Δ/ r$ sont positifs et $q$ ne s'annule que si $k = 0$ puis $h = 0$ : $q$ est définie positive. Si , les deux coefficients sont de signes opposés et prend les deux signes.

Voici le test sous la forme d'un tableau à consulter.

$Δ = r t - s^{2}$	Signe de $r$	Valeurs propres	Nature de $a$	Lignes de niveau voisines
$Δ > 0$	$r > 0$	deux $> 0$

Classification complète de la fonction témoin

Question 7.2

Soit $f (x, y) = x^{2} + x y + y^{2} + 3 x - 3 y$ . Cette fonction possède un unique point critique, qui est un minimum local strict. Quelle est la valeur de ce minimum?

L'explorateur: voir un col devenir un minimum

L'explorateur ci-dessous met en scène une famille à deux paramètres,

f_{a, b} (x, y) = x^{3} + y^{3} - 3 a x y + b (x + y), (7.7)

qui contient la fonction témoin pour $a = 1$ , $b = 0$ . Les points critiques y sont résolus exactement, pas approchés. En effet, en soustrayant les deux équations du gradient,

\frac{\partial f}{\partial x} - \frac{\partial f}{\partial y} = 3 (x^{2} - y^{2}) - 3 a (y - x) = 3 (x - y) (x + y + a) = 0,

donc $x = y$ ou $x + y = - a$ ; dans chacun des deux cas il reste une équation du second degré, dont les discriminants valent respectivement $Δ_{1} = a^{2} - \frac{4 b}{3}$ et . C'est ce qui explique que le de points critiques puisse valoir , ou selon .

Explorateur 7.1 · Explorateur des points critiques

Famille f(x, y) = x³ + y³ − 3a·xy + b·(x + y). Les points critiques sont résolus exactement à chaque déplacement de curseur, puis classés par le signe de det H et de r = ∂²f/∂x². Avec b = 0, faites passer a de +1 à −1: le point (a, a) cesse d'être un minimum et devient un maximum, en traversant le cas douteux a = 0 où il ne reste qu'un seul point critique. Avec a = 0,5 et b = −1,5, la famille possède quatre points critiques.

Couplage a1,0

Terme linéaire b0,0

Nombre de points critiques

Δ₁ = a² − 4b/3 (branche x = y)

1,00

Δ₂ = −3a² − 4b/3 (branche x + y = −a)

−3,00

P₁ = (0,00 ; 0,00) — det H = −9,0

point de selle

P₂ = (1,00 ; 1,00) — det H = 27,0

minimum local

Trois manipulations à faire, dans l'ordre:

Laissez $b = 0$ et faites décroître $a$ de $1$ à $- 1$ . Le point $(a, a)$ , minimum local tant que $a > 0$ , devient un maximum local dès que $a < 0$ , en passant par $a = 0$ où les deux points critiques fusionnent en un seul, dégénéré (). C'est la reclassification annoncée: la nature d'un point critique n'est pas attachée au point, elle est attachée à la fonction.

Le cas douteux: quand le déterminant s'annule

Le chapitre 5 en donnait déjà deux exemples; en voici cinq, choisis pour couvrir tous les verdicts possibles. Dans chaque cas l'origine est un point critique et la hessienne en $O$ a un déterminant nul.

1. $f (x, y) = x^{4} + y^{4}$ : minimum global strict. Le gradient $(4 x^{3}, 4 y^{3})$ s'annule en , et toutes les dérivées secondes , , y sont nulles: est la matrice nulle, . Mais avec égalité seulement en : c'est un minimum global strict. Aucun calcul de dérivée n'est nécessaire, .

2. $f (x, y) = x^{4} - y^{4}$ : point de selle. Même gradient nul, même hessienne nulle, même $Δ = 0$ . Mais $f (t, 0) = t^{4} > 0$ et pour : deux directions de signes opposés, donc ni maximum ni minimum. La méthode est celle du théorème 7.3, cas indéfini, appliquée à l'ordre au lieu de l'ordre .

3. $f (x, y) = x^{2} + y^{4}$ : minimum global strict. Ici $H_{f} (O) = (2000)$ : une valeur propre vaut , l'autre , donc et la hessienne est sans être définie. Le critère est muet, mais avec égalité seulement en : minimum global strict. C'est la direction , celle de la valeur propre nulle, qui porte l'information: y croît comme , plus lentement qu'une parabole mais elle croît.

4. $f (x, y) = x^{2}$ : une droite entière de minimums. Le gradient $(2 x, 0)$ s'annule sur tout l'axe $x = 0$ , et $H_{f} = (2000)$ en chacun de ces points. Chaque point de l'axe est un minimum global, mais : vaut tout le long de l'axe. Les extremums non stricts sont fréquents dès qu'une variable n'intervient pas, et l'ensemble des points où l'optimum est atteint est alors une courbe ou une surface, pas un point isolé.

5. $f (x, y) = x^{3}$ : ni maximum ni minimum. Le gradient $(3 x^{2}, 0)$ s'annule sur l'axe $x = 0$ , la hessienne $(6 x 0 00)$ y est nulle. Or change de signe en : aucun point de l'axe n'est un extremum. C'est la transposition exacte de en , le point d'inflexion à tangente horizontale d'Analyse I.

Les trois techniques de l'étude directe

Ces cinq exemples illustrent trois techniques, qui suffisent presque toujours en pratique.

Le raisonnement de signe. Si l'on peut écrire $f (x) - f (a)$ comme une somme de termes de même signe (souvent une somme de carrés ou de puissances paires), le verdict est immédiat et global, pas seulement local. C'est le cas de $x^{4} + y^{4}$ , de $x^{2} + y^{4}$ , de .

L'étude le long de courbes. Pour réfuter un extremum, il suffit d'exhiber deux chemins partant de $a$ le long desquels $f - f (a)$ a des signes opposés. Les droites $t \mapsto a + t u$ sont le premier réflexe, mais elles ne suffisent pas toujours; il faut parfois des paraboles.

La restriction à une direction dégénérée. Quand une valeur propre de $H_{f} (a)$ est nulle, c'est la direction propre associée qu'il faut explorer en premier: les autres directions sont déjà décidées par le second ordre, et toute l'indétermination est concentrée dans celle-là. Pour $x^{2} + y^{4}$ comme pour $x^{2} + y^{3}$ , la direction douteuse est , et c'est le terme en ou qui tranche ( donne un minimum, un col).

Question 7.3

Remettez dans l'ordre la démarche complète de recherche des extremums locaux d'une fonction $f$ de classe $C^{2}$ sur un ouvert de $R^{2}$ .

Glissez les éléments pour les mettre dans le bon ordre

Résoudre le système

\nabla f (x, y) = 0

pour obtenir la liste des points critiques

Calculer les trois dérivées secondes

r

s

t

et le discriminant

Δ = r t - s^{2}

en chaque point critique

Aux points où

Δ = 0

, étudier directement le signe de

f - f (a)

ou chercher deux chemins de signes opposés

Vérifier que

f

est de classe

C^{2}

sur l'ouvert considéré

Examiner séparément le comportement de

f

à l'infini pour décider si un extremum local est global

Conclure par le test du discriminant aux points où

Δ \neq = 0

Extremums sur un compact

Existence: le théorème des bornes

Les fonctions les plus intéressantes en ingénierie sont étudiées sur un domaine borné: une plaque, une pièce, un intervalle de température admissible, un budget. Dans ce cadre, un théorème d'existence règle la question préalable.

Ce théorème, démontré au chapitre 2 à partir du théorème de Bolzano–Weierstrass, est un résultat d'existence pure: il affirme que le maximum et le minimum globaux existent, sans donner le moindre moyen de les localiser. Les deux hypothèses sont indispensables: sur $K =] 0, 1]$ , qui n'est pas fermé, $f (x) = 1/ x$ n'est pas bornée; sur $K = R$ , qui n'est pas borné, $f (x) = arctan x$ est bornée sans atteindre ses bornes.

La méthode en deux temps

Sachant que les extremums globaux existent, il reste à les trouver. Un point de $K$ est soit intérieur, soit sur le bord $\partial K$ ; le théorème de Fermat s'applique au premier cas et pas au second. D'où la méthode:

Le point 1 mérite une insistance: dans cette méthode, on ne calcule pas la hessienne. C'est une dépense inutile, car la comparaison finale des valeurs tranche de toute façon — et elle, elle est fiable. Un col intérieur figurera bien dans la liste des candidats, mais sa valeur sera automatiquement écartée par la comparaison, puisqu'il existe par définition des points voisins où $f$ est plus grande et d'autres où elle est plus petite. Le point 2, lui, est l'étape que les copies oublient, et c'est celle qui contient le plus souvent la réponse.

Question 7.4

Sur le carré $K = [0, 2] \times [0, 2]$ , quel est le maximum global de la fonction témoin $f (x, y) = x^{3} + y^{3} - 3 x y$ ?

Domaines non bornés: la coercivité

Sur un domaine non borné, le théorème des bornes ne s'applique plus, et l'on a vu avec la fonction témoin qu'un minimum local peut fort bien n'être pas global. Il existe pourtant une condition simple et très utilisée qui restaure l'existence d'un minimum global: il suffit que $f$ «remonte à l'infini dans toutes les directions».

Démonstration. Fixons un point quelconque, disons $0$ , et posons $M = f (0)$ . Par coercivité appliquée au seuil $M$ , il existe $R > 0$ tel que $f (x) > M$ dès que $∥ x ∥ > R$ .

La boule fermée $\overline{B} (0, R)$ est un compact non vide (elle contient $0$ ) et $f$ y est continue: par le théorème 7.5, $f$ y atteint son minimum en un point $a$ , et

f (a) \leq f (0) = M .

Soit maintenant $x \in R^{n}$ quelconque. Si $∥ x ∥ \leq R$ , alors $f (x) \geq f (a)$ par définition de $a$ . Si $∥ x ∥ > R$ , alors . Dans les deux cas : réalise le minimum global sur tout entier.

Enfin, $a$ est un point intérieur de $R^{n}$ (tous les points le sont), donc le théorème de Fermat s'applique et $\nabla f (a) = 0$ . $□$

La démonstration est un exemple parfait de la façon dont on fabrique un compact là où il n'y en avait pas: la coercivité sert exactement à enfermer le minimum dans une boule, après quoi Weierstrass fait le travail. Retenez aussi la conséquence pratique: pour une fonction coercive, il suffit de calculer toutes les valeurs critiques et de prendre la plus petite — aucune étude de bord, aucune étude à l'infini n'est nécessaire.

Question 7.5

Parmi ces fonctions définies sur $R^{2}$ , laquelle n'est PAS coercive?

Application: la méthode des moindres carrés

Le problème et les équations normales

Un capteur, un essai de traction, une mesure de rendement: on dispose de $n$ couples $(x_{i}, y_{i})$ et l'on suspecte une loi affine $y = a x + b$ . Les mesures étant entachées d'erreurs, aucune droite ne passe exactement par tous les points; on cherche donc celle qui minimise la somme des carrés des écarts verticaux

S (a, b) = i = 1 \sum n (y_{i} - a x_{i} - b)^{2} . (7.8)

C'est un problème d'extremum libre en les deux variables $a$ et $b$ — les données $x_{i}, y_{i}$ sont des constantes. Le choix du carré des écarts, plutôt que de leur valeur absolue, n'est pas anodin: il rend $S$ différentiable partout et, nous allons le voir, ramène le problème à un système linéaire.

Démonstration. $S$ est un polynôme du second degré en $(a, b)$ , donc de classe $C^{\infty}$ . Dérivons sous le signe somme, en prenant garde au facteur $- x_{i}$ et $- 1$ venant de la dérivation de la parenthèse:

\frac{\partial S}{\partial a} = i \sum 2 (y_{i} - a x_{i} - b) (- x_{i}) = - 2 i \sum x_{i} (y_{i} - a x_{i} - b),

\frac{\partial S}{\partial b} = i \sum 2 (y_{i} - a x_{i} - b) (- 1) = - 2 i \sum (y_{i} - a x_{i} - b) .

Annuler ces deux expressions et développer donne exactement (7.9). C'est un système linéaire $2 \times 2$ en $(a, b)$ , de matrice

\frac{1}{2} H_{S} = (\sum x_{i}^{2} \sum x_{i} \sum x_{i} n), car H_{S} = 2 (\sum x_{i}^{2} \sum x_{i} \sum x_{i} n)

est la hessienne de $S$ , constante puisque $S$ est quadratique.

Montrons que $H_{S}$ est définie positive. Son déterminant vaut

det H_{S} = 4 (n i \sum x_{i}^{2} - (i \sum x_{i})^{2}) .

Par l'inégalité de Cauchy–Schwarz appliquée aux vecteurs $(x_{1}, \dots, x_{n})$ et $(1, \dots, 1)$ ,

(i \sum x_{i} \cdot 1)^{2} \leq (i \sum x_{i}^{2}) (i \sum 1^{2}) = n i \sum x_{i}^{2},

avec égalité si et seulement si les deux vecteurs sont colinéaires, c'est-à-dire si tous les $x_{i}$ sont égaux. Comme on l'a exclu, $det H_{S} > 0$ ; et $r = 2 \sum x_{i}^{2} > 0$ . Par le théorème 7.4, le point critique est un minimum local strict. Il est même global: la hessienne étant définie positive , la formule de Taylor (7.2) est ici (le reste d'une fonction quadratique est nul au-delà de l'ordre 2), et l'on a pour tout

S (a, b) = S (a^{*}, b^{*}) + \frac{1}{2} ⟨ H_{S} h, h ⟩ \geq S (a^{*}, b^{*}) + \frac{λ _{1}}{2} ∥ h ∥^{2},

où $h = (a - a^{*}, b - b^{*})$ et $λ_{1} > 0$ : le minimum est global et strict. La résolution du système par les formules de Cramer donne (7.10). $□$

Un ajustement complet

Exemple 7.5 · Étalonnage d'un ressort par moindres carrés

Les données suivantes sont fictives, construites pour l'exercice; elles imitent l'étalonnage d'un ressort de traction sur un banc d'essai, où l'on applique une charge $x$ (en newtons) et où l'on lit l'allongement $y$ (en millimètres) sur un comparateur.

$i$	1	2	3	4	5	6
$x_{i}$ (N)	0	1	2	3	4	5
$y_{i}$ (mm)

Deux remarques pour finir. D'abord, la méthode s'étend sans changement à un ajustement par $y = a_{1} φ_{1} (x) + \dots + a_{p} φ_{p} (x)$ , où les sont des fonctions fixées: reste quadratique en les , les équations normales restent linéaires, et la hessienne reste où est la matrice de Gram des évaluées aux . Ensuite, : ils ne testent pas le modèle. Ajuster une droite à des données courbes donne toujours une droite, avec des coefficients parfaitement définis; c'est l'examen des résidus — cherchent-ils à former un arc? — qui révèle l'inadéquation. La méthode remonte à Legendre (1805) et à Gauss, qui l'utilisa pour retrouver l'astéroïde Cérès à partir d'un court arc d'observations.

Application: optimiser un choix de conception

Les problèmes de conception se formulent presque toujours avec une contrainte (un volume imposé, un budget). Quand la contrainte permet d'éliminer une variable, le problème redevient libre et relève de ce chapitre; sinon, il faut les multiplicateurs de Lagrange du chapitre 8. Voici un cas franchement libre, tiré de l'économie de la production.

Synthèse

Le premier ordre fabrique des candidats, il ne conclut jamais. Si $f$ admet un extremum local en un point intérieur $a$ où ses dérivées partielles existent, alors $\nabla f (a) = 0$ (théorème de Fermat, démontré en restreignant $f$ à ses fonctions partielles). La réciproque est fausse et l'hypothèse d'intériorité est essentielle: un extremum sur le bord du domaine, ou en un point de non-différentiabilité, échappe complètement à ce test.
Le second ordre trie les candidats non dégénérés. En un point critique d'une fonction $C^{2}$ : hessienne définie positive $\Rightarrow$ minimum local strict; définie négative $\Rightarrow$ maximum local strict; indéfinie point de selle. La démonstration repose sur la formule de Taylor avec reste de Young et sur la minoration d'une forme définie positive.

Série d'exercices du chapitre 7Exercice 1 sur 5

Question 7.6

Soit $f$ de classe $C^{2}$ sur $R^{2}$ , $a$ un point critique de $f$ avec $det H_{f} (a) = 0$ . Que peut-on conclure?

Exercices

Vous pouvez afficher le corrigé directement sous chaque énoncé après avoir cherché la solution.

Exercice 7.1 · Points critiques et classification

Déterminer les points critiques des fonctions suivantes sur $R^{2}$ et préciser leur nature.

$f (x, y) = x^{2} + x y + y^{2} - 3 x$ .

Exercice 7.2 · Deux cas douteux

Étudier les points critiques de $f (x, y) = x^{2} y^{2}$ et leur nature.
Soit $f (x, y) = (y - x^{2}) (y - 2 x^{2})$ . Montrer que est un point critique dégénéré, que la restriction de à toute droite passant par y admet un minimum strict, et que pourtant n'a pas de minimum local en .

Exercice 7.3 · Extremums sur un disque

Déterminer le maximum et le minimum globaux de $f (x, y) = x^{2} + x y + y^{2}$ sur le disque fermé $D = {(x, y) : x^{2} + y^{2} \leq 1}$ , en précisant en quels points ils sont atteints.

Exercice 7.4 · Le point qui minimise une somme de carrés de distances

Trois capteurs sont placés aux points $P_{1} = (0, 0)$ , $P_{2} = (4, 0)$ et $P_{3} = (2, 6)$ d'un plan (coordonnées en mètres; disposition fictive). On cherche le point qui minimise

Exercice 7.5 · Condition nécessaire du second ordre

Soit $U \subset R^{n}$ un ouvert, $f \in C^{2} (U)$ et $a \in U$ un minimum local de $f$ .

Références

Douchet, J. et Zwahlen, B., Calcul différentiel et intégral, Presses polytechniques et universitaires romandes, Lausanne (extremums libres et formes quadratiques).
Stewart, J., Analyse: concepts et contextes, vol. 2, De Boeck, Bruxelles, chap. 11 (valeurs extrêmes, méthode sur un ensemble fermé borné).
Adams, R. A. et Essex, C., Calculus: A Complete Course, Pearson, Harlow, chap. 13 (extreme values, second derivative test).
Marsden, J. E. et Tromba, A. J., Vector Calculus, Freeman, New York, chap. 3 (higher-order derivatives, maxima and minima).
Liret, F. et Martinais, D., Analyse 2e année, Dunod, Paris (points critiques, cas dégénérés et contre-exemples).
Apostol, T. M., Calculus, vol. 2, Wiley, New York, chap. 9 (nature d'un point stationnaire, conditions du second ordre).

Candidat	Provenance	$f$
$(1; 1)$	point critique intérieur	$- 1$
$(0; 0)$	sommet	$0$
$(3; 0)$	sommet	$27$
$(0; 3)$	sommet	$27$
$(1, 5; 1, 5)$	point critique de la restriction à l'hypoténuse	$0$

Point	$r$	$s$	$t$	$Δ = r t - s^{2}$	Nature	$g$
$(0; 0)$	$0$	$- 4$	$0$	$- 16$	point de selle	$0$
$(1; 1)$	$12$	$- 4$	$12$	$128$	minimum local strict	$- 2$
$(- 1; - 1)$	$12$	$- 4$	$12$	$128$	minimum local strict	$- 2$

$x_{i}$	0	1	2	3	4	5
$y_{i}$	1,20	2,90	5,10	6,80	9,20	10,80
$a^{} x_{i} + b^{}$	1,10	3,06	5,02	6,98	8,94	10,90
$e_{i}$	+0,10	−0,16	+0,08	−0,18	+0,26	−0,10

Point	$r$	$t$	$Δ$	Nature	$f$
$(1; 1)$	$6$	$6$	$36$	minimum local strict	$- 4$
$(1; - 1)$

Objectifs du chapitre

Le vocabulaire des extremums

Maximum, minimum, local, global, strict

Ce que l'Analyse I nous a appris, et ce qu'il faut réapprendre

Extremum n'est pas point critique

La condition nécessaire du premier ordre

Le théorème de Fermat

Calculer les points critiques

La condition suffisante du second ordre

Ce que le chapitre 5 a mis en place

Le critère de la hessienne

Le test pratique en deux variables

Classification complète de la fonction témoin

L'explorateur: voir un col devenir un minimum

Le cas douteux: quand le déterminant s'annule

Les trois techniques de l'étude directe

Extremums sur un compact

Existence: le théorème des bornes

La méthode en deux temps

Domaines non bornés: la coercivité

Application: la méthode des moindres carrés

Le problème et les équations normales

Un ajustement complet

Application: optimiser un choix de conception

Synthèse

Exercices

Références

Élimination de la contrainte

Points critiques

Nature du point critique

Dimensions et coût optimaux