Objectifs du chapitre
À la fin de ce chapitre, vous serez capable de:
- reconnaître un problème d'optimisation sous contrainte d'égalité et décider si la méthode de substitution y est praticable;
- expliquer géométriquement pourquoi, en un extremum lié, la ligne de niveau de la fonction est tangente à la contrainte, et en déduire la colinéarité des gradients;
- énoncer et démontrer le théorème des multiplicateurs de Lagrange à partir du théorème des fonctions implicites, et écrire le lagrangien associé;
- appliquer la méthode avec une ou plusieurs contraintes, en discutant séparément l'existence de l'extremum (compacité) et les points singuliers de la contrainte;
- interpréter le multiplicateur comme la sensibilité de la valeur optimale au niveau de la contrainte, et lire cette sensibilité sur un problème d'ingénierie ou d'économie;
- traiter les problèmes classiques du répertoire: réservoir de tôle minimale, rectangle inscrit, inégalité arithmético-géométrique, distances, moindres carrés sous contrainte.
Le problème d'optimisation sous contrainte
Poser le problème
Le chapitre 7 a traité les extrema libres: on cherchait les points où une fonction atteint un maximum ou un minimum alors que le point pouvait se déplacer librement dans un ouvert. La condition nécessaire était , et la hessienne du chapitre 5 fournissait la condition suffisante du second ordre.
En ingénierie, cette liberté n'existe presque jamais. On ne minimise pas la masse d'une pièce sans imposer qu'elle résiste à une charge donnée; on ne maximise pas le débit d'un canal sans fixer la section de béton disponible; on ne minimise pas la tôle d'une cuve sans imposer son volume. La grandeur à optimiser est soumise à une contrainte, c'est-à-dire à une équation que le point admissible doit satisfaire. Le problème change alors de nature: le point ne peut plus bouger dans toutes les directions, et la condition n'a plus de raison d'être vérifiée à l'optimum.
Deux remarques d'emblée. D'abord, l'ensemble n'est en général pas ouvert: c'est une courbe dans , une surface ou une courbe dans . Tous ses points sont des points de bord, au sens du chapitre 2, et c'est pourquoi la théorie du chapitre 7 ne s'applique pas telle quelle. Ensuite, la valeur d'un extremum lié n'a aucune raison d'être un extremum de sur : la fonction n'a pas de maximum sur , mais elle en a un sur le cercle — à savoir , atteint partout.
La méthode de substitution
La première idée, et la bonne quand elle marche, est d'utiliser la contrainte pour éliminer une variable. Le problème lié à variables devient un problème libre à variables, que l'on sait traiter.
La substitution est exacte, élémentaire et complète: elle donne l'optimum et sa nature. Il faut la préférer chaque fois qu'elle est praticable. Elle l'est lorsque la contrainte se résout explicitement, ce qui suppose en pratique qu'elle soit linéaire, ou qu'une variable y apparaisse au premier degré, ou qu'elle se paramètre commodément (un cercle par , ).
Quand la substitution n'est plus praticable
Considérons maintenant le problème suivant, qui reviendra tout au long du chapitre.
Le folium de Descartes est la courbe d'équation . Elle possède une boucle bornée dans le quadrant et une branche infinie asymptote à la droite . Quel est le point de la boucle le plus éloigné de l'origine?
Éloignement maximal signifie: maximiser (le carré de la distance, plus commode que la distance elle-même car il évite une racine et possède les mêmes extrema) sous la contrainte .
Essayons de substituer. Il faudrait résoudre en : c'est une équation du troisième degré en , dont les racines s'expriment par les formules de Cardan, avec trois cas selon le signe du discriminant et des racines cubiques de nombres complexes même lorsque les solutions sont réelles. Reporter cette expression dans et la dériver est possible en théorie et inutilisable en pratique. On remarquera aussi que sur la boucle, n'est pas une fonction de : chaque entre et correspond à deux points de la boucle.
La contrainte est implicite, et elle le restera. Il nous faut une méthode qui n'exige jamais de résoudre la contrainte — seulement de la dériver. C'est exactement ce que fournissent les multiplicateurs de Lagrange, et le chapitre 6 nous a déjà donné l'outil qui la justifie: le théorème des fonctions implicites garantit que la contrainte peut localement être résolue, ce qui suffit pour raisonner, même si l'on ne sait pas écrire la solution.
Pour lequel de ces problèmes la méthode de substitution est-elle la plus commode?
L'idée géométrique: tangence des lignes de niveau
Plaçons-nous dans et raisonnons sur les lignes de niveau, introduites au chapitre 2 et reliées au gradient au chapitre 4. Rappelons le fait central de ce chapitre 4: le gradient est orthogonal à la ligne de niveau de passant par , et il pointe dans la direction de la plus forte croissance de .
Soit un point de la courbe de contrainte , et supposons . Le chapitre 6 nous dit qu'au voisinage de , est une courbe régulière; notons un vecteur tangent non nul à en . Par orthogonalité du gradient aux lignes de niveau appliquée à , on a .
Imaginons maintenant que ne soit pas un point critique de la situation, c'est-à-dire que . Parcourons à partir de dans la direction : en notant un paramétrage de avec et , la règle de la chaîne (chapitre 4) donne
La fonction a donc une dérivée non nulle en : elle est strictement monotone au voisinage de , et prend donc des valeurs strictement plus grandes et strictement plus petites que arbitrairement près de , tout en restant sur . Autrement dit, n'est ni un maximum ni un minimum lié. On peut encore progresser en glissant le long de la contrainte.
Par contraposée: si est un extremum lié, alors . Le vecteur est donc orthogonal à la même direction que . Dans le plan, l'orthogonal d'une droite est une droite: les deux gradients sont colinéaires. Et géométriquement, cela signifie que la ligne de niveau de passant par et la courbe de contrainte ont la même tangente en : elles sont .
La figure 8.1 met les deux situations côte à côte. En , la ligne de niveau traverse la contrainte: d'un côté de sur le cercle on trouve des points où vaut plus, de l'autre des points où vaut moins. En , la ligne de niveau effleure la contrainte: tout le cercle est du même côté de la ligne , à savoir du côté où est plus petite. C'est bien un maximum.
Le théorème des multiplicateurs de Lagrange
L'argument géométrique précédent est correct mais il utilise sans le dire l'existence d'un paramétrage régulier de la contrainte. Le théorème des fonctions implicites du chapitre 6 fournit exactement cela, et permet de transformer le raisonnement en démonstration.
Démonstration. L'hypothèse 3 dit qu'au moins une dérivée partielle de ne s'annule pas en ; quitte à renuméroter les variables, supposons . Écrivons avec et .
Le théorème des fonctions implicites (chapitre 6) s'applique à au point : il existe un voisinage ouvert de dans , un intervalle ouvert contenant et une fonction à valeurs dans , avec , tels que pour ,
et de plus, pour ,
Autrement dit, la contrainte est localement le graphe de , et le paramètre libre est , qui parcourt l'ouvert de .
Posons alors , fonction de classe sur comme composée de fonctions . Par hypothèse 2, est un extremum local de sur ; comme les points de situés sur sont exactement les , le point est un extremum local de sur l' . C'est donc un extremum libre, et la condition nécessaire du premier ordre (théorème 7.1) donne
Calculons ce gradient par la règle de la chaîne (chapitre 4): pour ,
En y reportant (8.3) et en posant
(licite puisque le dénominateur est non nul), il vient, pour ,
L'égalité est vraie par la définition même de . Les composantes de (8.2) sont donc établies. L'unicité de est immédiate: , donc au moins une composante permet de le déterminer.
Le lagrangien
Le système du théorème 8.1 s'écrit de manière compacte grâce à une fonction auxiliaire.
Cherchons les points critiques libres de dans . Pour ,
ce qui est exactement (8.2); et
ce qui est exactement la contrainte. Les points critiques libres du lagrangien sont donc précisément les couples vérifiant le système de Lagrange. C'est un procédé de mémorisation remarquablement économique: on remplace un problème contraint à variables par un problème libre à variables, et l'on retrouve la contrainte comme l'une des équations, gratuitement.
Remettez dans l'ordre les étapes d'une résolution complète d'un problème d'extremum lié par les multiplicateurs de Lagrange.
Glissez les éléments pour les mettre dans le bon ordre
- Résoudre le système et dresser la liste des points candidats
- Repérer les points de la contrainte où et les traiter séparément
- Évaluer en chaque candidat et conclure par comparaison
- Écrire le système complété par la contrainte, puis éliminer
- Établir l'existence d'un extremum: compacité de l'ensemble admissible, ou comportement de au bord et à l'infini
- Identifier la fonction objectif , la contrainte et le domaine admissible
Retour au folium de Descartes
Déterminez la valeur maximale de sur le cercle . (Le cercle est compact, l'existence ne pose donc pas de problème.)
Deux pièges, et comment les éviter
Le système de Lagrange associé à un problème d'extremum lié n'a aucune solution. Que peut-on en conclure?
Plusieurs contraintes
Un point de soumis à deux contraintes n'a plus qu'un degré de liberté: il se déplace sur une courbe, intersection de deux surfaces. Le théorème se généralise, à condition de remplacer l'hypothèse par une condition de rang.
Le rang d'une matrice et le théorème du rang sont rappelés à l'annexe A (théorème A.4). Retenons-en ce dont nous aurons besoin: pour une jacobienne de taille avec , dire que — le rang maximal possible — équivaut à dire que ses lignes, qui sont les gradients des contraintes, sont linéairement indépendantes, et se vérifie en pratique en exhibant une sous-matrice carrée extraite de dont le déterminant est non nul. Le noyau est alors de dimension : c'est l' à en , et l'on retrouve le décompte des degrés de liberté annoncé plus haut. L'exemple A.3 de l'annexe conduit cette vérification en détail sur l'intersection d'une sphère et d'un plan.
Esquisse de démonstration. L'argument est celui du théorème 8.1, avec la version vectorielle du théorème des fonctions implicites (chapitre 6). Le rang de valant , on peut extraire colonnes indépendantes; quitte à renuméroter, la sous-matrice formée des dernières colonnes est inversible. Le théorème des fonctions implicites permet alors d'exprimer, au voisinage de , les dernières variables comme fonctions des premières: est localement le graphe d'une application définie sur un ouvert de . Composant avec ce paramétrage, on obtient une fonction de variables dont est un extremum libre; son gradient est nul.
Traduit géométriquement, ce calcul dit que pour tout vecteur tangent à en , c'est-à-dire pour tout . Or l'orthogonal de est exactement l'espace engendré par les lignes de , c'est-à-dire par les gradients : c'est le , qui énonce et démontre pour toute matrice , relation (A.7). Donc appartient à cet espace, ce qui est (8.5). L'unicité des vient de l'indépendance linéaire des gradients.
Le système comporte maintenant équations — les composantes de (8.5) et les contraintes — pour inconnues. Le lagrangien devient
et ses points critiques libres reproduisent encore tout le système.
Géométriquement (figure 8.2), la condition (8.5) dit que est orthogonal à la direction tangente à la courbe — la seule direction dans laquelle on puisse encore bouger. Comme et engendrent, eux aussi, l'orthogonal de cette direction (un plan dans ), doit être une combinaison des deux. On retrouve, avec un degré de liberté de moins, le raisonnement de la section géométrique.
Le problème du cours: le réservoir sans couvercle
Voici le problème canonique de ce chapitre, auquel les autres chapitres du cours se réfèrent.
On veut fabriquer un réservoir parallélépipédique sans couvercle de volume dm³ (soit litres), de base rectangulaire et de hauteur , toutes ces longueurs étant en décimètres. Quelles dimensions minimisent la surface de tôle utilisée?
Le panneau inférieur de la figure 8.3 mérite un commentaire. Une fois admise la relation que le système fournit, la contrainte donne et la tôle devient une fonction d'une seule variable:
C'est la substitution, retrouvée a posteriori. On a , qui s'annule pour , soit , avec : minimum strict, . La courbe est très «plate» autour de son minimum — et — ce qui est une information d'atelier utile: une erreur de sur le côté de la base ne coûte que de tôle.
On fabrique le même type de réservoir sans couvercle, mais de volume dm³. Quelle est la surface de tôle minimale, en dm²?
Le multiplicateur comme sensibilité: le prix fictif
Jusqu'ici, n'était qu'un intermédiaire de calcul, que l'on éliminait le plus vite possible. Il porte pourtant une information, et c'est souvent la plus utile du problème.
La valeur optimale comme fonction du niveau de contrainte
Faisons varier le niveau de la contrainte et notons
la fonction valeur du problème. Dans le cas du réservoir, est la fonction qui à un volume associe la tôle minimale nécessaire.
Démonstration. Par définition de l'ensemble admissible, pour tout voisin de . Dérivons cette identité par rapport à avec la règle de la chaîne (chapitre 4):
Dérivons de même :
Or vérifie le système de Lagrange, donc . En reportant et en utilisant (8.9),
La relation (8.8) porte des noms selon les disciplines: sensibilité de l'optimum en ingénierie, prix fictif ou prix dual (shadow price) en économie et en recherche opérationnelle, coût marginal de la ressource en gestion de production. Elle répond toujours à la même question: de combien la valeur optimale change-t-elle si l'on relâche la contrainte d'une unité? Et la réponse est: de , au premier ordre.
Le multiplicateur du réservoir
Nous pouvons le vérifier explicitement sur le problème du cours. Reprenons (8.7) en gardant générique: , et
où l'on a utilisé . Contrôle: pour , , et ✓. Dérivons:
Or est exactement l'expression du multiplicateur trouvée dans l'exemple 8.5. Pour , et
Le multiplicateur vaut 1 dm² de tôle par dm³ de volume supplémentaire. C'est une grandeur d'atelier, pas un artefact de calcul: si le client demande un litre de plus, la cuve optimale consommera environ un décimètre carré de tôle en plus. Contrôle numérique de cette approximation: , à comparer à l'estimation linéaire . L'écart est de dm², soit un dix-millième. Dans l'autre sens, contre estimés.
Notez que décroît quand augmente: à dm³, et dm²/dm³. Plus la cuve est grande, moins chaque litre supplémentaire coûte de tôle — l'effet d'échelle bien connu du rapport surface/volume.
L'explorateur
On maximise f(x, y) = x + y sur l'ellipse x² + βy² = c. Faites glisser le niveau c de la contrainte: l'ellipse grandit, le point optimal se déplace le long de la direction du gradient, la valeur optimale f* augmente. Le multiplicateur λ et la dérivée df*/dc — celle-ci calculée par différences centrées sur l'optimum recalculé en c ± 0,005, sans jamais utiliser la formule de λ — restent égaux: l'écart affiché ne bouge pas de zéro. Le paramètre β déforme l'ellipse et change tout le reste, mais pas cette égalité.
L'explorateur ci-dessus traite le problème «maximiser sur l'ellipse », dont la solution est , avec , et . Déplacez le niveau : l'ellipse grandit, le point optimal se déplace, la ligne de niveau tangente s'éloigne de l'origine, la valeur optimale augmente et le multiplicateur diminue. Le dernier affichage, lui, ne bouge pas: l'écart entre et la dérivée calculée — par différences centrées sur l'optimum recalculé en , sans jamais employer la formule de — reste nul. Le second curseur déforme l'ellipse et change toutes les autres valeurs affichées; l'écart reste nul. C'est le théorème 8.3 vu à l'œuvre.
Conditions du second ordre: ce que nous prouvons et ce que nous ne prouvons pas
Pour les extrema libres, le chapitre 7 disposait d'une condition suffisante: la hessienne définie positive donne un minimum, définie négative un maximum. Existe-t-il l'équivalent pour les extrema liés? Oui, et il fait intervenir la hessienne du lagrangien restreinte aux directions tangentes à la contrainte, ce qui se traduit par le déterminant d'une matrice augmentée d'une bordure.
Le critère, que nous admettons — sa démonstration demande de diagonaliser une forme quadratique restreinte à un hyperplan, ce qui relève d'un cours d'optimisation — s'énonce pour et une contrainte:
- si , alors est un maximum lié local strict;
- si , alors est un minimum lié local strict;
- si , on ne conclut pas.
Les signes surprennent; ils sont l'inverse de ceux du cas libre, ce qui tient à la bordure de zéros. Deux contrôles élémentaires. Pour «minimiser sous », on trouve , , , donc , , et
minimum, ce qui est bien le cas. Pour «maximiser sous », on trouve , , , , et : maximum. Le critère fonctionne.
Un répertoire de problèmes classiques
Le rectangle inscrit d'aire maximale
Une remarque de méthode au passage. L'erreur de calcul la plus fréquente dans ces exercices est une simplification hâtive d'un facteur numérique en éliminant ; le réflexe qui la rattrape est toujours le même — reporter la solution trouvée dans la contrainte et dans le système, et vérifier qu'elle les satisfait l'un et l'autre. Nous l'avons fait ici, comme pour le réservoir de l'exemple 8.5.
L'inégalité arithmético-géométrique
L'exemple 8.2 a donné le cas de deux nombres. Le cas général se traite par la même méthode et sera démontré à l'exercice 8.5. Énonçons le résultat, qui a servi plus haut:
C'est cette inégalité, appliquée aux trois quantités , et , qui a fourni la minoration (8.6) et donc l'existence du minimum pour le réservoir. C'est un bon exemple de la circulation des idées: un théorème démontré par Lagrange sert ensuite à légitimer une application de Lagrange.
Distance d'un point à un plan
Le même schéma traite la distance à une courbe ou à une surface, mais la géométrie y est plus riche: il peut y avoir plusieurs candidats.
Moindres carrés sous contrainte linéaire
Les moindres carrés du chapitre 7 ajustent un modèle à des mesures en minimisant la somme des carrés des écarts: c'était un problème d'extremum libre, dont les équations normales (théorème 7.7) sont exactement la condition . En géodésie, en métrologie et en traitement du signal, cet ajustement est presque toujours soumis en plus à une condition de fermeture que les mesures, entachées d'erreurs, ne respectent pas exactement — et le problème devient lié.
Une application: produire sous contrainte de budget
Synthèse
- Un extremum lié est un extremum de restreinte à l'ensemble ; comme n'est pas ouvert, la condition n'y vaut plus. Quand la contrainte se résout explicitement, la substitution ramène le problème à un extremum libre et reste la méthode la plus simple; dès que la contrainte est implicite, elle devient impraticable.
- L'idée géométrique: en un extremum lié, la ligne de niveau de est tangente à la contrainte, faute de quoi on pourrait encore progresser en glissant le long de . D'où la colinéarité , énoncée par le (théorème 8.1) sous l'hypothèse de régularité , et démontrée à partir du théorème des fonctions implicites du chapitre 6. Le produit tout le système par ses points critiques libres.
On veut minimiser sous la contrainte . Quel système faut-il écrire?
Exercices
Vous pouvez afficher le corrigé directement sous chaque énoncé après avoir cherché la solution.
Dans chaque cas, justifier l'existence des extrema, écrire le système de Lagrange, le résoudre et donner les valeurs extrêmes ainsi que les multiplicateurs.
- sous la contrainte .
On reprend le réservoir parallélépipédique sans couvercle: base , hauteur , volume et tôle , avec .
- Calculer, par les multiplicateurs de Lagrange, la distance du point au plan , ainsi que le pied de la perpendiculaire.
- Déterminer le ou les points de l'hyperbole , branche , les plus proches de l'origine.
Un nivellement en boucle a fourni les dénivelés de trois tronçons successifs d'un circuit fermé:
- Démontrer le théorème 8.4 par les multiplicateurs de Lagrange: pour de somme fixée, le produit est maximal si et seulement si tous les sont égaux, et vaut alors . En déduire (8.11).
Références
- Douchet, J. et Zwahlen, B., Calcul différentiel et intégral, Presses polytechniques et universitaires romandes, Lausanne (extrema liés et multiplicateurs).
- Stewart, J., Analyse: concepts et contextes, vol. 2, De Boeck, Bruxelles, chap. 11.
- Marsden, J. E. et Tromba, A. J., Vector Calculus, 6e éd., Freeman, New York, chap. 3 (nombreux exemples géométriques).
- Adams, R. A. et Essex, C., Calculus: A Complete Course, Pearson, Toronto, chap. 13 (hessienne bordée et conditions du second ordre).
- Apostol, T. M., Calculus, vol. 2, 2e éd., Wiley, New York, chap. 9 (démonstration par le théorème des fonctions implicites).
- Liret, F. et Martinais, D., Analyse 2e année, Dunod, Paris.