si quels que soient deux points et du graphe de la fonction, le segment est entièrement situé au-dessus du graphe, c’est-à-dire que la courbe représentative de la fonction se situe toujours en dessous de ses cordes;
ou si l'épigraphe de la fonction (l'ensemble des points qui sont au-dessus de son graphe) est un ensemble convexe;
ou si vu d'en dessous, le graphe de la fonction est en bosse.
Fonction convexe.
En précisant au moyen des valeurs de la fonction ce que sont les points et ci-dessus, on obtient une définition équivalente souvent donnée de la convexité d'une fonction: une fonction définie sur un intervalle réel est convexe lorsque, pour tous et de et tout dans on a:
Lorsque l'inégalité est stricte (avec différent de et dans ), on parle de fonction strictement convexe.
À l'inverse, une fonction dont un même segment est situé en dessous du graphe, ou dont l'hypographe (l'ensemble des points qui sont en dessous du graphe de la fonction) est un ensemble convexe, ou encore dont, vu d'en dessous, le graphe est en creux, est dite concave. En d'autres termes, une fonction est concave si son opposée est convexe. Ainsi, les fonctions affines sont à la fois convexes et concaves.
Les fonctions convexes sont, avec les ensembles convexes, les objets constitutifs de l'analyse convexe, une discipline «intermédiaire» entre l'algèbre linéaire et l'analyse non linéaire. Elles permettent de démontrer un grand nombre d'inégalités remarquables, dites inégalités de convexité. Elles jouent aussi un rôle singulier en optimisation, en supprimant la distinction entre minima locaux et globaux (tout minimum local d'une fonction convexe est un minimum global).
Dans cette première section, on va supposer que l'ensemble de départ est un intervalle réel . Cette restriction permet de fournir une première initiation aux fonctions convexes d'abord plus aisée et parce que la possibilité de tracer des représentations graphiques planes facilite certainement la tâche, ensuite et surtout parce que les concepts de continuité ou dérivabilité sont significativement plus maniables pour les fonctions d'une seule variable. Cette approche montre tout de même vite ses limites, en particulier parce qu'elle n'est guère pertinente pour appliquer la théorie des fonctions convexes à l'optimisation qui en est sans doute la principale motivation.
Définitions
Définition—Une fonction d'un intervalle réel vers est dite convexe lorsque, pour tous et de et tout dans on a:
Cela signifie que pour tout et de , le segment de , où et , est situé au-dessus de la courbe représentative de .
Une fonction concave est une fonction dont la fonction opposée est convexe.
On vérifie aussitôt ce qui suit, reliant les notions d'ensemble convexe et de fonction convexe:
Remarque—La fonction est convexe sur si et seulement si son épigraphe est un sous-ensemble convexe de .
Exemple
La fonction est convexe, parce que son épigraphe est un quart de plan (lui-même convexe comme intersection de deux demi-plans). Il est souvent malcommode de vérifier la convexité d'une fonction définie par une formule concrète à partir de la seule définition, on attendra donc quelques paragraphes pour donner d'autres exemples, lorsqu'on disposera d'un critère de convexité plus utilisable en pratique.
Possibilité de n'utiliser que des milieux
La définition de la convexité fait apparaître des barycentres où les coefficients sont des réels arbitraires de . Lorsqu'on ne fait porter l'hypothèse que sur les milieux, elle s'étend aux isobarycentres:
Lemme[1]—Si une fonction vérifie la condition suivante pour , alors elle la vérifie pour tout entier :
L'inégalité de la définition s'étend comme suit (on peut le démontrer par récurrence sur l'entier [6] ou par le même argument que dans la proposition ci-dessus[7]. On dénomme parfois cette version l'inégalité de Jensen:
Proposition—Si est convexe sur et si sont des points de et des réels positifs ou nuls tels que , alors:
Géométrie du graphe d'une fonction convexe
On appelle parfois «lemme des trois cordes» ou «inégalité des pentes» voire «inégalité des trois pentes» le résultat suivant[8]:
Proposition[9]—Si est convexe sur pour tous points , et de avec :
Réciproquement, si l'une des deux inégalités est vérifiée pour tous , et de avec , alors est convexe.
Régularité des fonctions convexes
Le «lemme des trois cordes» permet de montrer que[10]:
l'ensemble des points où n'est pas dérivable (c'est-à-dire tels que ) est au plus dénombrable.
Démonstration
Soit . On définit sur le taux d'accroissement en par . Cette fonction est croissante d'après le lemme des trois cordes appliqué aux trois cas: , et . Elle admet donc en une limite à gauche et une limite à droite telles que .
Soient tels que . Pour tous tels que et , . En faisant tendre vers et vers , on en déduit: . En particulier, les fonctions et sont croissantes.
La fonction étant croissante, d'après le théorème de Froda, l'ensemble de ses points de discontinuité est au plus dénombrable. Montrons qu'en tout point où elle est continue, elle coïncide avec , autrement dit: est dérivable en . D'après les inégalités précédentes, pour tout tel que , on a . Alors, par continuité de en et le théorème des gendarmes, en faisant tendre vers , il suit que .
On peut préciser les deux premiers points par[11]: une fonction définie sur un intervalle ouvert est convexe si et seulement si et sont définies et croissantes sur .
pour tout entier positif, la fonction est convexe si est pair (si est impair, elle est convexe sur et concave sur );
la fonction est convexe;
la fonction est concave.
Stricte convexité
En faisant intervenir des inégalités strictes, on dispose d'une variante de la convexité: la stricte convexité.
Définition—Une fonction d'un intervalle de vers est dite strictement convexe lorsque, pour tous et distincts dans et tout dans , on a:
Les résultats énoncés plus haut pour des fonctions convexes s'adaptent généralement sans mal aux fonctions strictement convexes.
De même que les fonctions dérivables convexes sont celles qui ont une dérivée croissante, les fonctions dérivables strictement convexes sont celles qui ont une dérivée strictement croissante.
est strictement convexe (sa dérivée seconde est positive et ne s'annule qu'en 0).
Définitions
Convexité
On peut donner au moins deux définitions légèrement différentes d'une fonction convexe de plusieurs variables réelles (ou plus généralement: d'une variable vectorielle), qui reviennent essentiellement au même mais ne fournissent néanmoins pas exactement les mêmes fonctions. On prendra donc garde au contexte lors d'une invocation d'une de ces définitions pour comprendre s'il s'agit ou non de fonctions susceptibles de prendre des valeurs infinies.
Définition 1—Soient un espace vectoriel (ou affine) réel et un convexe de . On dit qu'une fonction
est convexe lorsque
pour tous et de
et tout dans [0; 1], on a: .
Autrement dit: est convexe si sa «restriction» à tout segment est une fonction convexe de la variable réelle (voir supra)[15].
Définition 2—Soit un espace vectoriel (ou affine) réel. On dit qu'une fonction
Étant donné une fonction convexe au sens de la définition 1, on peut lui associer une fonction convexe au sens de la définition 2 en la prolongeant hors de par la valeur ; réciproquement, étant donné une fonction convexe au sens de la définition 2, l'ensemble est un convexe et la restriction de à est une fonction convexe au sens de la définition 1. Les deux transformations sont réciproques l'une de l'autre: les deux définitions, quoique techniquement distinctes, décrivent bien la même notion.
Certaines sources requièrent de plus que soit non vide (dans la définition 1) ou que ne soit pas la constante (dans la définition 2) pour prévenir certaines exceptions désagréables dans quelques énoncés. Une telle fonction de dans est dite propre[16].
La définition 2 est plus récente que la définition 1 et fut introduite indépendamment par Rockafellar et Moreau[17]. Elle permet de définir une fonction convexe comme un seul «objet» (une fonction définie sur un espace vectoriel ayant une propriété bien particulière) et non comme un couple formé d'un ensemble convexe d'un espace vectoriel et d'une fonction à valeurs réelles définie sur cet ensemble convexe. La définition 2 est la plus communément utilisée en analyse convexe, pour les raisons suivantes: d'une part, elle allège souvent l'expression des résultats et, d'autre part, elle permet de ne pas devoir préciser le convexe sur lequel est définie une fonction convexe obtenue par l'une des constructions standards de l'analyse convexe, comme l'enveloppe supérieure, la fonction d'appui, la fonction marginale, la fonction conjuguée, la fonction duale en optimisation,etc.
Stricte convexité
Soit un espace vectoriel (ou affine) réel. On dit qu'une fonction est strictement convexe si, pour tous et distincts dans et tout dans , on a:
Forte convexité
Soit un espace normé. On dit qu'une fonction est fortement convexe, de module si, pour tous et dans et tout dans , on a:
On retrouve la notion de fonction convexe lorsque .
Exemples de fonctions convexes
Voici quelques exemples de constructions de fonctions convexes:
produit d'une fonction convexe par un réel positif;
somme de deux fonctions convexes (de plus, si est strictement convexe et est convexe alors est strictement convexe);
Cependant, une proportion significative de résultats valables pour des fonctions convexes d'une variable se reproduisent à l'identique pour des fonctions convexes sur une partie d'un espace vectoriel, soit qu'on se ramène pour les prouver à considérer la restriction de la fonction à une droite, soit que la démonstration soit une simple révision de la version à une variable. En voici quelques-unes:
une fonction convexe est une fonction dont l'épigraphe est convexe[19];
dans un espace vectoriel topologique, une fonction qui vérifie l'inégalité de convexité pour les seuls milieux et qui est continue est convexe;
La technique de minoration des fonctions convexes par des fonctions affines est une variante adaptée à l'analyse de l'utilisation des hyperplans d'appui en géométrie convexe. La forme analytique du théorème de Hahn-Banach permettrait de minorer directement une fonction convexe définie (et à valeurs finies) sur la totalité de son espace de départ. En revanche, dès que la fonction n'est pas définie partout, il faut poser quelques restrictions techniques[20].
Proposition—Soit un espace vectoriel topologique, une fonction convexe et continue définie sur un ouvert convexe non vide de et un point de .
Il existe alors une fonction affine continue qui minore et qui coïncide avec elle en .
On verra un peu plus bas que l'hypothèse de continuité est superflue en dimension finie (c'est une conséquence de la convexité). En revanche, la condition topologique sur est indispensable, même en une seule variable: pour la fonction convexe sur (dont le graphe est un demi-cercle) et , on ne peut trouver de fonction affine minorante au sens de la proposition précédente.
Démonstration
Considérons d'une part l'épigraphe strict de : il est convexe par convexité de , ouvert dans parce que est ouvert et continue, et d'autre part le singleton . En utilisant la première forme géométrique du théorème de Hahn-Banach, on a la garantie qu'existe un hyperplan d'appui à passant par , qui est fermé. Cet hyperplan ne peut contenir la droite car il ne contient pas par exemple. On en conclut qu'il est le graphe d'une application affine qui minimise , et qui est continue parce que est fermé.
Reconnaître une fonction convexe par ses dérivées
Utilisation des dérivées premières
Voici un premier résultat permettant de reconnaître la convexité d'une fonction au moyen de ses dérivées premières. On note la forme linéaire continue qu'est la différentielle de au point . Le point 2 ci-dessous signifie que l'approximation affine de en tout point est une minorante de ; le point 3 exprime la monotonie de la dérivée.
Convexité et dérivées premières—Soient un espace normé, un ouvert convexe de et une fonction différentiable. Alors, les propriétés suivantes sont équivalentes:
est convexe sur ;
;
.
Un résultat analogue permet de caractériser la stricte convexité d'une fonction. Il suffit de remplacer les inégalités ci-dessus par des inégalités strictes et de supposer que les points d'évaluation et diffèrent.
Stricte convexité et dérivées premières I—Soient un espace normé, un ouvert convexe de et une fonction différentiable. Alors, les propriétés suivantes sont équivalentes:
est strictement convexe sur ;
:\ f(y)>f(x)+f'(x)\cdot (y-x)}
;
:\ (f'(y)-f'(x))\cdot (y-x)>0}
.
En dimension finie, les inégalités ci-dessus peuvent être renforcées[21].
Stricte convexité et dérivées premières II—Soient un espace vectoriel de dimension finie, une fonction de classe C1 et . Alors les propriétés suivantes sont équivalentes:
est strictement convexe;
pour tout , il existe une fonction continue, strictement croissante, vérifiant et
On peut enfin caractériser la forte convexité au moyen des dérivées premières.
Forte convexité et dérivées premières—Soient un espace euclidien, un ouvert convexe de et une fonction différentiable. Alors, les propriétés suivantes sont équivalentes:
Convexité et dérivées secondes—
Soient un ouvert d'un espace normé et une fonction deux fois différentiable.
est convexe si et seulement si pour tout point , la forme bilinéaire est positive.
Si, pour tout point est définie positive, alors est strictement convexe.
Rappelons que la réciproque du second point est fausse (voir supra).
Problèmes de continuité
Continuité sur un ouvert
Comme en dimension 1, une fonction convexe définie sur un ouvert de est forcément continue en tout point de l'ouvert. La démonstration va nous donner une information plus précise[22]:
Soit une fonction convexe définie sur l'ouvert convexe , et soit un point de .
On va dans un premier temps montrer que est localement bornée. La dimension finie est utilisée ici de façon essentielle.
Pour majorer localement , prenons un simplexe contenant en son intérieur, et notons la plus grande valeur prise par sur les sommets de ce simplexe. L'inégalité de convexité permet d'étendre cette majoration à tout le simplexe, donc à un voisinage de .
Passons à la minoration locale, valable sur toute boule centrée en sur laquelle on sache déjà majorer par un . Pour tout point de cette boule, en introduisant le symétrique de par rapport à et en écrivant l'inégalité de convexité pour comme milieu de et en y reportant la majoration de , on obtient la minoration .
Soit alors un réel strictement positif assez petit pour que prenne des valeurs plus petites que (et donc plus grandes que sur la boule ouverte de centre et de rayon . On vérifie alors assez facilement que est -lipschitzienne sur la boule ouverte de centre et de rayon , où l'on pose:
Pour cette vérification, soit et distincts dans . On introduit les points auxiliaires et définis par:
et .
On remarque que ces points auxiliaires sont dans . Si l'on écrit successivement alors les inégalités de convexité correspondant à la représentation de comme un point du segment et à la représentation de comme un point du segment , puis qu'on y insère les majorations et minorations disponibles pour les valeurs de sur , on obtient rapidement la majoration souhaitée:
À une variable, sur un intervalle non ouvert, on a vu qu'une fonction convexe n'était pas nécessairement continue.
Néanmoins il est possible de la rendre continue par un procédé simple: si est convexe sur un intervalle , alors nécessairement la limite à droite de en existe et est inférieure ou égale à la valeur . La discontinuité de en la borne se produit alors dans le cas où . On peut s'en démêler en modifiant simplement la valeur de en ce point: il suffit de la diminuer et la remplacer par [24].
Dès la dimension 2, les choses ne sont pas aussi confortables, comme le montre l'exemple suivant:
Soit le disque-unité fermé de ; considérons la fonction définie sur par:
Cette fonction est convexe. Elle est toutefois discontinue au point mais ici la discontinuité ne peut être levée par une simple modification de la valeur . On constate en effet que si on tend radialement vers ce point, la fonction étant nulle sur le rayon, tend vers 0; mais un calcul facile permet de constater que, si on tend vers le long du cercle frontière de , tend vers 2. Toutes les valeurs comprises entre 0 et 2 sont d'ailleurs valeurs d'adhérence de au point et il est définitivement illusoire d'espérer rendre cette continue en modifiant ses valeurs sur le bord[25].
Toutefois, si l'ensemble de définition est un polytope, les choses se passent comme sur les intervalles de , comme on peut le voir en appliquant le théorème suivant[26]:
Théorème—Une fonction convexe bornée définie sur l'intérieur d'un polytope admet un prolongement convexe continu au polytope.
Fermeture d'une fonction convexe
Une fois qu'on a compris qu'il est vain de vouloir modifier une fonction convexe sur la frontière de son domaine de définition jusqu'à la rendre continue, on peut néanmoins choisir un jeu de valeurs sur cette frontière plus remarquable que les autres, en exigeant que le prolongement soit à la fois semi-continu inférieurement (ce qui nécessite de choisir des valeurs faibles) et convexe (ce qui nécessite de les prendre fortes).
Pour écrire l'énoncé assez confortablement, il est ici particulièrement approprié d'utiliser des fonctions définies sur tout et prenant éventuellement la valeur .
Théorème—Soit une fonction convexe de domaine effectif. On note la fonction définie en par:
La fonction est alors caractérisée par l'une au choix des trois propriétés suivantes:
coïncide avec en les points qui ne sont pas sur la frontière relative du convexe; elle est convexe et semi-continue inférieurement;
coïncide avec en les points qui ne sont pas sur la frontière relative de et, pour tout point de la frontière relative de et tout segment semi-ouvert inclus dans l'intérieur relatif de , ;
a pour épigraphe l'adhérence de l'épigraphe de .
Démonstration
Le fait que est semi-continue inférieurement et la propriété (3) sont vrais sans utiliser l'hypothèse de convexité de , et sont de simples exercices de topologie élémentaire.
Le fait que coïncide avec hors de l'adhérence de , c'est-à-dire prenne la valeur en tout point de cette partie de l'espace est lui aussi évident.
Le fait que coïncide avec sur l'intérieur relatif de provient de la continuité de la restriction de à cet intérieur relatif, en tant que fonction convexe sur un convexe ouvert (relativement à son enveloppe affine).
La convexité de peut sembler claire, puisque son épigraphe est convexe comme adhérence d'un convexe, mais il y a ici un piège! Il ne faut en effet pas oublier de vérifier que prend ses valeurs dans (autrement dit, que la servant à définir ne vaut nulle part ) ce qui n'est pas évident. Pour ce faire, il est souhaitable de se placer provisoirement dans l'enveloppe affine de . Par la proposition d'existence des fonctions affines minimisantes, on construit une forme affine sur ce sous-espace qui minore sur l'intérieur relatif de ; la minoration est encore vraie sur la frontière relative (on s'en aperçoit point par point en restreignant l'espace de départ à une droite passant par ce point), on prolonge enfin arbitrairement cette forme affine à tout entier en une forme affine, continue puisqu'on est en dimension finie, et qui minore partout . Cette forme minore alors aussi les qui construisent prouvant qu'elles ne peuvent valoir .
Une fois connue la convexité de , donc de sa restriction à tout segment, l'affirmation (2) provient du lemme facile suivant: une fonction d'une seule variable qui est à la fois convexe et semi-continue inférieurement est en fait continue.
Il est clair que (2) et que (3) caractérisent . Pour (1), cela découle du paragraphe précédent de la démonstration, dans lequel on a montré que (1) entraîne (2).
La fonction est appelée la fermeture de . Les fonctions convexes égales à leur fermeture sont appelées des fonctions convexes fermées; dit autrement ce sont les fonctions convexes dont l'épigraphe est fermé, ou encore autrement dit ce sont les fonctions convexes semi-continues inférieurement[27].
On peut aussi introduire une notion de convexité pour les fonctions à valeurs vectorielles, pourvu que l'on se donne un cône dans l'espace d'arrivée de la fonction.
De façon plus précise, on suppose donnés deux espaces vectoriels et , un convexe de , un cône pointé convexe de et une fonction de dans . On dit que est -convexe si, pour tous et de et tout dans , on a:
Par les propriétés supposées de , l'ensemble des fonctions -convexes est un cône convexe de l'ensemble des fonctions de dans (parce que est un cône convexe), contenant les fonctions affines (parce que est pointé).
Si le cône est également saillant, il induit sur un ordre partiel, noté et défini par:
Alors, l'expression ci-dessus de la -convexité de s'écrit aussi:
ce qui rappelle l'inégalité de convexité familière.
L'analyse convexe trouve un grand nombre d'applications en physique, lorsque les potentiels énergétiques sont localement convexes (existence de solutions stables, de changements de phase). En homogénéisation, par exemple, les théories de type variationnel permettent d'estimer les solutions d'équations aux dérivées partielles elliptiques grâce à la représentation des potentiels énergétiques par transformée de Legendre. La transformée de Legendre, formulation mathématique qui représente une fonction convexe par l'ensemble de ses tangentes, permet le développement de méthodes de linéarisation[28].
Ce résultat est attribué à Jensen par (en) Constantin Nicolescu et Lars-Erik Persson(en), Convex Functions and their Applications: A Contemporary Approach, Springer, coll.«Ouvrages de mathématiques de la Société mathématique du Canada» (no23), (ISBN978-0-387-24300-9, lire en ligne), p.10. Ils renvoient à Jensen 1906, qui démontre directement une inégalité plus générale (voir infra).
Ce résultat est cité par Nicolescu et Persson 2006, p.20-21, qui l'attribuent à L. Galvani, renvoyant à son article «Sulle funzioni convesse di una o due variabili, definite in un aggregato qualunque», Rend. Circ. Mat. Palermo, vol. 41, 1916, p.103-134DOI10.1007/BF03018290.
Voir Nicolescu et Persson 2006, p.21, qui attribuent les deux premiers points à Otto Stolz, renvoyant à son traité Grundzüge der Differential und Integralrechnung, vol. 1, Teubner, Leipzig, 1893.
Énoncé dans Jacques Douchet, Analyse: recueil d'exercices et aide-mémoire, vol.1, PPUR, , 3eéd. (1reéd. 2003) (lire en ligne), p.77 (prop. 5.44) et démontré dans cetexercice corrigé de la leçon sur les fonctions d'une variable réelle sur Wikiversité. Pour une généralisation aux fonctions convexes d'une variable vectorielle, voir (en) Jean-Paul Penot, Calculus Without Derivatives, coll.«GTM» (no266), (lire en ligne), p.202-203.
La proposition qui suit est énoncée dans Nicolescu et Persson 2006, p.114 (sous l'hypothèse d'un espace normé, qui ne joue pas un rôle essentiel dans la preuve).
R. Glowinski, J.-L. Lions et R. Trémolières, Analyse numérique des inéquations variationnelles, t.1: Théorie Générale, Premières Applications, Paris, Dunod-Bordas, , p.61 et 63, Lemmes 1.1 et 1.2.
Ce théorème est cité sans démonstration par Nicolescu et Persson 2006, p.123, qui renvoient à (en) D. Gale, V. Klee et R. T. Rockafellar, «Convex functions on convex polytopes», Proc. Amer. Math. Soc., vol.19, , p.867-873.