Sous-différentiel

En mathématiques, et plus précisément en analyse convexe, le sous-différentiel est un concept permettant de décrire la variation locale d'une fonction convexe (à valeurs réelles donc) non nécessairement différentiable dans un sens classique, celui auquel on attache aujourd'hui le nom de Fréchet. Au lieu d'être la pente de l'application linéaire tangente (c'est-à-dire, la dérivée) au point considéré, qui n'existe pas nécessairement, le sous-différentiel d'une fonction convexe est l'ensemble des pentes de toutes les minorantes affines de la fonction, qui sont exactes en ce point, c'est-à-dire qui ont en ce point la même valeur que la fonction convexe qu'elles minorent. Dans cette description, le mot pente peut être entendu comme un élément de l'espace dual. La convexité de la fonction assure qu'on peut lui trouver des minorantes affines exactes en presque tout point de son domaine ; on met donc à profit cette propriété pour définir le sous-différentiel. Si l'on peut trouver une minorante affine exacte en un point donné, on dit que la fonction convexe est sous-différentiable en ce point.

On sait que la notion de dérivée est fondamentale en analyse car elle permet d'approcher localement des fonctions par des modèles linéaires, plus simples à étudier. Ces modèles fournissent des renseignements sur les fonctions qu'ils approchent, si bien que de nombreuses questions d'analyse passent par l'étude des fonctions linéarisées (stabilité, inversibilité locale, etc). On rencontre beaucoup de fonctions convexes qui ne sont pas différentiables au sens classique, en particulier lorsque celles-ci résultent de constructions qui n'ont rien pour assurer la différentiabilité des fonctions qu'elles produisent. Il en est ainsi de la fonction duale associée à un problème d'optimisation sous contraintes, pour en citer un exemple emblématique. Pour ces fonctions convexes non lisses, le sous-différentiel joue donc un rôle similaire à celui de la dérivée des fonctions plus régulières.

La notion de sous-différentiel connaît diverses extensions aux fonctions non nécessairement convexes, par exemple aux fonctions localement lipschitziennes[1].

Connaissances supposées : l'algèbre linéaire, le calcul différentiel (notamment les propriétés de la dérivée directionnelle au sens de Dini pour les fonctions convexes prenant des valeurs infinies), les bases de l'analyse convexe (notamment les principales notions attachées aux ensembles et aux fonctions convexes, mais surtout la notion de fonction conjuguée).

Fonction d'une seule variable

Définition

Une fonction convexe non différentiable (en bleu) et deux de ses minorantes affines exactes en ${\displaystyle x_{0}}$ (rouge). Le sous-différentiel de cette fonction en ${\displaystyle x_{0}}$ est l'ensemble des pentes de ces minorantes affines exactes en ${\displaystyle x_{0}}$.

De manière rigoureuse, une sous-dérivée d'une fonction convexe ${\displaystyle f:I\to \mathbb {R} }$ en un point ${\displaystyle x_{0}}$ de l'intervalle ouvert ${\displaystyle I}$ est un nombre réel ${\displaystyle s}$ tel que

${\displaystyle f(x)\geqslant f(x_{0})+s(x-x_{0}),}$

pour tout ${\displaystyle x}$ dans ${\displaystyle I}$. On peut montrer que si ${\displaystyle x_{0}}$ est dans l'intérieur de ${\displaystyle I}$, l'ensemble des sous-dérivées en ${\displaystyle x_{0}}$ est un intervalle fermé non vide, donc de la forme ${\displaystyle [a,b]}$, avec des bornes ${\displaystyle a}$ et ${\displaystyle b}$ données par

${\displaystyle {\begin{array}{rcl}a&=&\displaystyle \lim _{x\uparrow x_{0}}{\frac {f(x)-f(x_{0})}{x-x_{0}}},\\b&=&\displaystyle \lim _{x\downarrow x_{0}}{\frac {f(x)-f(x_{0})}{x-x_{0}}},\end{array}}}$

qui sont finies et qui vérifient ${\displaystyle a\leqslant b}$.

L'ensemble ${\displaystyle [a,b]}$ de toutes les sous-dérivées est appelé le sous-différentiel de la fonction ${\displaystyle f}$ en ${\displaystyle x_{0}}$.

Exemples

Considérons la fonction f(x)=|x| qui est convexe. Alors, le sous-différentiel à l'origine est l'intervalle [−1, 1]. Le sous-différentiel en n'importe quel point x₀<0 est le singleton {−1} et le sous-différentiel en n'importe quel point x₀>0 est le singleton {1}.

Propriétés

• Une fonction convexe f:I→R est différentiable en x₀ si et seulement si le sous-différentiel ne contient qu'un seul point, qui est alors la dérivée de f en x₀.

• Un point x₀ est un minimum local de f si et seulement si zéro est contenu dans le sous-différentiel, c'est-à-dire, dans la figure ci-dessus, on peut tracer une droite horizontale "sous-tangente" au graphe de f en (x₀, f(x₀)). La dernière propriété est une généralisation du fait que la dérivée d'une fonction dérivable en un minimum local est nulle.

Fonction définie sur un espace euclidien

On suppose dans cette section que ${\displaystyle \mathbb {E} }$ est un espace euclidien (de dimension finie donc) dont le produit scalaire est noté ${\displaystyle \langle \cdot ,\cdot \rangle }$ et la norme associée ${\displaystyle \|\cdot \|}$. On note par ailleurs

• ${\displaystyle {\bar {\mathbb {R} }}:=\mathbb {R} \cup \{-\infty ,+\infty \}}$ la droite réelle achevée,
• ${\displaystyle \operatorname {dom} \,f:=\{x\in \mathbb {E} :f(x)<+\infty \}}$ le domaine d'une fonction ${\displaystyle f:\mathbb {E} \to {\bar {\mathbb {R} }}}$, qui peut donc prendre la valeur ${\displaystyle -\infty }$ sur son domaine,
• ${\displaystyle \operatorname {Conv} (\mathbb {E} )}$ l'ensemble des fonctions ${\displaystyle f:\mathbb {E} \to {\bar {\mathbb {R} }}}$ qui sont convexes (c'est-à-dire, leur épigraphe est convexe) et propres (c'est-à-dire, elles ne prennent pas la valeur ${\displaystyle -\infty }$ et ne sont pas identiquement égales à ${\displaystyle +\infty }$),
• ${\displaystyle \operatorname {C{\overline {onv}}} (\mathbb {E} )}$ la partie de ${\displaystyle \operatorname {Conv} (\mathbb {E} )}$ formée des fonctions qui sont aussi fermées (c'est-à-dire, leur épigraphe est fermé),
• ${\displaystyle \operatorname {int} \,C}$ l'intérieur et ${\displaystyle \operatorname {intr} \,C}$ l'intérieur relatif d'un convexe ${\displaystyle C\subset \mathbb {E} }$.

Définition

La notion de sous-différentiel peut être généralisée à une fonction convexe de plusieurs variables réelles, pouvant également prendre la valeur ${\displaystyle +\infty }$. Cette dernière extension trouve son utilité, par exemple en optimisation, lorsque la fonction résulte d'une construction qui n'assure pas a priori la finitude des valeurs qu'elle prend. Comme pour la notion de gradient, on a besoin que l'espace sur lequel est définie la fonction soit muni d'un produit scalaire si l'on veut construire des objets dans cet espace et non dans son dual. Les concepts seront mieux révélés en travaillant sur un espace euclidien abstrait, qui pourra, si on le souhaite, être vu comme ${\displaystyle \mathbb {R} ^{n}}$ muni du produit scalaire euclidien.

Sous-gradient — Soit ${\displaystyle f:\mathbb {E} \to \mathbb {R} \cup \{+\infty \}}$, une fonction convexe et propre. On dit que ${\displaystyle s\in \mathbb {E} }$ est un sous-gradient de ${\displaystyle f}$ en ${\displaystyle x\in \operatorname {dom} \,f}$ si l'une des propriétés équivalentes suivantes est vérifiée :

1. ${\displaystyle \forall \,d\in \mathbb {E} ,~f'(x;d)\geqslant \langle s,d\rangle }$,
2. ${\displaystyle \forall \,y\in \mathbb {E} ,~f(y)\geqslant f(x)+\langle s,y-x\rangle }$,
3. ${\displaystyle x}$ minimise ${\displaystyle y\in \mathbb {E} \mapsto f(y)-\langle s,y\rangle }$,
4. ${\displaystyle f^{*}(s)+f(x)\leqslant \langle s,x\rangle }$,
5. ${\displaystyle f^{*}(s)+f(x)=\langle s,x\rangle }$.

La lettre ${\displaystyle s}$ renvoie à slope (pente) ou sous-gradient (si l'on préfère). La propriété 1 exprime le fait que la fonction ${\displaystyle d\in \mathbb {E} \mapsto \langle s,d\rangle }$ est une minorante linéaire de la fonction dérivée directionnelle ${\displaystyle f'(x;\cdot ):d\in \mathbb {E} \mapsto f'(x;d)\in \mathbb {R} \cup \{\pm \infty \}}$ (que l'on sait toujours exister lorsque ${\displaystyle f}$ est convexe), exacte en ${\displaystyle 0}$. La propriété 2 exprime le fait que la fonction ${\displaystyle y\in \mathbb {E} \mapsto f(x)+\langle s,y-x\rangle }$ est une minorante affine de ${\displaystyle f}$ exacte en ${\displaystyle x}$. Les propriétés 4 et 5 expriment la même chose que la propriété 2 en utilisant la fonction conjuguée ${\displaystyle f^{*}}$ de ${\displaystyle f}$.

Sous-différentiel — L'ensemble des sous-gradients de ${\displaystyle f}$ en ${\displaystyle x}$ est appelé le sous-différentiel de ${\displaystyle f}$ en ${\displaystyle x}$. Il est noté

${\displaystyle \partial f(x).}$

On dit que ${\displaystyle f}$ est sous-différentiable en ${\displaystyle x}$ si ${\displaystyle \partial f(x)\neq \varnothing }$. Par convention, ${\displaystyle \partial f(x)=\varnothing }$ si ${\displaystyle x\notin \operatorname {dom} \,f}$.

Propriétés

Optimalité

La propriété 2 de la définition du sous-différentiel permet d'obtenir immédiatement une expression simple de l'optimalité d'un point.

Condition d'optimalité — Soit ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$. Un point ${\displaystyle {\bar {x}}\in \mathbb {E} }$ minimise ${\displaystyle f}$ sur ${\displaystyle \mathbb {E} }$ si, et seulement si, ${\displaystyle 0\in \partial f({\bar {x}})}$.

Cette condition nécessaire et suffisante d'optimalité du premier ordre (ainsi qualifiée parce qu'elle ne fait intervenir que les « dérivées » premières de la fonction) est typique des problèmes d'optimisation convexes (voir la section Conditions du premier ordre sans contrainte de l'article Conditions d'optimalité).

Trouver les minimiseurs d'une fonction convexe propre revient donc à trouver les « zéros » de son sous-différentiel. Ce résultat est à rapprocher de celui selon lequel les minimiseurs d'une fonction convexe différentiable sont les points qui annulent son gradient. Ce résultat est plus riche qu'il ne paraît à première vue. En effet, du fait que la fonction peut prendre la valeur ${\displaystyle +\infty }$, il traite également de la minimisation d'une fonction convexe sous contraintes convexes (l'ensemble admissible étant le domaine de la fonction).

Lorsque ${\displaystyle f}$ est polyédrique, on a les caractérisations supplémentaires suivantes[2], liées au concept de minimum saillant.

Caractérisations de l'intériorité relative et de l'unicité d'un minimiseur de fonction polyédrique — Soit ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {E} )}$ une fonction polyédrique. Alors

${\displaystyle {\begin{array}{rcl}{\bar {x}}\in \operatorname {intr} {\bigl (}\operatorname {arg\,min} \,f{\bigr )}&\Longleftrightarrow &0\in \operatorname {intr} {\bigl (}\partial f({\bar {x}}){\bigr )},\\\operatorname {arg\,min} \,f=\{{\bar {x}}\}&\Longleftrightarrow &0\in \operatorname {int} {\bigl (}\partial f({\bar {x}}){\bigr )}.\end{array}}}$

La polyédricité de la fonction joue un rôle majeur dans les caractérisations précédentes. Ainsi chacune des implications de la première équivalence peut être fausse pour une fonction non polyédrique : l'implication "${\displaystyle \Rightarrow }$" est fausse pour la fonction ${\displaystyle x\in \mathbb {R} \to \max(x^{2},x)}$ en ${\displaystyle {\bar {x}}=0}$ et l'implication "${\displaystyle \Leftarrow }$" est fausse pour la fonction ${\displaystyle x\in \mathbb {R} \to \max(0,x)^{2}}$ en ${\displaystyle {\bar {x}}=0}$. Pour la seconde équivalence, l'implication "${\displaystyle \Rightarrow }$" est fausse pour la fonction ${\displaystyle x\in \mathbb {R} \to x^{2}}$ en ${\displaystyle {\bar {x}}=0}$, mais l'implication "${\displaystyle \Leftarrow }$" reste vraie même si ${\displaystyle f}$ n'est pas polyédrique.

Règle de bascule

Les sous-différentiels de ${\displaystyle f}$ et de sa conjuguée ${\displaystyle f^{*}}$ jouissent d'une belle règle de réciprocité, parfois appelée règle de bascule[3].

Règle de bascule — 

1. Si ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$, alors ${\displaystyle s\in \partial f(x)\;\Longrightarrow x\in \partial f^{*}(s)}$.
2. Si ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {E} )}$, alors ${\displaystyle s\in \partial f(x)\Longleftrightarrow x\in \partial f^{*}(s)}$.

La réciproque n'a pas lieu au point 1, pour la fonction ${\displaystyle f\in \operatorname {Conv} (\mathbb {R} )}$ ci-dessous

${\displaystyle f(x)=\left\{{\begin{array}{lll}0&{\mbox{si}}&x<0\\1&{\mbox{si}}&x=0\\+\infty &{\mbox{si}}&x>0\end{array}}\right.\qquad {\mbox{donc}}\qquad f^{*}(s)=\left\{{\begin{array}{lll}+\infty &{\mbox{si}}&s<0\\0&{\mbox{si}}&s\geq 0,\end{array}}\right.}$

puisque l'on a ${\displaystyle 0\notin \partial f(0)=\varnothing }$, alors que ${\displaystyle 0\in \partial f^{*}(0)={]-\infty ,0]}}$.

Sous-différentiabilité

Rappelons que l'on dit que ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ est sous-différentiable en ${\displaystyle x\in \operatorname {dom} \,f}$ si ${\displaystyle \partial f(x)\neq \varnothing }$. Affirmer qu'un ensemble est non vide est une propriété forte qui, dans certains cas, revient à montrer qu'un certain problème a une solution.

La propriété 1 définissant un sous-gradient ${\displaystyle s}$, à savoir

${\displaystyle \forall \,d\in \mathbb {E} ,\quad f'(x;d)\geqslant \langle s,d\rangle ,}$

montre clairement que ${\displaystyle f}$ ne peut être sous-différentiable en ${\displaystyle x}$ si la dérivée directionnelle ${\displaystyle f'(x;\cdot )}$ prend en une direction la valeur ${\displaystyle -\infty }$ puisque le membre de droite de l'inégalité ci-dessus est toujours fini. La réciproque de cette observation est le sujet de la proposition qui suit. Une telle situation se présente pour la fonction convexe définie par

${\displaystyle f(x)=\left\{{\begin{array}{ll}-{\sqrt {x}}&{\mbox{si}}~x\geqslant 0\\+\infty &{\mbox{sinon}}.\end{array}}\right.}$

Cette fonction n'est pas sous-différentiable en zéro, parce que ${\displaystyle f'(0;1)=-\infty }$. Évidemment, si ${\displaystyle f'(x;d)=-\infty }$, alors ${\displaystyle f'(x;-d)=+\infty }$, mais ce n'est pas la valeur ${\displaystyle +\infty }$ de la dérivée directionnelle qui empêche ${\displaystyle f}$ d'être sous-différentiable en ${\displaystyle x}$. C'est ce que montre la fonction indicatrice de l'intervalle ${\displaystyle [0,+\infty [}$, dont le sous-différentiel en zéro est l'intevalle ${\displaystyle {]-\infty ,0]}}$.

Sous-différentiabilité — Si ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in \mathbb {E} }$, les propriétés suivantes sont équivalentes :

1. ${\displaystyle f}$ est sous-différentiable en ${\displaystyle x}$,
2. il existe ${\displaystyle y\in \operatorname {intr} \,(\operatorname {dom} \,f)}$ tel que ${\displaystyle f'(x;y-x)>-\infty }$,
3. ${\displaystyle f'(x;\cdot )}$ ne prend pas la valeur ${\displaystyle -\infty }$.

Ces propriétés sont vérifiées si ${\displaystyle x\in \operatorname {intr} \,(\operatorname {dom} \,f)}$.

Propriétés géométriques et topologiques

On note ci-dessous ${\displaystyle \operatorname {aff} \,P}$ l'enveloppe affine d'une partie ${\displaystyle P\subset \mathbb {E} }$.

Propriétés géométriques et topologiques du sous-différentiel — Soient ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$, ${\displaystyle \mathbb {E} _{0}}$ le sous-espace vectoriel parallèle à ${\displaystyle \operatorname {aff} \,(\operatorname {dom} \,f)}$, ${\displaystyle P_{\mathbb {E} _{0}}}$ le projecteur orthogonal sur ${\displaystyle \mathbb {E} _{0}}$ et ${\displaystyle x\in \operatorname {dom} \,f}$. On note ${\displaystyle f|_{x+\mathbb {E} _{0}}}$ la restriction de ${\displaystyle f}$ à ${\displaystyle x+\mathbb {E} _{0}=\operatorname {aff} \,(\operatorname {dom} \,f)}$. Alors

1. ${\displaystyle \partial f(x)=\partial f|_{x+\mathbb {E} _{0}}(x)+\mathbb {E} _{0}^{\perp }}$, en particulier ${\displaystyle P_{\mathbb {E} _{0}}\partial f(x)=\partial f|_{x+\mathbb {E} _{0}}(x)}$,
2. ${\displaystyle \partial f(x)}$ est convexe et fermé (éventuellement vide),
3. ${\displaystyle x\in \operatorname {intr} \,(\operatorname {dom} \,f)~\Longleftrightarrow ~P_{\mathbb {E} _{0}}\partial f(x)}$ est non vide et borné,
4. ${\displaystyle x\in \operatorname {int} \,(\operatorname {dom} \,f)~\Longleftrightarrow ~\partial f(x)}$ est non vide et borné.

Si ${\displaystyle f}$ ne prend que des valeurs réelles, alors ${\displaystyle \operatorname {dom} \,f=\mathbb {E} }$ et son sous-différentiel est un ensemble non vide, convexe et compact (par les points 2 et 4).

Formule du max

Le sous-différentiel peut être défini en utilisant la dérivée directionnelle (propriété 1 de la définition). La proposition suivante montre que l'on peut retrouver les dérivées directionnelles à partir du sous-différentiel : ${\displaystyle f'(x;\cdot )}$ est la fonction d'appui de ${\displaystyle \partial f(x)}$.

Formule du max — Si ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in \operatorname {intr} \,(\operatorname {dom} \,f)}$, alors

${\displaystyle \forall \,d\in \mathbb {E} :\qquad f'(x;d)=\sup _{s\in \partial f(x)}\,\langle s,d\rangle .}$

Le supremum est atteint si ${\displaystyle f'(x;d)<+\infty }$.

Le résultat précédent ne tient plus si ${\displaystyle x}$ est sur la frontière relative du domaine de ${\displaystyle f}$. Voici un contre-exemple : ${\displaystyle f}$ est l'indicatrice de la boule-unité fermée de ${\displaystyle \mathbb {R} ^{2}}$, pour la norme euclidienne, et ${\displaystyle x=(-1,0)}$. Alors ${\displaystyle f'(x;0)=0}$ et si ${\displaystyle d\neq 0}$ :

${\displaystyle f'(x;d)=\left\{{\begin{array}{lll}0&{\mbox{si}}&d_{1}>0\\+\infty &{\mbox{si}}&d_{1}\leqslant 0.\end{array}}\right.}$

Dès lors, la fonction ${\displaystyle \delta _{x}:d\mapsto f'(x;d)}$ n'est pas fermée et ne peut donc être la fonction d'appui d'un ensemble, en particulier elle n'est pas la fonction d'appui du sous-différentiel. D'ailleurs, ce dernier s'écrit ${\displaystyle \partial f(x)=\{s\in \mathbb {R} ^{2}:s_{1}\leqslant 0,~s_{2}=0\}}$ et

${\displaystyle \sigma _{\partial f(x)}(d)=\left\{{\begin{array}{lll}0&{\mbox{si}}&d_{1}\geqslant 0\\+\infty &{\mbox{si}}&d_{1}<0\end{array}}\right.}$

est l'enveloppe convexe fermée de ${\displaystyle \delta _{x}}$. Cette propriété est tout à fait générale pour les fonctions de ${\displaystyle \operatorname {C{\overline {onv}}} (\mathbb {E} )}$.

La multifonction sous-différentiel

On peut voir ${\displaystyle \partial f}$ comme une multifonction ou fonction multivoque, qui à un élément de ${\displaystyle \mathbb {E} }$ fait correspondre une partie de ${\displaystyle \mathbb {E} }$, c'est-à-dire un élément de l'ensemble ${\displaystyle {\mathcal {P}}(\mathbb {E} )}$ des parties de ${\displaystyle \mathbb {E} }$. On note

${\displaystyle \partial f:\mathbb {E} \multimap \mathbb {E} :x\mapsto \partial f(x)}$

cette correspondance.

Rappelons quelques notions d'analyse multifonctionnelle. Soit ${\displaystyle \varphi :\mathbb {E} \multimap \mathbb {F} }$ une multifonction. On définit le domaine, l'image et le graphe de ${\displaystyle \varphi }$ respectivement par

${\displaystyle {\begin{array}{rcl}\operatorname {dom} \,\varphi &:=&\{x\in \mathbb {E} :\varphi (x)\neq \varnothing \},\\{\mathcal {R}}(\varphi )&:=&\cup \{\varphi (x):x\in \operatorname {dom} \,\varphi \},\\{\mathcal {G}}(\varphi )&:=&\{(x,u)\in \mathbb {E} \times \mathbb {F} :u\in \varphi (x)\}.\end{array}}}$

On notera bien que l'on a choisi de définir le graphe comme une partie de ${\displaystyle \mathbb {E} \times \mathbb {F} }$ et pas de ${\displaystyle \mathbb {E} \times {\mathcal {P}}(\mathbb {F} )}$. La multifonction réciproque ${\displaystyle \varphi ^{-1}:\mathbb {F} \multimap \mathbb {E} }$ de la multifonction ${\displaystyle \varphi :\mathbb {E} \multimap \mathbb {F} }$ est définie en ${\displaystyle u\in \mathbb {F} }$ par

${\displaystyle \varphi ^{-1}(u)=\{x\in \mathbb {E} :u\in \varphi (x)\}.}$

Lorsque ${\displaystyle \mathbb {E} }$ est un espace euclidien dont le produit scalaire est noté ${\displaystyle \langle \cdot ,\cdot \rangle }$ et que ${\displaystyle \mathbb {F} =\mathbb {E} }$, on dit que ${\displaystyle \varphi }$ est monotone si

${\displaystyle \forall \,(x,u)\in {\mathcal {G}}(\varphi ),~~\forall \,(y,v)\in {\mathcal {G}}(\varphi ):\qquad \langle v-u,y-x\rangle \geqslant 0.}$

On dit que ${\displaystyle \varphi }$ est monotone maximale si ${\displaystyle \varphi }$ est monotone et si son graphe n'est pas strictement contenu dans le graphe d'un opérateur monotone. On vérifie facilement que cette dernière propriété s'écrit aussi

${\displaystyle {\Bigl [}\langle v-u,y-x\rangle \geqslant 0,\quad \forall \,(x,u)\in {\mathcal {G}}(\varphi ){\Bigr ]}\quad \Longrightarrow \quad (y,v)\in {\mathcal {G}}(\varphi ).}$

Dans le résultat ci-dessous, on note ${\displaystyle f^{*}}$ la conjuguée de ${\displaystyle f}$.

La multifonction sous-différentiel — Si ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$, alors

1. ${\displaystyle \operatorname {intr} \,(\operatorname {dom} \,f)\subset \operatorname {dom} \,\partial f\subset \operatorname {dom} \,f}$ ;
2. ${\displaystyle {\mathcal {R}}(\partial f)\subset \operatorname {dom} \,f^{*}}$ ;
3. ${\displaystyle {\mathcal {G}}(\partial f)}$ est fermé ;
4. la multifonction ${\displaystyle \partial f}$ est monotone.

Si ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {E} )}$, alors

1. ${\displaystyle \operatorname {intr} \,(\operatorname {dom} \,f^{*})\subset {\mathcal {R}}(\partial f)}$ ;
2. ${\displaystyle (\partial f)^{-1}=\partial f^{*}}$ ;
3. la multifonction ${\displaystyle \partial f}$ est monotone maximale.

On rappelle que ${\displaystyle f:\mathbb {E} \to \mathbb {R} \cup \{+\infty \}}$ est fortement convexe, de module ${\displaystyle \alpha >0}$, si pour tout ${\displaystyle x_{0}}$ et ${\displaystyle x_{1}\in \operatorname {dom} \,f}$ et pour tout ${\displaystyle t\in [0,1]\subset \mathbb {R} }$, on a

${\displaystyle f((1-t)x_{0}+tx_{1})\leq (1-t)f(x_{0})+tf(x_{1})-{\frac {\alpha }{2}}\,t(1-t)\|x_{0}-x_{1}\|^{2}.}$

Rappelons aussi qu'une multifonction ${\displaystyle \varphi :\mathbb {E} \multimap \mathbb {F} }$ est dit fortement monotone, de module ${\displaystyle \alpha >0}$, si

${\displaystyle \forall \,(x,y)\in {\mathcal {G}}(\varphi ),\quad \forall \,(x',y')\in {\mathcal {G}}(\varphi ):\qquad \langle y-y',x-x'\rangle \geqslant \alpha \|x-x'\|^{2}.}$

La forte convexité de ${\displaystyle f}$ peut s'exprimer par la forte monotonie de ${\displaystyle \partial f}$[4].

Sous-différentiel fortement monotone — Pour une fonction ${\displaystyle f:\mathbb {E} \to \mathbb {R} \cup \{+\infty \}}$ et un réel ${\displaystyle \alpha >0}$, les propriétés suivantes sont équivalentes :

1. ${\displaystyle f}$ est fortement convexe de module ${\displaystyle \alpha }$,
2. ${\displaystyle \partial f}$ est fortement monotone de module ${\displaystyle \alpha }$,
3. ${\displaystyle \forall \,(x,s)\in {\mathcal {G}}(\partial f)}$ et ${\displaystyle \forall \,y\in \mathbb {E} }$, on a
   ${\displaystyle f(y)\geqslant f(x)+\langle s,y-x\rangle +{\frac {\alpha }{2}}\|y-x\|^{2}.}$
   

Lien avec la différentiabilité

Rappelons les trois notions de différentiabilité d'une fonction ${\displaystyle f:\mathbb {E} \to {\bar {\mathbb {R} }}}$ dont il est question dans cette section. On suppose que ${\displaystyle f}$ est finie au point ${\displaystyle x}$ où sont prises ces dérivées.

• On dit que ${\displaystyle f}$ a une dérivée partielle en ${\displaystyle x}$ suivant un vecteur ${\displaystyle d\in \mathbb {E} }$ si la fonction ${\displaystyle t\in \mathbb {R} \mapsto f(x+td)}$ est différentiable en ${\displaystyle t=0}$.
• On dit que ${\displaystyle f}$ est Gâteaux-différentiable en ${\displaystyle x}$ si la dérivée directionnelle ${\displaystyle f'(x;d)}$ existe pour tout ${\displaystyle d\in \mathbb {E} }$ et si ${\displaystyle d\in \mathbb {E} \mapsto f'(x;d)}$ est linéaire.
• On dit que ${\displaystyle f}$ est Fréchet-différentiable en ${\displaystyle x}$ s'il existe un vecteur ${\displaystyle D\in \mathbb {E} }$ tel que
  ${\displaystyle \lim _{h\to 0 \atop h\neq 0}{\frac {f(x+h)-f(x)-\langle D,h\rangle }{\|h\|}}=0.}$
  Dans ce cas, le vecteur ${\displaystyle D}$ est appelé le gradient de ${\displaystyle f}$ en ${\displaystyle x}$. On le note
  ${\displaystyle \nabla f(x).}$
  D'après la définition, si ${\displaystyle f}$ est Fréchet-différentiable en ${\displaystyle x}$, ${\displaystyle f}$ prend des valeurs finies dans un voisinage de ${\displaystyle x}$.

Ces trois propriétés sont de plus en plus fortes (la Fréchet-différentiabilité implique la Gâteaux-différentiabilité, qui implique elle-même la différentiabilité partielle). Pour une fonction convexe, les trois notions sont équivalentes[5], si bien qu'il n'y a alors pas lieu de faire de distinction entre celles-ci.

Gâteaux et Fréchet différentiabilité — Soient ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in (\operatorname {dom} \,f)^{\circ }}$. On note ${\displaystyle n}$ la dimension de ${\displaystyle \mathbb {E} }$. Alors les propriétés suivantes sont équivalentes :

1. ${\displaystyle f}$ a des dérivées partielles en ${\displaystyle x}$ suivant ${\displaystyle n}$ directions linéairement indépendantes,
2. ${\displaystyle f}$ est Gâteaux-différentiable en ${\displaystyle x}$,
3. ${\displaystyle f}$ est Fréchet-différentiable en ${\displaystyle x}$.

Le résultat suivant[6] établit un lien entre la différentiabilité et la sous-différentiabilité : en bref, une fonction est différentiable en un point si, et seulement si, elle est sous-différentiable en ce point et son sous-différentiel est un singleton.

Différentiabilité et sous-différentiabilité — Soient ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in (\operatorname {dom} \,f)^{\circ }}$.

1. Si ${\displaystyle f}$ est différentiable en ${\displaystyle x}$, alors ${\displaystyle \partial f(x)=\{\nabla f(x)\}}$.
2. Si ${\displaystyle \partial f(x)}$ est le singleton ${\displaystyle \{D\}}$, alors ${\displaystyle f}$ est différentiable en ${\displaystyle x}$ et ${\displaystyle \nabla f(x)=D}$.

Calcul sous-différentiel

Combinaison conique

Voici une conséquence immédiate de la définition du sous-différentiel.

Multiplication par un scalaire positif — Soit ${\displaystyle \alpha \geqslant 0}$, ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in \mathbb {E} }$. Alors

${\displaystyle \partial (\alpha f)(x)=\alpha \,\partial f(x).}$

On remarquera bien que le scalaire multiplie une fonction dans le membre de gauche de l'identité ci-dessus et un ensemble dans son membre de droite.

À l'inverse, comme le montrera un exemple ci-dessous, l'égalité entre le sous-différentiel de la somme de fonctions convexes et la somme des sous-différentiels n'est pas nécessairement assurée. On aura certainement l'égalité si toutes les fonctions ne prennent que des valeurs finies. On notera également que la somme se fait sur des fonctions dans le membre de gauche de l'identité et sur des ensembles dans celui de droite.

Sous-différentiel d'une somme — Soient ${\displaystyle f_{1},\ldots ,f_{p}\in \operatorname {Conv} (\mathbb {E} )}$ et ${\displaystyle x\in \mathbb {E} }$. Alors

${\displaystyle \partial (f_{1}+\cdots +f_{p})(x)\supset \partial f_{1}(x)+\cdots +\partial f_{p}(x),}$

avec égalité si

${\displaystyle \bigcap _{1\leqslant i\leqslant p}\,\operatorname {intr} \,(\operatorname {dom} \,f_{i})\neq \varnothing .}$

Dans cette dernière condition, on peut remplacer ${\displaystyle \operatorname {intr} \,(\operatorname {dom} \,f_{i})}$ par ${\displaystyle \operatorname {dom} \,f_{i}}$ si ${\displaystyle f_{i}}$ est polyédrique.

Voici un exemple où l'égalité n'est pas assurée dans la formule de la somme (${\displaystyle f_{2}}$ est la fonction indicatrice de ${\displaystyle {]-\infty ,0]}}$):

${\displaystyle f_{1}:x\in \mathbb {R} \mapsto \left\{{\begin{array}{ll}-{\sqrt {x}}&{\mbox{si}}~x\geqslant 0\\+\infty &{\mbox{sinon}}\end{array}}\right.\qquad {\mbox{et}}\qquad f_{2}={\mathcal {I}}_{]-\infty ,0]}.}$

Comme la somme ${\displaystyle f=f_{1}+f_{2}}$ est l'indicatrice de ${\displaystyle \{0\}}$, on a ${\displaystyle \partial f(0)=\mathbb {R} }$, alors que ${\displaystyle \partial f_{1}(0)+\partial f_{2}(0)=\varnothing }$, parce que ${\displaystyle \partial f_{1}(0)=\varnothing }$.

Pré-composition par une fonction affine

Le cadre est le suivant. On dispose d'une fonction affine ${\displaystyle a:\mathbb {E} \to \mathbb {F} }$ entre deux espaces euclidiens ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {F} }$. Celle-ci est supposée être définie en ${\displaystyle x\in \mathbb {E} }$ par

${\displaystyle a(x)=Ax+b,}$

où ${\displaystyle A:\mathbb {E} \to \mathbb {F} }$ est linéaire et ${\displaystyle b\in \mathbb {F} }$. On note ${\displaystyle {\mathcal {R}}(a):=a(\mathbb {E} )}$ l'Image directe de ${\displaystyle \mathbb {E} }$ par ${\displaystyle a}$ et ${\displaystyle A^{*}}$ l'application linéaire adjointe de ${\displaystyle A}$ pour les produits scalaires que l'on s'est donnés sur ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {F} }$, défini donc par la relation

${\displaystyle \forall \,x\in \mathbb {E} ,\quad \forall \,y\in \mathbb {F} :\quad \langle A^{*}y,x\rangle =\langle y,Ax\rangle .}$

L'application affine ${\displaystyle a}$ est composée avec une application ${\displaystyle g:\mathbb {F} \to {\bar {\mathbb {R} }}}$.

Sous-différentiel d'une pré-composition par une fonction affine — Dans le cadre défini ci-dessus, si ${\displaystyle g\in \operatorname {Conv} (\mathbb {F} )}$, alors pour tout ${\displaystyle x\in \mathbb {E} }$ :

${\displaystyle \partial (g\circ a)(x)\supset A^{*}{\Bigl (}\partial g(a(x)){\Bigr )},}$

avec égalité si l'une des conditions suivantes est vérifiée :

• ${\displaystyle {\mathcal {R}}(a)\cap \operatorname {intr} \,(\operatorname {dom} \,g)\neq \varnothing }$,
• ${\displaystyle {\mathcal {R}}(a)\cap \operatorname {dom} \,g\neq \varnothing }$ et ${\displaystyle g}$ est polyédrique.

Fonction marginale

Soient ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {F} }$ deux espaces euclidiens et ${\displaystyle \varphi :\mathbb {E} \times \mathbb {F} \to {\bar {\mathbb {R} }}}$ une fonction. On associe à cette dernière la fonction marginale ${\displaystyle f:\mathbb {E} \to {\bar {\mathbb {R} }}}$ définie par :

${\displaystyle f(x)=\inf _{y\in \mathbb {F} }\varphi (x,y).}$

Le sous-différentiel de ${\displaystyle f}$ dépend de celui de ${\displaystyle \varphi }$ qui est supposé calculé pour le produit scalaire de ${\displaystyle \mathbb {E} \times \mathbb {F} }$ suivant : ${\displaystyle \langle (x,y),(x',y')\rangle =\langle x,x'\rangle +\langle y,y'\rangle }$.

Sous-différentiel d'une fonction marginale — Dans le cadre défini ci-dessus, supposons que ${\displaystyle \varphi \in \operatorname {Conv} (\mathbb {E} \times \mathbb {F} )}$ et que ${\displaystyle f\in \operatorname {Conv} (\mathbb {E} )}$. Si ${\displaystyle x\in \mathbb {E} }$ et ${\displaystyle f(x)=\varphi (x,y)}$ (l'infimum est atteint en ${\displaystyle y\in \mathbb {F} }$), alors

${\displaystyle \partial f(x)=\{s:(s,0)\in \partial \varphi (x,y)\}.}$

Ce résultat appelle quelques remarques.

1. Il faut bien noter que, si la borne inférieure ${\displaystyle \inf\{\varphi (x,y):y\in \mathbb {F} \}}$ est atteinte en plusieurs ${\displaystyle y}$, ${\displaystyle \{s:(s,0)\in \partial \varphi (x,y)\}}$ ne dépend pas du minimiseur ${\displaystyle y}$ choisi.
   
   On a un autre éclairage sur cette indépendance par rapport à ${\displaystyle y}$ en observant que ${\displaystyle \varphi }$ est constante sur l'ensemble ${\displaystyle M(x):=\{(x,y):}$ ${\displaystyle y}$ minimise ${\displaystyle \varphi (x,\cdot )\}}$, si bien que ${\displaystyle \partial \varphi }$ est aussi constant sur l'intérieur relatif de ${\displaystyle M(x)}$. Cependant ${\displaystyle \partial \varphi (x,y)}$ peut varier lorsque ${\displaystyle (x,y)}$ passe de l'intérieur relatif de ${\displaystyle M(x)}$ à son bord. C'est le cas de la fonction définie par ${\displaystyle \varphi (x,y)=\max(0,|y|-1)}$, dont la fonction marginale est nulle :
   
   ${\displaystyle M(x)=\{x\}\times [-1,1]\quad {\mbox{et}}\quad \partial \varphi (0,y)=\left\{{\begin{array}{ll}\{(0,0)\}&{\mbox{si}}~-1<y<1\\\{0\}\times [0,1]&{\mbox{si}}~y=1.\end{array}}\right.}$
   
2. D'autre part, si ${\displaystyle \varphi }$ est différentiable en ${\displaystyle (x,y)}$, où ${\displaystyle y}$ est un minimiseur quelconque de ${\displaystyle \varphi (x,\cdot )}$, alors ${\displaystyle f}$ est également différentiable en ${\displaystyle x}$ (car son sous-différentiel est un singleton) et on a
   
   ${\displaystyle \nabla f(x)=\nabla _{x}\varphi (x,y).}$
   C'est comme s'il y avait un minimiseur unique ${\displaystyle y(x)}$, fonction différentiable de ${\displaystyle x}$, que l'on écrivait ${\displaystyle f(x)=\varphi (x,y(x))}$ et que l'on calculait ${\displaystyle \nabla f(x)}$ par une dérivation en chaîne :
   
   ${\displaystyle \nabla f(x)=\nabla _{x}\varphi (x,y)+y'(x)^{*}\nabla _{y}\varphi (x,y).}$
   On retrouverait le résultat ci-dessus en observant que ${\displaystyle \nabla _{y}\varphi (x,y)=0}$ car ${\displaystyle y}$ minimise ${\displaystyle \varphi (x,\cdot )}$.
3. Le fait que ${\displaystyle \varphi (x,\cdot )}$ ait un minimum unique n'implique nullement la différentiabilité de la fonction marginale en ${\displaystyle x}$. Par exemple, ${\displaystyle f}$ est la fonction marginale de ${\displaystyle \varphi }$ définie par ${\displaystyle \varphi (x,y)=f(x)+y^{2}}$. Cette dernière a un minimum ${\displaystyle y=0}$ unique en ${\displaystyle y}$ quel que soit ${\displaystyle x}$, alors que ${\displaystyle f}$ peut ne pas être différentiable.

Fonctions concave et convexe-concave

Certaines constructions conduisent naturellement à des fonctions concaves plutôt que convexes. Il en est ainsi, par exemple, lorsque l'on prend l'enveloppe inférieure d'une famille de fonctions linéaires (la fonction duale d'un problème d'optimisation est construite de cette manière). On peut alors prendre le sous-différentiel de la fonction opposée, qui est convexe, mais il est parfois plus naturel de se passer de la multiplication par moins un. Si ${\displaystyle f}$ est concave, on définit donc le sous-différentiel concave de cette fonction en un point ${\displaystyle x}$ où elle est finie, comme l'ensemble noté et défini par

${\displaystyle {\overset {\frown }{\partial }}f(x):=-\partial (-f)(x).}$

Certains auteurs ne mettent pas le signe ${\displaystyle \frown }$ au-dessus de ${\displaystyle \partial }$ ; il faut alors se rappeler que ${\displaystyle f}$ est concave. Si ${\displaystyle f}$ est concave différentiable, son sous-différentiel concave se réduit bien au gradient de ${\displaystyle f}$. Les propriétés suivantes sont équivalentes :

• ${\displaystyle s\in {\overset {\frown }{\partial }}f(x)}$,
• ${\displaystyle \forall \,d\in \mathbb {E} ,~f'(x;d)\leqslant \langle s,d\rangle }$,
• ${\displaystyle \forall \,y\in \mathbb {E} ,~f(y)\leqslant f(x)+\langle s,y-x\rangle }$,
• ${\displaystyle x}$ maximise ${\displaystyle y\in \mathbb {E} \mapsto f(y)-\langle s,y\rangle }$.

Il est aussi intéressant de définir le sous-différentiel d'une fonction convexe-concave. Si ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {F} }$ sont deux espaces vectoriels, on dit que ${\displaystyle f:\mathbb {E} \times \mathbb {F} \to {\bar {\mathbb {R} }}}$ est convexe-concave si

• pour tout ${\displaystyle y\in \mathbb {F} }$, ${\displaystyle x\mapsto f(x,y)}$ est convexe et
• pour tout ${\displaystyle x\in \mathbb {E} }$, ${\displaystyle y\mapsto f(x,y)}$ est concave.

Le lagrangien d'un problème d'optimisation convexe avec contraintes a cette propriété. La situation est plus complexe que dans le cas d'une fonction concave, car il ne suffit pas de multiplier (une partie de) la fonction par ${\displaystyle -1}$ pour retrouver une fonction convexe et lui appliquer la notion de sous-différentiel convexe que l'on connait.

Sous-gradient d'une fonction convexe-concave — Soient ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {F} }$ deux espaces vectoriels et ${\displaystyle f:\mathbb {E} \times \mathbb {F} \to {\bar {\mathbb {R} }}}$ une fonction convexe-concave. On dit que ${\displaystyle (u,v)\in \mathbb {E} }$ est un sous-gradient (convexe-concave) de ${\displaystyle f}$ en un point ${\displaystyle (x,y)}$ où ${\displaystyle f}$ prend une valeur finie si ${\displaystyle (u,v)}$ vérifie l'une des propriétés équivalentes suivantes :

1. ${\displaystyle u\in \partial _{x}f(x,y)}$ et ${\displaystyle v\in {\overset {\frown }{\partial }}_{y}f(x,y)}$,
2. ${\displaystyle \forall \,x'\in \mathbb {E} :~f(x',y)\geqslant f(x,y)+\langle u,x'-x\rangle }$,
   ${\displaystyle \forall \,y'\in \mathbb {F} :~f(x,y')\leqslant f(x,y)+\langle v,y'-y\rangle }$,
3. ${\displaystyle (x,y)}$ est un point-selle de ${\displaystyle (x',y')\in \mathbb {E} \times \mathbb {F} \mapsto f(x',y')-\langle u,x'\rangle -\langle v,y'\rangle }$.

On note ${\displaystyle {\overset {\backsim }{\partial }}f(x,y)}$ l'ensemble des sous-gradients et on le nomme le sous-différentiel (convexe-concave) de ${\displaystyle f}$. Par convention, ce sous-différentiel est vide si ${\displaystyle f(x)}$ n'est pas fini.

De manière synthétique :

${\displaystyle {\overset {\backsim }{\partial }}f(x,y):=\partial _{x}f(x,y)\times {\overset {\frown }{\partial }}_{y}f(x,y).}$

Dans cette définition, on a noté ${\displaystyle \partial _{x}f(x,y)}$ le sous-différentiel ordinaire en ${\displaystyle x}$ de la fonction convexe ${\displaystyle x'\mapsto f(x',y)}$ et ${\displaystyle {\overset {\frown }{\partial }}_{y}f(x,y)}$ le sous-différentiel concave en ${\displaystyle y}$ de la fonction concave ${\displaystyle y'\mapsto f(x,y')}$. Certains auteurs ne mettent pas le signe ${\displaystyle \backsim }$ au-dessus de ${\displaystyle \partial }$ ; il faut alors se rappeler que ${\displaystyle f}$ est convexe-concave.

Exemples

Voici quelques exemples de sous-différentiels de fonctions convexes classiques.

Fonction indicatrice

On suppose ici que ${\displaystyle \mathbb {E} }$ est un espace euclidien et que ${\displaystyle C}$ est un convexe de ${\displaystyle \mathbb {E} }$.

Le sous-différentiel de la fonction indicatrice ${\displaystyle {\mathcal {I}}_{C}}$ est le cône normal ${\displaystyle N_{C}}$ de ${\displaystyle C}$ :

${\displaystyle \partial \,{\mathcal {I}}_{C}=N_{C}.}$

Norme

Soit ${\displaystyle \|\cdot \|}$ une norme sur un espace euclidien ${\displaystyle \mathbb {E} }$, non nécessairement dérivée du produit scalaire ${\displaystyle \langle \cdot ,\cdot \rangle }$ de ${\displaystyle \mathbb {E} }$. On introduit la norme duale

${\displaystyle \|s\|_{_{D}}:=\sup _{\|x\|\leqslant 1}\;\langle s,x\rangle }$

et la boule-unité duale fermée

${\displaystyle {\bar {B}}_{_{D}}:=\{s\in \mathbb {E} :\|s\|_{_{D}}\leqslant 1\}.}$

Une norme est évidemment une fonction convexe (par l'inégalité triangulaire), partout sous-différentiable (elle ne prend que des valeurs finies). Son sous-différentiel est donné par les formules

${\displaystyle \partial (\|\cdot \|)(x)=\operatorname {arg\,max} _{s\in {\bar {B}}_{_{D}}}\,\langle s,x\rangle =\{s\in {\bar {B}}_{_{D}}:\langle s,x\rangle =\|x\|\}.}$

En particulier :

• si ${\displaystyle x\neq 0}$, les sous-gradients ${\displaystyle s\in \partial (\|\cdot \|)(x)}$ sont sur la frontière de ${\displaystyle {\bar {B}}_{_{D}}}$ : ${\displaystyle \|s\|_{_{D}}=1}$ ;
• ${\displaystyle \partial (\|\cdot \|)(0)={\bar {B}}_{_{D}}}$.

La puissance ${\displaystyle p>1}$ d'une norme

${\displaystyle f:\mathbb {E} \to \mathbb {R} :x\mapsto f(x):={\frac {1}{p}}\,\|x\|^{p}}$

est aussi une fonction convexe (composition de fonctions convexes dont la seconde est croissante) propre (elle ne prend que des valeurs finies) fermée (elle est continue) et partout sous-différentiable (elle ne prend que des valeurs finies). Son sous-différentiel est donné par les formules

${\displaystyle \partial f(x)=\{s\in \mathbb {E} :\langle s,x\rangle =\|x\|^{p}=\|s\|_{_{D}}^{p'}\}=\|x\|^{p-1}\,{\Bigl (}\partial (\|\cdot \|)(x){\Bigr )},}$

où ${\displaystyle p':=p/(p-1)\in {]0,1[}}$ est le nombre conjugué de ${\displaystyle p}$ :

${\displaystyle {\frac {1}{p}}+{\frac {1}{p'}}=1.}$

La dernière expression du sous-différentiel ${\displaystyle \partial f(x)}$ rappelle la dérivation en chaîne de la composition de ${\displaystyle x\in \mathbb {E} \mapsto \|x\|}$ et de ${\displaystyle t\in \mathbb {R} \mapsto t^{p}/p}$.

Distance à un convexe

Soit ${\displaystyle \|\cdot \|}$ une norme sur un espace euclidien ${\displaystyle \mathbb {E} }$, non nécessairement dérivée du produit scalaire ${\displaystyle \langle \cdot ,\cdot \rangle }$ de ${\displaystyle \mathbb {E} }$. On introduit la norme duale

${\displaystyle \|s\|_{_{D}}:=\sup _{\|x\|\leqslant 1}\;\langle s,x\rangle }$

et la boule-unité duale fermée

${\displaystyle {\bar {B}}_{_{D}}:=\{s\in \mathbb {E} :\|s\|_{_{D}}\leqslant 1\}.}$

Soit ${\displaystyle C}$ un ensemble convexe fermé non vide de ${\displaystyle \mathbb {E} }$. On considère la fonction ${\displaystyle \operatorname {dist} _{C}:\mathbb {E} \to \mathbb {R} }$, la distance à ${\displaystyle C}$, définie par

${\displaystyle \operatorname {dist} _{C}(x)=\inf _{y\in C}\|x-y\|.}$

C'est une fonction convexe propre et fermée (elle ne prend que des valeurs finies). On note ${\displaystyle {\bar {x}}}$ une projection d'un point ${\displaystyle x}$ sur ${\displaystyle C}$ : c'est une solution du problème ${\displaystyle \inf\{\|x-y\|:y\in C\}}$. Cette dernière n'est pas nécessairement unique car la norme n'est pas nécessairement associée à un produit scalaire.

Le sous-différentiel en ${\displaystyle x\in \mathbb {E} }$ de la distance à ${\displaystyle C}$ est donné par la formule

${\displaystyle \partial \,\operatorname {dist} _{C}(x)=\left\{s\in {\bar {B}}_{_{D}}\cap N_{C}({\bar {x}}):\langle s,x-{\bar {x}}\rangle =\|x-{\bar {x}}\|\right\}.}$

où ${\displaystyle N_{C}(x):=\{d\in \mathbb {E} :\langle d,y-x\rangle \leqslant 0}$ pour tout ${\displaystyle y\in C\}}$ est le cône normal à ${\displaystyle C}$ en ${\displaystyle x}$.

Lorsque la norme ${\displaystyle \|\cdot \|}$ est celle associée au produit scalaire ${\displaystyle \langle \cdot ,\cdot \rangle }$, les boules-unités primale et duale coïncident (c'est-à-dire, ${\displaystyle {\bar {B}}_{_{D}}={\bar {B}}}$) et on a les propriétés suivantes :

• si ${\displaystyle x\notin C}$, alors ${\displaystyle \operatorname {dist} _{C}}$ est différentiable en ${\displaystyle x}$ et ${\displaystyle \nabla \operatorname {dist} _{C}(x)=(x-{\bar {x}})/{\|x-{\bar {x}}\|}}$ ;
• si ${\displaystyle x\in \operatorname {int} \,C}$, l'intérieur de ${\displaystyle C}$, alors ${\displaystyle \operatorname {dist} _{C}}$ est différentiable en ${\displaystyle x}$ et ${\displaystyle \nabla \operatorname {dist} _{C}(x)=0}$ ;
• si ${\displaystyle x\in C\setminus (\operatorname {int} \,C)}$, la frontière de ${\displaystyle C}$, alors ${\displaystyle \partial \,\operatorname {dist} _{C}(x)={\bar {B}}\cap N_{C}(x)}$.

En l'absence de convexité d'un ensemble ${\displaystyle P\subset \mathbb {E} }$, la distance ${\displaystyle \operatorname {dist} _{P}}$ n'est pas nécessairement différentiable sur le complémentaire de ${\displaystyle P}$.

Valeur propre maximale

On note ${\displaystyle {\mathcal {S}}^{n}}$ l'ensemble des matrices réelles d'ordre ${\displaystyle n}$ symétriques, que l'on munit du produit scalaire canonique ${\displaystyle (A,B)\in {\mathcal {S}}^{n}\times {\mathcal {S}}^{n}\mapsto \langle A,B\rangle :=\operatorname {tr} \,AB}$ (${\displaystyle \operatorname {tr} \,A}$ désigne la trace de la matrice ${\displaystyle A}$). On note aussi ${\displaystyle {\mathcal {S}}_{+}^{n}}$ le cône de ${\displaystyle {\mathcal {S}}^{n}}$ formé des matrices semi-définies positives. On note enfin

${\displaystyle \lambda _{1}:{\mathcal {S}}^{n}\to \mathbb {R} :A\mapsto \lambda _{1}(A)}$

l'application valeur propre maximale, qui à une matrice symétrique ${\displaystyle A}$ associe sa plus grande valeur propre (on rappelle qu'une matrice symétrique d'ordre ${\displaystyle n}$ a ${\displaystyle n}$ valeurs propres réelles). C'est une fonction propre, convexe et continue (donc fermée). Son sous-différentiel en ${\displaystyle A\in {\mathcal {S}}^{n}}$ est donné par la formule

${\displaystyle \partial \lambda _{1}(A)=\operatorname {co} \,\{vv^{\top \!}:\|v\|_{2}=1,\;Av=\lambda _{1}(A)v\},}$

où ${\displaystyle \operatorname {co} \,P}$ désigne l'enveloppe convexe d'un ensemble ${\displaystyle P}$. L'enveloppe convexe ci-dessus est compacte (par exemple, parce que le sous-différentiel d'une fonction convexe ne prenant que des valeurs finies, comme ${\displaystyle \lambda _{1}}$, l'est).

On en déduit que :

• si ${\displaystyle \lambda _{1}(A)}$ est simple, ${\displaystyle \lambda _{1}(\cdot )}$ est différentiable en ${\displaystyle A}$ et son gradient s'écrit alors${\displaystyle \nabla \lambda _{1}(A)=vv^{\top \!},}$où ${\displaystyle \pm v}$ sont les uniques vecteurs propres unitaires associés à la valeur propre maximale ;
• ${\displaystyle \partial \lambda _{1}(0)=\{S\in {\mathcal {S}}_{+}^{n}:\operatorname {tr} \,S=1\}}$ ;
• la dérivée directionnelle de ${\displaystyle \lambda _{1}}$ en ${\displaystyle A\in {\mathcal {S}}^{n}}$ dans la direction ${\displaystyle D\in {\mathcal {S}}^{n}}$ s'écrit ${\displaystyle \lambda _{1}'(A;D)=\lambda _{1}(V^{\top \!}DV),}$ où ${\displaystyle V}$ est une matrice dont les colonnes forment une base orthonormale de l'espace propre associé à ${\displaystyle \lambda _{1}(A)}$.

Fonction spectrale

La présentation ci-dessous synthétise celles de Lewis (1996), Hiriart-Urruty (1998), Borwein et Lewis (2000).

On note ${\displaystyle {\mathcal {S}}^{n}}$ l'ensemble des matrices réelles d'ordre ${\displaystyle n}$ symétriques, que l'on munit du produit scalaire canonique ${\displaystyle (A,B)\in {\mathcal {S}}^{n}\times {\mathcal {S}}^{n}\mapsto \langle A,B\rangle :=\operatorname {tr} \,AB}$, la trace de la matrice ${\displaystyle AB}$. Par ailleurs, pour ${\displaystyle x\in \mathbb {R} ^{n}}$, on note ${\displaystyle [x]\in \mathbb {R} ^{n}}$ le vecteur formé des composantes de ${\displaystyle x}$ en ordre décroissant.

On se donne une fonction ${\displaystyle f:\mathbb {R} ^{n}\to {\bar {\mathbb {R} }}}$ symétrique, c'est-à-dire qui vérifie

${\displaystyle \forall \,x\in \mathbb {R} ^{n}:\qquad f(x)=f([x]),}$

ce qui revient à dire que l'on ne modifie pas la valeur de ${\displaystyle f(x)}$ en permutant les composantes de ${\displaystyle x}$. On note

${\displaystyle \lambda :{\mathcal {S}}^{n}\to \mathbb {R} ^{n}:A\mapsto \lambda (A):=(\lambda _{1}(A),\ldots ,\lambda _{n}(A)),}$

la fonction donnant les valeurs propres de ${\displaystyle A}$ en ordre décroissant :

${\displaystyle \lambda _{1}(A)\geqslant \lambda _{2}(A)\geqslant \cdots \geqslant \lambda _{n}(A).}$

On appelle fonction spectrale une fonction de la forme ${\displaystyle f\circ \lambda }$, avec ${\displaystyle f}$ et ${\displaystyle \lambda }$ comme ci-dessus. Ce sont donc des fonctions définies sur ${\displaystyle {\mathcal {S}}^{n}}$, mais dont les valeurs ne dépendent que du spectre des matrices.

On peut alors caractériser la convexité-fermeture de ${\displaystyle (f\circ \lambda )}$ à partir de celle de ${\displaystyle f}$[7].

Convexité-fermeture d'une fonction spectrale — Dans le cadre défini ci-dessus, si ${\displaystyle f}$ est symétrique, alors

${\displaystyle (f\circ \lambda )\in \operatorname {C{\overline {onv}}} ({\mathcal {S}}^{n})\qquad \Longleftrightarrow \qquad f\in \operatorname {C{\overline {onv}}} (\mathbb {R} ^{n}).}$

On peut aussi calculer le sous-différentiel de ${\displaystyle (f\circ \lambda )}$ à partir de celui de ${\displaystyle f}$.

Sous-différentiel d'une fonction spectrale — Dans le cadre défini ci-dessus, si ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {R} ^{n})}$ est symétrique, alors les trois propriétés suivantes, reliant ${\displaystyle A}$ et ${\displaystyle S\in {\mathcal {S}}^{n}}$, sont équivalentes :

1. ${\displaystyle S\in \partial (f\circ \lambda )(A)}$,
2. ${\displaystyle \lambda (S)\in \partial f(\lambda (A))}$ et ${\displaystyle \langle S,A\rangle =\lambda (S)^{\top \!}\lambda (A)}$,
3. il existe une matrice orthogonale ${\displaystyle V}$ et des vecteurs ${\displaystyle a}$, ${\displaystyle s\in \mathbb {R} ^{n}}$ tels que

${\displaystyle V^{\top \!}AV=\operatorname {Diag} (a),\qquad V^{\top \!}SV=\operatorname {Diag} (s)\qquad {\mbox{et}}\qquad s\in \partial f(a).}$

On peut enfin caractériser la différentiabilité de ${\displaystyle (f\circ \lambda )}$ à partir de celle de ${\displaystyle f}$.

Différentiabilité d'une fonction spectrale — Dans le cadre défini ci-dessus, si ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {R} ^{n})}$ est symétrique, ${\displaystyle (f\circ \lambda )}$ est différentiable en ${\displaystyle A}$ si, et seulement si, ${\displaystyle f}$ est différentiable en ${\displaystyle \lambda (A)}$. Dans ce cas, si ${\displaystyle V}$ est une matrice orthogonale telle que ${\displaystyle A=V\;\operatorname {Diag} (\lambda (A))\;V^{\top \!}}$, on a

${\displaystyle \nabla (f\circ \lambda )(A)=V\;\operatorname {Diag} (\nabla f(\lambda (A)))\;V^{\top \!}.}$

Les fonctions spectrales sont fréquemment rencontrées. En voici quelques-unes, construites à partir de fonctions ${\displaystyle f\in \operatorname {C{\overline {onv}}} (\mathbb {R} ^{n})}$, donnant donc lieu à des fonctions ${\displaystyle (f\circ \lambda )\in \operatorname {C{\overline {onv}}} ({\mathcal {S}}^{n})}$. Dans le tableau ci-dessous, les entiers ${\displaystyle p}$ et ${\displaystyle q}$ peuvent être choisis arbitrairement dans ${\displaystyle \{0,\ldots ,n\}}$, un vecteur de ${\displaystyle x\in \mathbb {R} ^{n}}$ dont toutes les composantes sont strictement positives est signalé par ${\displaystyle x>0}$, une matrice ${\displaystyle A}$ définie positive est signalée par ${\displaystyle A\succ 0}$.

${\displaystyle f(x)}$	${\displaystyle (f\circ \lambda )(A)}$
${\displaystyle [x]_{1}=\max(x_{1},\ldots ,x_{n})}$	${\displaystyle \lambda _{1}(A)}$
${\displaystyle -[x]_{n}=-\min(x_{1},\ldots ,x_{n})}$	${\displaystyle -\lambda _{n}(A)}$
${\displaystyle \sum _{i=1}^{p}[x]_{i}-\sum _{i=n-q+1}^{n}[x]_{i}}$	${\displaystyle \sum _{i=1}^{p}\lambda _{i}(A)-\sum _{i=n-q+1}^{n}\lambda _{i}(A)}$
${\displaystyle \operatorname {l\!b} (x)=\left\{{\begin{array}{ll}-\sum _{i=1}^{n}\log \,x_{i}&{\mbox{si}}~x>0\\+\infty &{\mbox{sinon}}\end{array}}\right.}$	${\displaystyle \operatorname {l\!d} (A)=\left\{{\begin{array}{ll}-\log \,\det \,A&{\mbox{si}}~A\succ 0\\+\infty &{\mbox{sinon}}\end{array}}\right.}$
${\displaystyle \left\{{\begin{array}{ll}-\left(\sum _{i=1}^{n}\,x_{i}^{-1}\right)^{-1}&{\mbox{si}}~x>0\\+\infty &{\mbox{sinon}}\end{array}}\right.}$	${\displaystyle \left\{{\begin{array}{ll}-\left(\operatorname {tr} \,A^{-1}\right)^{-1}&{\mbox{si}}~A\succ 0\\+\infty &{\mbox{sinon}}\end{array}}\right.}$

Fonction définie sur un espace localement convexe

La présentation ci-dessous synthétise celle de Bonnans et Shapiro (2000).

Cadre

On suppose donnés deux espaces espaces vectoriels topologiques localement convexes ${\displaystyle \mathbb {E} }$ et ${\displaystyle \mathbb {E} ^{*}}$ sur ${\displaystyle \mathbb {R} }$ couplés, dans le sens où il existe une application bilinéaire continue

${\displaystyle \langle \cdot ,\cdot \rangle :\mathbb {E} \times \mathbb {E} ^{*}\to \mathbb {R} }$

telle que

• le dual topologique de ${\displaystyle \mathbb {E} }$ coïncide avec ${\displaystyle \{\langle \cdot ,x^{*}\rangle :x^{*}\in \mathbb {E} ^{*}\}}$,
• le dual topologique de ${\displaystyle \mathbb {E} ^{*}}$ coïncide avec ${\displaystyle \{\langle x,\cdot \rangle :x\in \mathbb {E} \}}$.

Comme exemples de tels couples d'espaces vectoriels topologiques localement convexes, citons

• un espace de Banach et son dual topologique muni de la topologie faible,
• un espace vectoriel normé réflexif et son dual topologique muni de la topologie forte.

Définitions

Les définitions de sous-gradient, de sous-différentiel et de sous-différentiabilité sont essentiellement les mêmes que celles introduites en dimension finie.

Sous-gradient, sous-différentiel, sous-différentiabilité — Soit ${\displaystyle f:\mathbb {E} \to \mathbb {R} \cup \{+\infty \}}$, une fonction convexe et propre. On dit que ${\displaystyle x^{*}\in \mathbb {E} ^{*}}$ est un sous-gradient de ${\displaystyle f}$ en ${\displaystyle x\in \operatorname {dom} \,f}$ si l'une des propriétés équivalentes suivantes est vérifiée :

1. ${\displaystyle \forall \,y\in \mathbb {E} ,~f(y)\geqslant f(x)+\langle x^{*},y-x\rangle }$,
2. ${\displaystyle x}$ minimise ${\displaystyle y\in \mathbb {E} \mapsto f(y)-\langle x^{*},y\rangle }$,
3. ${\displaystyle f^{*}(x^{*})+f(x)\leqslant \langle x^{*},x\rangle }$,
4. ${\displaystyle f^{*}(x^{*})+f(x)=\langle x^{*},x\rangle }$.

L'ensemble des sous-gradients de ${\displaystyle f}$ en ${\displaystyle x}$ est appelé le sous-différentiel de ${\displaystyle f}$ en ${\displaystyle x}$ ; il est noté

${\displaystyle \partial f(x).}$

On dit que ${\displaystyle f}$ est sous-différentiable en ${\displaystyle x}$ si ${\displaystyle \partial f(x)\neq \varnothing }$. Par convention, ${\displaystyle \partial f(x)=\varnothing }$ si ${\displaystyle x\notin \operatorname {dom} \,f}$.

Annexes

Notes

1. Voir Clarke (1983).
2. La caractérisation de l'intériorité relative est peut-être due à Gilbert (2015). La caractérisation de l'unicité peut s'obtenir à partir de résultats plus généraux de Burke et Ferris (1993).
3. J.-B. Hiriart-Urruty (2013). Bases, outils et principes pour l’analyse variationnelle. Mathématiques et Applications 70. Springer Verlag.
4. Proposition 6 chez Rockafellar (1976).
5. Proposition IV.4.2.1 chez Hiriart-Urruty et Lemaréchal (2001).
6. Théorème 25.1 chez Rockafellar (1970).
7. Voir Davis (1957) et la section 5.2 chez Borwein et Lewis (2000).

Bibliographie

• (en) A. Auslender, M. Teboulle (2003). Asymptotic Cones and Functions in Optimization and Variational Inequalitites. Springer Monographs in Mathematics. Springer, New York.
• (en) J. F. Bonnans, A. Shapiro (2000). Perturbation Analysis of Optimization Problems. Springer Verlag, New York.
• (en) J.M. Borwein, A.S. Lewis (2000). Convex Analysis and Nonlinear Optimization. Springer, New York.
• (fr) H. Brézis (1973). Opérateurs Maximaux Monotones et Semi-groupes de Contractions Dans les Espaces de Hilbert. Mathematics Studies 5. North-Holland, Amsterdam. (ISBN 978-0-7204-2705-9).
• (en) J.V. Burke, M.C. Ferris (1993). Weak sharp minima in mathematical programming. SIAM Journal on Control and Optimization, 31, 1340–1359. DOI
• (en) C. Davis (1957). All convex invariant functions of Hermitian matrices. Archiv der Mathematik, 8, 26-278.
• (en) F.H. Clarke (1983). Optimization and Nonsmooth Analysis. John Wiley & Sons, New York.
• (en) J.Ch. Gilbert (2015). On the solution uniqueness characterization in the ${\displaystyle \ell _{1}}$ norm and polyhedral gauge recovery. Rapport INRIA.
• (fr) J.-B. Hiriart-Urruty (1998). Optimisation et Analyse Convexe. Presses Universitaires de France, Paris.
• (en) J.-B. Hiriart-Urruty, Cl. Lemaréchal (2001). Fundamentals of Convex Analysis. Springer. (ISBN 978-3-540-42205-1).
• (en) A.S. Lewis (1996). Convex analysis on the Hermitian matrices. SIAM Journal on Optimization, 6, 164-177.
• (en) R.T. Rockafellar (1970). Convex Analysis. Princeton Mathematics Ser. 28. Princeton University Press, Princeton, New Jersey.
• (en) R.T. Rockafellar (1976). Monotone operators and the proximal point algorithm. SIAM Journal on Control and Optimization, 14, 877–898.
• (en) R.E. Showalter (1997). Monotone Operators in Banach Space and Nonlinear Partial Differential Equations. American Mathematical Society. (ISBN 978-0-8218-0500-8).