Vecteurs aléatoires, covariance et conditionnement

Objectifs du chapitre

À la fin de ce chapitre, vous serez capable de:

• décrire un couple de variables aléatoires par sa loi conjointe — tableau de contingence dans le cas discret, densité $f(x,y)$ dans le cas continu — et en extraire les lois marginales et les lois conditionnelles;
• reconnaître l'indépendance de deux variables aléatoires, sur un tableau comme sur une densité, et dire précisément ce qu'elle autorise;
• calculer $\mathbb{E}[g(X,Y)]$, la covariance $\mathrm{Cov}(X,Y)$ et la corrélation $\rho (X,Y)$, et utiliser la bilinéarité de la covariance;
• établir et appliquer $\mathrm{Var}(X+Y)=\mathrm{Var}(X)+\mathrm{Var}(Y)+2\mathrm{Cov}(X,Y)$, puis sa généralisation à variables;

Ce chapitre est la charnière du cours. Jusqu'ici, une variable aléatoire vivait seule: le chapitre 3 lui a donné une loi, une espérance et une variance, les chapitres 4 et 6 lui ont donné des lois usuelles. Mais la statistique ne travaille jamais sur une seule observation: elle travaille sur un échantillon $X_1,\dots ,X_n$, c'est-à-dire sur $n$ variables aléatoires à la fois. Tout ce que les chapitres 8 à 12 feront — loi des grands nombres, théorème central limite, estimation, intervalles de confiance, tests — repose sur trois résultats qui n'ont de sens que pour plusieurs variables: la définition de l'indépendance d'un échantillon, l'additivité de la variance $\mathrm{Var}(\sum X_i)=\sum \mathrm{Var}(X_i)$, et la loi d'une somme. Ce chapitre les démontre.

Sauf mention contraire, toutes les données chiffrées de ce chapitre sont fictives et servent uniquement à l'exposé.

Couple de variables aléatoires discrètes

Loi conjointe

Deux variables aléatoires définies sur le même univers $\Omega$ peuvent être observées simultanément: à chaque issue $\omega$ correspond le couple $(X(\omega ),Y(\omega ))$. C'est cette observation simultanée qui est l'objet du chapitre. Le mot «même univers» n'est pas décoratif: comparer la taille d'un individu et le poids d'un autre n'aurait aucun sens.

La relation (7.2) n'est que l'axiome de normalisation appliqué à la partition de $\Omega$ par les événements $\{X=x,Y=y\}$: ces événements sont deux à deux disjoints et leur réunion est $\Omega$ tout entier. C'est le contrôle à faire sur tout tableau de loi conjointe, et nous le referons à chaque exemple.

Lorsque $\mathcal{X}$ et $\mathcal{Y}$ sont petits, la loi conjointe s'écrit naturellement comme un tableau de contingence: une ligne par valeur de $Y$, une colonne par valeur de $X$, et dans chaque case la probabilité $p_{X,Y}(x,y)$.

Lois marginales

Les deux dernières bandes du tableau portent un nom.

Démonstration. Les événements $\{Y=y\}$, pour $y$ parcourant $\mathcal{Y}$, forment une partition de $\Omega$ (ils sont disjoints et leur réunion est $\Omega$ puisque $Y$ prend toujours une valeur). La formule des probabilités totales du chapitre 2, appliquée à l'événement $\{X=x\}$ et à cette partition, donne

ce qui est la première égalité de (7.3); la seconde s'obtient en échangeant les rôles. $\square$

Le vocabulaire vient précisément de la disposition du tableau: on écrit ces sommes dans la marge. Retenez le sens de la flèche: la loi conjointe détermine les deux lois marginales, mais les deux lois marginales ne déterminent pas la loi conjointe. Deux tableaux différents peuvent avoir exactement les mêmes marges — nous en verrons un à l'exemple 7.2. L'information perdue en passant au tableau des marges est précisément l'information sur le lien entre $X$ et $Y$, qui est le sujet de tout ce chapitre.

Lois conditionnelles

Ce n'est rien d'autre que la probabilité conditionnelle du chapitre 2, $\mathbb{P}(A\mid B)=\mathbb{P}(A\cap B)/\mathbb{P}(B)$, avec $A=\{Y=y\}$ et $B=\{X=x\}$. C'est bien une loi de probabilité: ses termes sont positifs et leur somme vaut, par (7.3),

Sur le tableau, la recette est d'une simplicité qu'il faut garder en tête: une loi conditionnelle est une colonne (ou une ligne) divisée par sa propre marge. Reprenons l'exemple 7.1. La colonne $x=2$ contient $2/40$, $5/40$, $7/40$, de marge $14/40$. En divisant,

de somme $\frac{1}{7}+\frac{5}{14}+\frac{1}{2}=\frac{2+5+7}{14}=1$. On voit immédiatement ce que la marge de ne disait pas: sachant qu'un client prend deux billets supplémentaires, la probabilité qu'il enregistre deux bagages passe de à . Les deux variables ne sont donc pas sans lien. Pour comparaison, les deux autres colonnes donnent

Trois colonnes, trois lois conditionnelles différentes: le profil des bagages change avec le nombre de billets. Nous verrons au paragraphe suivant que cette variation est exactement la négation de l'indépendance.

Indépendance de deux variables aléatoires

Définition et critère

Le contenu intuitif est celui du chapitre 2: connaître $X$ ne change rien à ce que l'on sait de $Y$. Cela se lit directement sur les lois conditionnelles. En effet, si (7.5) est vraie et si $p_X(x)>0$, alors

c'est-à-dire: toutes les lois conditionnelles de $Y$ sont égales à la loi marginale de $Y$. Réciproquement, si toutes les lois conditionnelles coïncident avec la marginale, (7.5) se retrouve en multipliant par $p_X(x)$. Retenez donc la caractérisation, souvent la plus commode à vérifier:

Lire l'indépendance sur un tableau

Sur un tableau de contingence, (7.5) dit que chaque case est le produit de sa marge de ligne par sa marge de colonne. Il existe une lecture encore plus rapide, purement visuelle.

Couple de variables aléatoires continues

Densité conjointe

Le passage au continu suit exactement le schéma du chapitre 5: la somme devient une intégrale, et la loi est portée par une densité — ici une densité de deux variables, dont les intégrales doubles sont celles du chapitre 9 d'Analyse II.

Comme dans le cas d'une variable, $f_{X,Y}(x,y)$ n'est pas une probabilité: c'est une probabilité par unité d'aire, et $\mathbb{P}(X=x,Y=y)=0$ pour tout couple $(x,y)$. La probabilité est un sous la surface , au-dessus du domaine .

Démonstration. 1. Prenons $D=]-\infty ,a]\times \mathbb{R}$ dans (7.8):

où l'interversion de l'ordre d'intégration est licite pour une fonction positive intégrable (théorème de Fubini–Tonelli, chapitre 9 d'Analyse II). La fonction de répartition de $X$ est donc l'intégrale de la fonction entre parenthèses, qui est par définition la densité de $X$.

2. Si (7.10) a lieu, alors pour $D=]-\infty ,a]\times ]-\infty ,b]$ l'intégrale double se factorise en un produit de deux intégrales simples, ce qui donne $F_{X,Y}(a,b)=F_X(a)F_Y(b)$, soit (7.6). Réciproquement, si , la dérivation par rapport à puis à donne aux points de continuité.

Espérance d'une fonction du couple

On sait calculer $\mathbb{E}[g(X)]$ depuis le chapitre 3, sans passer par la loi de $g(X)$. Le même théorème de transfert vaut pour un couple.

Nous l'admettons: la démonstration dans le cas discret consiste à regrouper les couples $(x,y)$ selon la valeur de $g(x,y)$ et à utiliser l'associativité des familles sommables; dans le cas continu, elle demande la théorie de la mesure, qui n'est pas un prérequis de ce cours. Les deux conséquences suivantes, en revanche, se démontrent en trois lignes et sont utilisées partout.

Démonstration (cas discret; le cas continu est identique avec des intégrales). Appliquons (7.13) à $g(x,y)=ax+by+c$:

Par (7.3), la première somme intérieure vaut $p_X(x)$ et la deuxième $p_Y(y)$; par (7.2), la troisième vaut $1$. On obtient $a\mathbb{E}[X]+b\mathbb{E}[Y]+c$. Le cas de variables s'en déduit par récurrence.

Cette propriété est d'un usage constant et mérite d'être soulignée: l'espérance d'une somme est toujours la somme des espérances, que les variables soient indépendantes ou non, corrélées ou non. Nous verrons dans un instant que la variance, elle, n'a pas cette générosité.

Démonstration (cas discret). Par (7.13) avec $g(x,y)=xy$, puis par (7.5):

La factorisation de la double somme est légitime car la famille est sommable (produit de deux familles sommables). Dans le cas continu, on remplace (7.5) par (7.10) et les sommes par des intégrales, et le théorème de Fubini permet la même factorisation. $\square$

Covariance

Définition et formule de calcul

La linéarité de l'espérance ne dit rien du lien entre $X$ et $Y$. La covariance est l'indicateur qui le mesure, à l'ordre deux.

L'idée est directe. Le produit $(X-{\mu }_X)(Y-{\mu }_Y)$ est positif lorsque les deux variables s'écartent de leur moyenne dans le même sens (toutes deux au-dessus, ou toutes deux en dessous) et négatif lorsqu'elles s'en écartent en sens contraires. La covariance est la moyenne de ce produit: elle est positive si le lien est «croissant», négative s'il est «décroissant», nulle si les deux configurations se compensent. Son unité est le produit des unités de $X$ et de $Y$: une covariance entre une taille en mètres et un poids en kilogrammes s'exprime en , ce qui rend son ampleur difficile à interpréter — d'où la corrélation, plus loin.

Démonstration. Développons le produit dans (7.17) et utilisons la linéarité de l'espérance (théorème 7.4), en n'oubliant pas que ${\mu }_X$ et ${\mu }_Y$ sont des constantes:

C'est exactement la formule $\mathrm{Var}(X)=\mathbb{E}[X^2]-\mathbb{E}[X{]}^2$ du chapitre 3, dont elle est la généralisation: en faisant $Y=X$ dans (7.18), on retrouve

La variance est la covariance d'une variable avec elle-même. Cette identité est le fil conducteur de tout ce qui suit.

Bilinéarité

Démonstration. 1 et 5 sont immédiats sur (7.17) et (7.19). Pour 3, la variable $X+c$ a pour espérance ${\mu }_X+c$, donc $(X+c)-({\mu }_X+c)=X-{\mu }_X$: l'écart à la moyenne est inchangé, et (7.17) aussi. Pour 4, . Pour 2, posons , d'espérance par linéarité; alors , et

par linéarité de l'espérance. $\square$

Ces propriétés font de la covariance un produit scalaire sur l'espace des variables centrées de carré intégrable: symétrique, bilinéaire, positif. C'est le point de vue qui explique tout le reste du chapitre — la variance est le carré d'une norme, l'écart-type est cette norme, et l'inégalité $|\rho |\le 1$ sera l'inégalité de Cauchy–Schwarz.

Variance d'une somme

Démonstration. Par (7.19) puis par bilinéarité (théorème 7.7):

et la symétrie regroupe les deux termes croisés, ce qui donne (7.20). Pour $n$ variables, le même développement donne

somme de $n^2$ termes. Les $n$ termes diagonaux ($i=j$) valent $\mathrm{Var}(X_i)$; les $n^2-n$ autres se groupent deux par deux par symétrie, d'où (7.21).

En remplaçant $Y$ par $-Y$ (dont la covariance avec $X$ change de signe par bilinéarité), on obtient de même

Et de façon générale, pour des coefficients $a$ et $b$:

Indépendance et covariance nulle

Démonstration. Par le théorème 7.5, l'indépendance donne $\mathbb{E}[XY]=\mathbb{E}[X]\mathbb{E}[Y]$; la formule (7.18) donne alors $\mathrm{Cov}(X,Y)=\mathbb{E}[X]\mathbb{E}[Y]-\mathbb{E}[X]\mathbb{E}[Y]=0$. Si les $X_i$ sont indépendantes, elles le sont deux à deux, donc toutes les covariances croisées de (7.21) sont nulles et il ne reste que la diagonale.

La relation (7.24) est le résultat que ce chapitre devait aux suivants. C'est elle qui donne, pour un échantillon $X_1,\dots ,X_n$ de variables indépendantes de même loi, de moyenne $\mu$ et de variance ${\sigma }^2$:

La fameuse décroissance en $1/\sqrt{n}$ de l'erreur d'échantillonnage — celle qui impose de quadrupler la taille d'un sondage pour diviser sa marge par deux — n'a pas d'autre origine que (7.24). Les chapitres 8, 11 et 12 s'en serviront à chaque page.

Corrélation

Définition et inégalité fondamentale

La covariance a le défaut d'avoir une unité, donc de changer de valeur quand on change d'unité: mesurer une longueur en centimètres plutôt qu'en mètres multiplie la covariance par $100$, alors que le lien entre les deux variables n'a évidemment pas changé. On la normalise.

C'est un nombre sans unité. Il est invariant par tout changement d'échelle affine croissant: pour $a>0$ et $c>0$,

en utilisant la bilinéarité et ${\sigma }_{aX+b}=|a|{\sigma }_X$; si $a$ et $c$ sont de signes contraires, $\rho$ change de signe. Autrement dit, $\rho$ ne dépend ni des unités ni de l'origine choisies.

Démonstration. Posons $\tilde{X}=X-{\mu }_X$ et $\tilde{Y}=Y-{\mu }_Y$, et considérons, pour , la fonction

où la dernière égalité est (7.23). Comme $\phi (t)$ est l'espérance d'une quantité positive, on a $\phi (t)\ge 0$ pour tout $t$. C'est donc un trinôme du second degré en $t$, de coefficient dominant $\mathrm{Var}(X)>0$, qui ne prend jamais de valeur strictement négative: son discriminant est nécessairement négatif ou nul,

ce qui est exactement $\mathrm{Cov}(X,Y{)}^2\le \mathrm{Var}(X)\mathrm{Var}(Y)$, soit (7.27) après extraction de la racine carrée.

Cas d'égalité. On a $|\rho |=1$ si et seulement si $\Delta =0$, c'est-à-dire si et seulement si le trinôme possède une racine double $t_0=-\mathrm{Cov}(X,Y)/\mathrm{Var}(X)$. Alors $\phi (t_0)=\mathrm{Var}(t_{0}X+Y)=0$. Or une variable aléatoire de variance nulle est presque sûrement égale à son espérance (chapitre 3): presque sûrement, d'où , relation affine avec , du signe de la covariance donc de . Réciproquement, si avec , la bilinéarité donne et , donc .

Cette démonstration mérite d'être relue: c'est l'inégalité de Cauchy–Schwarz de l'algèbre linéaire, appliquée au produit scalaire $⟨U,V⟩=\mathbb{E}[UV]$ sur les variables centrées. Le cas d'égalité de Cauchy–Schwarz — les deux vecteurs sont colinéaires — devient ici: $X$ et $Y$ sont liées par une relation affine exacte. Et l'interprétation de $\rho$ en découle:

• $\rho =+1$: les points $(X,Y)$ sont exactement sur une droite de pente positive;
• $\rho =-1$: exactement sur une droite de pente négative;
• $\rho$ proche de $\pm 1$: le nuage est concentré autour d'une droite;
• $\rho =0$: aucune tendance linéaire — ce qui, nous l'avons vu, n'exclut aucunement un lien.

Corrélation et causalité

Une corrélation forte entre deux variables autorise à prédire l'une par l'autre; elle n'autorise pas à dire que l'une cause l'autre. Trois mécanismes distincts produisent la même valeur de $\rho$, et rien dans le nombre ne permet de les distinguer.

Le premier est la cause commune. Le nombre de coups de soleil et la consommation de glaces sont corrélés dans une population; aucun des deux ne cause l'autre, une troisième variable — la température — les commande tous deux. C'est le cas le plus fréquent en pratique et le plus difficile à écarter, car la variable de confusion est souvent non mesurée. Le second est l'inversion du sens: on observe que les entreprises très rentables investissent davantage en recherche, et l'on conclut que la recherche rend rentable; le lien pourrait aussi bien aller de la rentabilité vers la capacité à financer la recherche, ou, plus probablement, dans les deux sens. Le troisième est la sélection: si l'on n'observe qu'une partie de la population, choisie selon un critère qui dépend des deux variables, une corrélation peut apparaître, ou disparaître, dans l'échantillon sans exister dans la population.

Il existe même des corrélations sans aucun mécanisme: entre deux séries temporelles toutes deux croissantes, $\rho$ est proche de $1$ par construction, quelle que soit leur nature, et l'on peut fabriquer par recherche systématique des paires absurdes à $\hat{\rho }>0,95$. Ce n'est pas une curiosité: c'est la conséquence arithmétique du fait que deux tendances monotones de même sens sont linéairement liées.

Ce que l'on peut faire, honnêtement, avec une corrélation observée: la signaler, l'assortir de son ordre de grandeur, et énoncer les hypothèses causales concurrentes. Ce que l'on ne peut pas faire: trancher entre elles sans une information supplémentaire — une expérimentation avec assignation aléatoire, une variable instrumentale, une discontinuité de la règle d'attribution, ou une théorie du mécanisme testée par ailleurs. La formule $\rho =\mathrm{Cov}/({\sigma }_X{\sigma }_Y)$ ne contient aucune information sur la direction du temps ni sur celle de l'action; il serait étonnant qu'elle puisse en produire.

Dans l'explorateur ci-dessus, faites glisser $\rho$ de $-0,95$ à $+0,95$ et surveillez les trois barres. Les deux premières, $\mathrm{Var}(X)$ et $\mathrm{Var}(Y)$, ne bougent pas d'un pixel: les lois marginales sont les mêmes pour toutes les valeurs de $\rho$. Seule la troisième se déplace, de $2+2(-0,95)=0,1$ à , c'est-à-dire d'un facteur . C'est l'illustration exacte de (7.20): ; il y faut la covariance, et elle seule.

Espérance conditionnelle

Définition

La loi conditionnelle de $Y$ sachant $X=x$ est une loi de probabilité: elle possède donc une espérance.

Deux objets distincts portent donc presque le même nom, et il faut absolument les séparer: $\mathbb{E}[Y\mid X=x]$ est un nombre, qui dépend de $x$; $\mathbb{E}[Y\mid X]$ est une variable aléatoire, fonction de $X$. La seconde est la meilleure prévision de $Y$ que l'on puisse faire en ne connaissant que $X$, au sens de l'erreur quadratique moyenne: parmi toutes les fonctions $g$, c'est qui minimise . Nous ne démontrerons pas ce résultat, qui n'est utilisé nulle part dans la suite du cours; retenez-en l'idée, car c'est elle qui justifie le nom de «prévision».

Sur l'exemple 7.1, les trois lois conditionnelles calculées plus haut donnent

La fonction $x\mapsto \mathbb{E}[Y\mid X=x]$ est donc croissante, de $0,5$ à $1,357$: le nombre moyen de bagages augmente avec le nombre de billets. C'est la même information que la covariance positive de l'exemple 7.4, sous une forme plus riche — la covariance résume cette fonction par un seul nombre.

Formule de l'espérance totale

Démonstration (cas discret). La variable $\mathbb{E}[Y\mid X]=\phi (X)$ est une fonction de $X$; son espérance se calcule par le théorème de transfert du chapitre 3, puis on remplace $\phi (x)$ par sa définition (7.28):

Il reste à intervertir les deux sommes (licite, la famille étant sommable puisque $Y$ admet une espérance) et à utiliser (7.3):

Cette formule est l'analogue, pour les espérances, de la formule des probabilités totales du chapitre 2 — dont elle est d'ailleurs le cas particulier obtenu avec $Y=1_A$. Contrôlons-la sur l'exemple 7.1:

L'intérêt pratique de (7.30) est considérable: elle permet de calculer une espérance en deux temps, en conditionnant par la première étape d'une expérience aléatoire. C'est presque toujours plus simple que d'établir la loi complète.

Somme de variables aléatoires indépendantes

La convolution

Connaître $\mathbb{E}[X+Y]$ et $\mathrm{Var}(X+Y)$ ne donne pas la loi de $X+Y$. Lorsque les deux variables sont indépendantes, celle-ci se calcule par une opération d'un seul type.

Démonstration. 1. L'événement $\{S=s\}$ est la réunion disjointe, sur les valeurs $k$ possibles de $X$, des événements $\{X=k,Y=s-k\}$. Par additivité puis par indépendance (7.5),

2. Calculons la fonction de répartition de $S$ en intégrant la densité conjointe $f_X(x)f_Y(y)$ sur le demi-plan $\{x+y\le s\}$, puis en posant le changement de variable $y=u-x$ à fixé:

après interversion (Fubini–Tonelli, chapitre 9 d'Analyse II). La fonction entre parenthèses est donc la densité de $S$. $\square$

La lecture de (7.31) est simple et vaut d'être dite en mots: pour obtenir $\mathbb{P}(S=s)$, on énumère toutes les façons d'écrire $s$ comme somme d'une valeur de $X$ et d'une valeur de $Y$, et l'on additionne les produits de probabilités. Le mot «convolution» ne recouvre rien de plus.

Trois lois stables par addition

Certaines familles de lois sont stables: la somme de deux membres indépendants de la famille reste dans la famille. C'est un luxe, et il n'y en a pas beaucoup.

Démonstration. Deux voies. La plus courte est l'interprétation: $X$ compte les succès de $n$ épreuves de Bernoulli indépendantes de paramètre $p$, $Y$ ceux de $m$ autres, indépendantes des premières; la réunion forme $n+m$ épreuves indépendantes de même paramètre, dont $X+Y$ compte les succès.

La voie calculatoire passe par (7.31). Pour $0\le j\le n+m$:

puisque les puissances de $p$ et de $1-p$ ne dépendent pas de $k$. Il reste l'identité de Vandermonde, ${\sum }_k\left(\genfrac{}{}{0ex}{}{n}{k}\right)\left(\genfrac{}{}{0ex}{}{m}{j-k}\right)=\left(\genfrac{}{}{0ex}{}{n+m}{j}\right)$, qui se démontre par un décompte direct sur les combinaisons du chapitre 1: choisir objets parmi répartis en deux paquets de tailles et , c'est en choisir dans le premier et dans le second, pour un quelconque, et les cas ainsi obtenus sont deux à deux disjoints. D'où le résultat.

Le fait que $p$ doive être commun n'est pas une coquetterie: la somme $S$ d'une $\mathcal{B}(10;0,2)$ et d'une $\mathcal{B}(10;0,8)$ indépendantes n'est pas binomiale. Ses valeurs vont de $0$ à $20$, donc la seule binomiale envisageable serait une $\mathcal{B}(20,q)$; l'espérance $\mathbb{E}[S]=2+8=10$ imposerait , donc une variance de . Or, par (7.24), . Contradiction: n'est pas binomiale.

Démonstration. Par (7.31), pour $k\in \mathbb{N}$:

La somme est, par la formule du binôme de Newton, égale à $({\lambda }_1+{\lambda }_2{)}^k$. Donc

qui est la loi $\mathcal{P}({\lambda }_1+{\lambda }_2)$. $\square$

Le résultat est intuitif si l'on pense au processus de Poisson: superposer deux flux d'arrivées indépendants, l'un à ${\lambda }_1$ par minute et l'autre à ${\lambda }_2$, produit un flux à ${\lambda }_1+{\lambda }_2$. Contrôle par les moments: des deux côtés, cohérent avec les théorèmes 7.4 et 7.9.

Ce théorème est admis. Les paramètres, eux, ne le sont pas: l'espérance vient du théorème 7.4 et la variance de (7.24), qui sont démontrés. Ce qui est admis est le fait que la loi de la somme est encore normale. La démonstration usuelle utilise la fonction caractéristique $t\mapsto \mathbb{E}[{\mathrm{e}}^{\mathrm{i}tX}]$, qui transforme une convolution en produit et vaut ${\mathrm{e}}^{\mathrm{i}t\mu -{\sigma }^2{t}^2/2}$ pour une $\mathcal{N}(\mu ,{\sigma }^2)$; le produit de deux telles expressions est de la même forme, avec les paramètres additionnés, et un théorème d'injectivité permet de conclure. Cet outil n'est pas au programme de ce cours. Une démonstration directe par (7.32) est possible mais laborieuse: elle consiste à écrire l'intégrale du produit des deux densités gaussiennes, à compléter le carré dans l'exposant en et à reconnaître une intégrale gaussienne; nous n'en aurons pas besoin.

La stabilité de la loi normale est la raison pour laquelle elle est partout. Elle donne immédiatement, pour un échantillon $X_1,\dots ,X_n$ indépendant de loi $\mathcal{N}(\mu ,{\sigma }^2)$:

Ces trois relations, que les chapitres 11 et 12 utiliseront à chaque intervalle de confiance et à chaque test, sont exactes — et non approchées comme celles que donnera le théorème central limite du chapitre 8 pour une loi quelconque.

Le vecteur gaussien et la loi normale bivariée

Densité

On montre (calcul admis, de même nature que celui de la normalisation de la gaussienne au chapitre 6) que les marginales sont $X\sim \mathcal{N}({\mu }_X,{\sigma }_X^2)$ et $Y\sim \mathcal{N}({\mu }_Y,{\sigma }_Y^2)$, et que le paramètre est bien la corrélation . Le nuage de l'explorateur ci-dessus est un échantillon de cette loi, avec et .

Courbes de niveau. La densité (7.37) ne dépend du point que par la forme quadratique $q(u,v)=u^2-2\rho uv+v^2$. Ses courbes de niveau sont donc les courbes $q(u,v)=\text{const}$, c'est-à-dire des centrées en — la forme quadratique est définie positive dès que , puisque son discriminant vaut . Leurs axes sont les directions propres de la matrice , soit les bissectrices et , de valeurs propres et . Concrètement:

• si $\rho =0$, les ellipses sont des cercles (dans les variables réduites $u$, $v$);
• si $\rho >0$, elles s'allongent le long de la première bissectrice, d'autant plus que $\rho$ approche $1$;
• si $\rho <0$, elles s'allongent le long de la seconde;
• quand $|\rho |\to 1$, l'ellipse dégénère en un segment: le couple se concentre sur une droite, ce qui est exactement le cas d'égalité du théorème 7.10.

Le cas où covariance nulle signifie indépendance

Démonstration. L'implication de droite à gauche est le théorème 7.9, valable pour tout couple. Pour l'autre, il suffit de poser $\rho =0$ dans (7.37):

et le critère (7.10) du théorème 7.2 conclut. $\square$

C'est une exception, et il faut la retenir comme telle: dans le monde gaussien, et seulement là, la covariance capture toute la dépendance. La raison profonde est que la densité (7.37) est entièrement déterminée par ses moments d'ordre $1$ et $2$; il n'y a rien d'autre à annuler.

Application: un portefeuille de deux actifs corrélés

Voici, chiffres à l'appui, ce que la covariance fait gagner. Un investisseur fictif répartit son capital entre deux actifs dont les rendements annuels $R_A$ et $R_B$ ont pour caractéristiques (données fictives):

Il place une fraction $w$ de son capital en $A$ et $1-w$ en $B$. Le rendement du portefeuille est $R_P=w{R}_A+(1-w)R_B$. Par linéarité (théorème 7.4), son espérance ne dépend de la corrélation:

Par (7.23), sa variance en dépend au contraire pleinement:

Le portefeuille équipondéré. Prenons $w=\frac{1}{2}$. Le rendement espéré vaut $5,5\%$ quoi qu'il arrive, et

Lisez cette ligne d'écarts-types: pour le même rendement espéré de $5,5\%$, le risque va de $3\%$ à $15\%$ selon la seule valeur de $\rho$, soit un facteur $5$. Les deux extrêmes se contrôlent à la main: si $\rho =1$, la relation entre $R_A$ et $R_B$ est affine croissante (théorème 7.10) et , la moyenne des risques — aucune diversification; si , elle est affine décroissante et . Le cas donne , déjà bien en dessous de la moyenne :

Le portefeuille de variance minimale. On peut faire mieux en choisissant $w$. En dérivant (7.39) par rapport à $w$ et en annulant, on trouve

Pour $\rho =0$: $w^{\star }=0,0144/0,0468=0,3077$, soit $30,8\%$ en $A$; la variance vaut alors $0,0099692$ et ${\sigma }_P=9,98\%$. Ce nombre mérite qu'on s'y arrête: Mélanger un actif risqué à un actif moins risqué non corrélé réduit le risque en dessous de celui du plus sûr — un résultat contre-intuitif qui est entièrement contenu dans (7.39). Le rendement espéré correspondant est .

Pour $\rho =-0,5$: $w^{\star }=0,0252/0,0684=0,3684$, la variance tombe à $0,0051158$, soit ${\sigma }_P=7,15\%$, pour un rendement espéré de — mieux que le portefeuille équipondéré sur les deux tableaux.

La même arithmétique pour deux erreurs de mesure. Le calcul est identique si $R_A$ et $R_B$ sont les erreurs de deux capteurs dont on moyenne les indications: la moyenne de deux mesures d'écarts-types ${\sigma }_A$ et ${\sigma }_B$ a l'écart-type donné par le tableau ci-dessus. Deux capteurs valent mieux que deux capteurs corrélés — et deux capteurs identiques branchés sur la même alimentation défaillante ( proche de ) n'apportent presque rien. C'est le même théorème, appliqué à un problème de métrologie plutôt qu'à un problème de finance.

Synthèse

• La loi conjointe d'un couple discret est un tableau dont la somme des cases vaut $1$; ses marges sont les lois de $X$ et de $Y$, et une loi conditionnelle est une colonne (ou une ligne) divisée par sa propre marge. Les marges ne déterminent pas la loi conjointe: toute l'information sur le lien est perdue en passant aux marges.
• $X$ et $Y$ sont indépendantes si $\mathbb{P}(X=x,Y=y)=\mathbb{P}(X=x)\mathbb{P}(Y=y)$ pour tout — sur un tableau: colonnes proportionnelles; dans le cas continu: , ce qui force un support rectangulaire.

Exercices

Vous pouvez afficher le corrigé directement sous chaque énoncé après avoir cherché la solution.

Références

• Ross, S., Initiation aux probabilités, Presses polytechniques et universitaires romandes, Lausanne (chapitres sur les variables aléatoires conjointes et les espérances conditionnelles).
• Wackerly, D., Mendenhall, W. et Scheaffer, R., Mathematical Statistics with Applications, Cengage, Boston (chapitre «Multivariate Probability Distributions»).
• Saporta, G., Probabilités, analyse des données et statistique, Technip, Paris.
• Morgenthaler, S., Introduction à la statistique, Presses polytechniques et universitaires romandes, Lausanne.
• Rice, J. A., Mathematical Statistics and Data Analysis, Duxbury, Belmont (chapitres 3 à 4, couples de variables et covariance).
• Dodge, Y., Statistique — dictionnaire encyclopédique, Springer, Paris (entrées «covariance», «corrélation», «loi normale bivariée»).