Les valeurs et vecteurs propres

Valeurs et vecteurs propres, polynôme caractéristique

Il est habituel, en analyse de données, de travailler sur des endomorphismes (application linéaire d’un espace vectoriel dans lui-même) ou, pour parler plus simplement, sur les matrices carrées auxquelles ils sont associés. Considérant la taille de certaines d’entre elles ou les valeurs élevées qu’elles contiennent parfois, considérant aussi la lourdeur des calculs quand il s’agit de les élever à une puissance, on cherche à simplifier ce capharnaüm comme on le ferait avec un changement de variable dans d’autres types d’exercices mathématiques. Sauf qu'ici, c'est la base qu'il faut changer. La diagonalisation permet cette simplification. Cette opération se fonde sur les notions de valeur et vecteur propres.

 

Comment faire ?

Elle nécessite de trouver, dans un espace de dimension \(n,\) les \(n\) vecteurs linéairement indépendants qui définiront une nouvelle base. Ils prennent le nom de vecteurs propres et ils sont réunis dans une matrice de passage.

La matrice des \(n\) scalaires qui permettent ce changement de base est diagonale (c'est-à-dire avec des zéros partout sauf sur sa diagonale). Ces scalaires sont nommés valeurs propres. Ce sont des nombres réels ou complexes (Cf. page diagonalisation avec complexes), indiqués ci-dessous par la lettre lambda (\(\lambda.\)) Valeurs et vecteurs propres sont donc intimement liés...

Pour résumer, une valeur propre d’une matrice \(M\) est associée à un vecteur colonne \(V\) lorsque \(MV = \lambda V.\) Ou encore, la valeur propre d’un endomorphisme \(f\) à laquelle est associé un vecteur propre \(v\) vérifie l’égalité \(f(v) = \lambda v.\)

Si \(\lambda\) est une valeur propre de \(M,\) alors \(\lambda^k\) est valeur propre de \(M^k\) (\(k\) est un entier naturel).

Une matrice carrée \(M\) et sa transposée ont les mêmes valeurs propres. En revanche, ce sont les inverses des valeurs propres de \(M\) qui sont celles de la matrice inverse \(M^{-1}\) (mais les vecteurs propres restent les mêmes).

Ce micmac vous semble trop nébuleux ? Si vous avez le bonheur de connaître le principe de l’analyse en composantes principales (ACP), le but devient plus clair. Une application transforme un espace vectoriel d’observations en un espace factoriel, certes abstrait mais qui fait davantage parler les chiffres.

Illustrons le mécanisme par une situation où une matrice \(3 \times 3\) multipliée par un vecteur colonne donne le même résultat que le produit de ce dernier par un scalaire (\(\lambda = 3,\) en l’occurrence) ; la compréhension de cet exemple nécessite de connaître les règles de multiplication de matrices) :

\(\left( {\begin{array}{*{20}{c}} 2&5&{ - 2}\\ 1&4&{ - 2}\\ 0&{ - 3}&5 \end{array}} \right)\left( {\begin{array}{*{20}{c}} 4\\ 2\\ 3 \end{array}} \right)\) \(= 3\left( {\begin{array}{*{20}{c}} 4\\ 2\\ 3 \end{array}} \right) = \left( {\begin{array}{*{20}{c}} {12}\\ 6\\ 9 \end{array}} \right)\)

Note : un vecteur propre peut être défini par un autre qui lui est proportionnel, comme on le verra plus bas. L’ensemble des vecteurs propres associés à une valeur propre est nommé sous-espace propre de \(\lambda.\) Comme tout sous-espace vectoriel, il comprend le vecteur nul. L'ensemble des vecteurs propres d'une application ou d'une matrice est quant à lui nommé spectre.

 

Le polynôme caractéristique

Comme \(MV = \lambda V,\) il est évident que \((M - \lambda I)V = 0\) (\(I\) étant la matrice identité). C’est à partir de cette égalité que vecteurs et valeurs propres peuvent être découverts…

On remarque au passage que les vecteurs propres constituent le noyau de l’application \((f - \lambda I\)).

Dans la mesure où \(V\) n’est pas le vecteur nul (ça se saurait), c’est \((M - \lambda I)\) qui doit être égal à zéro. Pour cela, il faut que le déterminant de cette matrice soit nul. Lorsqu’on le décompose, on obtient un polynôme de degré \(n.\)  On le nomme « polynôme caractéristique ».

Deux matrices semblables ont le même polynôme caractéristique et donc les mêmes valeurs propres.

Reprenons notre cher exemple. On ne s’en lasse pas.

\(D \) \(= \left| {\begin{array}{*{20}{c}} {2 - \lambda }&5&{ - 2}\\ 1&{4 - \lambda }&{ - 2}\\ 0&{ - 3}&{5 - \lambda } \end{array}} \right|\) \(= 0\)

Décomposons \(D\) à partir de la première colonne.

\((2 - \lambda)[(4 - \lambda)(5 - \lambda) - 6] - [5(5 - \lambda) - 6]\) \(= 0\)

Passons le détail de calculs qui n’ont rien de compliqué pour arriver à ce beau polynôme de degré 3 :

\(- \lambda ^3 + 11 \lambda ^2 - 27 \lambda + 9\) \(= 0\)

On remarque d’ailleurs que \(\lambda = 3\) est bien l’une des solutions de l’équation. Comme il est fastidueux de procéder manuellement à une division de polynôme puis au calcul du discriminant afin de trouver les deux autres racines, nous utiliserons un logiciel libre pour déterminer les valeurs propres (voir un calcul manuel en page diagonalisation). En l'occurrence Euler Math Toolbox (mode direct, i. e. sans Maxima) :

valeurs propres sur Euler

On voit qu’il existe bien trois racines réelles distinctes (+0i indique qu’elles ne sont pas complexes) dont 3. Les deux autres racines sont approchées. Pour connaître les valeurs exactes, utilisons les programmes de Maxima, accessibles par Euler. Il apparaît alors que les valeurs propres sont 3, \(4 - \sqrt {13} \) et \(4 + \sqrt {13} \) (Cf. ci-dessous). Profitons-en pour faire connaissance avec les vecteurs propres…

vecteurs propres sur Maxima

Parmi l’infinité de vecteurs propres possibles, Maxima choisit ceux dont la première composante est 1. Remarquez le dernier \(\left( {1,\frac{1}{2},\frac{3}{4}} \right)\) : il est proportionnel à celui utilisé au début de l’exemple (divisé par 4 pour que le premier élément soit égal à 1).

 

Bon à savoir

Le PRODUIT des \(n\) valeurs propres d'une matrice carrée est égal au déterminant de cette matrice. Il est facile de le vérifier sur l'exemple (il faut juste calculer le déterminant). Ici, on trouve 9. La SOMME des \(n\) valeurs propres est égale à la trace de la matrice. Il est encore plus simple de la vérifier sur l'exemple (cette fois, tout est déjà calculé). Dans notre exemple, on trouve 11. Ces propriétés sont utilisées en page optimisation et valeurs propres pour éviter de calculer les valeurs propres.

Lorsqu'on est en présence d'une matrice \(2 \times 2,\) il est donc possible de calculer les deux valeurs propres à l'aide d'un banal système de deux équations à deux inconnues.

 

vecteurs propres