$$\newcommand{\mtn}{\mathbb{N}}\newcommand{\mtns}{\mathbb{N}^*}\newcommand{\mtz}{\mathbb{Z}}\newcommand{\mtr}{\mathbb{R}}\newcommand{\mtk}{\mathbb{K}}\newcommand{\mtq}{\mathbb{Q}}\newcommand{\mtc}{\mathbb{C}}\newcommand{\mch}{\mathcal{H}}\newcommand{\mcp}{\mathcal{P}}\newcommand{\mcb}{\mathcal{B}}\newcommand{\mcl}{\mathcal{L}} \newcommand{\mcm}{\mathcal{M}}\newcommand{\mcc}{\mathcal{C}} \newcommand{\mcmn}{\mathcal{M}}\newcommand{\mcmnr}{\mathcal{M}_n(\mtr)} \newcommand{\mcmnk}{\mathcal{M}_n(\mtk)}\newcommand{\mcsn}{\mathcal{S}_n} \newcommand{\mcs}{\mathcal{S}}\newcommand{\mcd}{\mathcal{D}} \newcommand{\mcsns}{\mathcal{S}_n^{++}}\newcommand{\glnk}{GL_n(\mtk)} \newcommand{\mnr}{\mathcal{M}_n(\mtr)}\DeclareMathOperator{\ch}{ch} \DeclareMathOperator{\sh}{sh}\DeclareMathOperator{\th}{th} \DeclareMathOperator{\vect}{vect}\DeclareMathOperator{\card}{card} \DeclareMathOperator{\comat}{comat}\DeclareMathOperator{\imv}{Im} \DeclareMathOperator{\rang}{rg}\DeclareMathOperator{\Fr}{Fr} \DeclareMathOperator{\diam}{diam}\DeclareMathOperator{\supp}{supp} \newcommand{\veps}{\varepsilon}\newcommand{\mcu}{\mathcal{U}} \newcommand{\mcun}{\mcu_n}\newcommand{\dis}{\displaystyle} \newcommand{\croouv}{[\![}\newcommand{\crofer}{]\!]} \newcommand{\rab}{\mathcal{R}(a,b)}\newcommand{\pss}[2]{\langle #1,#2\rangle} $$
Bibm@th

Décomposition en valeurs singulières

Théorie

La diagonalisation d'une matrice est souvent très utile pour calculer des puissances de cette matrice ou pour avoir une idée de son comportement. Malheureusement, toutes les matrices ne sont pas diagonalisables, et ce procédé ne peut pas s'appliquer aux matrices qui sont rectangulaires. La décomposition en valeurs singulières est un procédé qui, dans certains cas, peut remplacer la diagonalisation.

Définition : Soit $M$ une matrice $n\times n$ à coefficients complexes. On appelle valeurs singulières de $M$ les racines carrées des valeurs propres de la matrice $M^*M$.

La matrice $M^*M$ est une matrice symétrique positive, elle admet donc $n$ valeurs propres positives ou nulles, comptées avec leur multiplicité. Les valeurs singulières de $M$ sont les racines carrées (positives!) de ces valeurs propres.

Théorème : Soit $M$ une matrice $n\times n$ à coefficients complexes. Alors $M$ peut s'écrire $M=U\Sigma V$ où
  • $U$ et $V$ sont deux matrices orthogonales d'ordre $n$;
  • $\Sigma$ est une matrice diagonale d'ordre $n$ dont les coefficients sur la diagonale sont les valeurs singulières de $M$.
Cette décomposition s'appelle décomposition en valeurs singulières de $M$.

La décomposition en valeurs singulières peut être étendue aux matrices rectangulaires. Si $M$ est une matrice $m\times n$, une décomposition en valeurs singulières de $M$ sera toujours une décomposition de la forme $M=U\Sigma V$ avec $U$ une matrice orthogonale d'ordre $m$, $V$ une matrice orthogonale d'ordre $n$ et $\sigma$ une matrice $m\times n$ où les coefficient non nuls sont ceux sur la diagonale principale de la matrice.

Interprétation géométrique

Voici une interprétation géométrique des valeurs singulières pour les matrices $2\times 2$. Une telle matrice $M$ transforme le cercle unité en une ellipse. Les valeurs singulières de $M$ sont les longueurs des demi-grand axe et demi-petit axe de l'ellipse, c'est-à-dire les valeurs minimales et maximales que peut prendre la norme de $Mx$ quand $x$ est un vecteur de norme 1. De plus, les vecteurs colonnes de la matrice $V$ sont ceux qui sont envoyés par $M$ sur les demi-grand axe et demi-petit axe.