Préparer sa kholle : réduction d'endomorphismes

On calcule le polynôme caractéristique de $A$ et on trouve facilement que $$\chi_a(X)=X\big(X^2+(ab+bc+ca)\big).$$ Posons $\delta=ab+bc+ca$. On discute alors suivant la valeur de $\delta$ :

• Si $\delta>0$, le polynôme caractéristique n'est pas scindé sur $\mathbb R$ et donc la matrice n'est pas diagonalisable.
• Si $\delta<0$, le polynôme caractéristique est scindé à racines simples : la matrice est diagonalisable.
• Si $\delta=0$, alors $0$ est racine de multiplicité 3 du polynôme caractéristique. La matrice n'est diagonalisable que s'il s'agit de la matrice nulle, c'est-à-dire si et seulement si $a=b=c=0$.

Soit $\lambda\in\mathbb R$ et $M\in\mathcal M_n(\mathbb R),\ M\neq 0$ tel que $\phi(M)=\lambda M$. Les termes diagonaux donnent $m_{i,i}=\lambda m_{i,i}$ pour $1\leq i\leq n$, les termes non-diagonaux donnent $m_{i,j}=\lambda m_{j,i}$, pour $1\leq i\neq j\leq n$. On en déduit que $m_{i,j}=\lambda^2 m_{i,j}$ pour tous les couples $(i,j)$. Ceci entraîne que $\lambda=\pm 1$. On distingue plusieurs cas.

• Si $\lambda=-1$, tous les coefficients sur la diagonale sont égaux à $0$ et on a $m_{i,j}=-m_{j,i}$. On en déduit que $-1$ est une valeur propre de $\phi$, les vecteurs propres appartenant à $\textrm{vect}(f_{i,j};\ 1\leq j<i\leq n)$ avec $f_{i,j}=E_{i,j}-E_{j,i}$. L'espace propre associé est donc de dimension $n(n-1)/2$.
• Si $\lambda=1$, on n'a plus de contraintes sur les éléments diagonaux, et $m_{i,j}=m_{j,i}$ pour les éléménts non-diagonaux. On en déduit que $1$ est valeur propre, les vecteurs propres étant éléments de $\textrm{vect}(E_{i,i},g_{i,j};\ 1\leq j<i\leq n)$, avec $g_{i,j}=E_{i,j}+E_{j,i}$. L'espace propre associé est donc de dimension $n+n(n-1)/2=n(n+1)/2$.

Finalement, puisque $\frac{n(n-1)}2+\frac{n(n+1)}2=n^2=\dim(\mathcal M_n(\mathbb R))$, $\phi$ est bien diagonalisable.

Commençons par prouver le sens direct. Soit $n=\dim E$ et soit $\mathcal B$ une base de $E$ constituée de vecteurs propres pour $u$. Soit $F$ un sous-espace vectoriel de $E$ de dimension $p<n$ et soit $(u_1,\dots,u_p)$ une base de $F$. Alors, par le théorème de la base incomplète, il existe des vecteurs $(e_{p+1},\dots,e_n)$ de $\mathcal B$ tels que $(u_1,\dots,u_p,e_{p+1},\dots,e_n)$ soit une base de $E$. Soit $G=\vect(e_{p+1},\dots,e_n)$. Alors $G$ est stable par $u$ et c'est un supplémentaire de $F$.
Réciproquement, on construit par récurrence sur $p\leq n$ une famille libre $(e_1,\dots,e_p)$ de vecteurs propres de $u$. Le cas $p=n$ donnera la base voulue. Construisons d'abord $e_1$. Soit $H$ n'importe quel hyperplan de $E$. Il possède un supplémentaire stable, autrement dit il existe $e_1\in E$ tel que $\vect(e_1)$ est stable par $u$. Ainsi, $e_1$ est un vecteur propre de $u$. Supposons $(e_1,\dots,e_p)$ construits, avec $p<n$, et construisons $e_{p+1}$. Soit $H$ un hyperplan de $E$ contenant $(e_1,\dots,e_p)$. Il possède un supplémentaire stable par $u$. Autrement dit, il existe $e_{p+1}\notin H$ qui est un vecteur propre de $u$. La famille $(e_1,\dots,e_p)$ étant libre par hypothèse de récurrence, et le vecteur $e_{p+1}$ n'étant pas dans $H$, la famille $(e_1,\dots,e_{p+1})$ est bien une famille libre de vecteurs propres de $u$.