Endomorphisme unitaire
Soit $E$ un espace vectoriel hermitien, et $u$ un endomorphisme de $E$. On dit que u est un endomorphisme unitaire s'il conserve le produit scalaire, c'est-à-dire si pour tous $x,y$ de $E,$ on a : $$\langle u(x),u(y)\rangle=\langle x,y\rangle.$$ Puisque $u$ conserve le produit scalaire, $u$ conserve la norme, et $u$ est donc une isométrie. En outre, un endomorphisme unitaire est toujours inversible, son inverse étant son adjoint $u^*$.
L'ensemble des endomorphismes unitaires forme un sous-groupe de $GL_n(E)$ pour l'opération de composition des applications : on l'appelle groupe unitaire, et on le note $U(E).$ On définit aussi le groupe spécial unitaire $SU(E)$ des endomorphismes unitaires de déterminant $1.$ En identifiant les éléments de $\mathcal M_n(\mathbb C)$ aux endomorphismes de $\mathbb C^n,$ on définit les sous-groupes $U_n(\mathbb C)$ et $SU_n(\mathbb C)$ de $GL_n(\mathbb C)$ correspondants.
D'un point de vue topologique, le groupe unitaire possède les propriétés suivantes : les ensembles $U_n(\mathbb C)$ et $SU_n(\mathbb C)$ sont des parties compactes, d’intérieur vide et connexes par arcs de $\mathcal M_n(\mathbb C).$