En mathématiques, et plus précisément en algèbre linéaire, un automorphisme orthogonal d'un espace préhilbertien E est un automorphisme f qui conserve le produit scalaire, c.-à-d. qui vérifie :
De façon équivalente, un endomorphisme f de E est un automorphisme orthogonal si et seulement si f est bijectif et admet pour adjoint, autrement dit si .
Sur le corps des complexes, on l'appelle aussi automorphisme unitaire.
Les automorphismes orthogonaux de E sont les isométries vectorielles surjectives de E dans E. En dimension finie, cette surjectivité est automatique.
Soit f un endomorphisme orthogonal de E.
La conservation du produit scalaire entraîne celle de la norme, c.-à-d. pour tout , . Réciproquement, les identités de polarisation assurent que toute isométrie vectorielle conserve le produit scalaire.
En dimension finie, l'injectivité de f implique sa bijectivité ; ainsi, toute isométrie vectorielle d'un espace euclidien (respectivement hermitien) est un automorphisme orthogonal (resp. unitaire).
En dimension finie, f est une isométrie vectorielle si et seulement si les vecteurs colonnes de sa matrice dans une base orthonormée donnée sont unitaires et orthogonaux deux à deux. Par suite, un endomorphisme d'un espace euclidien (resp. hermitien) est un automorphisme orthogonal (resp. unitaire) si et seulement si sa matrice dans une base orthonormée donnée est orthogonale (resp. unitaire).
Si f est une isométrie vectorielle d'un espace préhilbertien alors toutes ses valeurs propres sont de module 1 (en particulier ses seules éventuelles valeurs propres réelles sont 1 et –1)[1].
Dans un plan euclidien, il existe deux types d'automorphismes orthogonaux :
Si l'espace est orienté, θ est l'angle de la rotation ;
Dans un espace euclidien de dimension 3, on trouve les trois types suivants :
Plus généralement, soit f un automorphisme orthogonal d'un espace euclidien E. Il existe[1] une base orthonormale dans laquelle la matrice de f est diagonale par blocs avec deux sortes de blocs :
Dans cette décomposition, le nombre de –1 est pair si et seulement si f est un automorphisme orthogonal direct (de déterminant 1).
La preuve de ce résultat de décomposition peut se faire dans le cadre plus général des endomorphismes normaux.
Tout automorphisme unitaire d'un espace hermitien est diagonalisable dans une base orthonormée.
Soient espace euclidien (resp. hermitien) et . Les propositions suivantes sont équivalentes :