Une matrice carrée A (n lignes, n colonnes) à coefficients réels est dite orthogonale si At A = In, où At est la matrice transposée de A et In est la matrice identité.
Des exemples de matrices orthogonales sont les matrices de rotation, comme la matrice de rotation plane d'angle θ
ou les matrices de permutation, comme