Geométricamente, las matrices ortogonales representan transformaciones isométricas en espacios vectoriales reales[1] (o más exactamente espacios de Hilbert reales) llamadas justamente, transformaciones ortogonales. Estas transformaciones son isomorfismos internos del espacio vectorial en cuestión. En el caso real, dichas transformaciones pueden ser rotaciones, reflexiones especulares o inversiones y son usadas extensivamente en computación gráfica. Por sus propiedades, también son usadas para el estudio de ciertos fibrados y en física se las usa en el estudio del movimiento de cuerpos rígidos y en la formulación de ciertas teorías de campos.
Así que los números , , y satisfacen, además, la propiedad que la suma de sus cuadrados vale 1. Por lo tanto, existen un par de números reales y para los cuales
Por lo tanto, sustituyendo en queda:
Y . Entonces, se cumple que o
Concluimos que toda matriz ortogonal de tamaño 2 puede escribirse como
con real y
con real
Sea una matriz ortogonal por . Sean , , los vectores fila de la matriz. En término de estos vectores, es muy fácil expresar los elementos de la matriz que resulta de multiplicar por su transpuesta:
De modo que los vectores fila de una matriz ortogonal forman un conjunto de vectores ortonormales. Puesto que la ecuación
también se verifica, tenemos que los vectores columna de la matriz también forman un conjunto ortonormal de vectores. Como el recíproco de todo esto también es cierto, tenemos
Una matriz real es ortogonal si y sólo si sus vectores filas o vectores columna son cada uno un conjunto ortonormal de vectores.
Es en este sentido que se dice que se ha hecho una caracterización de las matrices ortogonales. Dada una matriz, basta verificar esta propiedad entre sus vectores fila y columna para determinar si dicha matriz es o no ortogonal.
De la definición, es inmediato que si una matriz es ortogonal, la matriz es no singular o invertible y su transpuesta coincide con su inversa
El determinante de una matriz ortogonal es +1 o -1. En efecto, de las propiedades del determinante tenemos
y por tanto,
El conjunto de matrices ortogonales, junto con la operación de producto de matrices es un grupo llamado grupo ortogonal O(n). Supongamos que y son matrices ortogonales y sea igual al producto de por . Usando las propiedades del producto de matrices, tenemos
y así, el producto de matrices ortogonales es una matriz ortogonal.
En teoría de grupos, al grupo de matrices ortogonales por con coeficientes en el cuerpo se denomina grupo ortogonal de dimensión y se representa con . En particular el subgrupo formado por las matrices ortogonales de determinante +1, se llama grupo especial ortogonal y se le representa con . Entre las matrices ortogonales se encuentran las matrices de rotación y las de permutación. Cuando el cuerpo es el de los reales entonces se escribe simplemente y .