Udgangspunktet for at kunne tale om ortogonale vektorer i Rn og ortogonale matricer i Rn×n er skalarproduktet, populært kaldet prikproduktet. Det giver os mulighed for at generalisere begreber fra plan- og rumgeometri som længder og vinkler. Herefter kan vi operere med ortonormale baser i Rn og deres tilhørende ortogonale matricer. Det er særligt interessant ved symmetriske matricer. Det viser sig nemlig at enhver symmetrisk matrix kan diagonaliseres ved en reel similartransformation, endda med en ortogonal matrix.