A是一个n阶方阵，A'是A的转置，如果有 A'A=E (单位阵)，即A'=A逆，我们就说A是正交矩阵。
正交矩阵是实数特殊化的酉矩阵，因此总是正规矩阵。尽管我们在这里只考虑实数矩阵，这个定义可用于其元素来自任何域的矩阵。正交矩阵毕竟是从内积自然引出的，对于复数的矩阵这导致了归一要求。
正交矩阵不一定是实矩阵。实正交矩阵（即该正交矩阵中所有元都是实数）可以看做是一种特殊的酉矩阵，但是存在一种复正交矩阵，复正交矩阵不是酉矩阵。
定义
如果：AA'=E（E为单位矩阵，A'表示“矩阵A的转置矩阵”。）或A′A=E，则n阶实矩阵A称为正交矩阵， 若A为正交阵，则满足以下条件:
1) AT是正交矩阵
2) （E为单位矩阵）
3) A的各行是单位向量且两两正交
4) A的各列是单位向量且两两正交
5) (Ax,Ay)=(x,y) x,y∈R
6) |A| = 1或-1
正交矩阵通常用字母Q表示。
举例：A=[r11 r12 r13;r21 r22 r23;r31 r32 r33]
则有：r11^2+r21^2+r31^2=r12^2+r22^2+r32^2=r13^2+r23^2+r33^2=1
r11*r12+r21*r22+r31*r32=0等性质
定理
1. 方阵A正交的充要条件是A的行（列) 向量组是单位正交向量组；
2. 方阵A正交的充要条件是A的n个行（列)向量是n维向量空间的一组标准正交基；
3. A是正交矩阵的充要条件是：A的行向量组两两正交且都是单位向量；
4. A的列向量组也是正交单位向量组。
5. 正交方阵是欧氏空间中标准正交基到标准正交基的过渡矩阵。
在矩阵论中，实数正交矩阵是方块矩阵Q，它的转置矩阵是它的逆矩阵，如果正交矩阵的行列式为 +1，则我们称之为特殊正交矩阵