c) Xét phương trình $(A-B)X=0$. Hiển nhiên $X=0$ là nghiệm của phương trình này. Ta sẽ chứng minh đó là nghiệm duy nhất.
Có $(A-B)X=0\Rightarrow AX=BX\Rightarrow (AX)^{t}(BX)=(BX)^{t}(BX)\Rightarrow (BX)^{t}(BX)=0$ (1)
Đặt $BX=\left ( c_{i} \right )_{n\times 1}\Rightarrow (BX)^{t}(BX)=\sum_{i=1}^{n}c_{i}^{2}$ (2)
Từ (1) và (2) suy ra $c_{i}=0,i=\overline{1,n}$, tức là $BX=0$. Mà $B$ khả nghịch $\Rightarrow X=0$
Vậy $X=0$ là nghiệm duy nhất của phương trình $(A-B)X=0$. Do đó $det(A-B)\neq 0$.
$det(A+B)=det((A+B)^{t})=det(A^{t}+B^{t})=det(-A+B)=(-1)^{n}.det(A-B)\neq 0$
Vậy $A+B$ và $A-B$ đều khả nghịch.
$\left [ (A+B)(A-B)^{-1} \right ]\left [ (A+B)(A-B)^{-1} \right ]^{T}$
$=\left [ (A+B)(A-B)^{-1} \right ]\left [ (A+B)^{T}((A-B)^{T})^{-1} \right ]$
$=(A+B)(A-B)^{-1}(-A+B)(-A-B)^{-1}$
$=(-A-B)(A-B)^{-1}(A-B)(-A-B)^{-1} = I$
Vậy $(A+B)(A-B)^{-1}$ là ma trận trực giao.