点 が原点 O を中心に角度 \beta だけ回転して,点 P'(x',y') に移動するということを考えます.
ここで,三角関数の加法定理より,\begin{align}x'&=\cos(\alpha+\beta)=r(\cos\alpha\cos\beta-\sin\alpha\sin\beta)\\y'&=r\sin(\alpha+\beta)=r(\sin\alpha\cos\beta+\cos\alpha\sin\beta)\end{align}となります.
上記の式に\begin{align}\cos\alpha&=\frac{x}{r}\\\sin\alpha&=\frac{y}{r}\end{align}を代入すると,\begin{align}x'&=r(\frac{x}{r}\cos\beta-\frac{y}{r}\sin\beta)=x\cos\beta-y\sin\beta\\y'&=r(\frac{y}{r}\cos\beta+\frac{x}{r}\sin\beta)=x\sin\beta+y\cos\beta\end{align}となります.
つまり,\left(\begin{array}{c}x'\\y'\end{array}\right)=\left(\begin{array}{cc}\cos\beta&-\sin\beta\\\sin\beta&\cos\beta\end{array}\right)\left(\begin{array}{c}x\\y\end{array}\right)と表すことが出来ます.
次に,点 P を移動させずに,座標軸そのものを原点 O を中心に角度 \beta だけ回転させてみます.
点 P の座標は,\begin{align}x&=r\cos\alpha\\y&=r\sin\alpha\end{align}つまり,\begin{align}\cos\alpha&=\frac{x}{r}\\\sin\alpha&=\frac{y}{r}\end{align}となります.
座標軸を回転させた後の点 P の座標は,\begin{align}X&=r\cos(\alpha-\beta)\\Y&=r\sin(\alpha-\beta)\end{align}となります.ここで,三角関数の加法定理より,\begin{align}X&=r\cos(\alpha-\beta)=r(\cos\alpha\cos\beta+\sin\alpha\sin\beta)\\Y&=r\sin(\alpha-\beta)=r(\sin\alpha\cos\beta-\cos\alpha\sin\beta)\end{align}と表現出来ます.
ここに,\begin{align}\cos\alpha&=\frac{x}{r}\\\sin\alpha&=\frac{y}{r}\end{align}を代入すると,\begin{align}X&=r(\frac{x}{r}\cos\beta+\frac{y}{r}\sin\beta)=x\cos\beta+y\sin\beta\\Y&=r(\frac{y}{r}\cos\beta-\frac{x}{r}\sin\beta)=-x\sin\beta+y\cos\beta\end{align}となります.
つまり,\left(\begin{array}{c}X\\Y\end{array}\right)=\left(\begin{array}{cc}\cos\beta&\sin\beta\\-\sin\beta&\cos\beta\end{array}\right)\left(\begin{array}{c}x\\y\end{array}\right)と表すことが出来ます.
Mathematics is the language with which God has written the universe.