Cho hình chóp $S$. $A B C$ có đáy $A B C$ là tam giác vuông tại...

Chọn hệ trục $O x y z$ như hình vẽ.
Ta có $(S C, \widehat{(A B C}))=(S \widehat{C, A C})=\widehat{S C A}=30^{\circ}$.
$A C=\sqrt{A B^2+B C^2}=a \sqrt{5} ; S A=A C \cdot \tan 30^{\circ}=a \sqrt{5} \cdot \dfrac{\sqrt{3}}{3}=\dfrac{a \sqrt{15}}{3}$.
Ta có: $B(0 ; 0 ; 0), A(0 ; \sqrt{2} ; 0), C(\sqrt{3} ; 0 ; 0) \Rightarrow M\left(\dfrac{\sqrt{3}}{2} ; \dfrac{\sqrt{2}}{2} ; 0\right), S\left(0 ; \sqrt{2} ; \dfrac{\sqrt{15}}{3}\right)$.
Nên $\overrightarrow{S M}=\left(\dfrac{\sqrt{3}}{2} ;-\dfrac{\sqrt{2}}{2} ;-\dfrac{\sqrt{15}}{3}\right), \overrightarrow{A B}=(0 ;-\sqrt{2} ; 0), \overrightarrow{B S}=\left(0 ; \sqrt{2} ; \dfrac{\sqrt{15}}{3}\right)$.
Khi đó $d(A B, S M)=\dfrac{|[\overrightarrow{A B}, \overrightarrow{S M}] \cdot \overrightarrow{B S}|}{|[\overrightarrow{A B}, \overrightarrow{S M}]|}=\dfrac{a \sqrt{435}}{29}$.
Cách 2:
Ta có $S A \perp(A B C) \Rightarrow$ Hình chiếu của $S C$ trên $(A B C)$ là $A C$ nên $(S C, \widehat{(A B C}))=(S \widehat{C, A C})=\widehat{S C A}=$ $30^{\circ}$
Gọi $N$ là trung điểm của $B C$. Ta có
$
M N / / A B \Rightarrow A B / /(S M N) \Rightarrow d(A B, S M)=d(A B,(S M N))=d(A,(S M N))
$
Gọi $E$ là điểm đối xứng của $N$ qua $M$. Ta có $A M N E$ là hình chữ nhật
$
\Rightarrow N E \perp A E \text { mà } N E \perp S A \text { (do } S A \perp(A B C), N E \subset(A B C)) \text { nên } E N \perp(S A E) \Rightarrow(S M N) \perp(S A E)
$
Mà $(S M N) \cap(S A E)=S E$ nên trong $(S A E)$ dựng $A H \perp S E \Rightarrow A H \perp(S M N) \Rightarrow A H=$ $d(A,(S M N))$.
Trong tam giác vuông $\triangle S A C$ ta có tangSCA= $\dfrac{S A}{A C} \Leftrightarrow S A=A C$.tangSCA $=\dfrac{a \sqrt{15}}{3}$
Mà $A E=B N=\dfrac{B C}{2}=\dfrac{a \sqrt{3}}{2}$
Trong tam giác vuông $\triangle S A E$ ta có $\dfrac{1}{A H^2}=\dfrac{1}{S A^2}+\dfrac{1}{A E^2}=\dfrac{29}{15 a^2} \Leftrightarrow A H=\dfrac{a \sqrt{435}}{29}$
Vậy $d(A B, S M)=d(A B,(S M N))=d(A,(S M N))=A H=\dfrac{a \sqrt{435}}{29}$