(a) Första speglingen uppfyller $S_1(\mathbf e_1)=\mathbf e_1$, $S_1(\mathbf e_2)=\mathbf e_3$, $S_1(\mathbf e_3)=\mathbf e_2$, så $S_1$ har matrisen
$$S_1=\begin{pmatrix}1&0&0\\0&0&1\\0&1&0\end{pmatrix}.$$
Den andra speglingen $S_2$ har matrisen
$$S_2=\begin{pmatrix}-1&0&0\\0&1&0\\0&0&1\end{pmatrix},$$
så $F$ har matrisen
$$
F=S_2S_1
=\begin{pmatrix}-1&0&0\\0&1&0\\0&0&1\end{pmatrix}
\begin{pmatrix}1&0&0\\0&0&1\\0&1&0\end{pmatrix}
=\begin{pmatrix}-1&0&0\\0&0&1\\0&1&0\end{pmatrix}.
$$
(b) Om $\mathbf u=(x,y,z)$ så blir $F(\mathbf u)=\mathbf u$ ekvationen
$$
\begin{pmatrix}-1&0&0\\0&0&1\\0&1&0\end{pmatrix}
\begin{pmatrix}x\\y\\z\end{pmatrix}
=\begin{pmatrix}x\\y\\z\end{pmatrix},
$$
som förenklas till ekvationerna $x=0$ och $y=z$, så $(x,y,z)=(0,t,t)$ för $t\in\mathbb R$. Denna linje måste vara speglingslinjen, eftersom punkterna på den är precis de som inte förändras av $F$, och en riktningsvektor till den är $\mathbf u=(0,1,1)$.