Vi ställer upp den utökade matrisen och Gausseliminerar:
$$
\left(\begin{array}{ccc|ccc}
1&-1&-1&1&0&0\\
-3&2&3&0&1&0\\
2&4&-3&0&0&1
\end{array}\right)
\sim
\left(\begin{array}{ccc|ccc}
1&-1&-1&1&0&0\\
0&-1&0&3&1&0\\
0&6&-1&-2&0&1
\end{array}\right)
\sim
\left(\begin{array}{ccc|ccc}
1&0&-1&-2&-1&0\\
0&1&0&-3&-1&0\\
0&0&-1&16&6&1
\end{array}\right)
\sim
\left(\begin{array}{ccc|ccc}
1&0&0&-18&-7&-1\\
0&1&0&-3&-1&0\\
0&0&1&-16&-6&-1
\end{array}\right).
$$
I det första steget adderade vi $3$ gånger rad 1 till rad 2 och $-2$ gånger rad 1 till rad 3. I det andra steget adderade vi $-1$ gånger rad 2 till rad 1, $6$ gånger rad 2 till rad 3 och multiplicerade rad 2 med $-1$. I det tredje steget adderade vi $-1$ gånger rad 3 till rad 1 och multiplicerade därefter rad 3 med $-1$. Därför är
$$
A^{-1}=\begin{pmatrix}-18&-7&-1\\-3&-1&0\\-16&-6&-1\end{pmatrix}.
$$
(b) Eftersom $A$ är inverterbar har $AX=B$ den unika lösningen $X=A^{-1}B$:
$$
X=
\begin{pmatrix}-18&-7&-1\\-3&-1&0\\-16&-6&-1\end{pmatrix}
\begin{pmatrix}2&0&-1\\-5&3&0\\2&-7&6\end{pmatrix}
=
\begin{pmatrix}-3&-14&12\\-1&-3&3\\-4&-11&10\end{pmatrix}.
$$