(a) Vektordifferensen är $\overrightarrow{AB}=\overrightarrow{PB}-\overrightarrow{PA}$, och vidare har vi $\overrightarrow{PM}=\frac12(\overrightarrow{PA}+\overrightarrow{PB})$ enligt Mittpunktsformeln.
(b) Från dessa formler får vi
$$
\begin{aligned}
|\overrightarrow{AB}|^2&=\overrightarrow{AB}\cdot\overrightarrow{AB}=\left(\overrightarrow{PB}-\overrightarrow{PA}\right)\cdot\left(\overrightarrow{PB}-\overrightarrow{PA}\right)\\
&=\overrightarrow{PB}\cdot\overrightarrow{PB}+\overrightarrow{PA}\cdot\overrightarrow{PA}-2(\overrightarrow{PA}\cdot\overrightarrow{PB})\\
&=|\overrightarrow{PB}|^2+|\overrightarrow{PA}|^2-2(\overrightarrow{PA}\cdot\overrightarrow{PB})
\end{aligned}
$$
och
$$
\begin{aligned}
|\overrightarrow{PM}|^2&=\overrightarrow{PM}\cdot\overrightarrow{PM}=\frac12(\overrightarrow{PA}+\overrightarrow{PB})\cdot\frac12(\overrightarrow{PA}+\overrightarrow{PB})\\
&=\frac14\overrightarrow{PA}\cdot\overrightarrow{PA}+\frac14\overrightarrow{PB}\cdot\overrightarrow{PB}+\frac12(\overrightarrow{PA}\cdot\overrightarrow{PB})\\
&=\frac14|\overrightarrow{PA}|^2+\frac14|\overrightarrow{PB}|^2+\frac12(\overrightarrow{PA}\cdot\overrightarrow{PB}).
\end{aligned}
$$
Härav sluter vi att
$$|\overrightarrow{PM}|^2-\frac14|\overrightarrow{AB}|^2=\overrightarrow{PA}\cdot\overrightarrow{PB},$$
vilket är det önskade påståendet.
Alternativ lösning. Välj ett ortonormerat koordinatsystem med origo i $M$ och sträckan $AB$ längs $x$-axeln. Då är
$$M=(0,0,0),\qquad A=(a,0,0)\quad\text{och}\quad B=(-a,0,0)$$
för något tal $a$. Ansätter vi nu $P=(x,y,z)$, så kalkylerar vi enkelt
$$|\overrightarrow{PM}|^2=|(-x,-y,-z)|^2=x^2+y^2+z^2$$
och
$$
\begin{aligned}
\overrightarrow{PA}\cdot\overrightarrow{PB}+\frac14|\overrightarrow{AB}|^2
&=(-x+a,-y,-z)\cdot(-x-a,-y,-z)+\frac14|(-2a,0,0)|^2\\
&=(x-a)(x+a)+y^2+z^2+\frac14(2a)^2\\
&=x^2+y^2+z^2,
\end{aligned}
$$
varför beviset är färdigställt. (Det går att göra godtyckliga ansatser för punkterna $A$ och $B$, men räkningarna förenklas maximalt, om koordinatsystemet väljes som ovan.)