[A] $a^{2}+ab+b^{2}=0$.
[B] $b^{2}-ab+1=0$.
[C] $a^{2}-ab+1=0$.
[D] $b^{2}-ab+b=0$.
Solução
Realizando a divisão entre os polinômios: Como o polinômio $p(x)=x^{5}+ax^{3}+x$ é divisível pelo polinômio $d(x)=x^{3}+bx$, o resto da divisão é igual a zero, logo: \begin{eqnarray*} b^{2}x-abx+x & = & 0 \\ x(b^{2}-ab+1)& = & 0 \\ x&=&0 \\ b^{2}-ab+1 & = & 0 \end{eqnarray*} Portanto, a relação entre $a$ e $b$ é $b^{2}-ab+1=0$.
Resposta: Item B