商=Q(x)を利用しても解けます。ただ、Q(x)=cx+dを代入しないと難しそうですね。
以下のような式が成り立ちます。
2x³+ax²+bx+3 = Q(x)・(x²+x+1)-5x+2
→2x³+ax²+(b+5)x+1 = Q(x)・(x²+x+1)=(cx+d)(x²+x+1)
x³の係数はc、定数はdとなります。よってc=2,d=1、つまりQ(x)=2x+1となります。
後は計算すればa,bも出せますね。

なんで難しいんですか？

Q(x)をcx+dにしないと答えが出ないからですね。