Obviamente que uma raiz é zero
Pois podemos colocar x em evidência:
[tex]x^3-x^2+20x=x(x^2-x+20)[/tex]
Claro que as outras raízes virão da equação quadrática:
[tex]x^2-x+20=0 \\
\\
\Delta=(-1)^2-4.1.80=1-80=-79 \\
\\
x=\frac{1+-\sqrt{79}}{2} \\
\\
S=\{0; \frac{1-\sqrt{79}i}{2};\frac{1+\sqrt{79}i}{2} \}
[/tex]
A fatoração será:
[tex]\boxed{\frac{x+1}{x(x-\frac{1-\sqrt{79}i}{2})(x-\frac{1+\sqrt{79}i}{2})}}[/tex]
è o que dá para fazer