Quando [tex]\Delta[/tex] é negativo, não existem raízes reais, ou seja, a parábola não intercepta o eixo x em nenhum ponto (esses pontos é que são as raízes). Dentro dos números reais, não tem como resolver.
Porém, você pode encontrar as raízes complexas, ou seja, que contém
[tex]\sqrt{-1}[/tex]
na resposta.
Um número complexo é da forma
[tex]a+b\sqrt{-1}[/tex]
