X^2-x+sqrt(x^2-x-2)=8
Как решить?

$x^2-x+ sqrt{x^2-x-2}=8 x^2-x-2+ sqrt{x^2-x-2}-6=0$
Пусть $sqrt{x^2-x-2}=t$ причем $t geq 0$ , тогда получаем
$t^2+t-6=0$
По т. Виета
$t_1=-3 t_2=2$
Корень t=-3 не удовлетворяет условию при $t geq 0$
Возвращаемся к замене
$sqrt{x^2-x-2}=2 x^2-x-2=4 x^2-x-6=0 x_1=3 x_2=-2$

Ответ: -2; 3.