Tenemos la ecuación
$$\sqrt{\left(x^{2} - x\right) - 3} = 3$$
$$\sqrt{x^{2} - x - 3} = 3$$
Elevemos las dos partes de la ecuación a la potencia 2
$$x^{2} - x - 3 = 9$$
$$x^{2} - x - 3 = 9$$
Transpongamos la parte derecha de la ecuación miembro izquierdo de la ecuación con el signo negativo
$$x^{2} - x - 12 = 0$$
Es la ecuación de la forma
a*x^2 + b*x + c = 0
La ecuación cuadrática puede ser resuelta
con la ayuda del discriminante.
Las raíces de la ecuación cuadrática:
$$x_{1} = \frac{\sqrt{D} - b}{2 a}$$
$$x_{2} = \frac{- \sqrt{D} - b}{2 a}$$
donde D = b^2 - 4*a*c es el discriminante.
Como
$$a = 1$$
$$b = -1$$
$$c = -12$$
, entonces
D = b^2 - 4 * a * c =
(-1)^2 - 4 * (1) * (-12) = 49
Como D > 0 la ecuación tiene dos raíces.
x1 = (-b + sqrt(D)) / (2*a)
x2 = (-b - sqrt(D)) / (2*a)
o
$$x_{1} = 4$$
$$x_{2} = -3$$
Como
$$\sqrt{x^{2} - x - 3} = 3$$
y
$$\sqrt{x^{2} - x - 3} \geq 0$$
entonces
$$3 \geq 0$$
Entonces la respuesta definitiva es:
$$x_{1} = 4$$
$$x_{2} = -3$$