Abramos la expresión en la ecuación
$$\left(x - 5\right) \left(x - 1\right) - 21 = 0$$
Obtenemos la ecuación cuadrática
$$x^{2} - 6 x - 16 = 0$$
Es la ecuación de la forma
a*x^2 + b*x + c = 0
La ecuación cuadrática puede ser resuelta
con la ayuda del discriminante.
Las raíces de la ecuación cuadrática:
$$x_{1} = \frac{\sqrt{D} - b}{2 a}$$
$$x_{2} = \frac{- \sqrt{D} - b}{2 a}$$
donde D = b^2 - 4*a*c es el discriminante.
Como
$$a = 1$$
$$b = -6$$
$$c = -16$$
, entonces
D = b^2 - 4 * a * c =
(-6)^2 - 4 * (1) * (-16) = 100
Como D > 0 la ecuación tiene dos raíces.
x1 = (-b + sqrt(D)) / (2*a)
x2 = (-b - sqrt(D)) / (2*a)
o
$$x_{1} = 8$$
$$x_{2} = -2$$