x²+(x+1)²-(x+2)²=117 la ecuación

Transportemos el miembro derecho de la ecuación al
miembro izquierdo de la ecuación con el signo negativo.

La ecuación se convierte de
$$- \left(x + 2\right)^{2} + \left(x^{2} + \left(x + 1\right)^{2}\right) = 117$$
en
$$\left(- \left(x + 2\right)^{2} + \left(x^{2} + \left(x + 1\right)^{2}\right)\right) - 117 = 0$$
Abramos la expresión en la ecuación
$$\left(- \left(x + 2\right)^{2} + \left(x^{2} + \left(x + 1\right)^{2}\right)\right) - 117 = 0$$
Obtenemos la ecuación cuadrática
$$x^{2} - 2 x - 120 = 0$$
Es la ecuación de la forma

a*x^2 + b*x + c = 0

La ecuación cuadrática puede ser resuelta
con la ayuda del discriminante.
Las raíces de la ecuación cuadrática:
$$x_{1} = \frac{\sqrt{D} - b}{2 a}$$
$$x_{2} = \frac{- \sqrt{D} - b}{2 a}$$
donde D = b^2 - 4*a*c es el discriminante.
Como
$$a = 1$$
$$b = -2$$
$$c = -120$$
, entonces

D = b^2 - 4 * a * c = 

(-2)^2 - 4 * (1) * (-120) = 484

Como D > 0 la ecuación tiene dos raíces.

x1 = (-b + sqrt(D)) / (2*a)

x2 = (-b - sqrt(D)) / (2*a)

o
$$x_{1} = 12$$
$$x_{2} = -10$$