x²+(x+2)²=10² la ecuación

Transportemos el miembro derecho de la ecuación al
miembro izquierdo de la ecuación con el signo negativo.

La ecuación se convierte de
$$x^{2} + \left(x + 2\right)^{2} = 100$$
en
$$\left(x^{2} + \left(x + 2\right)^{2}\right) - 100 = 0$$
Abramos la expresión en la ecuación
$$\left(x^{2} + \left(x + 2\right)^{2}\right) - 100 = 0$$
Obtenemos la ecuación cuadrática
$$2 x^{2} + 4 x - 96 = 0$$
Es la ecuación de la forma

a*x^2 + b*x + c = 0

La ecuación cuadrática puede ser resuelta
con la ayuda del discriminante.
Las raíces de la ecuación cuadrática:
$$x_{1} = \frac{\sqrt{D} - b}{2 a}$$
$$x_{2} = \frac{- \sqrt{D} - b}{2 a}$$
donde D = b^2 - 4*a*c es el discriminante.
Como
$$a = 2$$
$$b = 4$$
$$c = -96$$
, entonces

D = b^2 - 4 * a * c = 

(4)^2 - 4 * (2) * (-96) = 784

Como D > 0 la ecuación tiene dos raíces.

x1 = (-b + sqrt(D)) / (2*a)

x2 = (-b - sqrt(D)) / (2*a)

o
$$x_{1} = 6$$
$$x_{2} = -8$$