x(x+5)=3x+15 la ecuación

Transportemos el miembro derecho de la ecuación al
miembro izquierdo de la ecuación con el signo negativo.

La ecuación se convierte de
$$x \left(x + 5\right) = 3 x + 15$$
en
$$x \left(x + 5\right) + \left(- 3 x - 15\right) = 0$$
Abramos la expresión en la ecuación
$$x \left(x + 5\right) + \left(- 3 x - 15\right) = 0$$
Obtenemos la ecuación cuadrática
$$x^{2} + 2 x - 15 = 0$$
Es la ecuación de la forma

a*x^2 + b*x + c = 0

La ecuación cuadrática puede ser resuelta
con la ayuda del discriminante.
Las raíces de la ecuación cuadrática:
$$x_{1} = \frac{\sqrt{D} - b}{2 a}$$
$$x_{2} = \frac{- \sqrt{D} - b}{2 a}$$
donde D = b^2 - 4*a*c es el discriminante.
Como
$$a = 1$$
$$b = 2$$
$$c = -15$$
, entonces

D = b^2 - 4 * a * c = 

(2)^2 - 4 * (1) * (-15) = 64

Como D > 0 la ecuación tiene dos raíces.

x1 = (-b + sqrt(D)) / (2*a)

x2 = (-b - sqrt(D)) / (2*a)

o
$$x_{1} = 3$$
$$x_{2} = -5$$