x^2 + (a+b)x + a*b = (x+a)*(x+b)

Z toho ti vyjde soustava rovnic o 2 neznámých (G a H znáš):

G = a+b
H = a*b

Vyjádříš si z první rovnice třeba a dosadíš do druhé a budeš řešit kvadratickou rovnici s neznámou ve jmenovateli:

a = H/b

G = H/b + b
G = (H+b^2)/b
0 = b^2 - Gb + H

vyjdou ti dva kořeny, jeden z nich nebude platit.

Dopočítáš a.

Sice jsem tohle už asi 25 let neviděl, ale nějak takto by to asi mělo být.