х квадрат + ху = 36
ху + у квадрат = 45

складываем эти два уравнения

x²+2xy+y²=81 => (x+y)²=81 => x+y=9

x=9-y

(9-y)²+y(9-y)=36 => 81-18y+y²+9y-y²=36 => 9y=45 => y=5

x=9-5=4