x=120/y

(x+2)(y-3)=136

(120/у+2)(у-3)=136
(у-3)(120+2у)/у=136
(у-3)(120+2у)=136у
2у²+120у-360-6у=136у
2у²+120у-6у-136у-360=0
2у²-22у-360=0
у²-11у-180=0
у²-11у+5,5²-180=5.5²
(у-5,5)²=180+30,25
(у-5.5)²=210,25 (или 841/4)
у-5.5=√149,75 (√(841/4)=29/2=14,5)
у=14,5+5,5
у=20

х=120/20=6
вот здесь я хочу спросить откуда взялась 5.5²? (у²-11у+5,5²-180=5.5²)

Не знаю зачем, но к обеим частям уравнения добавили 5,5², то есть перешли от одного уравнения к другому равносильному