х^2 - 2ху + у^2 = 9

2х - у = 5 (это система)

(х-у)в квадрате =9 след

рассмотрим два случая

1,х-у=3  х=3+у

2,х-у=-3   х=у-3

подставляешь во вотрое уравнение системы и находишь у

методом подставления затем и х