1 способ - метод Крамера

Составляем определитель:
-a\cdot a=-b^2-a^2)
Составляем определитель, заменив в предыдущем определителе коэффициенты при х на соответствующие свободные члены:
-a\cdot ab=-ab^2-a^2b )
По формуле находим х:
}{a^2+b^2} )
Составляем определитель, заменив коэффициенты при у в первом определителе на соответствующие свободные члены:

Находим у:
}{a^2+b^2})
Ответ:
2 способ - метод Гаусса
Составляем расширенную матрицу:

Первую строку домножаем на а, вторую - домножаем на b:

От элементов первой строки отнимем элементы второй:

Значит:
y= a^2b-ab^2
\\\
y= \frac{a^2b-ab^2}{a^2+b^2} = \frac{ab(a-b)}{a^2+b^2} )
Из второго уравнения выражаем х:
)
Заменяем у найденным значением:
Получаем ответ, совпадающий с ответом, получившимся при решении первым способом.Ответ: