решите систему

3x^2+y^2-xy=3
2x^2-4y^2+3xy=1

а как Вы преображали уравнения что в первом исчезло 3х^2,во втором коэффициенты поменялись и оно стало равно 6?

2y² - xy = 3                                 |·2

y² + 4xy - 3x² = 6 

4y² - 2xy = 6

y² + 4xy - 3x² = 6

Приравняем уравнения:

4y² - 2xy = y² + 4xy - 3x²

3x² - 6xy + 3y² = 0

x² - 2xy + y² = 0

(x - y)² = 0

x = y

x = y

y² + 4xy - 3x² = 6

x = y

x² + 4x² - 3x² = 6

x = y

2x² = 6

x = y

x² = 3

x = -√3

y = -√3

или

x = √3

y = √3

Ответ: (-√3; -√3), (√3; √3).