система x+y=3  

                 x^2+3xy+y^2-x-y=2

x+y=3 ;  -х-у=-3;  х=3-у;x²+3xy+y²-x-y=2

x²+3xy+y²-3=2 

x²+3xy+y²=5 

(3-у)²+3(3-у)*у+у²=5;

9-6у+у²+9у-3у²+у²=5

у²-3у-4=0

Д=9-4*(-4)=25

у₁=(3+5)/2=4;   у₂=(3-5)/2=-1

x₁=3-y=-1;         x₂=4.

ОТВЕТ:у₁=4;   у₂=-1

              x₁=-1;  x₂=4.