(x^2−9)^2+(x^2−2x−15)^2=0.

А почему х=-3, а не 5 3?

первое уравнение системы дает корни 3 и -3второе уравнение системы дает корни 5 и -3решение системы - это корни которые удовлетворяют обоим уравнениям (т.е. общие корни)