Корень из 6 минус корень из 3 и все это в квадрате и минус корень из 50

Легче сразу всё возвести в квадрат. По правилам квадрат из числа а равен числу а (то есть квадрат из 6 в квадрате будет равен 6). 3 в квадрате = 9. А дальше 6-9=-3