написать разложение вектора х по векторам p,q,r ?

Для начала нужно проверить на базис. Если определитель матрицы, образованной векторами p,q,r равен нулю, то не является базисом, противном случае — является.

Дальше нужно решить систему уравнения методом Гаусса и найти решение, сведя к единичной матрицы.

— разложение вектора х по векторам p,q,r

(x₁;x₂;x₃) - решение системы.