при каком значение m векторы a=mi-j и вектор b=3i-3j перпендикулярны

Рассмотрите такой вариант:

условие перпендикулярности векторов - скалярное произведение равно нулю.

Опираясь на условие, можно составить уравнение: 3m-6=0; ⇒ m=2