На сколько я понимаю надо домножить на B^-1 справа, тогда получим (A*X)^-1 * B*B^-1 = E*B^-1
т. к. B*B^-1=E, то получаем (A*X)^-1 * E = E*B^-1. далее избавляемся от единичной матрицы (A*X)^-1 = B^-1 степень можно убрать (наверное) получаем A*X = B, тут по стандартной схеме в итоге получаем X = A^-1*B. Что делать потом понятно. Можете сказать где я скорее всего ошибся ну и сказать как правильно делать. Спасибо за внимание)

Спасибо за ответ)В итоге ответ такой же, как у меня.

Нет, не совсем. У вас A^(-1)B, а у меня BA^(-1). Это разные вещи, т.к. умножение матриц не перестановочно

Дано . Домножим слева на XA, получим, т.е. , откуда .