В ячейку B3 записали формулу =A5^2. Как будет записана эта формула после изменения стиля ссылок?

Это зависит от того, какой стиль ссылок вы хотите использовать. В Excel есть два основных стиля ссылок: A1 и R1C1. Стиль A1 использует буквы для обозначения столбцов и числа для обозначения строк, например A5. Стиль R1C1 использует числа для обозначения столбцов и строк относительно текущей ячейки, например R[-2]C[-1].
Если вы хотите изменить стиль ссылок с A1 на R1C1, то формула в ячейке B3 будет записана как =R2C[-1]^2. Это означает, что вы возведете в квадрат значение ячейки, которая находится на две строки ниже и на один столбец левее текущей ячейки.
Если вы хотите изменить стиль ссылок с R1C1 на A1, то формула в ячейке B3 будет записана как =E1^2. Это означает, что вы возведете в квадрат значение ячейки, которая находится в первой строке и пятом столбце.