Что означают квадратные скобки в примерах по математике [ ] ?

В этом примере квадратные скобки означают тоже самое, что круглые.

А иногда еще бывают скобки внутри скобок, которые тоже внутри скобок. Тогда самые внутренние скобки пишут круглые, средние квадратные, а внешние - фигурные.

Просто, когда написано несколько скобок друг в друге, то бывает трудно понять, где какая скобка начинается, а где заканчивается.

Сравните две такие строки:

1) (((128 + 15)*38 - (58 - 37):7)*2 + (98 - 45)*6)*3

2) {[(128 + 15)*38 - (58 - 37):7]*2 + (98 - 45)*6}*3

Во 2 случае намного понятнее, какая скобка к чему относится.

Добавлю вот еще что. Давно, лет 50 назад и раньше, такая форма записи многоуровневых скобок была обычным делом.

Когда я учился в школе (35 лет назад закончил), от этого отказались, и мы писали только круглые скобки, как в 1) случае.

Сейчас, видимо, поняли, что тот 2) способ намного понятнее, и решили к нему вернуться.