найдите наибольшее значение функции y=5cos2x-3

а когда наименьшее нужно найти брать - 1?

При минимальном косинусе как вы получите максимальный y?

я имею ввиду, когда мне нужно найти минимальный у, мне брать - 1? ведь косинус лежит от - 1 до 1

Да, если бы нужен был минимальное значение, то нужно было бы брать -1 для косинуса.

ymax=2, так как максимальное значение косинуса всегда 1 (и не важно, 2*х или какой-то другой аргумент), а далее 5*1-3=2