гулять на морозе или гулять на морози ?

Гулять на морозе

у падежных вопросов нет вопроса "где?", это вопрос обстоятельства, а в данном случае для определения падежного окончания следует задать падежный вопрос "на чём?"

Гулять на морозе (п. п., 2 скл.)

Гулять на морозе.

Гулять (где?) на морозе - П.п., 2-ое склонение.