будет ли шарик совершать колебания, если он находится на дне сферической чаши; на ее вершине?

Свободные колебания совершаются около положения равновесия и сопровождаются переходом кинетической энергии в потенциальную и обратно. Чтобы этот процесс продолжался, необходимо, чтобы положение равновесия было устойчивым. А для этого потенциальная энергия в положении равновесия должна иметь минимум. Это имеет место на дне чаши. А если шарик на вершине, то даже при малом отклонении он покатится вниз с нарастающей скоростью, т. е. туда где потенциальная энергия меньше.