Вам следовало бы пытаться упорнее(но Вы этого не сделали в прошлом)Действие относится к прошлому,говорим о событии в прошлом, которое должно были произойти, но не произошло.Модальный глагол + perfect infinitive. Если сказать he should try harder-ему следует попытаться сильнее-это относится к настоящему времени.