Задача не имеет ответа. Не известна функция сопротивления древесины погружению гвоздя. Необходимое усилие будет меняться по мере погружения. Можно предположить, что усилие равномерно возрастает, как при сжатии пружины. Есть кинетическая энергия молотка. Есть путь. Ищешь максимальное необходимое усилие.