ловить мышей - какой падеж у слова "мышей" и почему?

пожалуй, соглашусь, только подставлять слово мячик, думаю, некорректно, больше, наверное, подойдет слово вещи, т. к., это ж. р., 3 склон., множ. число

тогда получается родительный падеж?

нет, ловить (кого?) мышей, ловить (что?) вещи - винительный!!!

Ловить (кого?) мышейМышей - винительный падеж, потому что отвечает на вопрос (Кого?, Что?), можно подставить: ловить мячик.