можно ли оплатить без сдачи 30 р. с помощью 9 монет по 1 р. и по 5 р.

А если 35 рублей и 10 монет,всё остальное такое же

Будет a и 10-a монет стоимостью по 1 и по 5 рублей соответственно. Тогда составится уравнение a*1+(10-a)*5=35

Пусть монет по рублю a. Тогда монет по 5 рублей 9-a. В сумме они дают a*1 рублей + (9-a)*5 рублей = 30 рублейa+45-5a=3045-4a=304a=15a=15/4 - не является целым числом. Значит, оплатить без сдачи 30 рублей с помощью 9 монет по 1 и по 5 рублей нельзя.