на первой полке стояло 12 книг на второй на 3 книги больше а на третьей полке на а книг меньше чем на двух первых полках

Определим количество книг стоящих на второй полке, зная, что на второй полке находится на 3 книги больше:

12 + 3 = 15.

Определим количество книг стоящих на первой и второй полках:

12 + 15 = 27.

Определим количество книг стоящих на третьей полке:

27 - а.

Определим какое самое большое а можно взять, причем, чтобы количество книг на третьей полке было не менее одной:

27 - а > 0;

-a > -27;

a < 27;

a = 26.

Ответ: Количество книг на третьей полке равно результату выражения: 27 - а, где а_max  = 26.