В цистерне было а литров чистого спирта. Из нее отлили некоторое количество спирта и долили столько же воды. Потом отлили

Примем за x количество спирта, отлитого в 1-ый раз, тогда:

a - x  - количество оставшегося;

(a - x) / a - относительное содержание спирта в смеси,

x * (a - x) / a - количество отлитого спирта во 2 - раз.

 Поскольку осталось b литров, получим уравнение:

a - x - x * (a - x) / a = b.

Домножив уравнение на a, получим:

a^2 - ax - ax + x^2 = ab;

x^2 = ab - a^2.

x = √(ab - a^2).

Ответ: в 1-ый раз отлили √(ab - a^) литров спирта.