не слишком изящно получилось....Итак , обозначим числа k, l, m и n. d -шаг арифм. прогрессии, q - знаменатель прогрессии.тогда получаем систему из 6 уравнений.l=k+dm=k+2dm=lqn=lq²k+m=40l+m=k+d+k+2d=2k+3d=20Решаем эту системуl=k+dm=k+2dm=lq=(k+d)qn=lq²=(k+d)q²k+m=k+lq²=k+(k+d)q²=40l+m=k+d+k+2d=2k+3d=20из последнего уравнения

Приравнивая второе и третье получимk+2d=(k+d)q
}{3k+2(10-k)}= \frac{3k+40-4k}{3k+20-2k}= \frac{40-k}{20+k})
из предпоследнего
( \frac{40-x}{20+x} )^2=40 \\ k+ \frac{(k+ \frac{20}{3}- \frac{2}{3}k)(40-k)^2}{(20+k)^2}= k+ \frac{(\frac{k}{3}+ \frac{20}{3})(40-k)^2}{(20+k)^2}=k+ \frac{(k+ 20)(40-k)^2}{3(20+k)^2}= \\ =k+ \frac{(40-k)^2}{3(20+k)}=\frac{3k(20+k)+(40-k)^2}{3(20+k)}=40)
3k(20+k)+(40-k)²=40*3(20+k)60k+3k²+1600-80k+k²=2400-120k4k²-140k-800=0k²-35k=200D=35²+4*200=2025

k₁=(35-45)/2=-5k₂=(35+45)/2=40d₁=(20-2*(-5))/3=10l₁=-5+10=5m₁=15q₁=3n₁=45d₂=(20-2*40)/3=-20l₂=40-20=20m₂=0q₂=0n₂=0Ответ: два решения: -5,5,15,45 и 40, 20, 0, 0