разложите на множители 0.01a^2+b^2

ничего себе вы замудрили!.. - здесь,скорее всего,просто ошибка в условии и нужен знак минус...

может...

но может и не быть...

разложите на множители 0.01a^2+b^20.01a^2+b^2  =(0,1a+b)²-2·0,1ab==[(0,1a+b)-√(2·0,1ab)]·[(0,1a+b)+√(2·0,1ab)], ab≥0