если F(x) - функция распределения вероятности, тоF '(x)=f(x) - плотность распределенияf(x)=0'=0, при x<0f(x)=1/10(x^2+3x)'=1/10(2x+3), 0≤x≤2f(x)=1'=0, x>2скорее всего в задаче имелось в виду наоборот: дана плотность,надо найти функцию распределения, иначе непонятно,зачем нужны a=0 и b=1.