Считаем, что шаровой слой =  разности двух шаров с радиусами r1 = r + b/2 и r2 = r - b/2 и плотностью, равной плотности шарового слоя.1. Объём
)
2. Плотность

3. Массы шариков

4. Момент инерции = разность моментов шариков
=\dfrac25\cdot\dfrac43\piho(r_1^5-r_2^5)=\dfrac25m\dfrac{r_1^5-r_2^5}{r_1^3-r_2^3})
Осталось понять, как считать разности вида r1^n - r2^n.
^n-\left(r-\dfrac b2ight)^n\approx \left(r^n+\dfrac n2r^{n-1}bight)-\left(r^n-\dfrac n2r^{n-1}bight)\\
r_1^n-r_2^n\approx nr^{n-1}b)

В первом порядке I не зависит от b. Если надо, чтобы зависело (правда, непонятно, зачем) - учитывайте следующие члены в разложении по биному.