капли масла растекаясь по поверхности воды образуют тонкую пленку может ли толщина этой плёнки стать как угодно малой? почему?

Нет, потому что плотность масла меньше и масло просто не сможет раствориться или куда-либо исчезнуть или сжаться.