какой опыт показывает, что частицы вещества очень малы? 

Опытов много. Расскажу об опыте, который может провести каждый. Берем и отмеряем (пробиркой) 1 кубический сантиметр масла и выливаем его в воду. Масло не растворяется в воде, а растекается по поверхности воды. Выждав некоторое время, пока масло не растечется так, что бы толщина слоя масла станет равным одной молекуле. Теперь измерим площадь пятна в сантиметрах, например, и разделив объем масла (1 см в кубе) на площадь получим размер молекулы. Вы увидите, что он оооочень маленький. Причем учтите, молекула масла органическая, то есть большая. У простых веществ, одноатомных молекул еще меньше.