какой из двух сосудов остынет быстрее: сосуд с горячей водой или сосуд с горячим маслом?

Быстрее остынет тот, который с маслом. Потому что у масла, какое бы оно ни было, теплоемкость точно меньше чем у воды. Теплоемкость чистой воды - 4,182 Масло минеральное - 1,67...2,01 Масло смазочное - 1,67 кДж/(кг °С) Разумеется это при равном объеме жидкостей.