Какая будет масса тела на высоте 10000м. если его масса на уровне моря была 100кг.?

Ну какой? представим что там стоят весы и мы взвесим наш объект.

Масса останется 100 кг. На рычажных весах. На другой чаше гири массой 100 кг. Рычаг в равновесии, по условию своего равновесия, равенства моментов сил. А если углубляться в этот вопрос о массе, это довольно сложное понятие. Но в школе - это мера инертности тела и в формуле закона тяготения масса не меняется ни на Земле ни на Луне ни при любом виде движения.

Масса не изменится, а вот сила притяжения уменьшится и станет

F=G*m*M/(R+h)^2.