В каком словосочетании допущена ошибка в образовании формы слова.1) шестьюстами рублями2) ихние книги

1) Шестьюстами рублями - правильное образование формы слова. Шестьсот является сложным числительным, состоящим из двух частей (шесть и сто). В таких числительных при склонении изменяются обе части слова. Вариант \"шестистами\" неправильный, т.к. \"шесть\" в творительном падеже = \"шестью\", а \"сто\" в твор. падеже = \"стами\". 

2) Ихние книги - неправильное образование формы слова. В русском языке вообще отсутствуют такие слова, как ихние, евонные и т.д.

В данном случае правильной формой будет - их книги.

Шестьюстами рублями правильная форма

Ихние книги не правильно, т.к. правильно говорить их