Проверочным словом к первой гласной \"о\" будут слова \"горы\", \"горный\", \"горка\". По своей этимологии слово \"горностай\" происходит от словосочетания \"горная стая\", поэтому вторая гласная \"о\" является соединительной гласной между двумя корнями в данном слове.