В библиотеке в очереди стоят десять студентов.

студент.....и очередь несовместимые понятия!

Если студенты АВС это (условно) одна единица, но всего восемь (условных) участников, для ответа на а) 8х8=64.Для отета на b) нужно долонительно вычислить варианты перестановки тройки - 3х3=9., Следовательно - 64х9=586 (врооде так)