как устанавливается родство современных и вымерших животных?

Палеонтология- изучает ископаемые остатки вымерших организмов и устанавливает их сходство и различия с современными организмами. Переходные формы организмов служат свидетельством родства древних и современных организмов.(зверозубая рептилия - переходная форма от рептилий к млекопитающим, архиоптерикс - от пресмыкающихся к птицам, ихтиостег -от рыб к земноводным)

палеонтологическим методом, а иногда  и биохимическим. Для этого проводят раскопки и спецальные оперции и исследования.