(x+1/x)^2-2(x+1/x)-3=0

Замена (х+1)/х=у.
Уу-2у-3=0. Д=4+4•3=16. У1=(2+4)/2=3, У2=(2-4)/2=-1. Обратная замена
х+1=3х, х=0,5; х+1=-х, х=-0,5.

Все смотри в прикреплённом файле