x+1/xはxに代入して有理化すればできます。
x^2+1/x^2は(x+1/x)^2-2とあらわせるのでx+1/xを
求められれば簡単に求められます。