ド・モアブルの定理を使えばいいのでは
根本的にがどこまでなのか分かりませんが、ド・モアブルの定理を知らないなら先に知ったほうがいいです。
あとは上手いこと与式にα⁵が出るように掛けたり、式変形するくらいですかね。
π/5なんて角度値を知っている方が稀ですし、π/5をよく知っている角度πとかに直せるようにド・モアブルの定理を用いる。それがこの問題の方針ではないでしょうか。