Mathematics Undergraduate almost 9 yearsago

この問題がわかりません.... ヒントだけでも教えてもらえると助かります！