AとBの共通部分がa2とa4なのでBの要素が平方数で表されていることからa2とa4も平方数です。
ここで,a2＋a4＝20とa2<a4ということからa2を絞り込むことができる(整数問題でよくやる絞り込み)
a4＝20−a2より
a2<20−a2
a2<10
a2が1,4,9のいずれかであることがわかる。
a2が1のとき
Aが自然数である集合ということとa1<a2より自然数a1が存在せず不適
a2が9のとき
a4＝20−9＝11となって平方数にならないので不適。
したがって,a2＝4(a4＝16となり適する)
ここでAとBの共通部分が4と16で
a2^2＝4^2＝16であることとa1<a2ということから4がBの要素であるためにはa1＝2とならなければならない。
a3を求めるのはここまで理解できていればできるはずです。

少し整数問題的な部分があり,ややこしい部分もありますが落ち着いて解けばできると思います。