次数の小さい方の文字で固めましょう
(1)
20y-5xy＋x²-16
＝5y(4-x)+(x+4)(x-4)
＝-5y(x-4)+(x+4)(x-4)
＝(x-4)(-5y+x+4)
＝(x-4)(x-5y+4)

(2)
＝a²b-b+a²-1
＝b(a²-1)+(a²-1)
＝(a²-1)(b+1)
＝(a+1)(a-1)(b+1)

(5)
＝2xy-4y-x²+4
＝2y(x-2)-(x²-4)
＝2y(x-2)-(x+2)(x-2)
＝(x-2)(2y-(x+2))
＝-(x-2)(x-2y+2)