２年生の部員数をｘ, １年生の部員数をｙとする

２年生の部員数：１年生の部員数＝3:5
x:y=3:5
5x=3y　……①

６人の班が２つあり、残りは５人の班だということは、
全体の人数から12人(6×2)を引いた数を５で割れば５人の班の数になる
全体の人数＝ｘ+ｙなので
(x+y-12)/5
班の数は２年生の部員数の½なので、そこから６人班２つを引けば５人の班の数になる
よって
(x+y-12)/5＝½x-2 ……②

①②を連立させて解くと
x=12, y=20