たいちさんの考え方だと、③後のB, Cの玉の比が1:3にならないです。
はじめに分けた個数を、A, B, Cそれぞれで
x, 2x, 3x個とすると、
x+2x+3x ≦ 120 -6
∴ x ≦ 19 …式1
また、③の操作後のB, Cの玉の数は、それぞれ、2x-n, 3x+n+6 だから
(2x-n) :(3x+n+6) = 1:3
n = (3x - 6) / 4 …式2
式1 より
3x ≦ 57
3x - 6 ≦ 51
(3x-6)/4 ≦ 51/4=12+3/4 …式3
式2, 式3より
n ≦ 12 +3/4 …式4
ここで、xはできるだけ大きい整数だから、式2よりnもできるだけ大きい数であり、かつnは整数である。
よって式4より
n = 12
これを式2に代入してxを求めると、
x = 18


ちょっと難しい考え方ですが^^;