3つのAは区別できないので、5C3となります。
これらが、A1, A2, A3のように区別できるようになっている場合は5P3となります。

こういった問題はマスダウンして例を考えてみるとわかりやすくなりますよ。
BC
とすでに並んでいるときに3つのAが隣り合わないように並べる通りの数は、
ABACA
のみです。
これは3C3=1にて計算できます。

同じようにA1, A2, A3特別できるときを考えてみてください。
3P3になっていることが分かるはずです。