まず、第一属を分離した時点で銀、水銀はAgCl,Hg2Cl2として存在しています。どちらも白色沈殿なのでまだ見分けはつきません。
ここにアンモニア水を加えるとAgはアンモニアと無色の錯イオンとなって溶けます。化学式は[Ag(NH3)2]+です。
ただこれでは白色沈殿が全て水銀だった場合、本当に銀が含まれていたか分かりません。(Agの錯イオンは無色なため)
そのため、錯イオンの含まれている溶液に適当な酸を少量加えます。するとAgは再びAgClの沈殿に戻るのでAgが入っていたことが確認できます。
一方水銀はアンモニア水を加えると黒色のHgの沈殿が発生します。(反応過程はかなり複雑です)

次に第二属ですが、銅、カドミウムはそれぞれCuS、CdSとして存在しています。CuSは黒色沈殿、CdSは黄色沈殿なので色で判別できます。