最初のマイナスは2乗したらどうせ+になるから考えなくてよいです。~の平方根はそもそも2乗したら~になるもののことなので, √(-3)²を2乗したら(-3)²になります。あとはこれを計算するだけです。