根号を含む計算はルートの部分をaやbといった文字として考えると解きやすいです。どこの問題が分からないのか私には分かりませんが、根号の中を簡単にしてから、普通の文字式と同じ要領で進めて、有理化が必要なところでは有理化する、と言った感じでしょうか。こんな説明で分かりますか？具体的に知りたい問題があったら教えてください。