重要な前提知識として「円周角の定理」があります。

[円周角の定理]
①ある弧に対する円周角の大きさは常に中心角の大きさの半分となる。(円Oの弧ABおよび円O上の任意の点Pに対し、∠APB=(1/2)∠AOBが常に成り立つ。)
特に、直径に対する円周角は常に直角である。
(円上の点A,BおよびPに対し、∠APB=90°が常に成り立つ。)
②同一の弧に対する円周角の大きさは等しい。
(円上の任意の点A,B,C,Dに対し、∠ACB=∠ADBが成り立つ。)

そして、とっつきにくいですが「円周角の定理の逆」も非常に重要です。

[円周角の定理の逆]
(②の逆)
∠ACB=∠ADBとなるならば4点A,B,C,Dは同一円周上にある。
(①の逆)
∠APB=90°となるならば、点PはABを直径とする円周上にある。
∠APB=90°を満たしながら点Pが動くとき、点PはABを直径とする円を描く。
↑
この知識を使うと(1)が説明できます。

(1)円周角の定理①より、点Qは円O'上を動くので、常に∠AQC=90°となります。問題よりPQ⊥QCなので、∠PQC=90°であり、したがってP,Q,Aは常に一直線上に並びます。
また、点Pは円O上を動くので、∠APB=90°となり、問題より∠QPR=90°であることから、3点P,R,Bもまた常に一直線上に並びます。したがって∠PRB=180°です。ここで、∠PRC=90°であることから、∠CRB=∠PRB-∠PRC=180°-90°=90°となることがわかります。
よって、点Rは常に∠CRB=90°となるように動くので、円周角の定理①の逆より、RはCBを直径とする円周上を描きます。
したがって、PRが通過する部分は、半円OAからCBを直径とする半円を除いた部分なので、面積は
25π/2-2π=21π/2(cm²)
と求められます。

(2)PQ=QC=xとおいてxを求めます。
(1)でやった通りP,Q,Aは同じ直線上にあります。
∠AQC=∠APB=90°, ∠Aが共通する角なので、
△QAC∽PAB
また、同様に△RCB∽△PAB
したがって、△QAC∽△RCB
よって、AC:AQ=CB:CR
ここで、三平方の定理よりAQ²=36-x²であるから、
AC:AQ=CB:CR
6:√(36-x²)=4:x
x=12/√13
面積はこれの2乗。