ア、イの式はそのままだと計算できないので、
アの 5x+y=3と、イの 2x-3y=8を連立方程式にして解きます。
計算すると、x=1 , y=-2 になるので、
アの ax+by=2と、イの 2bx+ay=-5を連立方程式にして、
さっき出てきた x=1 , y=-2 を代入して解きます。
計算すると、a=3 , b=1/2になります。