ノート1冊の値段をx円とします。
持っているお金で、安い方のノートは8冊買えるので、買った値段は8x円。まだ40円あまっているので、持っているお金は、8x+40円

このノートより60円高いノート1冊の値段は、(x+60)円
これを5冊買うので、買った値段は5(x+60)円。まだ10円あまっているので、持っているお金は、5(x+60)+10円

持っているお金は一緒なので、イコールで結んで
8x+40＝5(x+60)+10
これを解くと、x＝90円

8x+40に、x=90を代入して、
8×90+40＝760円

よって、安い方のノートは90円、持っていたお金は760円