study をここでは自動詞として使っていて
harderは副詞hard（一生懸命に）の比較級です。
ですからstudy harderは「より一生懸命に勉強する」「もっと一生懸命に勉強する」です。