問題文が分からないので、なんとも言えないですが...

英文だけみると、どちらも正しいです。
↓
“Which pen is yours?”は「どのペンがあなたのものですか？」という日本語訳になります。

“Which is your pen?“は「どれがあなたのペンですか？」という意味になります。