仮に、which = the library としましょう。which は(関係）代名詞です。in は前置詞です。

ですので、the library と in the library の違いと同じです。 *たぶん at the library のほうが自然かもしれません。

This is the library.+ I sometimes visit it (→which). = This is the library which I sometimes visit.

This is the library. + I first met Mary in it (→which). = This is the library in which I first met Mary.
　　　　　　　　　　（× I first met Mary it ←非文法)

くれぐれも、in（at/on など) は、非文法になるので消さないでくださいね。

また which も in which も、代名詞で旧情報になので、機能上、（後ろの文の）文頭に移動させてくださいね。