もし、
They insisted on staying a little longer.
にすると「彼らはもう少し長く滞在すること強く勧めた」という意味になり、これだと「誰が滞在する」のかが分からないので、staying の主語(意味の上での主語)が必要になります。といっても staying は動名詞であり、たとえば They insisted のように SV の文を作る動詞(述語動詞)ではないので、「私が滞在すること」だからといって、I staying にする訳にはゆかないのです。では、どうするのかといえば、この動名詞の前に代名詞を置く場合は目的格か所有格を使うのです。
カタチとしては、
［代名詞の目的格＋動名詞］
［代名詞の所有格＋動名詞］
のいずれかになります。和訳する場合は「〜が…する(こと) 」とします。目的格だからといって「〜を…する(こと)」にしたり、所有格だから「〜の…する(こと)」にしたりすると適切に解釈出来ないので。

以上の理由から、
They insisted on my／me staying a little longer.
となります。文の主語 と 意味上の主語 の区別して下さい。文の主語は、ここでは They 、意味上の主語は my か me になります。分かりにくければ、準動詞(不定詞、動名詞、分詞)の主語のことを意味上の主語だと覚えておけば良いかと思われます。

また、意味上の主語に目的格を使うか所有格を使うかですが、もともとは所有格の方が正式であり、口語では目的格の方がよく使われます。いまはこの区別を考える必要はないし、どちらを使っても間違いではありません。もし興味があったら文法書を調べてみると良いかと思われます。