Studien, som publicerades på British Medical Journals webbplats, visade att felfrekvensen kunde halveras.
Forskare analyserade data från patienter som tog bisfosfonater, som används för att förhindra förlust av benmaterial.
Men forskare säger att det fortfarande behövs ytterligare undersökningar.
När lederna blir skadade eller utslitna, ofta på grund av artros, kan det vara smärtsamt och begränsa rörligheten.
Ett implantat kan dramatiskt förbättra en patients rörlighet. Mer än 50.000 höfter och 70.000 knän, ersättare äger rum i Storbritannien varje år.
Medan de kan pågå i årtionden, en del misslyckas inom några år. Detta kan hända när benet runt implantatet löses upp av kroppen vilket innebär att ersättningsleden lossnar.
Teorin var att bisfosfonater, som används av patienter med osteoporos för att förhindra att benet bryts ner, skulle förhindra att det lossnar.
Forskarna tittade på data från General Practice Research Database för gemensamma substitutioner och jämförde vad som hände med 1 912 patienter som tog bisfosfonater med 41 995 patienter som inte gjorde det.
Efter fem år misslyckades 1,96 % av implantaten utan läkemedlet, jämfört med 0,93 % hos dem som tog medicin.
Prof Nigel Arden, en specialist på reumatiska sjukdomar vid universiteten i Oxford och Southampton, sade att det första implantatet skulle kosta NHS ungefär 7000 pund, men ersättare skulle kosta 34.000 pund.
Han sa till BBC: "Det har potential att ha en enorm inverkan."
Han sade att två av riskfaktorerna, ålder och fetma, innebar att antalet fall "ökade dramatiskt".
Prof Arden argumenterar inte för att folk ska få drogen än. Han har ansökt om finansiering för en ytterligare prövning för att testa effekten av bisfosfonater och vilka patienter skulle gynnas mest.
Chefsläkaren för England, Prof Dame Sally Davies, välkomnade resultaten.
"Med en så hög förekomst av knä-och höftledsplastik, möjligheten att livslängden för gemensamma implantat kan förlängas och minska antalet komplexa översyn operationer innebär att dessa resultat har potential att göra betydande förbättringar i livet för många NHS patienter", sade hon.
Med hjälp av ett benstärkande läkemedel kan ledersättningar pågå längre, enligt en analys av GP: s register.