Den 61-38-rösten om konventionen om rättigheter för personer med funktionsnedsättning innebar att fördraget inte nådde den nödvändiga två tredjedelsmajoriteten.
Den tidigare senatorn och den republikanska presidentkandidaten Bob Dole, som använder rullstol, dök upp på senatens våning till stöd.
Fördraget undertecknades av 155 nationer och ratificerades av 126, däribland Storbritannien, Frankrike, Tyskland, Kina och Ryssland.
Det sägs att alla nationer bör arbeta för att se till att funktionshindrade människor åtnjuter samma rättigheter och friheter som andra medborgare.
Avtalet stöddes av Dole, som var funktionshindrad under andra världskriget, Arizona senator John McCain, som fick handikappskador i Vietnamkriget, Indiana Senator Richard Lugar, den ledande republikanen i utrikesutskottet, och f.d. justitieminister Dick Thornburgh.
Endast åtta republikanska senatorer röstade dock för fördraget.
Andra, som Oklahoma Senator Jim Inhofe, sade att de röstade emot åtgärden på grund av den extra reglering den skulle medföra.
"Jag stöder inte de besvärliga regler och potentiellt övernitiska internationella organisationer med anti-amerikanska fördomar som bryter mot det amerikanska samhället," Mr Inhofe sade.
Vita huset sa att det var "uppsagt" att senatens "överväldigande majoritet" röstade emot fördraget.
Ratificeringen av fördraget " skulle placera Förenta staterna att stödja utvidga över hela världen de rättigheter som amerikaner redan åtnjuter hemma. Detta i sin tur skulle förbättra livet för amerikaner med funktionshinder" som väljer att leva eller resa utomlands, tillade Vita huset.
Massachusetts Demokratiska senator John Kerry, som stödde fördraget, sade: " Det är verkligen inte kontroversiellt.
"Vad detta fördrag säger är mycket enkelt. Det står bara att man inte kan diskriminera funktionshindrade."
De som stödde avtalet sade också att ratificeringen av fördraget inte skulle kräva några ändringar av USA:s lagstiftning.
1990 års lag om funktionshindrade amerikaner, som syftade till att skydda lika rättigheter för funktionshindrade, blev grunden för FN-fördraget.
Det förhandlades under f.d. president George W Bushs förvaltning och undertecknades av president Barack Obama 2009.
Omkring 10 procent av världens befolkning - eller 650 miljoner människor - är funktionshindrade, enligt FN:s beräkningar.
Ett FN-fördrag om funktionshindrades rättigheter har förkastats av den amerikanska senaten.