Morì nella sua casa all'età di 85 anni. Fu sepolto nel chiostro della cattedrale di St. James' a Piccadilly il 19 dicembre 1813. Non lasciò ai suoi eredi una grossa fortuna per l'epoca e alla moglie rimase una pensione annua di 150 sterline. Oggi la sua statua lo ricorda ai posteri nell'atrio dove, dal 1934, si è trasferita la Royal Masonic School, a Rickmansworth nello Hertfordshire, e dove tutti gli anni il 25 marzo, nell'anniversario della sua nascita, si celebra in suo onore il «"Ruspini Day"».