Den brittisk-brasilianska duon slogs av Sydafrikas Raven Klaasen och amerikanska Rajeev Ram 6-1 6-4 på en timme på O2 Arena i London.
Men Murray och Soares har redan gått om Pierre-Hugues Herbert och Nicolas Mahut i slutet av året.
Efter tre round-robin-vinster spelades de ut av Klaasen och Ram.
Det senare paret spelar Finlands Henri Kontinen och Murrays tidigare partner, Australian John Peers, i söndagens final.
Kontinen och Peers slog bröderna Bryan 7-6 (7-2) 6-4 i semifinalen.
Tidigare höll Jamies bror Andy Murray sina förhoppningar vid liv om att avsluta säsongen som världens främsta singlar spelare genom att slå Milos Raonic i en spännande semifinal, som varade i tre timmar och 38 minuter.
Nya världen nummer ett dubblar laget Jamie Murray och Bruno Soares led ett nedslående nederlag i semifinalen av ATP World Tour Finals.