Nästan fyra femtedelar av de tillfrågade medlemmarna i RCN oroade sig för kostnaden för sitt boende.
RCN:s regionchef i London sade att viktiga tjänster var på "brytpunkt".
Förra året var 17 procent av alla registrerade sjuksköterskejobb i London lediga.
Ben Morrin, chef för personal vid University College London Hospitals NHS Foundation Trust, berättade för BBC att sjukhus inledningsvis erbjöd subventionerad inkvartering till ny personal.
King's College Hospital erbjuder rum i delat boende för 452 pund per månad, inklusive räkningar och kommunal skatt.
En sjuksköterskas startlön (inklusive 20% inre London viktning) är £ 26,030.
Men när personalen slår sig ner frestas de av de lägre levnadskostnaderna utanför huvudstaden.
"Normalt kommer vi till en beslutspunkt efter två till tre år när de vill flytta utanför huvudstaden, och ryktet om Londons lärarsjukhus gör det lätt för dem att hitta jobb", sade Morrin.
"Vi har svårt att behålla sköterskorna."
En byrå som specialiserat sig på boende för NHS-arbetare erbjuder en enrumslägenhet i Limehouse, östra London för 1 350 pund - över tre fjärdedelar av take-home lön på en startlön.
"Med personalbrist i London blir värre för varje år, medan patienten behöver fortsätta att gå upp, grundläggande tjänster sträcks till bristning punkt," säger Bernell Bussue, regional chef för RCN London.
Skolan uppmanar nästa borgmästare i London att erbjuda rabatterade resor för NHS-arbetare och kräver att nya bostäder som byggs på NHS-mark först erbjuds lågavlönad NHS-personal.
Källa: NHS-arbetsgivare
Fyra av 10 sjuksköterskor i London förväntar sig att lämna huvudstaden 2021 eftersom boendekostnaderna är så höga, enligt en undersökning av Royal College of Nursing (RCN).