Det mycket symboliska besöket, Xis första sedan han blev ledare 2012, kommer mitt i ett alltmer spänd politiskt klimat.
Officiella högtider planeras, liksom stora protester från prodemokrati och pro-Beijing-läger.
Flera välkända aktivister arresterades strax före Xis ankomst.
Gruppen, som inkluderade elevledaren Joshua Wong, hade iscensatt en protest mot en ikonisk skulptur som symboliserade överlämnandet.
Den gyllene skulpturen av en bauhiniablomma - Hong Kongs emblem - vid stadens hamn var en gåva från Kina.
Mr Xi anlände för tre dagars besök med sin fru Peng Liyuan på stadens största Chek Lap Kok flygplats. Paret välkomnades av ett marschband och barn som viftade med flaggor.
I ett kort tal om asfalten sade han att Hongkong alltid var "i mitt hjärta".
Pekings centrala regering "har alltid varit en stark understödjare av Hongkong" och "kommer som alltid att stödja Hongkongs ekonomiska utveckling och förbättring av människors liv".
Han sade också att Peking "vill arbeta med alla sektorer i Hongkongs samhälle för att upprätthålla Hongkongs extraordinära resa under de senaste 20 åren" och att "säkerställa "ett land, två system" kommer att fortsätta med stabilitet".
Staden fördes tillbaka från brittiskt till kinesiskt styre 1997.
Peking gick med på att styra staden under "ett land, två system", vilket gav staden ett eget rättssystem, begränsad demokrati med flera politiska partier och rättigheter som mötesfrihet och yttrandefrihet.
Men Kinas växande inflytande har mötts av oro och oro över att fastlandet skulle kunna undergräva Hongkongs mer politiskt liberala traditioner.
Aktivister har i åratal kämpat för att Hongkong ska få större politisk frihet.
En rad officiella högtider planeras för denna helg, liksom invigningen av Hong Kongs tillträdande verkställande direktör Carrie Lam.
Men delar av Hong Kong befinner sig under en hård säkerhetsspärr mitt i oron för ytterligare protester, med flera större vägar stängda och delar av stadskärnan blockerade från allmänheten.
Tusentals poliser utplaceras över staden och längs vägen Mr Xis bilkortege kommer att ta när den kommer in i staden.
När före detta president Hu Jintao besöktes för 15-årsfirandet 2012, möttes han av hundratusentals demonstranter som marscherade mot vad de såg som Pekings kvävande inflytande på politiska reformer i staden.
Spänningar spillde över i massprotester i stadens centrum i september 2014, med krav på fullständig demokrati och avgång av dåvarande verkställande CY Leung.
Kinas president Xi Jinping har anlänt till Hong Kong för att markera 20 år sedan området överlämnades till Kina av Storbritannien.