明治三十年(西元1897年)，信徒提議興建禮拜堂，首先是先得到李春生長老捐獻西門外街約300多坪的土地及現金2000元，加上信徒所捐獻共得捐款4400餘元。禮拜堂於明治三十二年開工，一年後完工，2月20日舉行獻堂感恩禮拜。
明治四十年(西元1907年)當時因為教會發展的緣故，原有聚會場所已經不足以使用，於是在信徒大會中有人提議興建禮拜堂，禮拜堂特別委請井手薰先生(臺灣總督府設計者)操刀設計，整個教會工程於大正四年(西元1915年)2月28日開始開工興建，隔年大正五年(西元1916年)6月28日竣工完成。1937年5月日本基督教團成立後，該教會並正式改名為台北幸町教會，此建築物即為目前在濟南路所見的濟南教會。
濟南教會目前屬於基督教長老教會，長老教會約在1860年代傳入臺灣。日治時期，日本政府為了防止各式集會活動引起漢人思漢的情節，進而對自己的殖民政權產生反抗，因此藉以嚴格的手段來鞏固日本帝國的威權。另外，為了安頓陸續來臺的日本人，在宗教信仰上有著充實的精神生活，當時的日本殖民政府在安撫日籍基督徒與拉攏臺灣本地教徒的雙重考量下，以利推展臺灣基督教日本化的工作，在1916年由當時的馬偕牧師和臺灣富商李春生的熱心協助下，興建了這座教會。這座建於1916年（大正5年）主要由日本建築師井手薰設計和建造的教會，在日治時代是日本人專屬的禮拜堂。濟南教會目前已有90多年的歷史，是台北市定的古蹟。