清朝乾隆年間，「劍潭寺」建於劍潭山山麓的河岸邊，原址位於台北圓山基隆河北岸，坐西北朝東南，背山面水，風景秀麗，且自古有關於「鄭成功」與「劍潭」的種種神奇傳說，因此寺廟香火非常鼎盛。根據相關歷史文獻記錄，「劍潭寺」是最早出現於清代方志中的臺北盆地古剎，主要供奉觀音佛祖，保佑基隆河往來船隻的安全，當時「劍潭寺」的信徒遍及台灣全島。後來「劍潭寺」幾經重修和擴建，山光水色，加上古剎名潭，相互輝映，「劍潭幻影」也為日治時期當時淡北八大景之一。後來日本殖民政府選擇在劍潭山腹興建「官幣大社台灣神社」，因為「台灣神社」陸續升格擴建為「台灣神宮」，「劍潭寺」也因此被迫遷於大直。
劍潭車站最早於日治時期的1915年8月17日啟用，當時日本人稱為「宮ノ下乘降場」，設置「宮ノ下乘降場」的目的主要是為了方便乘客於該站下車後，就近前往附近台北劍潭山上的「台灣神社」（現已不存，原址經過改建為今日的圓山大飯店）參拜。第二次世界大戰後，國民政府將具有日式風格的站名「宮ノ下」改為「劍潭」，劍潭車站約於1950年代中期廢止，車站的站址大致位於今日的「劍潭青年活動中心」內，詳細的位置接近今日捷運淡水線的台北捷運「劍潭」站高架軌道的儲木池附近。
其實「劍潭」在明鄭時期，就已經聲名大噪，「劍潭」曾有一潭，為基隆河流經劍潭山麓形成的彎潭，潭水深澈，水流迴旋打轉。話說300多年前，民族英雄鄭成功率領士兵，由海路首度登陸台南安平，並以優勢的武力把當時佔領台灣南部的荷蘭人趕走，為了早日達成「反清復明」的歷史使命，鄭成功一面建設台灣南部，一面向台灣北部進軍。有一天鄭成功的部隊行經大浪沙河(今日的台北圓山附近)時，因當地天氣酷熱，全軍士兵汗流浹背，疲憊至極。此時，迎面突然颳起一陣狂風，困住了鄭成功軍隊的行進腳步。前面的部下緊急向鄭成功報告說:「前面河水氾濫得很厲害，馬上就要沖到這裡來了。」鄭成功聽到後，立刻跳下馬來，飛奔到河邊，此時他看到一隻巨大的魚精在河裏興風作浪，一時之間自河面捲起了狂濤大浪，眼看鄭成功及士兵們便要被這條千年魚精捲到河裏去了。此時鄭成功馬上拔出繫於腰邊的寶劍，朝魚精的方向用力投過去，巨大的魚精在瞬間被刺死在河裏，風浪也漸漸的獲得平息，士兵們這才安全地渡過了河流，後來這條河便被稱為「劍潭」。這就是「劍潭」地名的傳說由來，傳說後來在農曆每個月15日的晚上，鄭成功的寶劍就會適時的浮在「劍潭」的水面上並發出耀眼的光芒，這時候假如有人要伸手去撈，寶劍就會馬上沉下去消失不見。