在日治時期之前，台灣並沒有「公園」這個名詞，城市裡的園林空間仍以私人庭園為主。日治以後，引自西方的現代化都市規劃理念，由日本政府逐步在台灣落實，「公園」也才首次出現台灣民眾的日常生活當中。
嘉義公園是嘉義地區歷史最悠久的公園，於明治43年（西元1910年）8月26日創建於嘉義市區東側丘陵地原嘉義農會的農場（註：嘉義公園正式開園日期為明治44年11月3日）。嘉義公園也是台灣在日治初期都市計畫中，第一批建設開闢之公園（註：台灣第一座公園為1897年台北圓山公園）。
最早在日本政府的規劃中，嘉義公園並非設置於今天所在地點，而是位在鄰近嘉義車站前「大通」（今中山路）北側的土地上。當時之所以於此地設置公園大型開放空間之目的，一方面為鄰近火車站的迎賓公園，另一方面1906年嘉義大地震災之後，公園的開放空間也反映了都市防災避難空間之需求。
資料來源：蔡俊堯，2004，《日治時期嘉義市區改正計畫與公共建設》，台科大碩士論文。
但在地震之後，因嘉義市推動市區改正進行土地徵收的需要，為安置原本居住於舊城區內之日本人，此公園預定地改提供給日本人使用。而公園則遷至市區另一頭的東側丘陵地來設置，整體定位也改為以觀光休憩為服務目的。