從早期原住民、荷西、鄭氏、清領、日治、戰後，世代更迭，族群交融，累積大量文學作品，孕育出豐厚多元的內涵，惟因歷史與政治之傾軋，諸多文學書冊與相關史料隨世流失，散迭各處，殊為可惜。
為能有系統蒐集、保存、研究這些珍貴的文學資產，文化界人士極力奔走呼籲，希望成立專責機構擔負此任。
1991年行政院文化建設委員會提出設立「現代文學資料館」計畫，經行政院通過，但1994年調整政策，將「現代文學資料館」併入「文化資產保存研究中心計劃」，設「文學史料組」，後經各界關切台灣文學發展人士奔走，多次協商、溝通，行政院於1998年復將「文學史料組」提升為「國家文學館」，歷經「國家臺灣文學館」等名稱討論，於2007年定名為「國立臺灣文學館」。
國立台灣文學館館舍是一座擁有百年歷史的國定古蹟，前身為日治時期台南州廳，落成於1916年，戰後曾為空戰供應司令部、台南市政府所用。
因經歷不同單位與不同時期使用，致使本建築許多構造因戰爭或年久失修而毀損。在歷任文建會(今文化部)主委的擘畫與支持下，迭經國立文化資產保存研究中心籌備處兩任主任及同仁之努力，自1997年開始進行修復整建工程，至2003年修築成為地上二層、地下三層之建築，面貌煥然一新。
2003年10月17日，遙念蔣渭水等先賢成立「台灣文化協會」之精神，「國立台灣文學館」選定此日正式開館營運。