이러한 작은도서관은 1961년 엄대섭에 의해 설립된 ‘마을문고 보금회’에서 유래를 찾을 수 있으며, 이후 자생적인 마을문고 운동이 이어져 1970년대에는 전국에 3만여 개가 넘는 작은도서관이 설치되었다. 1980년대 작은도서관 이동도서관 형태로 나타났으며, 1980년대 후반부터 민간 도서관 운동은 ‘작은도서관’이라는 공식화된 명칭을 갖게 되었다. 이후 최초의 작은도서관인 ‘성산문고’가 공공도서관 분관형태로 운영되었으며, 1994년 공공도서관내에서 ‘작은도서관협회’활동의 결성으로 전국적으로 작은도서관 건립운동이 이어졌다. 2000년대 이후에는 작은도서관 운동을 관이 주목하기 시작했으며, 2006년 국립중앙도서관이 작은도서관진흥팀을 출범하고 국가 주도의 작은도서관 조성 사업을 추진하였다.
작은도서관은 1961년 마을문고보금회에서 유래되어 1980년 후반부터 현 명칭을 갖게 되었는데, 1994년 협회 결성, 2006년 국립중앙도서관 진흥팀이 출범하여 국가주도 조성사업이 추진되었다.