市立中山圖書(shū)館舊址位于越秀區文德北路71號。年代為1933年。
1927年6月，當時(shí)的市政委員長(cháng)（相當于現在的市長(cháng)）林云陔提出籌建廣州市立中山圖書(shū)館，后獲美國、加拿大、墨西哥、古巴四國1.5萬(wàn)名華僑捐贈20多萬(wàn)美元（合當時(shí)的廣東毫洋30多萬(wàn)元），最后定址久負盛名的廣府學(xué)宮———此地從宋紹圣三年（1097年）起，先后是廣州府儒學(xué)（文廟）、番山書(shū)院、萬(wàn)木草堂所在地。工程由當時(shí)著(zhù)名的建筑學(xué)家林克明設計，于1933年10月落成，系宮殿式建筑物，綠瓦朱檐，頗為壯麗。
1938年，廣州被日軍攻陷，幸而早在抗戰之初，該館就將藏書(shū)中的珍善本及重要資料5萬(wàn)余冊疏散到市郊龍歸及廣西象縣保存。1946年圖書(shū)館復館，接收偽市立圖書(shū)博物館書(shū)刊12萬(wàn)多冊，掛圖168幅，取回前存龍歸的藏書(shū)，并追回被日寇掠去的一部分圖書(shū)。
民國時(shí)期，著(zhù)名史學(xué)家羅香林先生及其夫人朱曾先后擔任過(guò)館長(cháng)。1946-1949年朱任館長(cháng)期間，在財力、人力極其匱乏的情況下將圖書(shū)館重開(kāi)，并收回大部分流散的圖書(shū)，還首創(chuàng )巡回書(shū)車(chē)進(jìn)入各區，將書(shū)籍大批借給學(xué)校、團體閱覽研究，成為廣州最早的“汽車(chē)圖書(shū)館”。
2002年7月，被廣州市人民政府公布為第六批廣州市文物保護單位。