市立中山圖書館舊址位于越秀區(qū)文德北路71號。年代為1933年。

1927年6月，當時的市政委員長（相當于現(xiàn)在的市長）林云陔提出籌建廣州市立中山圖書館，后獲美國、加拿大、墨西哥、古巴四國1.5萬名華僑捐贈20多萬美元（合當時的廣東毫洋30多萬元），最后定址久負盛名的廣府學宮———此地從宋紹圣三年（1097年）起，先后是廣州府儒學（文廟）、番山書院、萬木草堂所在地。工程由當時著名的建筑學家林克明設計，于1933年10月落成，系宮殿式建筑物，綠瓦朱檐，頗為壯麗。

1938年，廣州被日軍攻陷，幸而早在抗戰(zhàn)之初，該館就將藏書中的珍善本及重要資料5萬余冊疏散到市郊龍歸及廣西象縣保存。1946年圖書館復館，接收偽市立圖書博物館書刊12萬多冊，掛圖168幅，取回前存龍歸的藏書，并追回被日寇掠去的一部分圖書。

民國時期，著名史學家羅香林先生及其夫人朱曾先后擔任過館長。1946-1949年朱任館長期間，在財力、人力極其匱乏的情況下將圖書館重開，并收回大部分流散的圖書，還首創(chuàng)巡回書車進入各區(qū)，將書籍大批借給學校、團體閱覽研究，成為廣州最早的“汽車圖書館”。

2002年7月，被廣州市人民政府公布為第六批廣州市文物保護單位。