民國四年（1915年）《重修蒙城縣志》記載，城內華祖廟在北大街路西（現城關(guān)醫院斜對面）。
華祖即華佗（？－208），漢末著(zhù)名醫學(xué)家，又名旉，字元化，沛國譙（今亳州市）人。精通內、外、婦、兒、針灸等各科，尤其擅長(cháng)外科，創(chuàng )用“麻沸散”，給患者-后施行剖腹等手術(shù)。還創(chuàng )編“五禽戲”，教人鍛煉身體，增強體質(zhì)。據說(shuō)曹操常患“頭風(fēng)”，華佗為他開(kāi)顱治療，病情大大好轉。曹操征華佗專(zhuān)為自己治病，華佗不允，曹操怒，將其殺害。
為了紀念華佗，各地建起華祖廟。蒙城不僅城內有，一些大的集鎮也有。可以推斷城內的華祖廟規模應該和小澗華佗廟基本相同，也應初建于唐朝初年。
解放前，城內的華祖廟已毀壞殆盡，只剩下三間廟屋，且已破爛不堪。解放后，曾進(jìn)行過(guò)維修保護。文革初期，華佗像被毀，后來(lái)廟屋也成為民居。1996年，北大街仿古改造時(shí)，在原址新建華祖廟，仍為三間，面向南，東西長(cháng)約十米，南北寬不足五米。下為廊柱式，廊寬約一米，兩根紅色大柱。墻為深灰色，磚縫勾勒為白色，整齊劃一，上為轎頂式，四角飛檐。整體看來(lái)，規模甚小，但較為美觀(guān)。內無(wú)塑像，空空如也。