黄山一中的前身，是民国18年（公元1929年）在清末“仙源书院”旧址上始建的一所公办初级中学。1933年后，曾一度停办数年。1941年秋，“太平县立初级中学”于耿城沟村重建，至1946年学校迁至县城仙源东门项氏宗祠，1948年新校舍在仙源南门“仙源书院”旧址上建成启用。1958年，学校开设高中部，始成为完全中学。1960年，学校迁至新县城甘棠梨木岭的现址。随着地方行政管理体制改变，学校曾先后易名为“皖南区太平县初级中学”、“安徽省太平中学”、“黄山市第一中学”。1988年10月，更名为“黄山市黄山第一中学”沿用至今。