耒阳二中渊源于1924年2月所创立的湖南广湘私立初级中学。
1919年“五四”运动以后，革命人士和进步的知识分子极力倡导教育普及。一时，公立学校增加，私立学校四处涌现。当时湘南二十四县，唯衡阳建公私立中等学校六所，故每年从湘南来衡阳考生大半不能录取，尤以耒阳籍众。时有衡、耒教育界有志之士和名流贤达蒋育寰（又名蒋克诚）、陈斗寅（又名陈简青）、李济藩（又名李芷芬）、谷巨山、殷大伯、陈怀虞、李寿村、蔡雁秋、曹尧饮、吴仲祁等20余人奔走呼吁筹建学校。1924年1月组织广湘中学董事会，租衡阳江东岸竹山庙为校址，选举蒋育寰为校长，即呈湖南省教育司批准开办。2月正式开学，招收初中新生1个班。10月7日（现定此日为校诞节）省教育司核准立案。
1925年冬购丁宅1所改造为教室、宿舍。1926年7月校董事会便选举谷巨山为校长。1929年7月购黄姓地建筑新教学楼。1929年7月，校董事常会决定聘请罗树甲（字衡平）担任校长。其时任国民军第十九师五十五旅旅长兼衡阳警备司令，因军务在身，学校仍由谷巨山主事。1931年4月，呈报省教育厅转呈中央教育部令准立案。1932年1月购杨宅改建为礼堂、食堂、厨房、寝室。至此，能容纳6-8个班，300-500名学生，学校初具规模。
1937年抗日战争爆发。学校于1938年春迁至耒阳新市街，分凭紫云峰、祖师殿和倪家、廖家祠堂四处为校址，以紫云峰为校本部，继续坚持上课。期间，衡、耒校董分歧，遂成两派。1940年上期放假前，“耒阳派”董事商量决定，着李寿村董事用学租在他家乡零洲坪（现耒阳市灶市街办事处零洲村十九组）租赁地皮构筑茅茨房屋11栋，架木板为课桌，劈竹片摊连铺，建成临时学校。此时一校两分，广湘中学处于分崩离析的危难时刻。校长罗树甲委谷巨山为新市主事，陈斗寅为零洲主事，各执其事。不久，罗校长呈省教育厅立案，定零洲为总校，新市为分校。是年8月底，零洲总校按时开学，入校新老学生达500余人。11月16日夜，零洲总校遭坏人纵火焚毁。陈主事与教师陈怀虞赴耒阳公平圩云山寺与方丈商谈租用寺宇办学，寺僧应允。 1941年3月，陈斗寅因故辞职，由王建中任主事。后经校长罗树甲校长等反复调解协商，1942年下期，新市分校合入云山寺总校，广湘中学重归统一。1944年6月，日军犯湘，耒阳沦陷，学校停办。1945年春罗树甲病故，6月校董事常会选举伍逸筠为校长。是年9月15日，犯耒日军投降，耒阳光复。校长伍逸筠经耒阳县府同意，借城关南门外九眼塘省立中正医院院址(南华大学附属第一医院前身)和寿福殿一部分房屋为校址，10月迁入，因陋就简，组织复学。广湘中学迁至中正医院和寿福殿以后，经校董事常会讨论决定，呈报上峰批准拨中正医院全部为学校永久校址。从此，广湘中学校址奠定。1946年7月，伍逸筠辞去校长职务，选举陈斗寅为校长。是年，学校将中正医院及中正医院与寿福殿之间的地皮和16栋私房全部购买。1947年1月，陈斗寅校长辞职，再选伍逸筠为校长。这年连建教室16间，办公室、图书馆各1所，教职员住宅2栋。次年春又购右侧荒地16亩，辟为体育场，同年冬在寿福殿北面再购地3亩多，建为礼堂，也作艺术馆、雨操场，学校规模空前扩大。1947年上期至1949年上期，学校常有9-10个班，/600-700在校学生，教职员30人左右。