胡春霖早年加入同盟会，追随孙中山、黄兴从事推翻帝制、建立共和的革命活动。民国成立后，胡春霖先后任教于安徽农业学校、中国大学、国立北京农业专门学校、北京民国大学，为推进教育现代化建设作出了贡献。1926年春，胡春霖受国民政府之邀南下广州，先后任黄埔军校政治教官、国民革命军总司令部参事等职。南京国民政府成立后，胡春霖被委任为安徽省建设厅长，并参加筹办安徽大学活动，后因力主抗日，受到蒋介石排挤，又因探视被蒋介石软禁的李济深而受牵连，只得辗转各地，从事教学、研究工作。

1937年全面抗战爆发后，胡春霖公开提出“全国团结、抗日救国”的观点，并积极参与了李济深、朱蕴山等组织的抗日活动。

1941年3月，胡春霖病逝于重庆。胡春霖逝世后，为缅怀其功绩与风范，其生前友好李济深、张难先、冯玉祥、于右任、张治中、朱蕴山等人，共同发起创办春霖中学的活动，以资纪念。

1944年3月，冯玉祥、于右任、张治中等在重庆报刊上公开发表启事，宣布举办为春霖中学筹募基金的活动。该启事一经公布，便受到社会各界人士的关注，纷纷捐款捐物。不久，又成立了春霖中学董事会，决定由李济深担任校董会董事长。经董事会议决定，由董事胡士夔（胡春霖长子）、校长胡士善（胡春霖长女）具体负责筹建事宜。经多方努力，校址定在四川省铜梁县安居镇谦溪祠。经当地热心教育事业人士的大力赞助，春霖中学于1944年暑期按时招生，开学上课，并按照职业教育设置学科。该校开学后，李济深亲临指导，赞扬学校“工业救国，前途光明”，鼓励学校要“继承春霖遗志，为国家培养人才”。

1945年抗战胜利后，经春霖中学董事会议决，派董事副校长胡光亚先行到安徽芜湖选定校址，由总务主任胡绍瑜主持修建校舍，筹备招生、开学事宜。经多方努力，春霖中学于1946年9月从四川铜梁县迁往安徽芜湖大砻坊新校址。芜湖大砻坊当时有益新面粉公司等一批工业企业，又邻近商家云集的十里长街。学校从“为芜湖培养工商业人才”这一实际出发设置学科，以推动芜湖现代工商业的发展。

解放战争期间，春霖保护了大批进步学生。芜湖解放前夕，该校进步师生积极参与了迎接解放的工作，曾粉碎了国民党军逃走前“欲炸毁存放于学校内大批军火的企图”，并将这批军火安全移交给进驻芜湖的解放军部队。